生成AIは知識を圧縮できるのに、なぜ会話は圧縮できないのか

生成AIモデルの「学習」でほんとうに記録されるデータ

プロンプトキャッシングが効く設計なら生成コストが下げられる