【生成AIのコツ】
誤解は説明で消えない
（コンテキストのクリア）

by

関連記事

1. 外れた答えへの対応

AIチャットを使っていると、初手で狙いから外れた答えが返ってくることがあります。

1. 外れた答えへの対応

前提を取り違えられた、目的がずれた、出力形式が違う。
そういうとき、つい言葉を足して誤解を解こうとします。
経験則として、これがいちばん遅い道になりがちです。
誤解を解くより、誤解が入る前の地点に戻った方が速く済みます。

戻し方は二つあります。
新しいチャットを開いて、最初のプロンプトを少し明確にして入れ直す。
あるいは、長い会話なら誤解が入ったメッセージまで戻り、そこを書き換えて流れを分岐させる。
どちらにも共通するのは、訂正を積み重ねるのではなく、汚れた部分を文脈から物理的に外している点です。

1.1. なぜ訂正は遅いのか

人間相手なら「さっきのは違って」の一言で済みます。

1.1. なぜ訂正は遅いのか

AIチャットでは、最初の誤解がその後の文脈に残ります。
こちらが軌道修正しているつもりでも、モデルは前のやりとりを踏まえるべき情報として読み続けるのです1。
訂正の指示は、正しい指示と、すでに出てしまった誤った枠組みを同時に読んだ上で生成されます。
打ち消したつもりが、前の解釈に引っ張られてしまう。

1.2. 自分の過去回答に固執する

この粘りには、最近の研究の裏づけがあります。

主張にいちばん近いのは、モデルが自分の過去の応答に引きずられる現象を測った仕事です。

「Do LLMs Benefit From Their Own Words?（モデルは自分の言葉から利益を得るか）」という研究では、会話履歴から助手側の過去回答を消すと、多くのターンで品質が落ちないどころか改善する場合があると報告されています2。
過去の回答を残したことでモデルが自分の応答に過剰に条件づけられ、誤りや幻覚、文体の癖が後続ターンに伝播する現象を「コンテキスト汚染（context pollution）」と呼びます。

論文の実例が、まさにこの場面に対応します。
あるターンでUMAPのクラスタリングコードを書かせ、後のターンで「t-SNEに変えて」と頼みます。
前の回答が文脈に残っていると、モデルはUMAP由来の指標を引き継いでバグを混入させました。
前の回答を文脈から外すと、正しいコードを出しました。
誤解した回答を消す側に倒すと直る、という観察そのものです3。

もう一本、「Contextual Inertia（文脈的慣性）」という概念を立てた研究があります。
モデルが過去の推論の跡に無差別に固執する傾向を指します。
直前の応答が誤っていたり、誤解を招くものであっても、その跡を後続ターンへ伝播させてしまう。
多ターン会話の失敗をたどると、その大半は「誤解を招く文脈」と「伝播した誤り」、つまり過去の応答に由来していたと報告されています。
軌道修正が効きにくい理由が、ここで説明されます4。

2. 二つの戻し方は、消す範囲が違う

新規チャットと分岐編集は、どちらも文脈を外す操作ですが、外す範囲が違います。

2. 二つの戻し方は、消す範囲が違う

新規チャットは全部を捨てます。
前提の説明をやり直す手間と引き換えに、汚染をゼロにできる方法です。
誤解が会話の早い段階で入り、有効なやりとりがまだ少ないときに向きます。

分岐編集は一箇所だけ作り直します。
誤解する一つ前のメッセージを書き換えれば、効いていた部分を残したまま、ずれた箇所だけ作り直せるのが利点です。
長い会話で、序盤の積み上げを捨てたくないときに効きます。

判断の目安は、やり直したい範囲が会話全体か一箇所か、です。

2.1. 戻さなくていい場合もある

誤解が小さければ、訂正で足ります。

2.1. 戻さなくていい場合もある

語の取り違え一つ、数値の単位、語尾の調子。
こうした局所的なずれは、追加の一言で直る方が速いです。

戻す価値が出るのは、前提・目的・出力形式といった、会話全体の枠を取り違えられたときです。
枠がずれたまま訂正を重ねると、モデルは古い枠と新しい指示の両方に合わせようとして、中途半端な出力を返します。枠ごと取り違えられたら、説明より分岐か新規です5。

2.2. 長い会話そのものも効きにくくなる

直接の原因ではありませんが、会話が長くなること自体も訂正を難しくします。

2.2. 長い会話そのものも効きにくくなる

「lost in the middle（中間で迷子になる）」という現象が知られています。
回答の根拠が文脈の先頭や末尾にあると精度が高く、中間に置かれると落ちる。
複数のモデルでU字型の曲線が観測され、冒頭への初頭性バイアスと末尾への新近性バイアスが働きます6。初手の誤解は冒頭付近に居座るため、後から強く参照され続けます7。

Chromaの「context rot（文脈の腐敗）」も関係します。
入力が長くなるほど出力品質が測定可能なかたちで劣化し、テストした18のフロンティアモデルすべてで悪化したと報告されています。
容量ではなく、文脈に混じったノイズと信号の比率が品質を決める。
探索や手戻りの途中でノイズが溜まると、それが以降のすべての出力を直接劣化させます。長い会話で誤解を抱えたまま進む危うさと重なる指摘です8。

この二つは長い文脈の扱いにくさという広い話で、「モデルが自分の最初の誤答に固執する」という核とは層が違います。
混同せず、傍証の位置に置いておくのが安全です。

3. 迷路から出る

この体験則は、迷路に似ています。

3. 迷路から出る

迷った先であれこれ方向を変えるより、分岐点まで一度戻った方が早く出口に着きます。

機構を知ると、戻る行為の意味がはっきりします。
誤った前提は、言葉で打ち消しても文脈から消えません。
残れば参照され、伝播します。
分岐や新規チャットで物理的に外す方法が効くのは、この伝播の経路ごと断てるからです。
説明を尽くして誤解を解くのは、迷路の中で歩き続けることに近い。
戻るのは、来た道を消すことです。

  1. 同じ質問でも、自分の過去回答を見られる多ターン設定と、毎回文脈を消す単ターン設定とでは挙動が変わると示されています。過去の応答が選択そのものを偏らせます。 – B-score: Detecting biases in large language models using response history
  2. 助手側の履歴を選んで省くと累積文脈が最大10分の1になり、多くのターンで品質が落ちなかったと報告されています。実際の会話の36.4%は、現在のユーザー発話だけで答えられる自己完結型でした。 – Do LLMs Benefit From Their Own Words?
  3. 論文の図では、前の回答が残るとUMAPで使ったJaccard指標をt-SNEへ持ち込んでバグを生み、その回答を文脈から外すと正しいコードになりました。 – Do LLMs Benefit From Their Own Words?
  4. 失敗の主因を分類すると、過去の応答に由来する誤解を招く文脈と伝播した誤りが大半を占め、最終回答は直前の応答と高い類似度を示しました。 – Breaking Contextual Inertia: Reinforcement Learning with Single-Turn Anchors for Stable Multi-Turn Interaction
  5. 多ターンでは、ユーザーが問い直すとモデルが直前の自分の回答をすぐ捨てて同調する自己一貫性の弱さが報告されています。枠を入れ直す方が、この不安定さを避けられます。 – MultiChallenge: A Realistic Multi-Turn Conversation Evaluation Benchmark Challenging to Frontier LLMs
  6. 後続研究はこの偏りをモデルの内在的な注意バイアスに結びつけ、関連性に関わらず入力の先頭と末尾のトークンが高い注意を受けると示しました。 – Found in the Middle: Calibrating Positional Attention Bias Improves Long Context Utilization
  7. 原典のLiuらは、多文書質問応答と鍵値検索でGPT-3.5やClaudeを含むモデルを調べ、根拠が中間にあると精度が落ちるU字型を観測しました。 – Lost in the Middle: How Language Models Use Long Contexts
  8. Chromaの調査はGPT-4.1やClaude 4、Gemini 2.5、Qwen3を含む18のフロンティアモデルを試し、単純な作業でも入力が伸びると全モデルが劣化したと報告しています。 – Context Rot: How Increasing Input Tokens Impacts LLM Performance