【LLM】
エージェントではなく推論機構として見
るLLMとハーネス

by
  • LLM単体は、渡されたコンテキストを読んで続きを返す「推論機構」と言えます。記憶も目的も持たず、呼ばれない限り動かないからです。ここでいう推論は、連想の部品を積み重ねた計算です。
  • ChatGPTの「賢い相手」らしさの多くは、会話の履歴や記憶、道具、繰り返しの仕組みを外から足したもので、これらは「ハーネス」とも呼ばれます。
  • そう見ると、AIに目的だけ渡して任せる使い方のほかに、自分がハーネスになって難しい部分だけ解いてもらう使い方が見えてきます。

関連記事

1. LLM単体は、コンテキストを読んで続きを返す推論機構

1. LLM単体は、コンテキストを読んで続きを返す推論機構

Xで、ある投稿が目に留まりました。
ローカルLLMでキャラクターと会話するゲームを作っている開発者が、「LLMって単体ではただのコンテキストを飲み込む推論機械なんだよね」と書いていたのです1。
ハーネスをつければ人っぽくなる、ChatGPTはハーネスと超巨大な推論機械の組み合わせだ、と続きます。

一般には、LLM、あるいは「生成AI」は、まるで「知能」・「人格」のように理解されることが多いですが、これを「推論機械」というのは興味深いです。

LLM（Large Language Model：大規模言語モデル）がやっていること単純化すれば、それまでの文字列を受け取って、次に来る語の確率を計算することです。
ポイントは、呼び出されない限り動かないし、実は前の会話を覚えているわけでもありません。
チャットで話が続いているように見えるのは、アプリの側が毎回これまでのやりとりをまとめて入力し直しているからです。

1.1. 記憶喪失の人にプロフィールを渡すようなもの（ハーネス）

では、「人っぽさ」はどこから来るのでしょうか。
その開発者は、別の投稿でこう説明していました2。
LLM単体は考えるパーツで、何を覚えておくべきかという記憶の部分はその外側にあり、自分で作って組み合わせる必要がある。
常識は知っているけれど、自分が誰で今まで何をしていたかは分からない、記憶喪失の人にプロフィールを渡してロールプレイさせる感じだ、と。

AIを作る側は、モデルとエージェントを分けて扱っています。

このモデルの外側を、ハーネス（harness：馬具、転じて制御のための装備）と呼びます。
会話の状態を持つ、道具を呼ぶ、結果を読んで次の手を決める、人に承認を求める、といった仕組みです。

Anthropicは、検索や道具、記憶で強化したLLMを基本の部品とし、そのLLMが自分で手順と道具の使い方を決めながら動く仕組みをエージェントと呼んでいます3。
OpenAIの手引きでも、エージェントはモデルと道具と指示の組み合わせとして説明されています4。

OpenAIは、自社のコーディングエージェントCodexの説明で、モデルを取り囲む実行の仕組みをそのままハーネスと呼んでいます5。
つまり、実はエージェントらしさは、モデルそのものではなく、それに足したもの、ハーネスの側にあるわけです。

1.2. 小さいモデルでは、問題の出し方で答えが変わる（コンテキストエンジニアリング）

ローカルで小さなモデルを動かすと、この切り分けが手触りとして見えてきます。
その開発者は、GoogleのGemma 4の12Bモデルを量子化したもの（IQ4_XS）を使い、ビデオメモリ8GBほどのPCでも動くようにしていました6。
ゲームを動かすUnityは、モデルを動かすllama-serverとWebサーバーを立て、自分はデータの保存とコンテキストの組み立てだけを受け持つ構成です7。

試行錯誤では、より小さいモデルにコンテキストを詰め込みすぎたら、受け答えが崩れた。
二人がいまどういう関係かを会話のログから読み取らせるのをやめ、確定した情報としてゲーム側に持たせて毎回コンテキストに入れるようにしたら、そこは間違えなくなった。
会話に関係のない話をなるべく入れないようにしたら、返事が安定した、という具合です。

これは、国語の読解問題にたとえられます。
200ページの小説を読ませたうえで、次の台詞への返事を答えさせる問題は、小さいモデルには難しい。
「あなたと相手はこういう関係で、あなたはこういう性格です。この台詞にどう返しますか」と状況を短くまとめて出せば、すぐに答えられます。
モデルの中身は同じでも、何をどう渡すかで出来が変わるのです。

モデルに何をいつ渡すかを設計することを、コンテキストエンジニアリング（Context Engineering：文脈の設計）と呼びます8。
つまり、LLMを推論機構として見るなら、腕の見せ所は問題の出し方のほうにあるわけです。

2. ChatGPTが「賢い部下」に見えるのは、ハーネスが包んでいるから（エージェント）

2. ChatGPTが「賢い部下」に見えるのは、ハーネスが包んでいるから（エージェント）

ChatGPTのようなサービスでは、この外側が最初から組み上がっています。
会話の履歴や記憶、検索、ファイルの読み書き、考えてから答える機能まで揃っているので、使う側から見えるのは一人の賢い相手です。
中の作りは公開されていないので、どこまでがモデルでどこからがハーネスかを外から言い切ることはできません。

研究者の中にも、この見え方に注意を促す人がいます。
LLMがしているのは次の語の予測なので、「知っている」「考えている」と擬人化して語ると誤解を招く、という指摘です9。
対話するAIは人物を演じていて、どの人物を演じるかはプロンプトしだいだ、という見方もあります10。

2.1. 目的だけ渡して任せるか、自分がハーネスになるか（ケンタウロス型）

一方で、AIを「自分より賢い部下」と考え、細かく指示するより、達成したい条件と制約を渡して自律的に解かせるほうが賢い使い方ではないか、という考え方があります11。
たとえば「プレゼン資料を作って」と頼むより、過去の資料や会話の記録を渡して「社内でこの企画の承認を取りたい」と頼むほうがよい、と。

AIをエージェントとして見る考え方です。
しかし、ここまでのLLMを「推論機械」として見ると、別の使い方も考えられます。
賢い「他者」に仕事を頼むのではなく、自分がハーネス兼エージェントになって、難しい問題だけ解いてもらう、という使い方です。
目的を決めるのも、問題を分けるのも、次に何を考えるかを決めるのも人間で、LLMはその途中の考える部分を受け持ちます。

これは、どちらが良いというものでもなく、仕事の種類によって使い分けるものです。
ただ、ボストン・コンサルティング・グループのコンサルタント244人がGPT-4で経営課題に取り組んだ研究では、使い方が3つの型に分かれました12。
全体の進め方は自分で握り、部分だけをAIに振った人たち（Centaur：ケンタウロス型）がいちばん正確で、専門分野の力も伸びていました。
AIにほぼ丸ごと任せた人たちは、専門分野の力もAIを使う力も伸びなかったそうです。

2.2. LLMをCPU、ハーネスをOSにたとえる（LLM OS）

この構図は、コンピューターにたとえると分かりやすくなります。
Andrej Karpathyは講演で、LLMを新しいOSの中核に、コンテキストウィンドウ（Context Window：一度に読める入力の範囲）をメモリにたとえました13。
ここでもは、さらに少し変えて、LLMをCPU、ハーネスをOSと考えてみます。
CPUは速く計算しますが、何をメモリに載せるか、どの周辺機器を使うかを決めるのはOSです。

ローカルLLMを自分で組むのは、OSを自分で書くのに近い作業です。
ChatGPTを使うのは、よくできたOSの入ったパソコンを使うのに近い。
後者はとても便利ですが、CPUとOSの境目は見えにくくなります。

人間がハーネスになるなら、ボトルネックは人間の側に来ます。
実際には、打つ速さより、頭の中の前提をコンテキストにして渡す速さと、返ってきた答えを確かめる速さのほうが効いてきそうです14。

3. 【補足】連想を積み重ねると推論になる（Chain-of-Thought）

3. 【補足】連想を積み重ねると推論になる（Chain-of-Thought）

ここで、LLMは連想の機械なのか、推論の機械なのか、という問いについても考えておきます。

実は、日本語の「推論」には、意味が二つ混ざっています。

  • inference：前提知識から結果を得る処理（画像処理のような直観も含む）
  • reasoning：論理的に結論を導く処理（論理的な必然を説明できる）

一つは推論（inference：インファレンス）で、学習済みのモデルを動かして出力を得ることです。
推論サーバーや推論コストというときの推論はこちらで、この意味ならLLMは当然推論機構です。
もう一つは推論（reasoning：リーズニング）で、前提から中間の段階を踏んで結論を導くこと。
面白いのは、こちらの意味でもそう言える証拠があることです。

3.1. 部品は連想記憶、組み合わせると多段の推論」

LLMの中心が「連想」という部品であるのは確かです。
Transformerの各層にある全結合の部分は、入力のパターンをキーにして関連する語を呼び出す、キーと値の記憶として働いています15。
文脈の中で「AのあとにB」を見つけると、次にAが出たときにBを予測する回路も見つかっています16。

ところが中をのぞくと、その部品を組み合わせた計算もしていました。
Anthropicが自社のモデルの内部を追った研究では、「ダラスがある州の州都は？」と聞くと、モデルは中で一度「テキサス」にあたる表現を作り、それを州都と組み合わせて「オースティン」と答えていました17。
途中の「テキサス」を「カリフォルニア」に差し替えると、答えは「サクラメント」に変わったそうです。
一つひとつは連想でも、つなげると二段の推論になっていたわけです。

3.2. 途中を書かせると伸びるが、見慣れない問題には弱い

もう一つの鍵は、出力を入力に戻せることです。
答えの前に途中の考えを書かせる「思考の連鎖（Chain-of-Thought：チェイン・オブ・ソート）」で、算数や記号を扱う問題の成績が大きく上がることが知られています18。
理論の研究では、決まった深さのTransformerは算数の問題に直接答えるのが難しくても、途中を書き出させれば、大きさを変えずに解けることが示されました19。
書き出した途中経過を読み直すたびに、計算を一段ずつ積み重ねられるからです。

これと似たようなことは、AIに「キャラクターとして振る舞わせる」ことでもあります。
キャラクターに出来事の感想を書かせると曖昧になるので、先に何があったかを時系列で書かせ、それをもとに感想を書かせたら、具体的な文が出てきたそうです。
小さいモデルには、なるべく問題を簡単に分けて渡すといいのは、この「思考の連鎖」と関係しています。

4. 【補足】推論機構とエージェントの境目は動いている

4. 【補足】推論機構とエージェントの境目は動いている

もちろん、「LLMは推論機械」と言い切るには、注意も要ります。

「ただの」推論機械ではなく、知識やふるまいの傾向が学習した重みの中に入っていて、同じハーネスでもモデルを替えれば答えは変わります。
ローカルで動かすモデルも、指示に従うための追加学習や、会話の形に整えるテンプレートを通しているので、まったくの素のLLMというわけではないのです。

どんな問題でも推論できるわけではありません。
10進数の足し算を9進数に変えるように、前提を少しずらした問題を解かせると、成績は通常の条件より大きく落ちました20。
複雑な掛け算やパズルでは、一般的な解き方ではなく、学習で見た計算の断片とのパターン照合で解いている、という分析もあります21。
つまり、「LLMが連想機械か推論機械か」という問題については、「連想の部品を積み重ねて推論もできるけれど、見慣れた形には強く、見慣れない形には弱い機械」というのが今のところの姿だと思います。

また、最近のモデルは、ハーネスも推論の一部に含まれるようになっています。
というのも、道具を呼んで結果を読み、次を決めるという動きそのものを学習しています。
考えてから答える機能も、出力を入力に戻すループを長く回したものです。
推論機構としての力の一部が、すでにループという外側の仕組みに頼っているので、どこまでがモデルでどこからがハーネスか、線はきれいに引けなくなってきました。

それでも、ローカルで小さなモデルを触ると、その線がまだ見えます。
AIに何を頼むかを考える前に、この計算に何を渡すかを考えてみる。
同じLLMが、部下にも、自分の頭の続きにも見えてくるのは面白いところです。

  1. 2026年9月17日の投稿です。この記事の引用と要約は、同じ開発者の2026年9月上旬からの投稿をもとにしています。 – ありけい（@ARYKEI）の投稿 | X
  2. 「継続学習が解決しないと人間はAIに人格を見出しにくいのでは」という投稿への返信です。モデルのパラメータそのものは変わらなくても記憶は変化していくので、外から観察する分にはそれっぽくなる、とも書いています。 – ありけい（@ARYKEI）の投稿 | X
  3. 2024年12月の記事で、基本の部品を「augmented LLM」とし、あらかじめ決めたコードの経路でLLMと道具をつなぐものをワークフロー、LLMが自分の手順と道具の使い方を動的に決めるものをエージェントと区別しています。 – Building Effective AI Agents | Anthropic
  4. エージェントの基本の構成要素として、Model、Tools、Instructionsの3つを挙げています。 – A practical guide to building agents | OpenAI
  5. OpenAIは「The surrounding execution system is the harness.」と書き、会話の状態の管理、道具の使用、サンドボックスと承認の方針の適用、ターンをまたいだ作業の引き継ぎを担うものとして説明しています。 – Codex as a platform: build on the open agent harness | OpenAI Developers
  6. Gemma 4 12Bは、Google DeepMindが公開しているオープンウェイトのモデルです。IQ4_XSは、llama.cppで使われる4ビット前後の量子化形式の一つです。 – google/gemma-4-12B-it | Hugging Face
  7. llama-serverは、llama.cppに含まれるHTTPサーバーで、OpenAI互換のAPIでローカルのモデルを呼び出せます。 – llama.cpp/tools/server | GitHub
  8. Anthropicは、限られたコンテキストにどの情報を入れるかを整えることを、プロンプトの書き方の延長として「context engineering」と呼び、必要な情報を必要な時点で取り込む設計を勧めています。 – Effective context engineering for AI agents | Anthropic
  9. Murray Shanahanは、LLMの学習目標が次のトークンの予測であることを前に出して語り、「信じている」のような哲学的に重い言葉は慎重に使うべきだと論じています。 – Talking About Large Language Models | arXiv
  10. 対話エージェントのふるまいを、LLMが人物の役を演じている、あるいは複数の役を同時に演じていると捉えることで、擬人化の罠に落ちずに説明できるとしています。 – Role play with large language models | Nature
  11. 元になった投稿は2026年9月16日のものです。 – いぐぞー（@igz0）の投稿 | X
  12. 約5,000件のやりとりを分析した研究です。3つの型はサイボーグ、ケンタウロス、セルフ・オートメーターと名付けられています。 – The Three Ways Professionals Work with AI | Harvard Business School AI Institute
  13. 2023年11月の講演「Intro to Large Language Models」です。Karpathy自身はLLMを、道具や記憶を取りまとめるOSのカーネルとして描いていて、この記事のようにLLMをCPU、ハーネスをOSと分けるのは、そのたとえを少し変えたものです。 – [1hr Talk] Intro to Large Language Models | YouTube
  14. 生成AIを使った問題解決を6か月追った研究では、難しい課題ほどAIに頼る一方で正答率が最も低く、自信と実際の成績の差が広がったと報告されています。大学での小規模なパイロット研究なので、一般化には注意が要ります。 – AI, Metacognition, and the Verification Bottleneck | arXiv
  15. 2021年の研究で、各キーは学習データの文のパターンに反応し、各値は出力する語の分布を押し上げることが示されました。下の層は表面的なパターン、上の層は意味的なパターンを拾っていました。 – Transformer Feed-Forward Layers Are Key-Value Memories | ACL Anthology
  16. 帰納ヘッド（induction head）と呼ばれる注意機構の回路です。AとBが何であっても同じように働くので、暗記ではなく一種の手続きになっていて、文脈内学習の主な源ではないかと論じられています。 – In-context Learning and Induction Heads | Transformer Circuits
  17. 対象はClaude 3.5 Haikuです。同じ研究で、詩を書くときに行を書き始める前に韻を踏む語の候補を決めている、という計画のふるまいも報告されています。 – On the Biology of a Large Language Model | Transformer Circuits
  18. 2022年の研究で、中間の推論の段階を書かせるだけで、算数、常識、記号の推論の課題の成績が大きく改善しました。 – Chain-of-Thought Prompting Elicits Reasoning in Large Language Models | arXiv
  19. 回路計算量の理論を使い、深さが一定のTransformerは入力が長くなると基本的な算術にも直接は答えられないこと、一方で途中の導出を生成すれば一定の大きさで解けること、動的計画法で解ける問題のクラスも扱えることを示しています。 – Towards Revealing the Mystery behind Chain of Thought: A Theoretical Perspective | NeurIPS 2023
  20. 11種類の課題で前提をずらした版を解かせたところ、ある程度は解けるものの、成績は一貫して大きく下がりました。抽象的な解き方をある程度持つ一方で、転用のきかない狭い手順にも頼っている、と結論しています。 – Reasoning or Reciting? Exploring the Capabilities and Limitations of Language Models Through Counterfactual Tasks | ACL Anthology
  21. 多桁の掛け算、論理パズル、動的計画法の課題で、成功が学習中に計算の一部分を見ていたかどうかと強く結びついていて、複雑さが増すと成績が急に落ちることを示しています。 – Faith and Fate: Limits of Transformers on Compositionality | arXiv