生成AIは「知能」ではない
（言語変換器）

by
  • 生成AIは人格や感情を持つ存在ではなく、入力の文字列から出力の文字列を返す確率的な変換器として捉えたほうが実態に近いです。
  • 出力された文字列をMarkdownやHTML、SVG、コードとして解釈する仕組みがあることで、文書や図解、動くページまで表現できています。
  • 検索やファイル操作、AIエージェントと呼ばれる振る舞いも、モデルの出力を周辺システムが解釈して実行しているだけです。
  • モデル自身は基本的に開ループで動いていて、内部でどれだけ迷った結果でも、数秒から数分でまとめて返ってきます。

関連記事

1. 生成AIは変換器であって人格ではない

1. 生成AIは変換器であって人格ではない

ChatGPTやClaudeと会話していると、相手に人格があるように感じる瞬間があります。 言葉が返ってくる、質問に答えてくれる、冗談も通じる。 そうなると、そこに意思や感情があるように錯覚してしまうのも無理はありません。

ただ、今の生成AIにそうした人格や感情があるかというと、まだそうではないと思います。 基本的な仕組みとしては、プロンプトという入力に対して出力を作る変換器と考えたほうがしっくりきます。 入力として何を渡せるか、出力をどう扱えるかというところに、この技術の面白さがあります。

ChatGPTやClaudeのようなモデルが返してくるものは、基本的には文字列です。 画像や音声を直接出力できるモデルも増えていますが、対話の中心はやはりテキストという文字の列。 この「ただの文字列を返しているだけ」という単純さと、実際に使っていて感じる多機能さのギャップが、今回考えたかったところです。

2. 文字列の解釈系が生成AIの表現力を広げている

2. 文字列の解釈系が生成AIの表現力を広げている

2.1. Markdown、HTML、SVG、コードとしての出力

文字列というのは応用範囲が広いものです。 Markdown形式で書けば見出しや強調、リンクをつけられますし1、HTML2やSVG3として書けば図形や図解も表現できます。 JavaScriptやPythonのようなプログラミング言語も、結局は文字列として出力されているに過ぎません。

ここで大事なのは、モデルが「図を描いている」わけではないという点です。 モデルはSVGのタグを含んだ文字列を出力しているだけで、それをブラウザが図形として解釈して描画しています。 ボタンを押すと選択肢が出て次のチャットに誘導される、というような動きのあるページも、この解釈の仕組みがあって初めて成立します。

2.2. コマンド出力とツール呼び出し

2.2. コマンド出力とツール呼び出し

この文字列出力の仕組みに、コマンドを解釈して実行する層が加わると、話はさらに広がります。 モデルがツール呼び出し用の形式で出力し、それをアプリケーション側が受け取って、Web検索を実行したり画像生成を呼び出したりする4。 結果はまたモデルへ入力として返され、最終的な回答が組み立てられます。

出力先をローカルのファイルにすれば、ファイルを保存したり、既存のファイルの中身を読んだりもできるようになります。 いわゆるAIエージェントと呼ばれる振る舞いも、突き詰めればこの仕組みの延長でしかありません5。 文字列を評価する仕組みがなければ、モデルの出力はただの文字列がずらずら並ぶだけのものです。

3. 言語モデルはツールを使っているのではない

日常的には「AIが検索した」「AIがコードを実行した」と言ってしまいますが、これは利用者向けの簡略化した言い方です。 厳密には、言語モデルはツールを呼び出すための文字列を出力しているだけで、その出力を周辺システムが解釈してツールを実行しています。 モデルの側から見れば、ツールを使ったという認識すらありません。

周辺システムの動きを追うと、ユーザーの入力をモデルに渡し、モデルがツール呼び出し形式の出力を生成し、それを解釈して実際にツールを動かし、実行結果を再びモデルに入力し、最終的な回答を生成するという流れになっています。 このオーケストレーションという、複数の処理を統括する仕組みが挟まることで、単なる会話が検索や画像生成、ファイル操作にまでつながっていきます。

こう考えると、AIエージェントという言葉も整理しやすくなります。 エージェントは言語モデルそのものではなく、言語モデルとツール実行の機構、状態管理、計画や制御、結果のフィードバックを組み合わせたシステムです。 言語モデルの進歩だけでなく、この組み合わせをどう設計するかというところも、体感的な賢さを大きく左右しています。

4. 開ループのモデルと、そこに割り込む時間の非対称性

4. 開ループのモデルと、そこに割り込む時間の非対称性

4.1. あえての開ループ設計とコスト

AIにコードを書かせていると、テストやlintでセルフチェックさせることもできます6。 ただ、この手応えは自動でついてくるものではなく、設計しないと得られません。 放っておくと、モデルの出力は無痛で無感覚なままです。

そして、デフォルトでは開ループに設計されていることが多いのも気になるところです。 出力の成否を自分で確かめて修正する、というループをすべての応答で回すと、計算コストが跳ね上がってしまいます。 拡張推論と呼ばれる仕組みは、この中間の思考過程を利用者には見せず、内部処理として使ったうえで最終的な出力だけを提示する、あえての解釈系だと言えます7。

ただ、直近（2026年7月）は、このループ設計を作ることがAIエージェント活用のコツとして話題になっています89。一方で、AIエージェントの自動実行が高額のAPI課金につながる事例もあります10。

4.2. 人間とモデルの時間の非同期性、そして構造の違い

こう考えると、モデルはすらすらと素晴らしい答えを一発で作っているわけではないという見方になります。 内部的にはさんざん迷った結果が、数秒から数分という時間にまとめて出力されているだけです。 人間が何日もかけて考えることを、モデルは短い時間の中で圧縮している。

4.2. 人間とモデルの時間の非同期性、そして構造の違い

この時間の非対称性は、人間の知能とモデルの構造の違いをよく表しています。 人間は知覚や記憶、感情、身体感覚が結びついた一つの閉ループとして働いていますが、モデルは基本的に開ループで、外部からフィードバックを与えて初めて閉じます11。 「人工知能」という言葉から受ける知能らしさと、実際に動いている組み合わせシステムとしての構造は、分けて理解しておきたいところです。

  1. Markdown原案の考案者John Gruberは、プレーンテキストで書きながらHTMLへと変換できる軽量なマークアップ記法として設計したと説明しています。 – Daring Fireball: Markdown
  2. HTMLはHyperText Markup Languageの略で、Webページの構造を記述するためのマークアップ言語です。 – HTML: HyperText Markup Language | MDN
  3. SVGはScalable Vector Graphicsの略で、XMLベースのベクター画像フォーマットです。 – SVG: Scalable Vector Graphics | MDN
  4. Claudeのツール利用の仕組みでは、モデルがツール名と入力パラメータを含む構造化された出力を返し、開発者側のコードがそれを実行して結果をモデルへ返す流れになっています。 – Tool use with Claude – Claude Platform Docs
  5. Anthropicは、ワークフローを事前に定義されたコードの経路でLLMとツールを組み合わせるものと定義し、エージェントを自らのプロセスとツール利用を動的に方向づけるシステムと区別しています。 – Building Effective AI Agents \ Anthropic
  6. lintは、ソースコードを実行せずに静的に解析し、潜在的なバグやスタイル違反を検出するツールの総称です。 – Lint (software) – Wikipedia
  7. Claudeの拡張思考機能は、複雑なタスクに対してモデルに追加の推論能力を与え、思考過程の内容をどう返すかを制御できる仕組みとして提供されています。 – Extended thinking – Claude Platform Docs
  8. – エージェントループの仕組み – Claude Code Docs
  9. – 「私の仕事はループを書くこと」——Claude Code責任者の一言が火をつけた「Loop Engineering」という新潮流 – shiritomo | AI・SNS・ゲーム 話題のテックカルチャーメディア by Hashout（2026年6月10日）
  10. – Claude Code Reviewで150万円溶かした… 高額請求の無限ループに要注意！仕組み・実例・予防策を徹底解説（2026年5月版）｜zephel01（2026年5月10日）
  11. 開ループ制御とは、出力の結果を測定して入力へフィードバックすることなく、あらかじめ決められた手順だけで動作する制御方式を指します。 – Open-loop controller – Wikipedia