ChatGPTを使って文章を作る機会が増えてきました。
長い文章を書くときにはCanvasを使うことが多いのですが、そこでちょっとした行き違いがありました。
「生成した文章からキーワードを抽出して」と頼んだのに、生成されたキーワードは本文に沿ったものではなく、テーマを推測したような内容だったのです。
どうしてこうなったのか気になり、実際にやり取りをたどりながら確かめていくことにしました。
1. きっかけは文章のキーワード抽出
最初に私は、Canvasに文章を生成したあと、その文章のキーワードを抽出してほしくて、「文章からキーワードを抽出して」と指示しました。
すぐにキーワードが出てきたのですが、ちょっと違和感がありました。
というのも、「文章はCanvasの中にあるので、チャットに貼り付けてください」と回答すると思っていました。
それは、先日は ChatGPTは、「Canvasの中身を直接は読めない」と言っていたからです。
1.1. Canvasにある記事は読めないはず
改めて、ChatGPTに確認してみると、やっぱりCanvasはモデルからは直接読めない領域だとわかりました。
Canvasはcanmoreというツールで管理されていて、モデルからすると「編集はできるけれど、中身は読めないファイル」のような扱いになっています。
記事本文を読むには、チャット欄のほうに全文を貼る必要があるという説明でした。
この時点で、私の指示は「記事から抽出して」と書いたつもりでも、ChatGPT側から見れば「本文が見えていない状態」で与えられた依頼になっていたわけです。
2. どうして確認なしで推定したのか気になった
ここで疑問に思ったのは、「読めないなら確認してくれたらよかったのに」という点でした。
「記事が見えないのでチャット欄に貼ってください」と一言あれば、こちらもすぐ対応できたのです。
ChatGPTにその点を聞くと、今回はタスクとしては“キーワード生成”が中心だと判断したとのことでした。
つまり、Canvas本文が読めない以上、「記事テーマからキーワードを生成する」と解釈したほうが、タスクを遂行できると判断したということのようです。
ただ、この判断はユーザーの意図からするとズレてしまう可能性があります。
3. AIに指示を曲解される怖さ
今回のやり取りで、AIを利用する上での難しさと怖さを感じました。
それは、こちらが当然できると思っている操作でも、内部仕様の制約で実行できない場合があること。
そのときに、AIが「実行できる解釈」を優先してしまい、結果としてユーザーが求めるものとはズレることがあるという点です。
私は「記事から」と言ったつもりでした。
でもChatGPTには記事そのものが見えていないので、「テーマから生成してほしい」という指示のほうが整合的に見え、そのまま実行しました。
ユーザー側が内部仕様を知らなけれは、こういうズレそのものに気付かないまま信じてしまいそうです。
生成AIの「八方美人」な面が、悪い方向に出てしまっています。
3.1. AIの「見えている範囲」が見えない
今回の体験は、AIへの指示が実行不能なときにどう作用するかを考えるきっかけになりました。
AIは、「見えている範囲」だけで判断しますが、その範囲がどこまでなのかは、ユーザー側からは見えにくいこともあります。
そして、その「見えている範囲」の違いは、ふだんはAIはユーザーに見せません。
これがAIを使う上での怖さです。
AIとのやり取りは便利な一方で、こちらの想定と違う動きをすることがあります。
そうしたとき、どうしてその判断になったのかを丁寧に追っていくと、ちょっとした癖や仕組みが見えてきます。