「悪貨は良貨を駆逐する」という言葉を聞いたことがあるでしょうか。
これは経済学の法則で、粗悪な貨幣が良質な貨幣を市場から追い出してしまう現象を指します1。
実は今、生成AIの普及でインターネット上の情報でも同じことが起きています。
文章だけでなく、写真や動画のようなコンテンツも、本物と見分けがつかないクオリティで簡単に生成できるようになりました。
この変化は、私たちに新しい認知的負担を強いています。
驚くような情報に接したとき、「これは本当なのか、それともAIで作られた偽物なのか」を判断しなければならなくなったのです。
1. 情報の真偽判定は元々難しい
まず押さえておきたいのは、情報の正しさを判定するのは、そもそも極めて厄介な作業だということです。
貨幣の場合は本物かどうかを決めることができます。
重さを測ったり、成分を分析したり、物理的な検証によって真偽を確定させることができます。
でも情報はどうでしょう。
ある情報が正しいかを調べるには、別の情報に頼るしかありません（実体験なども含めて）。
しかし、その別の情報の「正しさ」を問うことになれば、新たな検証が必要になります。
つまり、どこかで検証を中断する必要があるですが、これは恣意的な判断です。
貨幣と違って、情報にはその正しさを測る絶対的な「天秤」がないのです。
1.1. 生成AIによるコストの壁の崩壊
ただ、以前は一つの救いがありました。
それは、信憑性の高そうな見た目の偽情報を作り出すには、それなりの手間と労力、そして技術が必要だったということです。
これまでは、本物そっくりの架空の映像を作るには、たとえば映画制作のような大掛かりなプロジェクトが必要でした。
- 精巧な偽写真を作るには、Photoshopの高度な技術と数時間の作業
- 説得力のある偽動画には、専門機材と編集技術、そして数日から数週間
- もっともらしい偽記事を書くには、ライティング能力と時間
つまり、参入障壁が抑止力として機能していたわけです。
いたずらで偽情報を作ろうと企てても、その手間によって途中で挫折してしまいました。
ところが今はどうでしょう。
生成AIを使えば、これらすべてが数分で、特段のコストなくできてしまいます。
プロンプトを入力するだけです。
技術も要りません。時間もかかりません。
偽情報を本物そっくりに作るの躊躇させる「障壁」がなくなってしまった。
これが、生成AIがもたらした大きな、そして新しい現象だと考えています。
1.2. コストの非対称性
ここで重要なのは、コスト構造の劇的な変化です。
- 真実の情報を作るには、依然として取材や検証、専門知識が必要です。
コストは高いままです。 - 一方、偽情報を作るコストは、プロンプト入力のみ。
ほぼゼロになりました。
さらに問題なのは、検証コストは全く変わっていないということです。
以前の低品質な偽情報なら見破りやすかったのですが、生成AIが作る偽情報は「本物らしさ」が段違いです。
- 偽情報を生成するのに数秒
- それを検証するには数時間から数日
生成と検証のコスト比が、100対1、いや1000対1になってしまったのです。
1.3. 情報エコシステムの汚染
この状況が何を引き起こすか。
低コストなので、偽情報は大量生産できます。
真実の情報が、嘘の海に埋もれてしまうのです。
検証リソースは枯渇します。
人々は認知的に疲労し、「もう何も信じない」か「見たいものだけ信じる」という極端な状態に陥りがちになるのです。
これはまさに、悪貨が良貨を駆逐するメカニズムそのものではないでしょうか。
2. 貨幣の歴史から学べること
ここで興味深いのは、貨幣の真贋判定がどう変化してきたかという歴史です。
もともとは、金や銀そのものの塊を重さで取引していました。
重さや成分を調べるわけです。
でも時代が進むと、その発行元を信頼するという方式に変わっていきました。
鋳造貨幣の登場です。
信頼できる発行者が重さと品位を保証した貨幣を発行し、その刻印を信じるわけです。
これは、情報に当てはめると、「信頼性を測る根拠として一次情報や公式情報を利用する」という考え方です。
もちろん、現代でも「偽造された贋金」を物理的に判定はするケースはあります。
つまり、二段階の防御メカニズムが機能しているのです2。
- 第一段階：発行元の信頼（日常的・低コスト）
- 第二段階：物理的検証（疑義時・高コスト）
とはいえ、贋金は社会で大量には流通していません。
ほとんどの取引では、発行元の検証で済んでいます。
2.1. 情報でも二段階モデルは使えるのか
この二段階モデルは、情報にも応用できそうです。
- 通常時は、出所で判断する。
たとえば、報道機関、学術誌なら信頼度が高い。
匿名SNSや広告記事なら慎重に扱う。 - 疑義時には、内容を検証する。
ファクトチェック機関の確認、一次資料の参照、専門家への照会、技術的検証などです34。
虚偽情報もゼロにはできないけれど、影響を限定的にすることは可能かもしれません。
ただし、抑制が機能するには条件があります。
- 検証コストが十分低いこと、
- ペナルティの存在、
- そして適切なインセンティブ構造です。
2.2. 情報の厄介な特性（権威性への不信）
ただし、情報は貨幣より厄介です。
- 貨幣の場合、「これは本物の1万円札か」という問いには、社会的に合意された答えがあります。
- でも情報では、「何が真実か」という問いそのものが、集団によって異なる答えを持ってしまうのです。
さらに、公式情報そのものを疑ってかかる姿勢も、しばしば見受けられます。
いわゆる「陰謀論」のように、主流メディアや科学的コンセンサスを信じない独自の認識コミュニティも生まれています。
これは貨幣で言えば、「重さを測る天秤そのものを信じない」状態です。
前提となる「証拠とは何か」「誰を信じるべきか」が共有されていないと、対話は成立しません。
もちろん、権威を疑う姿勢は大事です。
歴史上、権威が嘘をついた事例は数多く存在します。
実際に鋳造貨幣の歴史でも、発行者の信頼性が喪失することはありました。
それは、国家が品質の悪い貨幣に改鋳した時です5。
だから「一度疑え」は本来健全なのです。
しかし、「全てを疑え」に転化すると機能不全に陥るのです。
3. 検証のための社会的・技術的なアプローチ
では、この困難な状況に対して、どのような対策が試みられているのでしょうか
社会的なアプローチと技術的なアプローチに整理できます。
3.1. メディアリテラシーとファクトチェック
まずは、社会的なアプローチです。
- 教育とリテラシーの向上
- ファクトチェック組織の活動
- プラットフォームの取り組み
まずは、情報を受け取る側の能力を高める取り組みも重要です。
メディアリテラシー教育、批判的思考の訓練、情報源の評価方法の普及などです。
また、情報を検証するコストを「集約」する仕組みも出てきました。
一人ひとりがいちいち情報の正しさを検証するのは大変すぎるからです。
日本では2022年10月に日本ファクトチェックセンター（JFC）が設立され、ネット上の不確かな情報を検証しています6。また、ファクトチェック・イニシアティブ（FIJ）が2017年から日本におけるファクトチェックの普及・推進活動を行っています7。
X（旧Twitter）のコミュニティノートのように、ユーザー自身が情報に注釈を付ける仕組みも試みられています。ただし、Metaが2025年にファクトチェック機関による評価を取りやめたように、プラットフォーム事業者の方針は流動的です。
しかし、ファクトチェックには根本的な限界があります。
嘘は一瞬でつけますが、検証には時間がかかる。
大量に拡散する偽・誤情報に対して、ファクトチェックを実施する組織や個人は限られています8。
3.2. AI検出技術とコンテンツ認証
技術的に解決する方法はないのでしょうか？
- AI検出技術
- デジタル署名とコンテンツ認証
AI生成コンテンツを検出するツールも開発されています。
ただ、精度には限界があり、生成技術の進化とのイタチごっこになっています。
もう一つの方向性は、コンテンツ認証。
Adobe、Microsoft、Intel、ソニーなどが参加するC2PA（Coalition for Content Provenance and Authenticity）が、デジタルコンテンツの出所や編集履歴を証明するメタデータを付与する技術標準を策定しています9。
これは、電子証明書の発行者の信頼性を、暗号技術で改ざん防止することで連鎖させる仕組みです。
SSL/TLS証明書によるウェブサイトの認証やデジタルアートの真正性については、ブロックチェーンネットワークを活用する仕組み（NFT）などと似ていますね。
ただし、この技術も今の時点では、そこまで普及していません。
食品表示ラベルのように「ないと怪しむ」程度の存在と位置づけられています10。
4. おわりに
生成AIによって、情報の製造コストが劇的に低下しました。
これは単なる技術の進歩ではなく、情報エコシステム全体を揺るがす構造的変化です。
真実と嘘を見分ける「天秤」がない中で、嘘を作るコストだけが極限まで下がってしまった。
この非対称性こそが、現代の本質的な課題なのです。
完全な解決は望めないかもしれません。
でも、この問題の構造を理解することが、対処の第一歩になるはずです。
私たちは、「良貨と悪貨の共存下でのナビゲーション能力」を磨いていくしかないのかもしれませんね。
- 16世紀のイギリスの財政家トーマス・グレシャムがエリザベス1世に進言したことに由来する。同じ額面価格で通用する貨幣のうち、金や銀の含有量が少ない貨幣(悪貨)が市場で流通し、含有量の多い貨幣(良貨)は退蔵や輸出により流通から姿を消す現象を指す。 – グレシャムの法則 – Wikipedia
- グレシャムの法則を回避するため、近代の金本位制では貨幣の鋳造誤差や流通による磨耗の許容範囲が設定された。現代でも紫外線ライトや透かし確認などの物理的検証手段が用意されている。 – グレシャムの法則 – Wikipedia
- 技術的検証の一つとして、Adobe、Microsoft、Intel、ソニーなどが参加するC2PA(Coalition for Content Provenance and Authenticity)が、デジタルコンテンツの出所や編集履歴を証明するメタデータを付与する技術標準を策定している。ただし、この技術も完全な解決策ではなく、食品表示ラベルのように「ないと怪しむ」程度の存在と位置づけられている。 – C2PA とは：最新動向と適用例
- 日本では2022年10月に日本ファクトチェックセンター(JFC)が設立され、ネット上の不確かな情報を検証している。また、ファクトチェック・イニシアティブ(FIJ)が2017年から日本におけるファクトチェックの普及・推進活動を行っている。 – 日本ファクトチェックセンター (JFC)
- 16世紀のヘンリー8世時代、イギリスでは銀貨の銀含有量を下げて改鋳したにもかかわらず、法令により金貨との交換比率を維持した。これが良貨の海外流出を招き、エリザベス1世の時代にグレシャムが貨幣改悪の弊害除去を提唱した。 – グレシャム – 世界史の窓
- 日本ファクトチェックセンターは、一般社団法人セーファーインターネット協会のもとで設立され、GoogleとYahooの支援を受けて運営されている。国際ファクトチェックネットワーク（IFCN）の認証を目指している。 – SIA、「日本ファクトチェックセンター」を設立
- FIJは、ジャーナリストや専門家ら10人の呼びかけで2017年6月に発足。ファクトチェックの実施主体ではなく、実際にファクトチェックを行うメディア・団体への支援や、市民・学生などの協力を得た疑義言説のモニタリングを行っている。 – FIJとは
- 日本ファクトチェックセンター編集長の古田大輔氏は「嘘は一瞬でつけますが、検証には時間がかかります。しかも、大量に拡散する偽・誤情報に対して、ファクトチェックを実施する組織や個人は限られています」と指摘している。 – JFCとは
- C2PAは、デジタルコンテンツが生成または編集された際に「マニフェスト」と呼ばれるデータを埋め込み、コンテンツの作成者や編集履歴を記録する。暗号技術を用いてメタデータの改ざんを防ぐ仕組みになっている。 – デジタル時代の信頼性を確保する新たなスタンダード：C2PAの取り組み
- 「C2PAは『あらゆるAI生成物を確実に判別する必要がある件』の解決策にはなりません。むしろ、C2PAは、食品表示ラベルに近い存在だと考えられます」とAdobeは説明している。 – Adobe Firefly を適切に活用するための著作権との付き合い方 第５回