写真は、「真実を写す」というように事実を記録し共有する機能がありますが、写真のような画像がかんたんに作れてしまうことへの注意が必要になりました。
ChatGPTやGeminiに自分の撮影した写真を与えて、色合いの変更などの「画像編集」ができます。
しかし、生成AIを通した画像は、「真実っぽく見えても作り物」で、記録としては使えなくなってしまいます。
わかりやすい例では、細部の文字が勝手に「補完」されてしまって、非現実的なものになっています。
「写真」を見たまますべてを信じることはできないのです。
1. SNSの「写真」投稿と訂正までの経緯
先日、SNSを眺めていたときに、ある公的機関の公式アカウントが投稿した写真が目に入りました。
虹がかかったダムの風景写真で、とても鮮やかで美しい一枚でした。
ところが、「よく見ると、画像の文字がおかしいので、AI生成のフェイクなのではないか」という指摘が相次ぎました。
その後、そのアカウントで「AIで色を調整したらいろいろ変わってしまった」という趣旨の説明を投稿し、元写真を公開することになりました。
私はこのやり取りを見て、「生成AIによる写真レタッチ」の危うさを感じました。
- 紅葉と虹の写真、AI修正しSNSに 国のダム支所、指摘受け削除 [群馬県] [AIの時代]：朝日新聞（2025年11月28日）
- 「ダムに虹がかかりました」→実はAI加工 国交省ダム管理所が謝罪「誤解を与えかねない投稿」 | ENCOUNT（2025.11.28）
最初の投稿は、ごく普通の「虹がかかりました」という報告です。
写真には鮮やかな虹がくっきり写り、背景の山の紅葉も鮮明で、ダムの構造物の色もどこか均一で整っています。
ところが、その後の投稿では「肉眼より虹が暗かったのでAIで色を調整したところ、虹以外の場所まで改変されてしまった」という説明が添えられていました。
さらに続く投稿で、無加工の写真が公開されると、虹はもっと薄く、山の色も控えめで、現地の自然に寄り添った落ち着いた雰囲気の写真でした。
2. 生成AIの“色調整”は色だけをいじるのではない
実際どうなるのか確かめたくて、自分でもわざと暗くした写真を生成AIに投げてみました。
ChatGPTの画像生成機能（4o Image Generation）に写真をアップロードして、レタッチの指示をするだけです。
操作はごく簡単です。
- ステップ1：写真を読み込む
- ステップ2：レタッチを指示
- ステップ3：結果を確認する
一見明るくなっただけに見えますが、生成後の画像をよく見るとおかしな点があります。
たとえば、マウスのロゴ部分や細かな文字が「つぶれて」しまっているのです。
これはわかりやすい部分ですが、机の模様などの細部に至ってはまったく別ものです。
元写真があっても生成AIに入れたとたんに、文字だけで生成された非現実な画像と違いがありません。
ちなみに、オリジナルの画像ではロゴはきちんと確認できます。
2.1. 元写真なしで画像生成の場合との違い
もちろん、テキストをもとにした画像の場合は、より細部が省略されがちです。
たとえば、プロンプトが短ければ、このような画像が作成されます。
次は、生成AIに元画像を詳細にテキストで表現させ、それを元に画像生成させてみました（新規のチャットでメモリーなども切り）。
不自然な部分はあるものの見分けがつきにくくなっています。
生成AIに与える情報が詳しくなるほど、元の画像に近づいていきます。
元写真を与えて画像を生成させることは、このような「指示の詳細化」の延長です。
3. 写真の信憑性が揺らぐ
もちろん、レタッチそのものは写真の世界ではよくある行為です。
暗い部分を明るくしたり、白飛びを抑えたり、色合いを整えたりします。
しかし生成AIによるレタッチは写真編集ソフトが明るさや色を調整するのとは根本的に違う動きをしています。
「足し算と引き算」ではなく「描き直し」に近い性質があります。
たとえば、
- 木々の葉の密度が増えている
- 空の色が均一になり“塗り”に近い質感になる
- 影の向きが少し変わる
- 表面の質感が均質化される
AIに「色だけを調整して」と頼んでも、AIは「ある写真の“典型パターン”」を勝手に推測してしまうようです。
写真の細部をリアリティを保ったまま修正するのではなく、画像全体を“それっぽく描き直す”という性質があります。
これは、細かな文字だけではありません。
つまり、AIにとって写真はピクセルの集まりであって、現実世界の記録ではありません。
だから「虹の明るさ」を調整しようとしても、周囲の山や空まで“ついでに描き変えてしまう”のです。
この時点で、写真は「現実の記録」から「AIが作った風景画像」へと性質が変わります。
視覚的には自然に見えるのに、細部は別物になっていました。
伝えたいことは同じでも、記録としての価値は全くなくなってしまいます。
ちょっとしたレタッチのつもりが、いつの間にか“描き直し”になっている。
見た目が自然でも、それが“本当にそこにあった景色か”は別問題です。
これが生成AIの怖いところだと感じました。
3.1. AI補正とAI生成の違い
でも、最近はiPhoneやGoogle Pixel のカメラで「消しゴムマジック」やAIによる画像補正が使われているよね。
デフォルトのまま撮影した写真でも、よく拡大すると粗いドットのわかりに謎の模様が出てくることがあります。
これらのAI補正はどう考えたらよいの？
今回、問題視された「生成AIレタッチ」とスマートフォンの「AI補正」は、技術的に異なる動作をしています。
ノイズ除去、手ブレ補正、HDR合成のための「AI補正」では、撮影時の複数フレーム合成して、画質を向上させています。
一方、生成AIレタッチは、撮影後に意図的に加工し、画像全体を再構築・再生成しています。
4. 公的機関でも起きる誤解
今回見かけた事例では、公的機関の公式アカウントが「補正のつもり」でAIを使い、その写真を公開してしまったことになります。
もちろん、“意図的に騙した”という話ではありません。
「少し色を足したい」という軽い気持ちで使ったら、気づかないうちに事実と違う画像になっていた。
そのまま公開してしまった。
その結果、読者に“誤った現実”を見せてしまった。
このように「わかりやすくする」過程で起こった、「捏造」だったのです。
これには注意が必要です。
公的アカウントは信頼性を求められます。
「現地の事実を伝えている」と読者は思っています。
しかし、AIによる補正によって、写真は事実から離れ、作られた「イメージ」を提示してしまいました。
4.1. 生成AIレタッチの「リスクの把握」
最近は、商品画像などをAIによって「合成」する、という使い方が喧伝されています。
確かに、ありふれた写真も、それ素材としてAIに与えると「魅力的」な商品写真に作り変えてくれます。
しかし、そこで表現される商品は、実在しているのでしょうか。
これは、もはや「イメージ写真」です。
今回の体験でいちばん感じたのは、「AIレタッチは便利そうに見えて、実は細部も変質している」という点でした。
AIは意図せずに余計な部分まで描き変えるので、本人でも写真のどこが元でどこがAIの創作なのか判別できません。
4.2. 社会的な文脈と演出・加工の許容度
どちらも「AIによる画像加工」ですが、あとは社会的な文脈によって「許容されるか」が異なるようです。
たとえば、個人のSNS投稿であれば、美肌加工や通行人削除などは広く受け入れられています。
プライバシーを守るような側面もあるからです。
もちろん、完全に存在しないものを追加するなら、「AI生成」と明示したほうがよいでしょう。
ただ、現状では「暗黙のうち」に、真実なのか、AI生成なのか、それ以外の加工や切り取りなのか、区別なく受容されています。
これは、写真に限らず、「インターネット上の情報には、不確かなものが含まれる」という一般的な前提があるからです。
しかし、報道・公的記録の場合は、もっと許容度は狭くなります。
消しゴムマジックでの通行人削除は「改変」になってしまいます。
ただ、HDR合成での見やすさ向上であれば、一般的に許容される範囲です。
また、それとわかるような黒塗り、ぼかしやモザイクも許容されています。
これは、写真を記録として扱うのか、作品・表現として扱うのか、という態度や文脈の違いでもあります。
今回の場合は、公的機関の投稿という「文脈」が、画像加工についての透明性を要求したわけです。
微妙なのが、商品パッケージやメニューなどです。
記録でもあり、表現でもあるからです。
AI生成の登場する前にも、特殊な撮影方法で見栄えをよくした写真を使うことが一般的になっていました。
とはいえ、過度の「演出」は、景品表示の面から問題にもなっていました。
「どのていどなら許容されるか」という判断が定まっていない分野です。
SNSで見かけた小さな出来事が、思った以上に深い問題を含んでいました。生成AIは簡単に写真を「もっときれいに」してくれます。でも、その裏側でどれだけの部分が“別物”に変わっているのか、自分で確かめて初めて実感できました。
写真の信頼性はとても繊細です。少し手を加えたつもりが、大きく揺らぐことがあります。