「本物であること」が、いちばん疑われる時代

生成AIが「本物」を強くするほど、世界は不確かになる

私たちは長いあいだ、「見ればわかる」「聞けば判断できる」という感覚を頼りに、現実を確かめてきました。
写真は現実を写し、音声はその人の声を伝え、文章は書き手の考えを示すものだと、ほとんど疑わずに受け取ってきたのです。

しかし、生成AIが急速に普及した今、その前提が静かに崩れ始めています。
今回紹介する研究は、生成AIの問題点を「ディープフェイクが危険だ」という単純な話としてではなく、社会全体の信頼の仕組みがどう変わってしまうのかという視点から捉え直しています。

この研究を行ったのは、アメリカのユニバーシティ・オブ・サザン・カリフォルニアに所属する、トーマス・ロード・コンピュータサイエンス学部、アネンバーグ・コミュニケーション学部、そしてインフォメーション・サイエンシズ・インスティテュートの研究チームです。

問題は「偽物」そのものではない

生成AIが生み出す画像や動画、音声は、すでに人間の目や耳では見分けがつかないレベルに達しています。
しかも、それらは特別な技術者でなくても、短時間で大量に作れるようになっています。

ですが、研究者たちは「偽物が増えること」そのものが、最大の問題だとは考えていません。
本当に深刻なのは、人々が現実を確かめるために使ってきた手がかりが、まとめて信用できなくなることだと指摘します。

「これは本物かもしれないし、そうでないかもしれない」
そんな疑いが、あらゆる情報に付きまとうようになると、私たちは何を基準に判断すればよいのでしょうか。

合成された「現実」が当たり前になる世界

この研究では、生成AIが作り出すものを単なる偽物ではなく、「合成現実」と呼んでいます。
それは、現実と虚構が混ざり合い、見た目だけでは区別できない情報環境のことです。

合成現実が広がると、人々は次第に「見たもの」よりも、「自分が信じたいもの」や「属している集団の見方」を重視するようになります。
結果として、同じ映像や文章を見ても、人によってまったく違う現実が立ち上がってしまいます。

研究者たちは、これが社会の分断をさらに深める可能性があると警告しています。

皮肉な逆転現象が起きている

ここで重要なのは、生成AIが嘘をつきやすくしているだけではないという点です。
むしろ、AIは「もっともらしい説明」や「整った物語」を作るのが非常に得意です。

その結果、本当に起きた出来事であっても、
「これは作られたものかもしれない」
「誰かが操作した情報ではないか」
と疑われやすくなります。

研究者たちは、これを真実が弱くなるのではなく、真実であることの証明が極端に難しくなる状況だと表現しています。

信頼は技術だけでは守れない

この研究は、技術的な対策だけで問題が解決するとは考えていません。
透かしや検出技術が進んだとしても、「何を信じるか」という判断は、最終的に人間の側に残ります。

だからこそ研究チームは、
・情報をどのように共有するのか
・誰の発言を信頼するのか
・疑うべき場面と、信じるべき場面をどう区別するのか
といった、社会的な合意や文化のあり方が、これまで以上に重要になると述べています。

私たちは何を失い、何を問い直すのか

生成AIは、世界を便利にし、表現の幅を広げてくれました。
しかし同時に、「現実とは何か」「信頼とはどこから生まれるのか」という、これまであまり意識せずに済んでいた問いを、私たちの前に突きつけています。

この研究は、生成AIを善か悪かで裁くものではありません。
むしろ、私たちがこれまで当然だと思ってきた「確かめ方」そのものを見直す時期に来ていることを、静かに示しています。

見えるから信じる。
聞いたから本物だと思う。

その感覚が通用しなくなったとき、私たちはどんな基準で世界と向き合うのか。
この問いは、これからの社会全体に、長く残り続けるのかもしれません。

（出典：arXiv DOI: 10.48550/arXiv.2601.00306）

タイトルと読みどころをコピー