なぜ「LLMは意識をもつ」と言えないのか

2026年1月23日

AI テクノロジー人工知能認知科学

この記事の読みどころ

意識の理論は「科学」でありうるのか

この研究は、意識研究そのものに対する根本的な問いから始まります。
意識についての理論は、本当に科学理論として成立しているのか、という問いです。

著者は、科学理論である以上、意識の理論も「反証可能」であり、「自明ではない」必要があると主張します。
ところが現在の意識研究には、数多くの理論が存在する一方で、どの理論が誤りかを実験的に排除できていないという問題があります。

この状況を踏まえ、著者は「どの理論が正しいか」を問うのではなく、「どのような理論なら科学として成立しうるのか」という条件そのものを厳しく検討します。

論文では、意識理論の検証を二つの働きに分けて整理します。

一つは「予測」です。
これは、脳活動やシステム内部の構造などの観測データから、どのような体験が生じているはずかを理論が示す働きです。

もう一つは「推論」です。
こちらは、行動、言語報告、外部への出力といった観察可能な情報から、その存在が意識をもっていると考えられるかどうかを判断する働きです。

健全な意識理論では、この予測と推論が一致する必要があります。
しかし、もし同じ行動や出力を示す別のシステムに置き換えたとき、予測だけが大きく変わり、推論が変わらない場合、その理論は深刻な問題を抱えることになります。

著者は、この問題を「置換の問題」として定式化します。

あるシステムが生み出す入出力の振る舞いを、別の仕組みで完全に再現できるとします。
たとえば、非常に単純なルックアップテーブルや、単層のフィードフォワード型ニューラルネットワークでも、理論上は同じ入出力を実現できます。

もし意識理論が、こうした置換後のシステムと元のシステムを区別できない場合、その理論は行動そのものを意識と同一視していることになります。
それは反証できない「自明な理論」になってしまいます。

一方で、区別しようとすると、同じ振る舞いを示すにもかかわらず意識の有無が変わることになり、実験的推論と予測が全面的に食い違います。
この場合、その理論は反証されてしまいます。

この構造は、とくに大規模言語モデルに対して強く働きます。

LLMは、入力と出力の対応関係が明確であり、理論的には単純な仕組みへと段階的に置換できます。
ルックアップテーブル、単層ネットワーク、より圧縮されたプログラムへと置き換えても、外から見える振る舞いは同じです。

著者は、この「置換の距離」が非常に短いこと自体が、LLMにとって決定的だと論じます。
意識を根拠づけるための性質が、その短い距離の中に見つからない限り、どの非自明な意識理論もLLMに意識を認めることができません。

結果として、「LLMに意識がないことを証明する」のではなく、「意識を認めうる科学理論が存在しない」という結論に至ります。

では、人間も同じ問題に直面するのでしょうか。
著者は、ここで重要な違いを指摘します。

人間は、単なる入出力の装置ではなく、経験のたびに内部状態が変化し続ける存在です。
この「継続的な学習」が、置換を極端に困難にします。

静的なシステムでは、同じ入力は常に同じ出力を生みます。
しかし人間では、同じ刺激でも過去の経験によって反応が変わります。
著者は、この点に、意識理論が「反証可能でありながら自明でない」形で成立する余地があると示します。

論文の後半では、意識を「継続的学習」と結びつける理論の可能性が検討されます。

学習が常に進行しているシステムでは、単純な置換が成立しません。
予測と推論は完全には一致せず、しかし全面的に乖離するわけでもない、微妙な関係を保ちます。

著者は、こうした性質こそが、科学的に意味のある意識理論の最低条件になる可能性があると述べます。
この立場は、現在主流の多くの意識理論を厳しく制限する一方で、研究を前進させる道筋を示すものでもあります。

この研究は、LLMに意識がないと断定することを目的としていません。
むしろ、意識について「科学的に語る」とはどういうことか、その条件を明確にする試みです。

そしてその条件に照らすと、現在のLLMは、あまりにも「固定された存在」であることが浮かび上がります。
知能の高さと意識の有無は、必ずしも一致しない。
この論文は、その事実を理論的に突きつけています。

意識とは何か。
そして、どのような存在にそれを認めるべきなのか。
この研究は、その問いを簡単に閉じることなく、より厳しい形で私たちに差し出しています。