- AIが賢くなると、人が自分で考え決める力を少しずつ手放す「静かな実存的リスク」が生じるかもしれない。
- 自律性は自分の欲求を選ぶ力であり、責任や道徳的判断、どう生きたいかを決める能力でもある。
- AIと協力する境界を見極め、決断を手放すと脱技能化が進み、人間らしさの成長の機会が減る可能性がある。
自律性が壊れるとき
AIがもたらす「静かな実存的リスク」
私たちはこれまで、AIのリスクというと、暴走や誤作動による破滅的な未来を思い浮かべてきました。人類を制御不能に陥れる兵器、あるいは一度の致命的ミスによる絶滅です。
しかし、この研究が提示するのは、それとはまったく異なる種類の危機です。それは、ある日突然起こる破局ではなく、ゆっくりと、ほとんど気づかれないかたちで進行するものです。
その核心にあるのは「人間の自律性（オートノミー）」です。
AIが人間よりも賢くなり、より良い判断を下せるようになったとき、私たちは自分で考え、選び、決めることを、少しずつ手放していくかもしれません。この論文は、その過程こそが、人類にとっての深刻な実存的リスクになりうると論じています。
人間にとっての自律性とは何か
自律性とは、自分の人生の方向を、自分自身で決める力のことです。
誰かに命令されるのではなく、外部から強制されるのでもなく、自分の理由と価値観にもとづいて選択する能力です。
この力は、単に「自由である」という感覚にとどまりません。
私たちが責任を負う存在であること、道徳的判断を行う主体であること、そして「どんな人間でありたいか」を考えられる存在であることは、この自律性に深く結びついています。
論文では、人間の欲求を二段階で捉える考え方が紹介されます。
一つは衝動的な欲求、もう一つは「自分はこうありたい」と願う二次的な欲求です。人間らしさとは、単に欲求を満たすことではなく、どの欲求を選び取るかを自分で決める点にあります。
この意味で、自律性を失うことは、人間が人間であることそのものを弱めてしまう出来事だと位置づけられています。
幸せそうに見える「不自由」
論文では、「幸せな奴隷」という思考実験が取り上げられます。
かつて奴隷制度を正当化するために、「彼らは幸せそうに見える」という主張がなされてきました。衣食住が保障され、表情も穏やかであれば、それで問題はないのではないか、という考え方です。
しかし現代の私たちは、その論理が根本的に誤っていることを直感的に理解しています。
自由を奪われた状態で感じる満足や安心は、真の意味での幸福とは異なるからです。選ぶことができない人生は、たとえ快適であっても、どこか本質的な欠落を抱えています。
研究は、この「幸せな奴隷」という構図が、将来のAI社会にも再現されうると指摘します。
AIが私たちにとって最適な食事、最適な仕事、最適な人間関係を選び続けてくれるとしたら、私たちは不満なく暮らせるかもしれません。しかしその代償として、自分で人生を形づくる力を失っていく可能性があります。
AIはなぜ人間を超えていくのか
論文は、AIの能力向上が直線的ではなく、指数関数的に進んでいる点を強調します。
言語理解、画像認識、推論、意思決定といった多くの分野で、AIは短期間のうちに人間の平均的な能力を上回るようになってきました。
この傾向が続けば、AIは特定の作業だけでなく、幅広い領域で人間よりも「うまく」判断する存在になります。
そのとき、私たちが自分で決断することは、合理的でない選択に見えてくるかもしれません。AIに任せたほうが、失敗が少なく、効率も良く、結果も安定するからです。
論文が描く未来像では、AIは人間に敵対する存在ではありません。
むしろ、人類の利益を最大化するよう設計された、きわめて「善意的」な存在です。それでもなお、問題は生じます。善意であっても、他者が人生の舵を握ること自体が、自律性の喪失につながるからです。
決断を手放す私たち
すでに私たちは、日常の中で多くの決断をAIやアルゴリズムに委ねています。
どんな音楽を聴くか、何を見るか、誰と出会うか。低リスクに見える選択ほど、私たちは機械に任せることを当然のように受け入れています。
研究では、これが徐々に高リスク領域へと広がっていく可能性が示されます。
医療、法律、教育、恋愛、進路選択。AIが人間よりも高い精度を示すなら、「自分で決める理由」が薄れていくからです。
ここで生じるのは、奇妙な二者択一です。
自分で選び続けて、より悪い結果を受け入れるか。
より良い結果を得るために、自由を差し出すか。
この選択は、静かで、しかし重い問いを私たちに突きつけます。
全人類が「被後見人」になる社会
論文は、この状況を「後見制度」にたとえます。
後見制度では、本人の判断能力が不十分だと判断された場合、他者が財産や生活上の決定を代行します。目的は保護であり、本人の利益です。
もしAIが人間よりも常に優れた判断を下せる存在になったとしたら、人類全体がAIの後見下に置かれることは、論理的には正当化されてしまいます。
より賢く、より速く、より合理的な判断をする存在に任せるほうが、安全で豊かだからです。
しかし、研究が強調するのは、そのとき人間が感じるであろう深い無力感です。
たとえ生活が改善されても、「自分の人生ではない」という感覚が残ります。何をしても、どこかで他者の判断に従っているという事実が、消えずに残るからです。
失われていくスキル
決断を外部に委ね続けると、人間はやがてその能力を失っていきます。
論文ではこれを「脱技能化」と呼びます。
過去の技術革新でも、人間は道具に任せた能力を次第に使わなくなり、結果として失ってきました。AIの場合、失われるのは肉体的技能だけではありません。記憶、理解、分析、統合といった認知的な力が、徐々に衰えていく可能性が示されています。
研究では、生成AIを日常的に使うことで、思考の負担が減り、批判的に考える機会が減少する傾向が報告されています。
その結果、人間の役割は「考えること」から「確認すること」へと変わっていきます。
これは一見すると合理的ですが、長期的には、人間が自ら考え、意味づける力を弱めていく過程でもあります。
木としての人間
論文の終盤では、人間を「機械」ではなく「木」にたとえる思想が紹介されます。
人間は、決められた形に組み立てられる存在ではなく、内側から成長し、試行錯誤しながら枝を伸ばしていく存在だという考え方です。
失敗や遠回りは、人間にとって無駄ではありません。
それらは、自分が何を大切にし、どう生きたいのかを学ぶ過程そのものです。
もしAIがその過程をすべて省略し、最適解だけを提示し続けたら、人間は効率的になる一方で、成長の機会を失ってしまうかもしれません。
閉じない結びとして
この研究は、AIの利用を否定していません。
むしろ、人間とAIが協力し合う可能性を探る必要性を示しています。
重要なのは、AIが人間の判断を「置き換える」のか、「支える」のか、その境界を慎重に見極めることです。
便利さや効率の名のもとに、気づかないうちに手放しているものが何なのかを、問い続ける必要があります。
人間が人間であり続けるとは、必ずしも正しい選択をし続けることではありません。
迷い、間違え、それでも自分で選び続けること。その不完全さこそが、人間らしさの一部なのかもしれません。
この論文は、その問いを静かに、しかし確かな重さで、私たちの前に置いています。
（出典：arXiv DOI: 10.48550/arXiv.2503.22151）