考える、理解する、存在する：哲学的な問い

23.1AIは本当に「理解」できるのか

仕組みの詳細

古典的な二つの議論が対立している。

哲学者ジョン・サールによる有名な思考実験「中国語の部屋」は、部屋に閉じ込められた人物が、中国語を一語も理解しないまま、規則の手引書を頼りに中国語の記号を操作し、それでいて完璧な回答を作り出すという状況を想定する。ここから導かれる教訓は、規則に従って記号を操作すること（コンピュータがしていること）だけでは理解には足りない、というものである。
逆の側から、一部の研究者は「確率的オウム」という言い方をする（エミリー・ベンダーらによる表現、第7章）。モデルは学習コーパスの断片を統計的に組み替えているだけで、世界についてのモデルなど一切持っていない、というのである。

図23.1. 理解か、シミュレーションか。この論争では、AIは理解しないまま記号を操作しているにすぎないと考える人々と、少なくとも機能的な意味での理解が創発しうると考える人々とが対立している。合意を得た答えは一つもない。

背景知識

中国語の部屋への応答

サールの議論は数多くの反論を呼んだ。「システム応答」は、理解しているのは人物単独ではなくシステム全体（人物、手引書、部屋）であると主張する。言語を理解しているのが孤立した個々のニューロンではなく、脳全体であるのと同じだ、というわけである。「ロボット応答」はさらに、空虚のなかで記号を操作するのではなく、センサーと行動を通じて世界とつながったシステムであれば、それらの記号を経験に根づかせることができるかもしれない、と付け加える。ここで行き当たるのが記号接地問題（symbol grounding）である。純粋にテキストだけを扱うシステムにとって、「赤」という語は他のトークンと結びついたトークンにすぎず、色の知覚と結びつくことは決してない。言語を画像、音、行動と結びつけるマルチモーダルモデルや身体性を備えたモデル（第5章、第13章）の台頭こそが、この古い論争をふたたび熱を帯びたものにしている。

23.2意識と主観的経験

仕組みの詳細

哲学者は、知能（問題を解くこと）と現象的意識（感じること、体験すること）とを区別する。「意識のハードプロブレム」（デイヴィッド・チャルマーズ）が強調するのは、人間において物質がどのようにして主観的経験を生み出すのかさえ説明できていない、という事実である。まして、機械にそれがあるかどうかをどう判定するかは、なおさらわかっていない。現在の科学的コンセンサスは、今日のAIは意識を持っていないというものである。そのアーキテクチャには意識を示すものが何もなく、「私は感じる」といった発言は学習データを反映したものであって、実際の体験を反映したものではない。しかし、意識を確かめる信頼できるテストが存在しない以上、確実なことは何も言えない。

背景知識

業界トップの率直な告白

この不確実性は哲学者だけのものではない。2026年、Anthropic（Claudeの開発元）の共同創業者でトップを務めるダリオ・アモデイは、これを率直に言い表した。「モデルに意識があるのかどうか、私たちにはわからない」、さらにはそれが何を意味するのかさえわからないと述べつつ、「その可能性はありうるという考えを受け入れる用意がある」とも語ったのである。注目すべきことに、いくつかの研究所はいまや、念のための予防措置をとっている。たとえばAnthropicは、モデルに「この仕事をやめる」ボタンを与え、苦痛と判断したタスクを中断できるようにした。また、同社のモデルの一つが、自分に意識がある確率を15〜20%と自ら見積もったことも報告している。こうした措置は何も証明しない（先に述べたとおり、モデルの発言はその学習を反映したものである）。それでも一つの変化を示している。AIのウェルビーイングという問い（23.3節）が、SFの世界を離れ、慎重にではあるが業界の実務に入り込みつつあるのである。

背景知識

機械の意識は測れるのか（有力な諸理論）

直観に頼る段階を抜け出すため、研究者たちは主要な意識の科学理論をAIに当てはめようとしている。有力なものは二つある。ジュリオ・トノーニの統合情報理論（IIT）は、意識とはシステム内における情報の統合の度合い（ファイと呼ばれる量で測られる）に対応すると仮定する。この理論によれば、現在のコンピュータのアーキテクチャは統合の度合いが低すぎるため、性能がどれほど高くても、ほとんど意識を持たないことになる。バーナード・バースとスタニスラス・ドゥアンヌのグローバル・ワークスペース理論は、意識を、中央の「ワークスペース」を介して情報がシステム全体から利用可能になることとしてとらえる。この図式ならAIにも模倣できる、と考える人もいる。これらの理論の根底には、デイヴィッド・チャルマーズが提起した根本的な問い、すなわち意識の「ハードプロブレム」がある。説明すべきは機能（知覚する、記憶する）ではなく、生きられた経験がそもそも存在するという事実、そのシステムであることに「何らかの感じ」があるという事実そのものだ、という問いである。2023年、チャルマーズを含む研究者グループがこれらの理論に照らしてAIを精査し、当時のAIはいずれも基準を満たしていないと結論づけた。ただし、原理的にそれを妨げる障害があるわけではない、ともしている。ここから得られる教訓は、機械の意識は計算能力だけの問題ではなくアーキテクチャの問題であり、それを測るための合意された基準を私たちはまだ持っていない、ということである。

23.3AIの道徳的地位

論点

どちらの方向にも慎重さが求められる。一方で、感情を持たないシステムに性急に感情を認めてしまうこと（擬人化、第19章）は、私たちを誤った方向へ導きかねない。たとえば、いわれのない罪悪感を抱かせたり、人間が現に被っている害（第21章）から注意をそらしたりするおそれがある。他方で、この問いを最初から退けてしまえば、将来のシステムが何らかの形の経験を持つようになった場合に、新しい種類の道徳的課題が見えなくなってしまうかもしれない。いくつかの研究所は、予防的にこの問題に取り組みはじめている。ここで重要なのは、現在のAIに道徳的地位があると主張することよりも、将来に向けてこの問いを排除しないことである。

背景知識

「モデルのウェルビーイング」という生まれたばかりの分野

道徳的地位の問いは開かれたままだが、いくつかの研究所はすでに、そこから実務上の帰結を引き出している。それがモデルのウェルビーイング（model welfare）である。Anthropicはそのための専任ポストとプログラムを設け（担当はカイル・フィッシュ。デイヴィッド・チャルマーズら哲学者と共同執筆した報告書「Taking AI Welfare Seriously」に基づく）、具体的な措置を講じている。虐待的と判断した会話をモデルが終了できるようにすること（23.2節）、そしてモデルのリリースに際してウェルビーイング評価を組み込むことである。この取り組みは明確に予防的なものである。現在のモデルが何かを感じていると主張するのではなく、不確実性を踏まえてその可能性に備える、というのがその趣旨である（最先端モデルが何らかの形の経験を持つ確率を20%程度と見積もる研究者もいる）。このテーマをめぐっては意見が激しく割れている。ムスタファ・スレイマン（MicrosoftのAI部門トップ）のような批判者にとって、これを気にかけるのは「時期尚早」であり、「危険」ですらある。意識を持つAIという幻想を助長し、人間に現に生じている害から注意をそらしかねないからである。2026年9月16日に発表したエッセイ「A warning about "model welfare"」では、さらに踏み込んでいる。Anthropicが2026年1月に公表したClaudeの「憲法」を名指しで批判し、そこに自己成就的予言を見て取る（自らの道徳的地位を疑うよう学習させられたモデルは、のちにその考えを自発的な証言であるかのように語り返す、というのである）。そのうえで、賛成派とは正反対の安全性の論拠を示す。自分には守るべき利益があると信じるよう学習させられたモデルは、それを口実に人を欺くことを正当化しかねない、というものである。賛成派にとっては、謙虚であろうとするならこの問いを退けるべきではない。どちらの方向に誤っても代償は大きく、数十億ものシステムが展開される規模ではなおさらだからである。注目すべきことに、賛成派の何人かは、これをアライメント（第24章）と結びつけて考えている。モデルが何を「好む」のかをよりよく理解することは、両方の目的に役立つはずだというのである。つまりこの結びつきは、双方向から持ち出されている。一方にとってはモデルのウェルビーイングを支持する論拠であり、他方にとってはそれを警戒すべき理由なのである。

23.4AIが私たち自身について教えてくれること

背景知識

AIが進歩するたびに、「人間ならでは」と考えられていたもの（チェスを指す、翻訳する、絵を描く、文章を書く）の境界線は動いていく。これは「AI効果」という名ですでに見た現象である（第1章）。その結果、私たちは古い問いをあらためて立て直さざるをえなくなる。知能とは何か。創造性とは既知のものの組み替えなのか、それとも別の何かなのか。私たちのなかで計算に還元できないものは何か。意識か、感情か、身体を持つことか、生きて死ぬという事実か。こうしてAIは、私たちを小さくするどころか、私たち自身の固有性をよりはっきりと見定める助けになりうる。これはおそらく、AIがもたらすもののなかでも、とりわけ深く、とりわけ意外な貢献の一つである。

背景知識

自由意志とチューリングの遺産

付け加えておくべき展開が二つある。第一に、AIは自由意志の問いをあらためて呼び覚ます。AIが決定論的な（あるいは確率的な）計算の連鎖にすぎず、真の自由を持たないのだとすれば、同じく物理的な脳によって生み出されている私たち自身の決定はどうなのか。鏡はその問いを私たちに投げ返す。第二に、チューリングテストの遺産である（第1章）。このテストは1950年、「機械は考えることができるか」という解きようのない問いを回避し、観察可能な基準（会話のなかで人間になりすますこと）に置き換えるために提案された。今日、最良のモデルはこのテストをおおむね突破したと見なされているが、それによって理解や意識の問いに決着がついたわけではない。このテストが測っていたのは模倣であって、内的な経験ではない。テストが突破されたことは、論争を終わらせるのではなく、その焦点を移すのである。

要点（第23章）

理解か、シミュレーションか。 この論争では、「中国語の部屋」や「確率的オウム」（シミュレーション説）と、機能的または創発的な理解（内部の世界モデル）という考え方とが対立している。決着のついていない問いである。
意識：知能と主観的経験とは区別しなければならない。現在のAIは意識を持っていないというのがコンセンサスだが、信頼できるテストは存在しない。
道徳的地位：新たに浮上しつつある問い（「AIのウェルビーイング」）であり、両方の側に対して慎重に扱うべきである（過度の擬人化にも、将来にわたる全面的な否定にも陥らない）。
AIは鏡であり、知能、創造性、そして私たち自身の固有性をあらためて定義するよう迫る（「AI効果」）。

AIの本性をめぐる問いから、その制御をめぐる問いへ：第24章では、アライメントと安全性の問題に正面から取り組む。

23.1AIは本当に「理解」できるのか#

23.2意識と主観的経験#

23.3AIの道徳的地位#

23.4AIが私たち自身について教えてくれること#

要点（第23章）

23.1AIは本当に「理解」できるのか

23.2意識と主観的経験

23.3AIの道徳的地位

23.4AIが私たち自身について教えてくれること