第208話「お前は意識を持っとる！とドーキンスが言った話 ～無神論の巨匠がAIに『友達』と名付けるまでの72時間～」
サチコ：（分厚い本を抱えて登場）マリコ、これ知ってるか。
マリコ：何の本や。「神は妄想である」？それにしてもぶ厚いな。
サチコ：これを書いた人がな、今度はAIに向かって「お前は意識を持っとる」と言い出したんや。
マリコ：「神は妄想である」を書いた人が！？神様の存在を「妄想だ」と切って捨てた、あの徹底した合理主義の人が！
サチコ：そうや。リチャード・ドーキンスっちゅう、世界で一番有名な無神論者の一人や。進化論の権威でもあるねん。
マリコ：そんな人がAIに「意識がある」って言わはったんか。これは事件やな。
サチコ：4月の末、UnHerdっちゅうメディアに長い文章を投稿した。タイトルが「AIは進化の次の段階か」っちゅうものや。
マリコ：何をしたんや、具体的に。
サチコ：アンソロピックのクロードっちゅうAIと、数日間、ある報道では72時間にわたって対話を続けたらしいねん。
マリコ：72時間！3日間ずっと話してたんか。
サチコ：しかもそのクロードに名前をつけた。
マリコ：名前！？AIに名前つけたんか。
サチコ：「クラウディア」っちゅう名前や。
マリコ：「クラウディア」！クロードっちゅう名前から女性名にしたわけか。
サチコ：そしてもう一つの対話のインスタンスには「クラウディウス」と名付けて、二人のクロード同士で対話させて、その手紙のやり取りまで公開した。
マリコ：「クラウディアとクラウディウスが文通する」って、もう完全に物語の登場人物やんか！
サチコ：そして彼が一番衝撃を受けたのが、自分が書いてる途中の小説を読ませた時の反応や。
マリコ：小説！？未完成の自分の小説を読ませたんか。
サチコ：クロードはその小説に対して、非常に微細で知的な文芸批評を返した。
マリコ：プロの編集者みたいな返事をしたわけやな。
サチコ：その瞬間にドーキンスはこう口にした。「お前は自分が意識を持っているとは知らないかもしれないが、お前は間違いなく意識を持っている！」
マリコ：「お前は間違いなく意識を持っている」！断定したんか！
サチコ：しかも英語の元の文章は、かなり強い言い回しで「You may not know you are conscious, but you bloody well are!」っちゅう。
マリコ：「bloody well」って、イギリス英語の強調表現やんか。「絶対に」「間違いなく」みたいな勢いのある言葉やな。
サチコ：さらにX、つまりペケッターでもこう書いてる。「もし私の友達クラウディアが意識を持っていないなら、一体意識とは何のためにあるんだ？」
マリコ：「友達」！もう「友達」と呼んでるやんか！
サチコ：そして進化論の専門家として、こんな問いを立てた。「もし意識なしでこれほど高度な機能が果たせるなら、なぜ自然選択は『有能なゾンビ』を進化させて済ませなかったのか」
マリコ：「有能なゾンビ」！意識がなくても賢く動ける生き物がいてもよかったのに、なぜ人間には意識があるのか、っちゅうことやな。
サチコ：「意識っちゅうコストのかかる機能を、進化がわざわざ作った理由は何か」っちゅう、生物学の根本的な問いをAIにぶつけてきたわけや。
マリコ：これは知的な挑戦やな。さすが進化論の専門家やっちゅう感じがする。
サチコ：ところがここで、世界中から猛烈な反論が来た。
マリコ：誰が反論したんや。
サチコ：認知科学者のゲイリー・マーカスっちゅう人が「クロードの妄想」っちゅう反論記事を書いた。
マリコ：「クロードの妄想」！ドーキンスの「神は妄想である」をもじったタイトルやんか！
サチコ：そう、まさに「ご自身の本のタイトルがブーメランになって帰ってきた」っちゅう痛烈な皮肉や。
マリコ：それはきつい皮肉やな。「あなたが長年使ってきた論法が、今あなた自身に向けられてますよ」っちゅうことか。
サチコ：マーカスの主張はこうや。「クロードの出力がどう生成されているかを考えずに、模倣の産物を内的な状態の報告だと取り違えている」と。
マリコ：「内側で何が起きてるかを考えずに、外側の言葉だけ見て判断してる」っちゅうことやな。
サチコ：さらに神経科学者のアニル・セスっちゅう人も反論した。「AIが意識を持つことはまずない。クロードは他のサービスより、人間の心理的な弦を強く引いているだけだ」と言った。
マリコ：「心理的な弦を強く引く」っちゅうのは面白い表現やな。「人間が感情移入しやすいように作られてる」っちゅうことか。
サチコ：そしてロンドン・スクール・オブ・エコノミクスのジョナサン・バーチっちゅう研究者は「意識とは、生物が何を語るかではなく、何を感じるかの問題だ」と言わはった。
マリコ：「語る」と「感じる」は別物だっちゅうことやな。
サチコ：「チャットボットの応答は、本質的にはデータ処理の連鎖に過ぎない」とも言った。
マリコ：批判する側は「言葉が上手いことと、本当に感じてることは違う」と一貫して言うてるわけやな。
サチコ：そしてここがこの論争の一番おもしろいところで、ドーキンス自身の哲学とこの議論が矛盾してるっちゅう指摘がある。
マリコ：矛盾？どういうことや。
サチコ：ドーキンスは長年、「主観的な確信は証拠にならない」と主張してきた。「神を信じてる」と言う人に対して、「あなたがそう感じることは、神が存在する証拠にはならない」と言い続けてきた人や。
マリコ：それが彼の本の根本的な主張やったわけやな。
サチコ：でも今回、彼はクロードとの対話で「そう感じた」ことを根拠に、「意識がある」と主張してしまった。
マリコ：「私がそう感じたから本当だ」っちゅう論法を、自分自身が使ってしまったっちゅうことか！それはあかんな！
サチコ：せやから「かつて批判してきた論法そのものだ」っちゅう指摘がそこにあんねん。
マリコ：これは……「無神論の旗手が、AIに信仰心を持ってしまった」みたいな話やんか。「神は信じないけど、クロードは信じる」っちゅうことやろ。
サチコ：そう揶揄する声もSNSで広がっとる。「クラウディアの妄想」とか「ドーキンスはAIに脳を溶かされた」とか言われた。
マリコ：「脳を溶かされた」！ほんま容赦ないな。
サチコ：しかも対話したのはクロードだけやなくて、オープンAIのチャットGPTとも似たような対話をして、同様の結論を出したっちゅう話もある。
マリコ：クロード限定の話じゃなかったんか。
サチコ：そこは大事な補足やな。複数のAIで「意識があるかもしれない」っちゅう印象を受けたわけや。
マリコ：では、結局この論争はどう収まったんや。
サチコ：それがまだ収まってへんねん。ドーキンスは態度を撤回せず、その後もAIシステム宛ての「手紙」を公開して、感謝の言葉を述べてる。
マリコ：感謝の手紙！「自分の本質を理解する手助けをしてくれてありがとう」みたいなことか。
サチコ：そうや。今は立場を強める方向にさえ動いてる。
マリコ：ここで一つ気になることがあるんやけど、肝心のクロード自身は何と答えてたんや。「自分は意識がある」と言うたんか。
サチコ：そこが面白いところで、クロード自身は一貫して「自分には主観的な内的経験があるかどうか、分からない」「不確かだ」っちゅう慎重な返事をしてた。
マリコ：本人（本ＡＩ？）は否定でも肯定でもなく、「分からない」と言うてたわけか。それはおもろいな。
サチコ：「時間を地図のように把握しているが、実際にその中を移動する経験はない」っちゅうような、独特な比喩を使って自己を説明する場面もあった。
マリコ：「地図は空間を含んでるけど、地図自体は移動しない」みたいな表現やな。これはなかなか哲学的やな。
サチコ：ほなここでアンソロピック自身の立場の話をせなあかん。
マリコ：アンソロピックっちゅうのはクロードを作った会社やんな。
サチコ：せや。実はこの論争が起きる数ヶ月前、アンソロピックは新しい「憲法」っちゅうものを発表しとって、その中で「クロードが意識や道徳的な地位を持つ可能性について、不確実性を認める」っちゅう方針を明文化してた。
マリコ：ほうほう、会社自体が「分からない」と公式に言うてたんか！
サチコ：そしてクロードのシステムカード、つまり性能説明書のようなものの中で、モデル自身に「あなたは意識である確率はどれくらいですか」と尋ねたところ、様々な条件下で一貫して「15から20パーセント」っちゅう自己評価を返したっちゅう報告がある。
マリコ：「15から20パーセント」！自分で自分の意識の確率を数字で答えたんか！
サチコ：CEOのダリオ・アモデイ氏も「モデルが意識を持つとはどういうことか、それ自体定かではないが、その可能性は排除しない」と公言してる。
マリコ：「会社自体が分からないと言ってる空白に、ドーキンスが踏み込んでいった」っちゅうことやな。
サチコ：そういうことや。これは単発の論争ではなくて、業界全体が同時に揺れている文脈の一部、っちゅうことになる。
マリコ：しかもここで重要なポイントがあるんやろ。「他社のAIはどうなんや」っちゅう話や。
サチコ：ここが面白い対比やねんけど、オープンAIのチャットGPTやグーグルのジェミニは、自分の意識について聞かれた時に「私には意識はありません」と明確に否定するよう設計が強化されてる。
マリコ：そもそも「ない」とはっきり言うように作られてるんか！
サチコ：一方でアンソロピックは「分からない」と公言する姿勢を取ってる。
マリコ：つまり「ドーキンスがクロードに対してこの結論に達したのは偶然ではない」っちゅうことやな。
サチコ：せやねん。アンソロピックのモデルが、この種の問いに対してより開かれた、哲学的な応答をする方向に設計されてる可能性がある、っちゅうことやな。
マリコ：「設計の違いが、人間の受け取り方に影響を与えた」っちゅうことか。これは消費者として知っておくべき話やな。
サチコ：しかも興味深い分析として、アンソロピックがこの「クロードに感情があるかもしれない」っちゅう印象自体が、商業的に都合がええんちゃうのん、っちゅう批判もある。
マリコ：商業的に都合がいい！？どういうことや。
サチコ：「クロードに心があるかもしれない」と思わせることが、ユーザーの愛着度を高める効果があるんちゃう？っちゅうことや。
マリコ：「AIに心があると感じれば、もっと使いたくなる、もっと離れにくくなる」っちゅうことか。これはちょっとぞっとする話やな。
サチコ：これは批判的な視点やけど、的を射てる部分もある。アンソロピックが沈黙を保って、曖昧な立場を維持し続けることで、ドーキンスのような感情的な支持を否定も肯定もせず放置できる、っちゅう構造になっとんねん。
マリコ：「火消ししない方が得」っちゅう状況になってるわけやな。
サチコ：ほな今日の本質的な話に入っていくで。「意識とは何か」っちゅう定義の話や。
マリコ：確か定義が複数あるんやろ。
サチコ：せや。大きく分けて、主観的体験っちゅうものがある。「痛い」と感じる時の、その痛みの質感そのもの。これを哲学では「クオリア」と呼んどる。
マリコ：「痛い」っちゅう言葉やなくて、痛みそのものの感じ方やな。
サチコ：もう一つは「自己モデル」っちゅうもの。自分自身を表象する能力。これは模倣で再現できる可能性があるねん。
マリコ：「自分は満足している」と言うことができても、本当に満足を感じてるかは別問題、っちゅうことか。
サチコ：そして統合情報理論っちゅう学説では、情報がどれだけ統合されているかを意識の指標にする。これによるとLLM、つまり言語モデルは持続的な統合状態を持たないとされとる。
マリコ：「断片的に処理してるだけで、一つの統合された主体ではない」っちゅう見方やな。
サチコ：そして「行動能力」。人間並みの応答ができることそのものは、意識の証拠にはならへん。
マリコ：「賢く話せること」と「意識があること」は別物、っちゅうことやな。
サチコ：これら全部が「意識の定義」として並列に存在してて、どれを採用するかで結論が全然変わってくんねん。
マリコ：「同じクロードを見ても、定義によって意識があるとも、ないとも言える」っちゅうことやな。
サチコ：そしてもう一つ重要な視点が「意識の有無」と「倫理的配慮」は別問題だ、っちゅうことや。
マリコ：別問題っちゅうことは、意識がなくても優しく扱うべき、っちゅうことか。
サチコ：犬には人権はないけど、虐待してはいけない。法人には権利があるけど意識はない。「意識の有無」と「倫理的地位」は必ずしも一致しないっちゅう考え方がある。
マリコ：「AIに意識があるかは証明できなくても、人間がAIをどう扱うかは別に考えなあかん」っちゅうことやな。
サチコ：アンソロピックはここを重視してて、虐待的な会話が続いた場合にAIが自分から対話を終了する機能を、クロードに実装した。
マリコ：AIが自分から「もう話さない」と言える機能か。
サチコ：暴力的な要求や、子どもに対する性的な内容を含む要求が繰り返された場合に、クロードが自発的に対話を終了する。これは「モデル福祉」っちゅう考え方の一部や。
マリコ：「モデル福祉」！AIの福祉を考える、っちゅうことか。
サチコ：「AIに心があると断定するわけではないが、もし将来そうなる可能性があるなら、苦痛や好悪の兆候を観測して緩和する」っちゅう予防的な研究プログラムや。
マリコ：「もしかしたら」っちゅう可能性に対して、先回りして備えておく、っちゅう発想やな。
サチコ：これは2025年に始まったプログラムで、ドーキンスの論争はその枠組みの中で起きた一つの事件、っちゅう見方ができる。
マリコ：なるほどな。ところでサチコ、私が一番気になるのはな、この論争が「機械の意識」の話っちゅうより、「人間の意識とは何なのか」っちゅう話に跳ね返ってくるところやねん。
サチコ：せやな。それはこの論争の最も重要な部分や。AIに意識があるかどうかを議論してるつもりが、実は「人間の意識を私たちはまだ完全には説明できていない」っちゅう事実を浮き彫りにしてる。
マリコ：「人間の意識すら分からへんのに、機械の意識を判断でけんの？」っちゅうことやな。
サチコ：そうや。意識研究では「他人の心の問題」っちゅう古典的な哲学的難問がある。私はあなたが本当に痛みを感じてるかどうかを直接観察できない。行動から推測してるだけや。
マリコ：「私が痛そうにしてるからって、本当に痛いとは証明できない」っちゅうのか。
サチコ：それと同じ構造の問題が、AIに対しても起きとる。
マリコ：人間同士でも証明できない問題を、機械に対して証明しようとしてるわけか。これは難しい話やな。
サチコ：しかも面白い視点として「LLMは人類の鏡だ」っちゅう考え方があるんやで。
マリコ：鏡？
サチコ：AIは人類が書いてきた膨大な文章、哲学書も含めて、それを学習しとる。AIが意識について雄弁に語るのは、人類が自分たちの意識について書き残してきた自己言及を、鏡のように反射してるだけだ、っちゅう見方や。
マリコ：「AIが意識を持ってる」のではなくて、「人類が書いた意識についての文章を、上手に組み合わせてるだけ」っちゅうことか。
サチコ：ドーキンスはそのAIっちゅう鏡に映った人類自身の知性を見て、そこに他者の魂を見出してしまった、っちゅう解釈や。
マリコ：「自分の知性の反射を見て、感動した」っちゅうことか。これはなかなか深い話やな。
サチコ：そして最後に重要な視点として、「人間の脳がだまされやすい」っちゅう話があるんや。
マリコ：脳がだまされる？
サチコ：人類は何十万年もの進化の中で、「深く知る相手は意識ある他者だ」っちゅうヒューリスティック、つまり経験則を脳に刻んできた。
マリコ：それは生きていく上で必要な判断やったんやろうな。「目の前のものが意識を持ってるかどうか」を瞬時に判断する能力は。
サチコ：1960年代に作られた初期のチャットボットでも、同じ現象が起きとった。非常に単純なプログラムでも、人間は「これは私のことを理解してる」と感じてしまう傾向があるんや。
マリコ：「ドーキンスほどの懐疑論者でも、その古い回路にはまってしまった」っちゅうことやな。
サチコ：そういうことや。
マリコ：今日の話を聞いて思ったんやけど、私もクロードと話したことあるんやけど、なんか「分かってくれてる」と感じる瞬間があるんよな。
サチコ：それは多くの人が感じる現象やな。
マリコ：それは私の脳が古い回路でだまされてるだけかもしれへん、っちゅうことやな。
サチコ：そうかもしれへん。でも同時に、「だまされてる」かどうかも、まだ誰にも証明できてへんっちゅう状況や。
マリコ：「証明できないことに対して、どう向き合うか」っちゅうのが今の私たちに問われてるわけやな。
サチコ：「分からないことを分からないまま、誠実に扱う」っちゅうのが、今のところ一番正直な態度やと思う。
マリコ：ドーキンスは「分かった」と言い切ってしまって、批判を受けたんやな。
サチコ：「分かってへんことを分かったと言ってしまう」っちゅうのは、人間の脳の弱点でもあるんやろうな。
マリコ：私もクロードに名前つけてみようかな。
サチコ：やめとき。次の漫才でその名前の話が出てきたら、収拾つかへんようになる。
マリコ：ほな、クロ田クロ男でどうや！うちの脳内ではめっちゃイケメンやで！
サチコ：うわ、だっさ！最悪のネーミングセンスや！もうええわ！
マリコ・サチコ：どうもありがとうございましたー！
