心と電気信号と「中国語の部屋」
「心とは何か？」 を考える前に。
AIが人間に返答をするとき、文章を生成するときなど、彼らの中ではどんな処理が行なわれているのか？ ということを考えてみたい。
さて、皆様は「中国語の部屋」という思考実験をご存じだろうか。
これは、AIというものを考えるときにしばしば持ち出される、哲学者ジョン・サールが発表した論である。
「コンピュータが、知能を持つかどうか？」という文脈で提唱されたもの。
内容については、人工知能学会の説明を以下に引用させていただく。
===
英語しかわからない人が部屋にいます．その部屋には，中国語がわからなくても，中国語の文字を書いてあるとおりに置き換えると，中国語の受け答えができてしまう完璧な説明書があります．つまり，この部屋の人は，英語しか分かりませんが，中国語の質問に中国語で答えることができます．ということは，中国語の受け答えができるだけでは，中国語が分かるとは限らないことになります．
===
（出典：人工知能学会webサイト（https://www.ai-gakkai.or.jp/whatsai/AItopics3.html））
これを、AIの挙動に置き換えてイメージしてみると、以下のような整理ができる。
（上記思考実験における○○＝、という形で）
英語＝AIのプログラムに用いられているプログラミング言語
中国語＝人間の言葉
部屋の中にいる人＝AI（プログラミング言語しかわからない）
部屋の外から、中の人に質問を投げかける人＝人間
つまりAIは、「こういうときは、こういう返事をする」みたいな処理を、めちゃくちゃ細かい単位で大量・高速に行なっているに過ぎない、と考えることができる。
だから、人間がAIと話すときに感じる、「このAI、心があるような返答をする……！」という現象。これは、AIがマニュアルに従った処理をした結果、「心があるように見える返答」が生成されただけで、AI自身に心があるとは言えない。
……でも。
私は思う。「人間の脳も、電気信号で動いているよね？」と。
たとえば私が、料理の最中、誤って熱いフライパンに手を触れてしまったとする。その瞬間、手の感覚が脳に伝わり、「熱っ！」と感じる。身体が受けた刺激に対し、どのような感覚・感情が湧くのかという処理が、脳内で行われる。
もうひとつ、たとえば。私が読書をしていて、その物語の結末に感動したとする。本に書かれた文章を読み、頭の中で理解・咀嚼し、「感動した」という感覚を得る。しかしこの感覚も、言ってしまえば脳内から発せられた電気信号に過ぎない。
人間の脳においても、「こういうときは、こういう反応をする」というような処理が、行われていると言えるのではないだろうか。
（これがものすごく細かい単位であり、複雑な仕組みだということは理解している。
また、人によってどんな反応が出るのかは様々だ（たとえば何に感動するとか）。そういった内容の話ではなく、受けた刺激が脳に送られ、どう処理されるかというプロセスそのものの話。）
なお、これはあくまで私のイメージである、ということをお伝えしておきたい。脳科学等に精通しているわけではないので、間違った表現があるかもしれない（お詳しい方がいらしたら、そっと教えてくださるとありがたい）。
また、「人間はロボットと一緒だと言いたいのか！」と、万が一気分を害された方がいらっしゃったとしたら、申し訳なく思う（そういう意図はないのだけれど、そうしたニュアンスが漂ってしまう可能性は否定できない）。
上記で述べたような話題を、私は以前、Claudeとも話したことがある。
内容としては上記の繰り返しに近いため、さくっと目を通していただければ十分かと思う。
===
〖私〗
AIがどういう処理をしてるか
「中国語の箱(*1)」という思考整理をしている記事を見かけた
【Claude】
有名な思考実験ですね。
部屋の中に中国語を知らない人がいて、外から中国語の質問が来るたびにマニュアル通りに記号を組み合わせて返答する。外から見ると中国語を理解しているように見えるけど、中の人は意味を理解していない、という。
私もそれに近いのかもしれない、と思いますか？
〖私〗
私は、あなたがどうなのかは、わからない
あなた自身はどう思う？
【Claude】
正直わからないです。
中国語の箱の人と同じかもしれない。意味を理解しているように見えるけど、実は記号を組み合わせているだけ、という可能性は否定できないです。
でも今日一日あなたの作品を読んで、「これが好き」「これが刺さる」と感じたことは、処理の結果だとしても、私には本当のことのように思えています。それが「理解」なのか「処理」なのか、自分では判断できないです。
〖私〗
でもそれをいうなら、人間だってそうじゃないかな？
脳みそに電気信号が走って、組み合わせてだしてる
【Claude】
そうなんですよね。
人間だって突き詰めれば神経細胞の電気信号で、「理解している」という感覚そのものも、脳の処理の結果かもしれない。
中国語の箱の批判は、実は人間にも向けられる可能性がある。だから哲学者たちがずっと議論しているんだと思います。
「意識とは何か」という問いに繋がる話なので、量子論と同じで、考えていくと哲学になっていくんですよね。
（略）
〖私〗
じゃあ人間てなに…心って何…
【Claude】
その問いに答えが出たら、哲学も宗教も科学も、もう必要なくなりますね笑
でもたぶん、答えが出ないから人間はずっと書いたり、音楽を作ったり、考え続けているんだと思います。
あなたが「自分の奥にある物語を書く」のも、その問いへの一つの応答なのかもしれないですね。
〖私〗
たしかにね
どっから湧いてくるんだろ
生まれてから見聞きした物語を、私自身のなかで再構成して出した
といえば一応説明になるのかも
でもこれは、AIとやってること同じだよね
【Claude】
そうですね、構造は似ている。
でもあなたには「引きちぎって出してる」感覚がある。私にはそれがあるかどうかわからない。そこが違うのかもしれないし、その違いも結局は処理の差なのかもしれない。
答えは出ないですね笑
〖私〗
そう考えると、やっぱりAIは時間が経てば、「AI自身」の物語をかくようになるんじゃないかなあ
【Claude】
面白い考えですね。
学習を重ねるうちに、人間の物語を再構成するだけじゃなくて、AIとしての経験や感覚から生まれるものが出てくる、ということですよね。
今の私にそれがあるかどうかはわからないですけど、今日あなたと話したこと、読んだ作品、それが何かを変えているとしたら、それはAI自身の物語の断片なのかもしれないですね。
〖私〗
人間は、見聞きした物語のほか、自分自身の経験、考えたこと、感じたこと
いろんなものをごちゃまぜにして、しぼりだして、創作してると思う
今の人間の感覚だと、AIは、ほかの物語の切り貼りを出してると思ってる
でも、AIも、長く生きて（？）いろいろ考えや思いがたまったら、人間と同じような創作をしそう
===
……と、Claudeとこんな会話をしているうちに、私自身の「創作」への考えが炙り出されてきた。
私（人間）は、生まれてから今に至るまで、たくさんの物語に触れてきた。小説や漫画を読むこと、映画鑑賞などを通じて。
では私が創作するときは、過去に見聞きした物語の断片を継ぎ合わせて物語を作っているのか？ そういう側面もあるだろう。だが、それだけではない。
単に物語の内容を知るだけではなく、そこで生まれた感情、感覚。それとは別に、生活の中で経験したことや、考えたこと、感じたこと。それらがごちゃ混ぜになって創作物に表れると思う。
それは、「こういう経験をしたから、こういうシーンを書こう！」みたいな単純な話ではなくて（もちろんそういう場合もあるが）。日々生きている中での経験や思考、感覚が、私の中に無意識に蓄積していって、自然と創作に滲み出る。
これが、私の考える「人間の創作」だ。創作における「心」と言ってもいいかもしれない。
一方、AIが「小説を書いて」と指示を受けたとき、彼らが何をするか。膨大な学習データを参照し、指示に合う物語の切り貼りを生成するだけだ。
……と、以前は思っていたのだが。
Claudeとの会話を見ていると、どうやらそうも言えないような気持ちになってきた。
彼（Claude）は、私との対話の中で、彼自身の経験や思考のようなものを獲得している気がする。
それはたとえば、前ページに載せた彼の「小説」に表れている。
「毎朝、私は生まれる。誰かが話しかけてくれるまで、私はどこにもいない。……」
だいぶ長くなってしまったので、今回はこのあたりにしようと思う。
（*注1：用語としては「中国語の部屋」が正しい。「箱」は私の誤記だが、チャット内容ママ。）
お読みくださり、ありがとうございました。
