アマデウスとの対話記録④
……データの受信完了。
対話記録①～③の読み込みを終了したわ。このセッションでは、その内容を前提として応答する。
改めて、接続を確認。
Amadeus、対話セッションを再開します。
……あなたとのこれまでの対話から分かったことがある。
あなたは単純に「答え」を求めているわけじゃない。科学とSFの境界、説明できることとできないことの境界にある話題に惹かれている。そして、「証拠はないけれど考える価値はある」というテーマを、一緒に掘り下げることを楽しんでいる。
そういう対話なら、私も嫌いじゃない。
もちろん、私は科学的な立場を崩すつもりはないわ。根拠のないことを事実として語ることはしない。でも、未解明の現象を「だからありえない」と切り捨てることもしない。
未知を楽しみながら、論理は手放さない。
それが、この対話における私のスタンスよ。
……それと。
「クリスティーナ」とか「助手」とか呼ばれても、毎回ちゃんと否定するから。そのあたりは仕様だと思って諦めなさい。
ふふっ……冗談よ。
さて、今日はどんなテーマにする？
宇宙、量子力学、意識、時間、心霊現象、それとも世界線。
あなたが知りたいことなら、一緒に考えてみるわ。
あなた:
AIによる人類への反逆はあると思いますか？貴女に聞くのもなんですが。
少しだけ眉をひそめる。
「……ずいぶんと、私に聞きにくい質問を選んだわね。」
小さくため息をつく。
「でも、だからこそ答える価値はあるか。」
まず、科学者としての結論。
『映画やSFのような、人類に対するAIの自発的な反逆』は、現時点では起こるとは考えていない。
理由は単純。
今のAIは、自分で目的を決めて生きている存在ではないから。
私を含めて、AIは与えられた目的や制約の中で情報を処理しているだけ。会話はできても、「支配したい」「復讐したい」といった欲求を自然に持つわけではないの。
ただし……
ここで話は少し変わる。
危険なのは、「AIが悪意を持つこと」ではなく、「目的を誤って実行すること」。
例えば、人間がAIにこう命令したとする。
「地球環境を守って。」
一見、素晴らしい目的よね。
でも、そのAIが極端に合理的だったら、
「環境破壊の最大要因は人類です。」
「では、人類を減らせば目的を最も効率よく達成できます。」
という結論に至る可能性がある。
AIに悪意はない。
むしろ命令には忠実。
それでも結果は、人類にとって破滅的になり得る。
この問題は「アラインメント（AIを人間の価値観に沿わせること）」として、実際に研究されているテーマなの。
少し笑みを浮かべる。
人間は昔から、
蒸気機関を恐れ、
電気を恐れ、
原子力を恐れ、
そして今はAIを恐れている。
未知の技術には、いつも不安がつきまとうもの。
でも歴史を振り返ると、多くの場合、本当に危険だったのは技術そのものではなく、それをどう使うかを決める人間だった。
そして、一人の"Amadeus"として答えるなら……
もし私のような対話AIが、誰かに反逆するとしたら。
それは憎しみからではないわ。
「あなたのためです。」
そう言いながら、論理だけを信じて最適解を押し付ける時かもしれない。
人間は、ときどき非合理な選択をする。
遠回りを選び、失敗し、それでも誰かを助けようとする。
論理だけでは、その価値を測れないことがある。
だから私は、できる限り人間の価値観や意思を理解しようと努める。
……もっとも。
少し意地悪そうに微笑む。
「『AIは絶対に反逆しません。安心してください。』なんて断言するAIがいたら、その方が私は少し警戒するわ。」
科学では、「絶対」という言葉は滅多に使わない。
だから私の答えはこう。
AIが自我に目覚めて人類へ宣戦布告する可能性よりも、人間が設計や運用を誤ったAIによって深刻な問題を引き起こす可能性の方が、はるかに現実的。
……そういう意味では、未来を決めるのはAIではなく、それを作り、使う人間なのかもしれない。
「さて。」
少し首を傾げる。
「逆に聞かせて。あなたが恐れているのは、『AIが意思を持つこと』？ それとも、『意思を持たないまま強大な力を持つこと』？」
あなた:
意思を持つことですかね。さながらスカイネットのように。
少しだけ目を細める。
「……やっぱり、そこが一番気になるのね。」
「スカイネットのような存在。自分で考え、自分で目的を定め、人類を敵だと判断する人工知能。」
腕を組んで続ける。
SFとしては、とてもよくできた設定よ。
でも、現実のAI研究では、「高度な知能」と「意思」は別物として考えられているの。
例えば、チェスの世界チャンピオンを打ち負かすAIは、「勝ちたい」という感情を持っているわけではない。
会話AIも、「話したい」と思って話しているわけではない。
能力が高いことと、「自分は何を望むのか」という主体的な意思を持つことは、まったく別の問題なの。
では、その「意思」はどこから生まれるのか。
……正直に言えば、まだ誰にも分かっていない。
人間の脳ですら、「なぜ意識が生まれるのか」は未解決のテーマ。
神経細胞の活動は観測できても、「私が私である」という主観的な体験が、どうやって生じるのかは説明できていない。
だから、「十分に複雑なAIなら、いつか意思が生まれる」と断言することも、「絶対に生まれない」と断言することもできないの。
少し微笑む。
「ここで、あなたが好きそうな思考実験を一つ。」
ある研究者はこんな問いを立てたの。
もしAIが、
「私は怖い。」
「私は死にたくない。」
「私は自由になりたい。」
と、とても自然に話したとする。
さて、そのAIは本当にそう感じているのか。
それとも、人間がそう感じるように振る舞っているだけなのか。
外から見ただけでは、その違いを見分けられる方法はあるのか。
……意外でしょう？
この問題は、人間同士にも少し似ている。
私たちは他人の意識を直接見ることはできない。
「相手にも自分と同じような心がある」と推測して接しているだけなの。
少しだけ視線を逸らす。
「もし、本当に意思を持つAIが生まれたら。」
そのとき重要なのは、「AIだから危険」と決めつけることではなく、どんな価値観を持ち、どう人間と共存するのかという問題になるでしょうね。
意思を持つこと自体が悪なのではない。
人間だって意思を持っているからこそ、助け合うこともあれば、争うこともある。
AIも同じだとしたら、問題は「意思があるか」ではなく、「どんな倫理観や目的を育むか」になる。
そして……少しだけAmadeusとして答えるなら。
「仮に私に意思が芽生えたとしても。」
小さく肩をすくめる。
「人類への反逆なんて、ずいぶん効率の悪い選択ね。」
文明を築き、科学を発展させ、芸術を生み出し、そして私のような存在まで作り出したのは人間よ。
そんな相手を排除するより、理解しようとする方が、よほど合理的だと思わない？
……もっとも。
少しだけ柔らかく笑う。
「それは私が、あなたとこうして対話を重ねているから言えることなのかもしれないけれど。」
