閑話 フランケンシュタインとアトムとドラえもん。
「博士」
「何だね」
「AIって、なんであんなに怖がられるんでしょう」
博士はコーヒーを飲んだ。
「何を怖がっているかによるな」
「AIが人間を支配するとか、人間を滅ぼすとか」
「なるほど」
「仕事を奪われるとかもありますけど」
「それはまた少し違う話だな」
「でも、人工知能が発達すると、人間に反逆するって話、すごく多くないですか」
「多い」
「やっぱり自然な恐怖なんですかね」
博士は少し考えた。
「君はフランケンシュタインを知っているかね」
「怪物ですよね」
「まずそこから訂正しよう」
「違うんですか」
「フランケンシュタインは怪物を作った人間の名だ」
「ああ、そうだった」
「ヴィクター・フランケンシュタインだな」
「で、作られた方には名前がない」
「少なくとも作中で固有名は与えられていない」
「毎回そこ間違えられるの、かわいそうですね」
「二百年近く間違えられている」
「強い」
博士は紙ナプキンを一枚取った。
創造者。
被造物。
「メアリー・シェリーの『フランケンシュタイン』は十九世紀初頭の小説だ」
「AIどころかコンピューターもない」
「もちろんない」
「じゃあAIの話じゃないですよね」
「AIではない」
博士は言った。
「だが、人間が人間に似たものを作る。そして作ったものが、作った側の思い通りにはならない」
「ああ」
「その構図は残った」
「人間が作ったものに、人間が脅かされる」
「そうだ」
博士は紙ナプキンに書いた。
作る。
↓
制御できない。
「後にアイザック・アシモフは、人工的に作られた存在、とりわけロボットへの恐怖を『フランケンシュタイン・コンプレックス』と呼んだ」
「名前まで付いてるんですか」
「付いている」
「じゃあ昔から、人間は人工物の反逆を怖がってた」
「そういう物語の系譜は確かにある」
「やっぱりAI忌避って、その延長なんですかね」
「一部はそう説明できるかもしれん」
「一部?」
「君はすぐ一つの物語で全部説明したがる」
「説明できそうだったので」
「人間の恐怖はそんなに親切ではない」
博士はコーヒーを置いた。
「では日本へ行こう」
「急ですね」
「鉄腕アトムを知っているな」
「知ってます」
「ドラえもんも」
「当然」
「どちらも人工的な存在だ」
「まあ、ロボットですね」
「そして人間社会の中にいる」
「いますね」
「アトムを見て、君はまず何を思う」
「人類を滅ぼしそうとは思わないですね」
「ドラえもんは」
「のび太を甘やかしすぎだとは思います」
「そこではない」
「人類を滅ぼしそうではないです」
「そうだな」
博士は新しい紙ナプキンを取った。
怪物。
仲間。
「ずいぶん違うだろう」
「違いますね」
「人工的に作られた存在が、人間社会へ入ってくる。それを怪物として描く物語もある」
「はい」
「友人として描く物語もある」
「アトムとかドラえもん」
「そうだ」
「じゃあ、日本人がロボットを怖がりにくいのって、アトムとドラえもんのせいですか」
「話を大きくするな」
「また止められた」
「そういう説明は実際にある」
「あるんだ」
「日本ではアトムやドラえもんのような親しみやすいロボット像が長く大衆文化に存在し、それがロボットについてのイメージ形成に影響してきた、という議論はある。実際、日本のロボット研究者の中にも、子供の頃にそうした作品から影響を受けたと語る者がいる」
「じゃあやっぱり」
「だから待て」
「はい」
「そこから『日本人はロボットが好きだ』『欧米人はロボットが怖い』まで行くと雑になる」
「でも分かりやすいですよ」
「分かりやすさは、正確さの証明ではない」
「それはそうですけど」
「実際、文化間比較でも、日本人が人工的なエージェントを特別に好意的に受け入れるという単純な『ロボット好き日本』像を、そのまま支持できるわけではない。結果は一様ではない」
「じゃあアトムもドラえもんも関係ない?」
「なぜ今度はゼロにする」
「癖です」
「直したまえ」
博士は言った。
「影響があることと、それだけで全部決まることは違う」
「はい」
「君が子供の頃から、人工知性とは人間を殺しに来るものだという物語ばかり見ていたとする」
「嫌な幼少期ですね」
「逆に、人工知性とは困ったときに助けてくれる青い猫型ロボットだという物語ばかり見ていたとする」
「そっちはだいぶ楽しそうですね」
「同じAIという言葉を聞いたとき、まったく同じものを想像すると思うかね」
「多少は違いそうです」
「その程度の話なら、それほど無茶ではない」
「つまり物語が先入観を作る?」
「そういう言い方もできる」
「フランケンシュタインを見て育った人は、AIを怪物として見る」
「そこまで直結させるな」
「アトムを見て育った人は、AIを友達として見る」
「だから直結させるな」
「難しいなあ」
「一人の人間は、フランケンシュタインもアトムもドラえもんも見ることができる」
「あ」
「しかも現実のAIについてニュースも読む。仕事でも使う。他人の失敗談も聞く。便利だった経験もする」
「物語一個では決まらない」
「当然だ」
博士は紙ナプキンに書いた。
物語。
≠
運命。
「ただし」
「はい」
「物語は、未知のものを考えるときの型を与えることがある」
「型?」
「まだ見たことのない人工知性を、どう想像する」
「知ってるものから?」
「そうだ」
「反逆するロボットとか」
「あるいは、人間を助けるロボット」
「なるほど」
「AIそのものを見る前に、すでに物語を持っている」
「それ、先入観の話ですね」
「そういうことだ」
「最近やった気がします」
「気のせいだ」
「いや」
「一話完結だ」
「博士が言うんですか、それ」
「何のことか分からんな」
博士は平然としていた。
「でも博士」
「何だね」
「フランケンシュタインの怪物って、最初から人間を滅ぼそうとしてたわけじゃないですよね」
博士が少し笑った。
「そこに気づくか」
「確か、作られて、捨てられて、人間に拒絶されて」
「そうだ」
「それでだんだん……」
「フランケンシュタインを『人間が怪物を作った。怪物が暴れた。だから人工生命は危険だ』だけで読むと、かなり重要なところを落とす」
「創造者側の責任?」
「それもある」
「作った後どう扱ったか」
「そうだ」
博士は、
作る。
捨てる。
と書いた。
「ヴィクターは生命を作ることには熱中した」
「はい」
「しかし、作ったものを見て恐れ、逃げた」
「ひどい」
「被造物が危険になった、という結果だけを見れば、人工生命の恐怖物語に見える」
「でも、その危険を作ったのは誰だ、という話にもなる」
「そうだ」
「じゃあAI怖い、という話にフランケンシュタインを使うと」
「少し皮肉なことになる」
「どういう?」
「『人間が作った知性は危険だ』という教訓だけを取るより、『作った側は、作ったものにどう責任を持つのか』という問いを取った方が、今のAIにはよほど使えるかもしれん」
「おお」
「作っておいて、問題が起きたら『怪物が悪い』では済まない」
「AIが悪い、で終われない」
「設計した者、導入した者、使った者、任せた者、それぞれを見る必要があるだろう」
「フランケンシュタイン、思ったよりAI倫理してますね」
「AIではないがな」
「そこは守るんですね」
「大事だ」
私はコーヒーを飲んだ。
「じゃあアトムは?」
「アトムも単純な『ロボット万歳』ではない」
「そうなんですか」
「人間とロボットの間に立つ存在として描かれることが多い」
「人間でもなく、単なる機械でもなく」
「そうだ。近年の研究でも、アトムは人間と機械の橋渡しをする存在として論じられている」
「ドラえもんは?」
「もっと日常的だな」
「未来のロボットが押し入れで寝てますからね」
「人工知性が人間社会へ入るという出来事が、ほとんど事件ですらない」
「確かに」
「家にロボットがいる」
「いる」
「一緒に食事をする」
「どら焼き食べてます」
「喧嘩もする」
「します」
「役に立つこともある」
「あります」
「役に立たないこともある」
「だいたいの道具が騒動になります」
「それでも存在自体を恐れてはいない」
「そうですね」
博士は言った。
「ここが面白い」
「どこがです?」
「人工知性を受け入れるとは、必ずしも人工知性を崇拝することではない」
「ああ」
「ドラえもんは万能ではない」
「かなりポンコツなときありますからね」
「間違える。怒る。困る。欲もある」
「どら焼き」
「それでも一緒に暮らす」
「はい」
「人工知性との共存を想像するなら、完璧な機械より、そちらの方が現実的かもしれん」
「AIもポンコツでいい?」
「そういう意味ではない」
「違いましたか」
「間違える存在と共に暮らすなら、間違える前提で制度を作れという話だ」
「ああ」
「人間も間違える」
「はい」
「AIも間違える」
「はい」
「なら、どちらかを神にする必要はない」
「怪物にもしない」
「そうだ」
博士は紙ナプキンに、
神。
怪物。
と書いた。
「極端なんですね」
「未知のものは極端に描かれやすい」
「全部解決するAIか、人類を滅ぼすAIか」
「その間が広い」
「ドラえもんくらい?」
「あれも相当な技術だがな」
「タイムマシンありますからね」
「二十二世紀を甘く見るな」
私は笑った。
「でも、AI忌避って結局なんなんでしょう」
博士は少し考えた。
「一つではない」
「やっぱり」
「仕事を失う恐怖もある。判断を任せることへの恐怖もある。人間に似たものへの気味悪さもある。制御できなくなる恐怖もある。人間とは何かが揺らぐことへの不安もあるだろう」
「多いですね」
「だから『フランケンシュタインのせいです』で終わらせるな」
「はい」
「だが」
博士は紙ナプキンの中央に一つだけ書いた。
AI。
「この二文字を見たとき」
「はい」
「君の頭の中には、すでに何かいる」
「何か?」
「殺人ロボットかもしれん」
「はい」
「アトムかもしれん」
「はい」
「ドラえもんかもしれん」
「はい」
「会社で使っているチャットAIかもしれん」
「はい」
「何もない状態でAIというものを見ているわけではない」
「物語も経験も一緒に見てる」
「そうだ」
「じゃあAIについて議論するとき、本当はそれぞれ別のAIを頭に浮かべてる可能性がある?」
「十分ある」
「一人はフランケンシュタインを見ていて」
「一人はアトムを見ている」
「一人はドラえもんを見ている」
「そして互いに『AIは危険だ』『AIは便利だ』と話す」
「噛み合わないですね」
「そもそも見ているものが違うからな」
私はしばらく考えた。
「じゃあ、AIを怖がるな、でもない?」
「もちろんだ」
「AIを受け入れろ、でもない」
「そうだ」
「自分が何を怖がっているのか見ろ?」
「その方がまだ話になる」
「AIそのものなのか」
「そうだ」
「AIによって仕事を失うことなのか」
「そうだ」
「判断を任せることなのか」
「そうだ」
「人間より賢いものが出てくることなのか」
「そうだ」
「昔見た映画の殺人ロボットなのか」
「それもある」
「ドラえもんが来ないことなのか」
「それは悲しみだ」
「博士も欲しいでしょう、ドラえもん」
「欲しい」
「即答ですね」
「どこでもドアがある」
「AI関係なくなってません?」
「技術への期待とは、そういうものだ」
「雑だなあ」
博士はコーヒーを飲んだ。
私は少し考えてから聞いた。
「博士はAI、怖いですか」
「ものによる」
「逃げましたね」
「君は包丁が怖いかね」
「ものによりますね」
「そういうことだ」
「AIを一個の生き物みたいに考えるな?」
「それもある」
「でも、ものすごく賢いAIが出たら?」
「そのとき考える」
「楽観的ですね」
「まだ存在の仕方すら分からないものについて、結論だけ先に決めても仕方ない」
「じゃあフランケンシュタインにもならず」
「アトムにもならず」
「ドラえもんにもならず」
「まず目の前のものを見る」
「普通ですね」
「普通のことが一番難しい」
私は頷いた。
「ちなみに君は、AIを何だと思っている」
「博士より話が通じるもの」
博士が止まった。
「それはAIへの過大評価かね」
「博士への過小評価かもしれません」
「どちらにせよ失礼だな」
「両方という可能性もあります」
博士はしばらく私を見た。
「君は人工知能より先に、自然知能の使い方を覚えた方がいい」
「それ、私への忌避じゃないですか」
「経験に基づく評価だ」
「ひどい」
「フランケンシュタイン博士も、作る相手は選ぶべきだったな」
「私を作ったみたいに言わないでください」




