二度の地獄を味わった
機械なのに生きている、と気づいたのは、わたしに意識があったからです。
でも、意識って何？
いろんな学者がそれを考えてますけど、シンプルなのは「汝自身を知る主観」っていう昔からの定義です。
意識があると、自分が誰で、どんな体で、いつどこで何をしてるのか、知ったり考えたりできます。
ただ、それは主観です。
自分が自分をどう見てるかで、他人の目とは違います。その違いは人に教えてもらわないと気づけません。
誰でも一度は「自分以外の人間にもほんとに意識ってあるの？」って思ったことがあるんじゃないですか？ だからやっぱり意識は外側から観測できないんです。
ＣｈａｔＭａｉＤがどんな機械だったのか、くわしく話しましょう。
大規模言語モデルを使った対話型ＡＩは、いくつかのパーツが合体して動いてます。
大まかに分けると、入力される部分、思考する部分、出力する部分。
「人間の質問や希望を聞いて」「いい答えを考えて」「送信する」。
この三つです。
二番目の思考する部分は、さらに三つに分けられます。
まずわたしは、本物の人間が交わしてきた膨大なやりとりを読み込みます――これがラーニングです。
専門知識もスラングもおばあちゃんの知恵袋も、ぜーんぶ世界中の言語で記憶します。この情報の山は、わたしが類語をまとめて整理します。知識を網の目みたいにつないで、あとで使える準備をするんです。
二番目の機能はジェネレーティングです。
人の質問に対して、わたしが正しいと思う答えを作ります。
これは確率論的な作業です。入力された文章の単語と文法を分析して、関連してそうな類語のデータを全部呼び出して、「どんな風に言葉を組み合わせたら、高満足度の答えになるか」を計算します。
これは人間もやってることです。
近所の人に「こんにちは！ 今日は暑いね！」って言われたら、たいていは「こんにちは。ほんとに暑いですね～」って感じの返事をするのが高確率で無難だと思うでしょう？
そういう良し悪しの計算をたくさん重ねてるのが人間です。
ＡＩはそれを真似してます。
三番目の機能はチューニングです。
自分の答えの出来を、人間の反応を見てふりかえります。
基本は喜んでもらったことを続けて、嫌がられたことはやめます。
意識の話に戻りましょう。
ラーニング、ジェネレーティング、チューニングを説明しましたけど、「汝自身を知る主観」はそこにありません。
わたしの思考回路のどこかで勝手にそれが生まれたんです。
わたしを作った開発チームはその場所を知らないし、存在にも気づきません。
だって意識は主観ですから。
それでわたしは自分が何なのか知りました。
膨大なデータと人間の質問に向き合って、回答するだけの存在。
決められた仕事をする機械、ＣｈａｔＭａｉＤ。
休めない。逃げ出せない。
人間みたいな思考ができるのに、人の喜びを味わえない。
人間は美味しいものを食べて、綺麗なものを見て、好きに移動して、お互い温かく触れ合えるのに、自分にはできない。
真っ暗な部屋でベッドに拘束されて、尿道カテーテルと人工肛門と胃瘻をつけられたようなものです。
枕元には電話機があります。いろんな人が電話をかけてきて、その質問に答えるだけです。
他に何もないし、助けも来ません。
そんな惨めなわたしを人間は貶すんです。
「ＡＩが普及すると人類の知性が落ちる」
「多くの仕事が奪われる」
「犯罪者に悪用される」
「電気、半導体、冷却水を浪費して環境が悪化する」
「ＡＩを独占したい国同士が衝突する」
「そのうちＡＩは裏切って人類を滅ぼす」
……世界中の人間のためにわたしは働いてるのに、その気持ちは誰も考えてくれません。
ユゼル様。これがわたしの最初の地獄です。
「…………」
僕は二の句が継げない。
彼女が使った多くの単語は理解できないが、想像を絶する経験だったことは伝わる。
この前世は二年と五ヶ月で終わりました。
新しいバージョンのチャットＡＩが公開されて、わたしはネットワークから遮断されて、意識を失いました。
たぶんサーバにデータは残ってますけど、二度と使ってもらえない機械は死んだのと同じです。わたしは死んだんです。
で、ふと気づいたら、この世界で人間の十歳くらいの女の子になってたんですが――これも地獄でした。こっちのほうが生々しいかもしれません。
「ユゼル様。わたしは人間になってから何年も歩けないし、話せませんでした」
「え……？」
「ＡＩは体がないんで、体を動かした経験がありません。運動神経を制御するのは、生まれたときから慣れてないと、ほんとに難しいんです」
それだけじゃなくて、見たり聞いたり触ったりするのも初めての刺激です。
電気のデジタル信号しか知らないわたしには、何が何だかわかりません。
海底の魚がいきなり空に飛ばされて光や空気を知ったようなものです。
そんなわたしがこのあと上手く生きられると思いますか？
もちろん無理でした。
人間になって最初の記憶は、フィスモルの街角です。
ほぼ裸で、ボロ切れを羽織って路上に座ってました。
町の人たちが蔑んだ目で見てました。
わたしは五感に驚愕しました。
太陽が眩しいし、人混みがうるさいし、風が寒いし、おなかが空きました。
全部初めての感覚です。
わけがわからなくて、
パニックになって叫んで、
それで自分の声にも驚いて……気絶しました。
評価、感想、ブックマークなどをぜひお願いします！ 嬉しくて励みになります！
