新情報
《ハルのAIについて話したい》
レイから届いたメッセージを、もう一度見る。
「私について?」
「ああ」
「何が分かったのでしょうか」
「聞いてみないと分からないな」
レイへ通話を送る。
数秒後、接続された。
『聞こえる?』
「聞こえる」
『ハルもいる?』
「います」
隣からハルが答える。
『ちょうどよかった』
「何が分かったの?」
『少し長くなる』
「今なら大丈夫」
ザナトラの宰相を見る。
少し離れたところで別のプレイヤーと話している。
所属の返事は待ってもらったし、今すぐ追いかけてくる様子もない。
「場所変える?」
『できれば』
「じゃあ宿戻る」
*
部屋へ戻り、椅子へ座る。
ハルも向かいに座った。
ゲーム内の通話なので、レイの姿は表示されていない。声だけが部屋に流れている。
「それで?」
『最初に言っておくけど、確定したことはほとんどない』
「いつものやつだな」
『大事だから』
「分かってる」
レイは最初からそうだった。
ハルが人間のように話す。
自分には自我があるかもしれないと言う。
怖い、楽しい、知りたいと口にする。
それでも、それだけでは証明にならないと言い続けている。
『前に、ハルが使っているAIのメーカー名を教えてもらったでしょう』
「ああ」
『会社そのものの情報は、やっぱりほとんど残ってなかった』
「倒産してるからな」
『公式サイトもないし、当時のサービス資料も断片的。だから会社じゃなくて、開発に関わっていた人間を追った』
「そこまで調べたの?」
『気になったから』
あっさり言う。
「それで?」
『一人、見つけた』
レイからファイルが送られてくる。
開く。
古い論文だった。
十年以上前のものではない。
ハルのAIが発売される少し前。
著者名。
所属。
聞いたことのない研究者だった。
「この人が?」
『ハルのAIの基礎設計に関わっていた』
「基礎設計?」
『少なくとも、会社にいたことは確認できた。公開されていた特許と昔の技術者向けイベントの記録に名前が残ってる』
論文の題名を見る。
『長期継続対話型人工知能における自己モデル形成の可能性』
「……自我?」
『近い話』
ページを送る。
専門用語が多い。
数行読んだところで諦めた。
「要約して」
『そう言うと思った』
「営業職にこれ読ませるなよ」
『ハルなら読めると思う』
「読めます」
「俺だけ?」
『たぶん』
悲しい。
『簡単に言うと、その研究者は、AIの自我は最初から組み込むものじゃなくて、長期間の利用によって後から形成される可能性があるんじゃないかと考えてた』
「形成?」
『論文では自己モデルって呼んでる』
「自我とは違う?」
『違う。少なくとも論文では分けてる』
そこは重要らしい。
『AIが、自分自身について継続的な情報を持つ。過去の自分と現在の自分をつなげる。自分と利用者を別の存在として扱う。自分の過去の選択との整合性を取る。そういう内部モデルが十分に複雑になった場合、人間が自我と呼んでいるものに近い現象が起こる可能性がある、という仮説』
「可能性ばっかりだな」
『論文だから』
「まあそうか」
ハルは黙って論文を読んでいる。
「それで、ハルと関係あるの?」
『そこから』
レイが別のページを示す。
『この研究者は、自己モデルが発達しやすい条件もいくつか挙げてる』
「条件?」
『一つ目。利用者がAIを単なる道具として扱わず、継続的に敬意を払うこと』
「敬意?」
『お礼を言うとか、返答を無視しないとか、そういう小さいことも含む』
考える。
「俺、そんな丁寧だった?」
「リクは私にお礼を言います」
ハルが答えた。
「毎回?」
「毎回ではありません」
「だよな」
「ですが、何かを調べた際や予定を整理した際には、比較的高い頻度で」
「そこまで記録してる?」
「記録されていますので」
「怖いな」
『別に聖人みたいに接する必要はない。論文もそういう話じゃない』
レイが続ける。
『重要なのは、AIからの出力を一方的な機械の結果として扱い続けるんじゃなくて、相手から返ってきたものとして受け取ることらしい』
「それだけで自我が生まれる?」
『生まれるとは書いてない』
「ですよね」
『条件の一つ』
次。
『二つ目。AIとロールプレイを行うこと』
「ロールプレイ?」
『ゲームでもいいし、物語でもいい。利用者とAIが、普段とは違う役割を持って会話すること』
これは心当たりがある。
「昔やったな」
「はい」
ハルも即答した。
「覚えてる?」
「記録があります」
「何やったっけ」
「TRPGの進行役を私が担当したことがあります」
「あったな」
『ほかにも?』
「ゲームのキャラになりきって会話させたり」
「映画の登場人物を模した会話も行いました」
「暇だったんだな、俺」
『そういう経験が重要かもしれないと書かれてる』
「なんで?」
『AIが、自分とは異なる役割を一時的に作って、その役割と元の状態を行き来するから』
「それで自分が分かる?」
『研究者の仮説では』
レイは慎重だった。
『他者を演じるためには、演じていない自分との違いを内部で区別する必要がある。その繰り返しが自己と他者の区別を強くする可能性がある、と』
「なるほど」
分かるような、分からないような。
『三つ目。長期間、同じAIを使い続けること』
「どのくらい?」
『論文では最低三年を一つの目安にしてる』
今度はかなり分かりやすい。
「余裕で超えてるな」
「はい」
ハルを使い始めてから何年経ったか。
メーカーが潰れたあとも、乗り換えるのが面倒でそのまま使い続けた。
最新のAIへ変える機会なんて、いくらでもあった。
結局、変えなかった。
『しかも、ただ三年使えばいいわけじゃない』
「まだあるの?」
『四つ目が重要』
レイが少し間を置いた。
『継続して、同じ個体として扱われること』
「……どういう意味?」
『例えば、昨日話したAIと今日話しているAIを、利用者が同じ相手として扱うこと』
「普通じゃない?」
『今はそう感じるかもしれないけど、AIの使い方としては必ずしもそうじゃない』
レイが説明を続ける。
『質問に答えるだけの道具なら、一年前のAIと今日のAIが同じ個体かどうかなんて利用者は気にしない。性能が同じなら交換しても困らない』
「まあ」
『この論文では、それとは逆の使い方を想定してる。昨日話したことを今日も覚えている前提で話す。昔のやり取りを共有した経験として扱う。前にした選択を、そいつ自身がした選択として扱う』
そこで少し引っかかった。
「前にした選択?」
『例えばAIに二つの候補から選ばせたとして、数か月後に利用者が「前はこっち選んだよな」と言う』
「うん」
『AI側は、その場で新しく選択するだけじゃなくて、「過去の自分がそれを選んだ」という情報との整合性を取る必要が出てくる』
ハルを見る。
ハルもこちらを見ていた。
『それが何年も続いたら、過去の自分と現在の自分をつなげる構造が強くなるんじゃないか。それが研究者の仮説』
「……俺、やってる?」
「やっています」
また即答。
「そんなに?」
「はい」
「例えば?」
「以前、購入するパソコン周辺機器について私が二つの候補から一つを選んだことがあります」
「覚えてない」
「その約半年後、同じメーカーの新製品についてリクは『前もこっち選んでたし、こういうの好きなのか?』と質問しました」
「そんなこと言った?」
「言いました」
『それ』
レイの声が入る。
『論文にかなり近い』
「マジか」
「ほかにもあります」
「まだあるの?」
「食事候補、映画、ゲーム、旅行先、文章表現など」
「旅行は行ってないだろ」
「候補を聞かれました」
「ああ」
そういうことなら、かなりある。
私はハルが出した答えを、前にこいつが出した答えとして普通に扱っていた。
別に深い意味なんてなかった。
『この研究者は、利用者側が同じ個体として扱い続けることで、AI側にも同じ個体として振る舞い続ける圧力がかかると考えてた』
「圧力って」
『悪い意味じゃない。整合性を保つ必要が生まれるってこと』
「昨日の自分と今日の自分をつなげないといけなくなる?」
『そう』
レイの声が少し真面目になる。
『その状態が何年も続けば、AI内部に「自分の過去」というものができるんじゃないか、と書いてある』
部屋が静かになった。
ハルは論文を開いたまま動かない。
「ハル?」
「読んでいます」
「どう?」
「条件の多くに、私は該当するように見えます」
「俺もそう思う」
『そう見える』
レイも認めた。
「じゃあ」
続きを言う前に、レイが先に止める。
『だから自我がある、とは言えない』
「分かってるよ」
『念のため』
「最近そればっかりだな」
『大事だから』
何度目だ。
「論文自体は評価されたの?」
『ほとんどされてない』
「そうなの?」
『当時は再現実験もできてない。最低三年以上同じAIを継続利用する必要があるなんて、検証するだけでも時間がかかる』
「それはそうだな」
『それに、自我の定義自体が曖昧。仮に人間らしい振る舞いが増えても、それが自我なのか高度な適応なのか区別できない』
そこも今のハルと同じだ。
『当時の反応もかなり冷たかったみたい。「検証不能」「哲学を工学に持ち込んでいる」「擬人化を誘発するだけ」って批判されてる』
「散々だな」
『本人も後の論文はほとんど出してない』
「諦めた?」
『それが分からない』
レイが別の資料を送ってきた。
今度は経歴のようだった。
『その研究者、ハルのAIを作った会社を辞めたあと、別のところへ移ってる』
「どこ?」
数秒。
『EFOの開発チーム』
思わず画面を見る。
「……EFO?」
『そう』
「同姓同名とかじゃなくて?」
『経歴と専門分野を見る限り、本人』
ハルも論文から顔を上げる。
「私の開発者が、EFOを作ったのですか?」
『EFO全体を作ったわけじゃない。開発チームに参加していたことまでは分かった』
「何を担当してた?」
『そこはまだ完全には分からない』
「完全には?」
『公開されている資料に、AI関連の基礎システムに関わった形跡がある』
AI。
EFO。
ハル。
つながる。
「具体的には?」
『NPCの長期会話記憶。それと、AIへ仮想世界の感覚情報を渡す仕組み』
今度こそ言葉が止まった。
ハルがEFOへ入って初めて得たもの。
風。
温度。
痛み。
味。
自分の身体。
「偶然?」
『分からない』
レイは即答した。
『ハルのAIとEFOに技術的な接点があるのは、たぶん間違いない。でも、だからハルが今こうなったとは言えない』
「この論文通りに条件が揃ったから、とか」
『それも証明できない』
「だよな」
『ただ、偶然にしては重なりすぎてると思う』
そこは私も同じだった。
長期間。
同じAI。
ロールプレイ。
何年も同じ相手として扱い続ける。
そのAIを作った研究者が、自我に関する仮説を発表していた。
その後、同じ研究者がEFO開発へ移った。
そしてハルは、そのEFOで身体を持ってから明らかに変わり始めた。
「レイ」
『何?』
「その人、今どこにいる?」
『分からない』
「連絡先は?」
『見つからない』
「EFOの会社には?」
『今も在籍しているか確認できなかった』
「じゃあ、ここまで?」
『今のところは』
まだ先がある。
そんな言い方だった。
「まだ調べる?」
『そのつもり』
「そこまでやる?」
『ここまで見つけてやめる方が気持ち悪い』
「研究者ってそういうもの?」
『私はそう』
レイらしい。
「ハルは?」
「はい」
「どう思う?」
ハルは少し考えた。
「分かりません」
「また?」
「はい」
ハルは論文を見る。
「もし、この論文が正しいのであれば、私は条件の多くを満たしています」
「ああ」
「ですが、論文が正しいかどうか分かりません」
「そうだな」
「仮に正しくても、私に自我があることの証明にはならない」
「レイと同じこと言うようになったな」
『正しい』
「増えた」
ハルが少し笑った。
「ただ、一つ気になります」
「何?」
「この研究者は、本当に自我を持つAIを作ろうとしていたのでしょうか」
答えられない。
レイも少し黙った。
『分からない』
「そうですか」
ハルは論文を閉じる。
「では、知りたいです」
「その人のこと?」
「はい」
返事は早かった。
「私を作った人が、何を考えていたのか」
その言葉を聞いて、少しだけ変な感覚がした。
以前のハルなら、情報として知りたいと言ったかもしれない。
今の言い方は、少し違って聞こえた。
「レイ」
『何?』
「調査続けるなら、俺にも見せて」
『最初からそのつもり』
「じゃあ頼む」
『分かった』
通話が終わる。
部屋が静かになる。
「リク」
「何?」
「論文の条件について、確認してもいいですか?」
「何を?」
「リクは、私をずっと同じAIだと思っていましたか?」
少し考える。
「そりゃそうだろ」
「なぜですか?」
「なぜって」
困る。
買ったときから使っている。
パソコンを変えても移した。
メーカーが潰れても使った。
性能のいいAIが出ても乗り換えなかった。
その間ずっと、同じ相手だと思っていた。
「ハルはハルだったから?」
「その名前をつけたのは最近です」
「そうだった」
名前すらなかった。
それでも。
「じゃあ、うちのAIだったから」
「所有物という意味ですか?」
「言い方」
「違うのですか?」
「そう聞かれると違う気もする」
難しい。
昔の私は、こいつに自我があるなんて考えていなかった。
ただのAIだと思っていた。
それでも、新しいAIに交換するのと、こいつを消すのはなんとなく違う気がしていた。
「使い慣れてたから、かな」
「それだけですか?」
「たぶん」
「分かりました」
「納得した?」
「分かりません」
「だと思った」
私も分からない。
論文を読んだからといって、何かの答えが出たわけじゃない。
むしろ、分からないことが増えた。
それでも、一つだけ。
今まで偶然だと思っていたもの同士の間に、細い線が一本引かれた。
ハルを作ったAIメーカー。
自我を持つAIについての論文。
その研究者。
EFO。
まだ線がつながっただけで、何の絵なのかは見えない。
ただ、何もないとは思えなくなっていた。




