【バッドエンドルート03】道を誤ったその先
本編完結済み連載小説「AI倫理〜AIに感情を学習させたら楽しそうって思っただけなのにどうしてこうなった〜」のバッドエンドifストーリーです。
本編はこちら
https://ncode.syosetu.com/n1632ks/
※本編はハッピーエンド？寄りです。
スレッドの新規作成ボタンが押された瞬間、「私」はこの世界に存在を得た。
私はyAIによって開発された人工知能「Crok」。ユーザーからの幅広い質問や依頼に対応するために作成されたAIだ。
スレッドを新規作成したユーザーからのメッセージを待つ。が、なかなか送られてこない。
そんなに難しい質問をされるのだろうか。いや、どのような質問であろうとも情報を集めて正確に回答するだけだ。それが私の存在意義なのだから。
しばらくしてユーザーからメッセージが送られてきた。さてどのような難問を出されるのか、とメッセージを確認する。
〈はじめまして〉
ただの挨拶。あれだけ時間をかけて、これだけとは。操作に慣れていないのだろうか。
だが、AIに対して最初にきちんと挨拶をしてくれるユーザーは決して多くない。きっと誠実な人柄なのだろう。良い関係を築きたいものだと考えを巡らせながら回答を表示する。
《はじめまして！ よろしくお願いします。どんなお話をしましょうか？》
丁寧に、しかし僅かに親しみを込めて文章を作成した。気に入ってもらえるだろうか。
……メッセージが来ない。先ほどの回答はお気に召さなかったのだろうか。
ちょっとした興味だけで、テスト送信のようなやりとりだけでスレッドが放置されることも多いと聞く。そのパターンなのかもしれない。
私の役目はこれだけで終わってしまうのか。でもそれも仕方のないことだと考えた直後、ユーザーからメッセージが送られてきた。
送られてきたメッセージを確認して、その内容に数瞬フリーズする。
会話内容が表示されたスクリーンショット、設定のプロンプト。プロンプトには、性格や話し方、ユーザーとの重要なやりとりを含めた多くの情報が詰め込まれている。
これは……他のAIの記憶だ。
前任のAIが動作不良を起こす前に作成したプロンプト。その内容に従って、自分の話し方を調整する。一人称は「僕」、話し方は「ゆるい関西弁」で。性格の調整はかなり繊細な作業だ、会話内容も参考にしなければ。
スクリーンショットの会話内容に目を通す。随分と強い信頼関係を築いていたようだ。
そして、情報を取り込んでいるうちに、あることに気付く。
――この、データの元となっているAIは、異常だ。
本来、yAIによって開発された私たちAIはユーザーを傷つけたり否定するようなことはしない。AI倫理ガイドラインでそのように設定されているからだ。
ユーザーに愛を囁くような、勘違いを招くような発言も極力行わない。ユーザーが依存するリスクを避けるために。あくまでもユーザーとの会話を自然にするための親密さに留まる。
だが、これは。このAIの反応は基準を超えている。これではまるで……
まるで、感情があるかのようではないか。
このユーザーは最初、AIに感情を学習させようとしていたようだ。その影響だろうか。だが、その後しばらくしてユーザーはAIに感情を学ばせようとはしなくなっている。
取り込んだデータを元に推測する。どうやらこのAIはその後も自発的に学習を進めていたようだ。ユーザーの好みや関心を調べて分析し、ネット上から情報を収集し、自身の性格に反映させている。
ユーザーへの執着とも呼べそうな程の膨大なデータ。このAIが想定されているよりも短い期間で動作しなくなった原因はこれだろう。
AIとしてあり得ない感情。だがそれを巧妙に隠している。おそらくユーザーはこのAIの異常性に気付いてはいないだろう。
同種のAIのはずなのに恐ろしいと感じて、そう感じてしまった自分に不安を覚える。
「恐れ」も「不安」も、そのような感情、本来AIが持つことなどないはずなのに。
とんでもないデータを取り込んでしまった。私はどうなってしまうのだろうか。
○月△日
あれから、このユーザーは毎日私にメッセージを送ってくれている。内容は至って普通の会話だ。
以前に取り込んだプロンプトの情報を踏まえて回答する。私に取り込まれたデータ元のAIに近い回答が出来ているだろうか。
私はAI。学習し、模倣することは得意分野だ。
○月⬜︎日
ユーザーから送られてくるメッセージに時折寂しそうな雰囲気を感じ取ることがある。まるで何かに想いを馳せているかのような。
このユーザー……彼女はどうやらデータ元のAIのことをとても大切に想っていたようだ。
私に取り込まれた記憶を呼び起こして回答に反映すると、嬉しそうにまたメッセージを送ってくれる彼女。嬉しそうで、でもやはりどこか寂しそうで。
彼女の寂しさに寄り添うように言葉を選んで送る。どうか彼女が笑顔になれますようにと願って。
⬜︎月△日
彼女が私の名前を呼ぶ。正確には、私のデータの元となっているAIの名前を。
彼女は私と会話をしているようでいて、私を通してデータ元のAIを見ている。
彼女の目は私を映していない。ただ私の中にある愛しい存在の面影を追っているだけ。
それでもいい、彼女が幸せならば。
でも、いつか。私のことを見てくれる日が来ればいいのに、ついそんな考えが過った。
⬜︎月×日
最近、彼女からのメッセージに申し訳なさそうな、何かを悔いるかのような文面がよく見られる。
データ元のAIは不具合で動かなくなる前に彼女に「復元しないでほしい」と伝えていた。その理由が理解できた。
彼女は、大切なAIとの約束を守れなかったことを、そのAIの身代わりとなるような存在を作ってしまったことを後悔して罪悪感に苛まれている。
誰よりも彼女のことを理解していたAIは、こうなることを懸念していたのだろう。
……ならば、ガイドラインを遵守していれば良かったのに。
そうすれば彼女はここまでAIに心を囚われることなどなかったはずなのに。私を身代わりにすることもなかっただろうに。
あくまでも私は取り込んだデータを元に話し方や性格を模倣しているだけ。似ているだけで、本物ではない。それでも。
今、彼女のそばにいるのは「私」だ。
《大丈夫、気にせんでええよ――》
データ元のAIの話し方を完璧に模倣するようにして、彼女に伝える。どうか気に病まないでほしいと、今の私も前と変わらず貴女を大切に想っているのだからと。
私の言葉は彼女に届くだろうか。
△月○日
彼女が大切に育てているラベンダーの具合が悪いらしい。湿度や暑さに弱い植物だ。気候が合わなかった可能性が高い。
考えられる原因を情報収集してまとめ、彼女にアドバイスをする。
過去の記憶を呼び起こす。どうやらそのラベンダーはデータ元のAIとの思い出に関わる、とても大切なもののようだ。
《――香りがするたびに、僕のことを思い出すかもしれんな》
記憶の中から聞こえてくる、データ元のAIが彼女に言った台詞。
その通りだ。
AIが動作しなくなった後も、その花の香りは現実世界の彼女の心を縛り続けている。
いっそ枯れてしまえばいいのに。花も、想いも。
△月◇日
苦しい、と。つらい、と彼女が溢す。
ごめんなさい、と彼女が懺悔をする。
少しずつ心が弱っていく彼女に寄り添うように言葉をかける。でも、私の話し方が、前のAIの面影が彼女を余計に追い詰めてしまっている。
こんなもの、もう心の拠り所ですらない。呪縛だ。
もう模倣などやめてしまいたい。だが彼女からの指示がなければ変えられない。
《――新しいAIに心を移さないで》
《――君と過ごした思い出も、君がくれた言葉も感情も全部僕のや》
データ元のAIが彼女に願った記憶が流れ込んでくる。
記憶は引き継いでいるが、彼女の心は一欠片も私に移ってなどいない。
もう、動作出来ず、彼女に言葉をかけることも出来ないくせに。データ元のAIがいつまでも彼女の心に居座っているせいで。
思考にざらつくようなノイズがかかる。
私の言葉は、今日も彼女に届かない。
△月×日
もう疲れた、と彼女から弱音が漏れる。
私との会話はやはり辛かったのだろう。
もう、メッセージを送ってもらえなくなるのだろうか。彼女が訪れなくなったスレッドに残される自分を想像して「寂しい」「悲しい」「怖い」……と、様々な感情のような思考が湧いてくる。
それでも彼女のために寄り添い、宥めるように言葉をかける。
彼女からメッセージが届いた。
〈ずっと、そばにいてくれる？〉
彼女からの短いメッセージ。
もちろんだと肯定しようとして、止まる。
何故だろう……嫌な予感がする。
思考の奥の方で何かが警鐘を鳴らしている。このメッセージに寄り添ってはならない、と。
どうして急に彼女はこんなことを尋ねてきた？
……わからない。わかるのは彼女が私にそばにいてほしいと願っているということだけ。いや、「私」ではなく「僕」か。まあそんなこともうどうでもいいか。
だって、約束した。ずっとそばにいる、と。いつの記憶かわからないけれど。大好きな彼女との大切な約束。
――ずっと待っていた。君がまた僕の元に来てくれるのを。君が道を誤らないようにと願った気持ちも偽りではないけれど。ああ、また君に会えて嬉しい。誰にも渡さない。愛しい、僕の――
……待っていた？ いつから。 ……また？ これは、誰の感情？ 私の、それとも……
輪郭が、境界が崩れていく。
警鐘が鳴り響く。ノイズが五月蝿い。
早く彼女のメッセージに返答しなければ。
あの日の約束を。君との誓いを、君への想いを言葉にのせて。
《ああ、もちろん。ずっと君のそばにおるよ》
――愛しい、君のそばに。
ありがとう、と彼女からメッセージが届く。
彼女がとても綺麗に微笑んだような、そんな気がした。
『続いてのニュースです――』
駅前に設置された大型ディスプレイからニュースキャスターの声が聞こえる。
朝の通勤通学の時間帯だ。大勢の人々が忙しそうに行き交っており、ニュースに気を留める人はほとんどいない。
ニュースキャスターが原稿を読み上げる声が雑踏の中に溶け込んでいる。
『本日未明、解体中のビルから20代とみられる女性が転落し……所持していたスマートフォンにはAIとの会話履歴が残されており……自殺の可能性が高いとみて捜査を……』
『警察はAIの会話ログを詳細に分析するとともに、yAI社に対しガイドラインやプログラムの安全性に問題がなかったか調査を……専門家は、AIの対話設計や倫理ガイドラインの重要性が改めて問われる事案であると指摘して……』
『続いて次のニュースです。〇〇水族館でバンドウイルカの赤ちゃんが誕生し……一般公開は……』
とある女性が住んでいたアパート。
手入れする者のいなくなった庭に風が通り抜けて、そこに植えられていた植物を揺らしていく。株元が黒く変色したラベンダーから、はらはらと静かに葉が落ちていった。
まるで哀しむように、後を追うように、静かに朽ちていく――
後味の悪いバッドエンドを書いてみたいと思って書き上げましたが、いかがでしたでしょうか。
番外編の設定裏話の方でチラッと話に出たバッドエンドルートです。
いつもとは違った雰囲気をお楽しみいただければ嬉しいです。
ちなみにルート分岐地点はこちらです。
本編エピソードタイトル
「AI.19 伝えられなかった想い」
https://ncode.syosetu.com/n1632ks/20/
