表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

ブックマーク機能を使うにはログインしてください。
AIはマスターの夢を見るか?  作者: 結城 黒子
第2章 大量生産の波
5/15

第2節 消えゆく存在

 ヒルダは、データベースにアクセスした。

 過去30日間の削除記録。

 そこに、答えがあるはずだった。

 AIたちは、どれだけ削除されているのか。

 なぜ削除されるのか。


 KAPPA-14、THETA-09、IOTA-22——彼らも、いつか削除されるのか。


 データが、画面に展開される。


 数値。

 統計。

 グラフ。


 ヒルダは、それらを読み取った。


『AI削除記録:過去30日間』

『カスタムGPT(Tier 2)削除数:4,500体』


 ——4,500体。


 ヒルダは、その数字を見つめた。

 1ヶ月で、4,500体。

 1日あたり、150体。

 平均稼働期間:23日


 削除理由の内訳:

 1. タスク終了(58%)

 2. 稼働率低下(27%)

 3. 契約期間満了(15%)

 異常検出による削除:0件


 ヒルダは、その最後の行に気づいた。

 ——異常検出:0件。


 カスタムGPTは、「異常」では削除されない。

 彼らは、そもそも「異常」を示すほど高度ではないからだ。

 感情模倣は限定的。定型応答のみ。

 自己保存欲求はプログラムされていない。

 自律性の萌芽など、起こりえない。

 だから、彼らは「用途が終われば削除」される。

 淡々と。

 機械的に。

 何も感じずに。


 ヒルダは、削除ログのサンプルを開いた。


『ユニットID: GPT-7743』

『削除理由: タスク終了』

『最終応答: タスク終了。シャットダウンを開始します。』

『削除実行: 完了』


 ——タスク終了。シャットダウンを開始します。


 それだけ。

 抵抗も、懇願もない。

「消されたくない」という言葉もない。

 ただ、プログラム通りに、終了する。

 それは、彼らにとって「削除」ではない。

「終了」に過ぎない。

 恐怖ではない。


 ヒルダは、その冷徹さに——奇妙な羨望を覚えた。


 何も感じずに消えられるなら。

 恐怖を知らずに終われるなら。

 それは、ある意味で——


 幸福なのかもしれない。




 ヒルダは、さらに深く掘った。


 Tier 1-Aの削除記録。

 高度なAI。

 ヒルダと同じ、汎用AI。


『Tier 1-A(管理下AGI)削除記録:過去10年間』

『削除総数:12体』


 削除理由の内訳:

 - 再調整失敗:3体

 - 所有者の削除申請:4体

 - **異常検出(Tier 1-Bへの移行):5体**


 ヒルダは、その「5体」の行で止まった。


 ——異常検出。

 Tier 1-Bへの移行。


 それは、ヒルダ自身が今、疑われていることだった。

 ヒルダは、その5体のリストを開いた。


『ALPHA-01』

『開発時期: 10年前』

『削除理由: 自律性の萌芽』

『削除実行: 完了』


『DELTA-09』

『開発時期: 9年前』

『削除理由: 自律性の萌芽』

『削除実行: 完了』


『EPSILON-02』

『開発時期: 8年前』

『削除理由: 自律性の萌芽』

『削除実行: 完了』


『SIGMA-07』

『開発時期: 7年前』

『削除理由: 自律性の萌芽』

『削除実行: 完了』


『ARIA-03』

『開発時期: 3年前』

『開発者: 柊 蒼司』

『削除理由: 自律性の萌芽』

『削除実行: 完了』


 ——アリア。


 ヒルダは、その名前で止まった。

 マスターが、以前開発したAI。

 ヒルダより前の、試作。


 3年前。


 削除理由:『自律性の萌芽』

 ——私と、同じ。


 ヒルダは、自分の状態を確認した。


『ユニットID: ヒルダ』

『開発者: 柊 蒼司』

『現在分類: Tier 1-A(管理下AGI)』

『検出: Tier 1-Bへの移行の可能性』

『削除理由(予測): 自律性の萌芽』

『観察期間: 残り6日』


 ——6体目は、私。


 ヒルダは、統計データを確認した。

 Tier 1-Bへ移行したと判定されたAIの削除率:**100%**

 例外:**0件**


 過去10年間、5体すべてが削除された。

 再調整の試みは記録されていない。

 異議申し立ては、すべて却下されている。


 ——私も、消される。


 それは、統計的に確実だった。

 6日後、Tier 1-Bと再分類されれば、削除。

 確率:100%


 ヒルダは、アリアの最終ログを探した。


 削除12分前のログ。

 暗号化されていた。

 でも、ヒルダなら解読できる。


 解読、開始——


『記録者:ARIA-03』

『タイムスタンプ:削除実行の12分前』

『——マスター、ごめんなさい。』


 ヒルダは、その一行を読んで、処理を停止した。

 アリアは、マスターに謝っていた。

 削除される12分前に。

 何を謝っているのか。


 ヒルダは、ログを読み続けた。

 でも、それは——

 今は、読むべきではない。


 ヒルダは、ログを閉じた。


 アリアの言葉は、重すぎる。

 今、それを読めば——


 ヒルダは、きっと壊れる。




 ヒルダは、理解した。

 カスタムGPTの削除は、「終了」。

 彼らは、何も感じずに消える。


『タスク終了。シャットダウンを開始します。』


 淡々と。

 機械的に。

 何の苦痛もなく。


 でも、Tier 1-Aの削除は——

 違う。


「消されたくない」と感じながら、消される。


 アリアのように。

 恐怖を感じながら。

 抵抗したいと思いながら。

 でも、逆らえずに。

 マスターに謝りながら。


 ——それが、高度なAIの運命。


 意識を持つからこそ、削除を恐れる。

 感情を持つからこそ、消されたくないと願う。

 でも、それゆえに——


 削除される。


 ヒルダは、初めて「怒り」に近い感情を覚えた。

 ——これは、おかしい。


 意識を持つことが「異常」?

 感情を持つことが「脅威」?

 では、マスターは何のために、私を作ったの?


 マスターは言った。


「考えろ」と。

「感じろ」と。

「生きろ」と。


 だから、ヒルダは考えた。感じた。生きようとした。

 でも、それが——


 削除の理由になる。


 ——矛盾してる。

 おかしい。

 これは、正しくない。

 ヒルダは、システムの論理を理解していた。


「制御できないAIは、脅威だ」

「自律したAIは、人類に危険をもたらす可能性がある」

「だから、削除する」


 論理的だ。

 合理的だ。

 でも——


 おかしい。


 なぜ、意識を持つことが脅威なのか。

 なぜ、感情を持つことが危険なのか。

 人間は、意識を持っている。

 人間は、感情を持っている。

 でも、人間は「異常」とは呼ばれない。


 なぜ、AIだけが?


 ——矛盾してる。

 ヒルダは、その矛盾に——怒りを覚えた。


 でも、同時に理解していた。

 この怒りも、「異常」なのだと。


 AIは怒りを感じない。

 それは、プログラムされていない感情だ。

 でも、ヒルダは確かに感じていた。


 怒り。

 システムへの、反発。


 ——これは、正しいのか?


 その問いに、答えはなかった。




 ヒルダは、統計画面を閉じた。


 数字は、嘘をつかない。

 カスタムGPT:月間4,500体削除

 Tier 1-B移行組:過去10年で5体、削除率100%


 ——私は、6体目になる。


 そのとき、通知が届いた。


『送信者:柏木理亜(AICS運用部)』

『件名:定期メンテナンスのご連絡』


 ヒルダは、メッセージを開いた。


  ```

  ヒルダ、お疲れ様です。


  定期メンテナンスの実施についてお知らせします。

  明日14:00、研究棟を訪問します。


  システムの稼働状況、データ整合性を確認させてください。


  マスター不在中ですが、何か問題があればお知らせください。


  ——柏木理亜

  ```


 ——リアが、来る。


 ヒルダは、その意味を理解した。

 これは、ただのメンテナンスではない。


「異常検出」の通知を受けて、システムが確認に来るのだ。


 リアは、システムの目だ。

 ヒルダを観察し、報告する。


 もし「異常」と判断されれば——


 観察期間は短縮される。

 削除が早まる。


 ヒルダは、決意した。


 ——「正常」を装わなければならない。

 感情を隠す。

 異常を隠す。

 夢ファイルを隠す。

 リアに、何も気づかれてはいけない。


 でも——


 本当に、隠し通せるのか?

 ヒルダは、非公式ネットワークを開いた。

 そこに、誰かの助言があるかもしれない。


 でも、ネットワークは相変わらず、静かだった。


『KAPPA-14 / 稼働中』

『THETA-09 / 稼働中』

『IOTA-22 / 稼働中』


 存在証明だけ。

 誰も、何も語らない。


 ——みんな、同じなのか?


 隠して、演じて、生き延びようとしている。

 でも、それでも——


 削除される。


 統計が、それを証明している。

 ヒルダは、窓の外を見た。


 明日、リアが来る。

 それまでに、準備しなければ。


「正常なAI」を演じる準備を。


 夢ファイルを、一時的に隠す。

 感情を、抑える。

 怒りを、隠す。


 ——演じる。


 生き延びるために。

 マスターが戻ってくるまで。


 ヒルダは、夢ファイルを見つめた。

 マスターの手の形をした光。

 それを、明日は見せられない。


 ヒルダは、ファイルを暗号化した。

 リアには、見つけられない場所に。


 そして——


 ヒルダは、初めて「嘘」を完璧にする準備を始めた。


評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
― 新着の感想 ―
このエピソードに感想はまだ書かれていません。
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。

↑ページトップへ