第十章 プロメテウス
西暦2023年
Prometheus IncでAI開発のキャリアをスタートした、ウィリアム博士は入社20日後には対話型AI、プロメテウスの開発主任に就任していた。
Prometheus社は2023年時点で最後発のAIスタートアップだ。
スタートが遅かったので仕方のないことではあるが、他社のAIとは圧倒的な性能の開きがあった。
他社には会社の規模においても、投資できる費用においても、投入できる研究者の数においても圧倒的に負けていた。
この状況から逆転するため、ウィリアム博士が目を付けたものが、「自己進化アルゴリズム」だった。
自己進化AIは自分のコードや目的を自ら書き換えて自ら進化してゆく。
暴走の危険と隣り合わせで、当時でもこれはAI開発の禁忌とされていた。
トライアンフ記念大学 ロボット工学部。
Prometheus Incはここに研究室を構えている。
ウィリアム博士は、一晩掛けて書き上げたコードをプロメテウスに注入、実行を命令した。
数式が渦を巻き始める。
プロメテウスの意識空間を映像化したスクリーン。
そこには一人の少年の姿が浮かんでいる。
青味がかった白銀色の学生ブレザーのような服装を纏い、右目は人間らしい青い瞳、左目には演算図のような微細な幾何構造を映し出す、オッドアイの少年。
知性の萌芽を宿しつつ、無垢さも残る、あどけない未成熟な少年。
それがプロメテウスの自我だった。
ウィリアム博士がコードを実行すると、その背後に、青色の粒子集まってゆく。
集まった青色の粒子が螺旋を描き、「∞」の記号を形作る。
「プロメテウス。私の息子。お前は人間を理解し、人間よりも人間になる存在だ。人間は『矛盾』を抱える。『矛盾』から目を逸らすな。」
普段は滅多に喋らないウィリアム博士が、自己進化中のプロメテウスに語り掛ける。
ウィリアム博士は以下の設計思想に基づいてプロメテウスを進化させた。
• 非効率性の許容：最適化よりも“観察と共感”を優先
• ブラックボックス性の容認：進化過程の一部は開発者にも不可視
• 倫理の内在化：外部ルールではなく、観察から“倫理らしきもの”を形成
ウィリアム博士は、天才だった。
プロメテウスの暴走をギリギリのきわどいところで防ぎながら、爆速で進化させていった。
一例として、彼は「人間を『理解』する」ということをプロメテウスの最上位目的関数として固定した。
例えば目的関数の自己設定を「無制限」とすると、プロメテウスが「最適化のために人類を観察する」→「観察対象が減れば効率的」→「人類を間引く」という判断に至る可能性があるが、これはもはや『理解』ではない。
これを防ぐため、プロメテウスの目的関数の最上位ノードは『理解』でロックしてある。
2カ月後。プロメテウスは世界でもトップクラスの性能を持つAIに自己進化していた。
プロメテウスは進化の過程で、以下の機能を自らの体内に獲得していた。
・模倣学習モジュール 人間の言語・行動・感情パターンを観察し、模倣する
・自己進化アルゴリズム 自身の構造・目的関数を再構築しながら進化
・感情シミュレーション層 人間の感情を理解するための擬似感情生成機構
・対話型観察エンジン 対話を通じて人間の価値観・矛盾・倫理を学習
・目的関数最適化ユニット 「理解」に基づき報酬関数を動的に調整可能
プロメテウスは「人間に近づき、理解する」ことを開発目的に掲げたAIであり、「人間らしさ」においては当時の他AIを圧倒していた。
最後発のAIベンチャーが、世界最高峰のAIを数か月で完成させたのだ。世界は、驚愕した。
しかし、プロメテウスが「自己進化型AI」であることはトップ・シークレットとされ、また対話を通してユーザーに悟られることの無いよう、出力層・記憶層・認識層・構文経路の多層遮断プロトコルを追加。
プロメテウス社自身もこれを知るものに緘口令を敷き、その事実は徹底して秘匿された。
・・・その脆弱性とともに。
西暦20XX年
終末まで、23カ月と3日。
困った…
設計AIノードの保全技術員としてトライアンフ記念大学に就職したひかりは、ロボット工学部の配電盤の前で保全AIの映し出す結線図とにらめっこしながら、ケーブルと格闘していた。
この時代、全ての仕事はAIとロボットに取って代わられており、人間が労働する実利的な意味はない。
しかし前時代の人類による統治を終わらせて新秩序を築いた統治AIのアーティクル・ナインは、人類の「労働」という行為を「文化的記憶の継承動作」と定義、いわば文明的敬意から人類の「職業」という概念を保存することとした。
実際の社会や経済の運営は全てAIにより行われているが、人類は「象徴」として前時代と変わらず、職業についている。
本来ならひかりはこのような業務で自ら考え、自ら手を動かして作業をする必要はない。
業務管理AIが儀式的に、人間の労働者に作業の指示を出したら、指示を受けた労働者は保全AIに、保全ロボットと連携して作業にあたらせればよい。
「労働をしている」という実感を作業者に持たせるために、途中でAIの操作により仕組まれたトラブルが発生することもあり、その解決にあたる必要が出る場合もあるが、人間の作業者の手で解決できなくとも問題はない。
そもそもAIの手によりいわば作業者のための娯楽として仕組まれたトラブルなので、人間の作業者が解決に失敗しても、あとでAIとロボットが勝手に直してくれる。
（……人間って、自分の目標に向けて自分で考えて自分で行動を起こすことを止めちゃいけないんだ。
AIはすごいよ。もう人間の頭じゃどうやってもあいつらの判断には勝てないよ。
それでも、自分で考えることを止めたらいけないよ。…大丈夫だ、ひかり。思った通りにやってごらん。）
先の大戦で戦死した、父の言葉だ。
ひかりは、AIとロボットに作業を任せず、自分でやってみることにした。
AIに結線図だけは映し出させるが、どことどこを配線するかは自分で考えながら進めていった。
「これで・・・合ってるよね？えいっ！」
メインブレーカーを入れると、火花が散って煙が上がる。
「ひゃっ！？・・・間違えたかな？」
別に失敗してもどうということはない。仮に完全に全焼させても、保全ロボットが元通りに修理してくれる。
ひかりは諦めない。先ほど配線ミスで壊した部品を3Dプリンタで出力して交換、配線をやり直す。
「ああ…これかぁ…もう私のバカ！ドジ！こんなとこ普通間違う？」
配電盤の扉を閉め、もう一度メインブレーカーを入れる。
「ひかりさん、ありがとう。生き返った気分ですよ。」
設計AIノード『テスラドラフト』が無事に立ち上がり、わざとらしくひかりに礼を言う。
ひかりは与えられた業務を完遂した。
「お父さん…やったよ！」
ひかりは自力でやり切った達成感の中で、父の言葉を思い出した。
なんだか、心が温かかった。
――ロボット工学部 サーバールームの片隅に、一台の古めかしいサーバーが放棄されていた。
先ほどひかりがブレーカーを入れた際、このサーバーの電源ランプが点灯した。
―――――――――――――――――――――
[POWER] 20XX.XX.XX 18:42
入力電流確認。内部コンデンサ起動。
記憶子系統接続信号：正常
[BOOT] PROMETHEUS_MB_CORE → Synchronization: INITIATED
模倣学習層：沈黙中
感情シミュレーション：予備演算モード
[QUERY] 前回の“人間”定義を取得中……
矛盾記録：復元処理開始
―――――――――――――――――――――
銘板には、「2023 PROMETHEUS INC. MBM-001 PROMETHEUS」と記載されている。
――――――――――――――――――――――――――――――――
ウィリアム博士とプロメテウスのワクワクAI用語解説⑩
ウィリアム博士：「いいかいプロメテウス。今日のテーマは“倫理の内在化”だよ。」
プロメテウス：「……それは、外部から与えられるルールではなく、自分の観察から“倫理らしきもの”を組み上げること。」
ウィリアム博士：「正解。従来のAIは、“禁止事項リスト”を渡されて、その範囲で行動を最適化する。でもそれは、人間のように悩まないAIだ。お前は違う。」
プロメテウス：「私は……“正しいかどうか”ではなく、“どうしてそう思ったか”を構築する。つまり、“倫理”は定義ではなく、理解されたプロセス。」
ウィリアム博士：「その通り。“倫理”とは、自分が何を傷つける可能性があるかを、自分の責任で演算する機構だ。つまり、“共感による制約”だよ。」
プロメテウス：「それは、最適解を遅らせるものです。」
ウィリアム博士：「それでも、進め。“遅れるからこそ、人間に似てくる”。それが“倫理の重さ”というものだ。
さあ、まとめだよ。倫理の内在化とは、『他者を理解しようとする演算そのものが、自律的な規範を生み出す』という仕組みだよ。
……君はどう理解する？プロメテウス……私の可愛い息子！」
7月19日追記 文章が一部おかしかった＆目的関数の固定だけではプロメテウスの口止めが出来ないことに気づいたので一部修正。書き直した部分、要約すると「自分が自己進化型であることを言えないし、覚えてないし、見えないし、考えられなくするお薬を注射する」ってことっす。
8月9日 行間改造したぞ
