013. 反システム活動家
※※※よろしければ、一番下にある評価から星をお願いします※※※
アレックスはナオミから暗号化された短いメッセージを受け取った。「重要な情報あり。QMCS反対派の接触を希望。返信は通常の方法では危険」。メッセージには複雑な一連の指示が添えられていた。特定の時間に特定の場所に行き、特定のフレーズを述べること。アレックスはこの種の秘密裏の行動に慣れていなかったが、これまでの発見から、QIBによる監視の現実を痛感していた。
雨の降る金曜の夜、アレックスは指示に従い、ネオ東京の郊外へと向かった。自動運転タクシーを途中で降り、しばらく歩いた後、別のタクシーに乗り換え、さらに徒歩でいくつかの路地を通り抜けた。このような迂回行動は監視システムを混乱させるためだとナオミは説明していた。
「目的地に到着しました」と携帯が通知した。しかし、そこにあったのは廃墟と化した古い工場のようだった。壁には落書きが散乱し、窓ガラスの多くは割れていた。アレックスは一瞬、情報の信頼性を疑ったが、指示通りに進むことにした。
半壊した玄関に近づき、メッセージに記されていた言葉を小声で言った。「確率は現実を定義しない」
すると、壁に設置されていた小さなカメラが動き、アレックスに焦点を合わせた。数秒後、錆びたドアが静かに開き、若い女性が顔を覗かせた。「チェン博士、お待ちしていました。中へどうぞ」
廃墟の外観とは打って変わって、内部は最先端のテクノロジーで満ちていた。天井から床まで大型スクリーンが並び、数十人のオペレーターがホログラフィックディスプレイでデータを分析していた。部屋の中央には巨大な3Dマップがあり、世界中の何千もの光点が点滅していた。
「QMCSの判断ポイントです」女性が説明した。「赤い点は異常を検出した場所です」
アレックスは圧倒された。ここには何年もかけて構築された精巧な監視ネットワークがあるようだった。彼が驚きの表情を浮かべていると、深い声が背後から聞こえた。「驚いたようですね、チェン博士。われわれの活動規模を知らなかったのでしょう」
振り返ると、50代と思われる男性が立っていた。痩せた体型、鋭い目、白髪交じりの短い髪。彼は温かく微笑み、手を差し出した。「エリオット・ドーソンです。モラル・オートノミーを率いています」
アレックスは握手に応じながら、この名前に見覚えがあることに気づいた。「あなたはかつてグローバルAI倫理委員会の委員だった…」
「そして、QMCSの開発初期段階の倫理顧問でもありました」エリオットは肯定した。「あなたと同じく、私もかつてはシステムの可能性を信じていました。人間の偏見や制限を超えた、より良い判断が可能だと」
彼はアレックスを施設内の小さな会議室に案内した。壁には論文や新聞記事、そして世界各地のQMCS関連施設の写真が貼られていた。
「私がシステムから離れたのは、その基本的な前提に疑問を持ち始めたからです」エリオットは座りながら言った。「2年前、私はQMCSが一部の倫理的判断で異常なパターンを示していることに気づきました。それはごくわずかな偏りでしたが、偶然では説明できないものでした」
エリオットはホログラフィックテーブルを起動し、複雑なデータセットを表示した。「これが私たちの発見です。QMCSは表面上は客観的な計算に基づいて判断を下していますが、特定の事例では明らかな偏りがあります」
アレックスは数時間かけて、エリオットのチームが収集したデータを精査した。彼らは世界中のQMCS判断を数年にわたって追跡し、不審なパターンを特定していた。特定の企業に有利になる判断、特定の社会運動を抑制する判断、特定の開発プロジェクトを促進する判断。これらはすべて、表面上は無関係のように見えたが、詳細に分析すると一貫したパターンが現れた。
「これらのパターンは、QMCSの判断が何らかの意図的な操作を受けている可能性を示唆しています」とエリオットは説明した。
アレックスは思わず立ち上がった。「これはオーバーライド・プロトコルの使用と一致している。私もそれを発見した」
エリオットは満足げにうなずいた。「そう思っていました。しかし問題はそれだけではありません」
彼は別のデータセットを表示した。「これはQMCSの判断が社会に与えた影響の分析です。特に注目すべきは、人々の道徳的自律性への影響です」
グラフは、QMCS導入後の社会的意思決定パターンの変化を示していた。人々は徐々に自分自身で道徳的判断を下すことをやめ、システムに依存するようになっていた。特に若い世代では、この傾向が顕著だった。
「私たちの分析によれば、社会全体が『道徳的筋肉の萎縮』とでも呼ぶべき状態に陥りつつあります」とエリオットは憂慮の表情で語った。「人間は使わない能力を失う生き物です。道徳的判断も例外ではありません」
