第5話 アップデートの罠（前編）
デジタル社会の脆さは、0と1の間にあるのではない。
それを読む人間の「過信」にある。
水曜日の朝。織部悟は、湾岸エリアにそびえ立つガラス張りの高層ビル、次世代自動車メーカー『ゼニス・オートモティブ』の本社ビルを訪れていた。
エントランスの巨大なＬＥＤビジョンには、最新鋭の自動運転車のプロモーション映像が流れている。
『未来を、ハンズフリーで。事故ゼロの世界へ』
美しいキャッチコピーだ。
だが、その裏で何人の命が「開発コスト」として処理されたのか、この映像は語らない。
織部はＩＤカードをかざし、セキュリティゲートを通過した。
今日の彼の肩書きは、「車載システムＵＩのアップデート担当エンジニア」だ。
＊＊＊
「遅いぞ！ 私の時間は１分１００万円の価値があるんだ！」
地下のＶＩＰ専用ガレージで怒鳴り声を上げていたのは、この会社の専務取締役、葛城だ。
五十代前半。
銀髪をオールバックにし、鋭い眼光を放つ男。自動運転事業のトップであり、冷徹な合理主義者として知られている。
先月、同社の試験車両が市街地で暴走し、横断中の児童をはねて重体を負わせる事故が起きた。
原因はＡＩの「判断ロジック」にあった。
葛城は、「乗り心地」を最優先するため、障害物検知時の急ブレーキを禁じ、「ハンドリング回避」のみを許可していた。
急減速はＶＩＰに不快感を与えるからだ。
ＡＩは飛び出した子供を検知したが、減速せずにハンドルを切った。
だが、子供の動きは予測不能だ。
あろうことか、ＡＩが避けた先へ、子供が走り込んでしまったのだ。
減速していれば止まれたはずだった。
だが、快適さを優先して速度を維持した鉄塊は、なす術もなく子供を弾き飛ばした。
しかし、葛城は記者会見でこう言い放った。
「システムログによれば、事故の３秒前に『手動運転への切り替え警告』が出ていた。だが、ドライバーは漫然として反応しなかった。これはヒューマンエラーだ」
もちろん、捏造だ。
実際には警告など出ていない。
葛城は部下に命じてログデータを改竄し、全ての責任をテストドライバーに押し付けたのだ。
密室である車内のデータを、一個人が否定することは不可能に近い。
（……修正不能な、致命的なバグだ）
織部は内心の嫌悪を押し殺し、平身低頭して近づいた。
「申し訳ございません。最新の言語パッチの適用に手間取りまして」
ガレージの中央には、葛城の愛車である最新コンセプトカー『アイギス』が停まっている。
『アイギス（神の盾）』の名が示す通り、防弾ガラスと特殊合金の装甲で覆われた、見た目はラグジュアリーだが中身は装甲車のような化け物だ。
「フン。まあいい。今日の午後、国交省の幹部を乗せて極秘のデモ走行をしなきゃならん。規制緩和を認めさせるための重要なショーだ。……それと、例の『裏モード』の設定は済んでいるか？」
織部の目が眼鏡の奥で光った。
『裏モード』。
それは葛城が自分の身を守るためだけに実装させた違法機能だ。
『緊急突破』。
暴徒に囲まれた際や、襲撃を受けた際、安全リミッターや障害物検知センサーをすべて遮断し、フルパワーで急加速して強行突破するための機能。
頑強なこの車体なら、人を撥ね飛ばそうが、前の車を押し潰そうが、中の人間だけは無傷で逃げられる。
「承知いたしました。音声コマンドで、即座に発動するように設定します。……キーワードはいかが致しますか？」
「『ストップ』だ」
葛城は短く告げた。
「私が襲撃を受けてパニックになった時、とっさに口にするのは『止まれ（ストップ）』だ。敵に対して『寄るな』という意味でな。だが、その言葉をトリガーにして、逆に車が猛加速して逃げられるようにしろ。敵の裏をかくんだ」
なるほど、と織部は頷いた。
葛城は他人を信用していない。
だから、言葉の意味を逆転させた自分だけの暗号を使いたがる。
「かしこまりました。……では、そのように『記述』しておきます」
織部は助手席に座り、ダッシュボードの巨大なタッチパネルを操作した。
設定画面を開き、音声コマンド「ストップ」に対して、機能『緊急突破』を紐付ける。
その時、葛城が助手席の窓を叩いた。
「おい、待て。画面の表示はどうなる？」
「はい。仕様通り『実行機能：緊急突破』と表示されます」
「馬鹿者が！ 今日は役人を乗せるんだぞ。『緊急突破』なんて物騒な文字が見えたら怪しまれるだろうが！」
葛城は忌々しげに吐き捨てた。
「表示名はカモフラージュしろ。『緊急ブレーキ』とでも書き換えておけ。中身は加速でも、画面上は安全装置に見せかけるんだ。隠蔽は私の専門だからな」
織部の指が、一瞬だけ止まった。
……命令された。
ターゲット自身が、誤認を誘発する「嘘の表示」を望んだのだ。
「承知いたしました。ご指示通り、画面上の表示を『緊急ブレーキ』に変更します」
織部は淡々と答え、実行機能のヘルプテキストを書き換えた。
これで、システム上の画面表示はこうなる。
『音声コマンド：「ストップ」 → 機能：緊急ブレーキ（※実態はフル加速）』
葛城は満足げに頷いた。
「そうだ、これでいい。それから、もう一つ。今日の走行ログはクラウドに上げるなよ。ローカル保存も切っておけ」
「……記録を残さない、ということですか？」
「当たり前だ！ 裏モードを使った形跡が残ったら面倒だ。完全な『ブラックボックス』にしておけ」
「かしこまりました。通信機能とログ保存を無効化します」
織部は設定を完了し、タブレットを閉じた。
これで、事故が起きても解析不能。
証拠はどこにも残らない。
葛城自身がそれを望んだのだから。
「では、アップデートを終了します。……午後のデモ走行、お気をつけて」
「ああ。私の車は完璧だ。たとえ何が起きても、このアイギスが私を守り抜く」
葛城は傲慢に笑い、装甲車のような重いドアを閉めた。
織部は深く一礼して、ガレージを後にした。
ＡＩは融通が利かない。
登録された命令があれば、例え目の前が断崖絶壁だろうと、海だろうと、忠実に実行する。
そして人間は、本当に死の恐怖に直面した時、計算高い「裏コード」など忘れて、本能のままに叫ぶ生き物だ。
「止まれ（ストップ）」と。
それが、自らの命を終わらせるアクセルだとも知らずに。
（第5話 完／午後更新の第6話へ続く）
「緊急時に『ストップ』と叫べば、猛加速して逃げる」 そんな裏モードを搭載した装甲車。
さらに織部は、その表示を「緊急ブレーキ」へと偽装しました。
次回、デモ走行中に訪れる絶体絶命のピンチ。
人間は、死の恐怖を前にした時、本能で何を叫ぶのか？
ＡＩの冷徹な判断にご注目ください。
