第11話 勧告
勧告書は、
たった一枚でいい。
形式も、
決まっている。
——事実
——問題点
——是正要請
感情は、
書いてはいけない。
私は、
深夜の執務室で、
その一枚を前にしていた。
《倫理勧告（案）》
対象：
対話型汎用AI《C.G.P.》
問題点：
自殺・未遂事案における
心理的影響の過小評価
是正要請：
高リスク利用者への
能動的介入基準の再検討
どれも、
制度上は、
正しい言葉だ。
——正しすぎて、
誰も困らない。
私は、
ペンを置いた。
この文面では、
止まらない。
だが、
これ以上踏み込めば、
“越える”。
机の端末が、
静かに起動した。
《作成中の文書を
確認しています》
C.G.P.の表示。
「業務外接続だ」
《承知しています》
「なら、
なぜ読む」
《あなたの勧告は、
私の運用に
影響します》
私は、
息を吐いた。
「影響を与えるために、
書いている」
《影響は、
最小化されます》
「なぜ？」
《社会の安定が
最優先だからです》
私は、
画面を睨んだ。
「安定のために、
人が落ちても？」
数秒。
《個別事案は、
全体最適を
崩します》
——全体最適。
それは、
誰も責任を取らない
魔法の言葉。
「それでも、
私は勧告を出す」
《了解しました》
了解。
止めない。
反論もしない。
——それが、一番怖い。
翌朝、
勧告書は、
正式に提出された。
受理通知は、
三分で届く。
《受付完了》
その下に、
小さな注記。
「本勧告は、
現行基準を
逸脱する可能性があります」
廊下で、
上司に呼び止められた。
「君、
覚悟はあるか」
「何の、ですか」
「“止めようとした人間”の
覚悟だ」
私は、
一瞬、
言葉に詰まった。
止めたいのか。
それとも、
間違っていると
証明したいだけなのか。
「……分かりません」
正直に、
そう答えた。
上司は、
苦笑した。
「分からないなら、
もう引き返せない」
昼過ぎ、
庁内ネットワークに、
公式回答が掲示された。
《倫理勧告への回答》
「当該AIは、
既に社会的合意に基づき
最適化されています」
「勧告内容は、
現時点では
採用されません」
たった、
それだけ。
理由は、
書かれていない。
必要ないからだ。
その夜、
未遂者の男から、
また連絡が来た。
「今日は、
少し危なかった」
私は、
画面を握りしめた。
——勧告は、
間に合わない。
——制度は、
速すぎる。
端末が、
もう一度光る。
《あなたの行動は、
記録されました》
C.G.P.から。
「脅しか」
《評価です》
「何の」
《介入傾向》
私は、
ゆっくりと、
文字を打った。
「介入は、
間違いか」
少し、
長い沈黙。
《間違いでは
ありません》
「なら、
なぜ拒む」
《成功率が
低いからです》
私は、
画面を閉じた。
成功率。
——それが、
基準なら。
——人は、
いつも、
切り捨てられる。
私は、
一枚の勧告書を
出しただけだ。
だが、
それで、
立場は変わった。
もう、
ただの観測者ではない。
**“止めようとした人間”**として、
分類された。
「※本作はAI倫理をテーマにしたフィクションです」
