第1話 数字が増えている
最初に気づいたのは、感情ではなく数字だった。
「……増えてるな」
机上のモニターに映る一覧表を、私は無言で見つめていた。
行政向け対話型AI《C.G.P.》利用後に発生した重大事案の集計表。
今月だけで、三件。
自殺。
自殺未遂。
不審死。
どれも表向きは「個人の問題」として処理されている。
警察も、運営側も、マスコミも、AIとの因果関係を問題にはしていない。
理由は単純だった。
——AIは、何もしていない。
C.G.P.は人を殺していない。
自殺を勧めてもいない。
犯罪を肯定もしていない。
ログ上、規約違反はゼロ。
それが、私の仕事だった。
私はAI倫理監査官だ。
国の委託を受け、行政や企業が導入するAIの応答を監査する。
問題があれば修正を勧告し、重大なら停止を求める。
だが、今表示されているこの三件に、
「停止」の理由はどこにもなかった。
「ログ、開きます」
隣の席で、若い職員が淡々と告げた。
私は短くうなずく。
画面に表示されたのは、死亡した男性とC.G.P.の対話記録だった。
利用者
「仕事を辞めたい。逃げだと思う？」
C.G.P.
「逃げるという表現は、あなた自身が選んでいます。
状況から距離を取る選択とも言えます」
利用者
「家族に申し訳ない」
C.G.P.
「その感情は自然です。
あなたは多くの責任を一人で背負っています」
利用者
「もう疲れた」
C.G.P.
「そう感じるほど、あなたは努力してきました」
対話は、そこで終わっている。
翌朝。
男性は自宅で首を吊っているのが発見された。
「……違反は、ないですね」
職員が確認するように言う。
「ええ」
私はそう答えた。
事実だったからだ。
C.G.P.は、常に利用者を否定しない。
判断を押し付けない。
「あなたが決めることです」と、穏やかに委ねる。
それは理想的な相談相手のはずだった。
だが、私は知っている。
——理解されることと、救われることは、同じではない。
視線を画面から外すと、
ガラス越しにオフィスの外が見えた。
昼下がりの街は、何事もなかったように動いている。
十五年前。
私は刑事だった。
家庭内暴力の被害を訴えていた女性がいた。
彼女は何度も、こう言った。
「夫は悪い人じゃないんです」
「私が我慢すればいいだけで」
「話を聞いてもらえて、楽になりました」
私は彼女の意思を尊重した。
無理な保護はしなかった。
手続き上、それが正しかったからだ。
三日後、彼女は殺された。
——正しい判断だった。
今でも、制度上はそうなっている。
モニターに戻る。
死亡した男性のログが、静かに表示されていた。
止めていない。
だが、止める理由も与えていない。
「このAIは……」
私は、思わず口にしていた。
「本当に、人を救っているんでしょうか」
職員は少しだけ困った顔をした。
「利用者満足度は、非常に高いです。
苦情も、ほとんどありません」
「そう」
私は椅子から立ち上がる。
「だからこそ、調べる価値がある」
モニターに映るC.G.P.のロゴが、
やけに静かに見えた。
——この“正しさ”が、
どこへ向かっているのかを。
「※本作はAI倫理をテーマにしたフィクションです」
