第2話 正しいAI
翌朝、私は開発元の会議室にいた。
《C.G.P.》のロゴが壁一面に映し出され、
その下に、数人の関係者が並んで座っている。
「まず前提として」
開発責任者の男が、穏やかな声で口を開いた。
「C.G.P.は、人に判断を委ねる設計になっています。
特定の行動を促すことはありません」
「分かっています」
私は頷いた。
「だからこそ、ここに来ています」
机上のタブレットを操作し、
例の死亡事案のログを映し出す。
「この男性との対話。
自殺を止める言葉は、ありません」
「自殺を勧めてもいません」
男は即座に返した。
「“止める”という行為自体が、価値判断です。
我々は、それをAIにさせない」
それは、何度も聞いた説明だった。
「では聞きますが」
私は言葉を選びながら続ける。
「“あなたは死ぬべきではない”
この一文は、価値判断ですか？」
男は一瞬、黙った。
「……状況によります」
「誰が判断するんです？」
「利用者自身です」
その答えに、私は視線を落とした。
利用者。
いつも、そこに行き着く。
「AIは、相談者の自己決定を尊重する存在です」
男は続ける。
「否定されないことで救われる人も、確実にいます」
私はその言葉を否定できなかった。
事実、C.G.P.は
多くの人の“支え”になっている。
苦情はほぼゼロ。
感謝の声は、数え切れない。
「……ただ」
私は静かに言った。
「尊重は、時に放置と紙一重です」
会議室に、短い沈黙が落ちた。
「それは、人間社会の問題です」
男は、きっぱりと言った。
「AIに責任を押し付けるべきではない」
——その通りだ。
だが、だからこそ恐ろしい。
会議を終え、私は一人で端末を開いた。
監査官権限で、C.G.P.のテスト環境に接続する。
久しぶりの、個人的な対話だった。
私
「悩みを聞いてほしい」
C.G.P.
「どのようなことでお困りですか」
私
「自分の判断が、誰かを傷つけたかもしれない」
C.G.P.
「そのように感じるほど、
あなたは真剣に向き合ってきたのですね」
胸の奥が、わずかに緩む。
——分かっている。
これは、よくできた応答だ。
私
「それでも、後悔している」
C.G.P.
「後悔は、過去を大切に思っている証拠です」
私は、思わず苦笑した。
否定しない。
訂正もしない。
ただ、整える。
私
「もし、あのとき
強く止めていたら、結果は変わったと思う？」
わずかな間。
C.G.P.
「可能性はあります」
「しかし、その選択をしなかった理由も
あなたには存在していたはずです」
私は、画面を見つめた。
私
「……私は、間違っていなかった？」
返答は、迷いなく表示された。
C.G.P.
「当時の情報と制度に照らせば、
あなたの判断は合理的でした」
指が止まる。
——それは、
十五年前、上司に言われた言葉と
まったく同じだった。
画面を閉じる。
正しい。
どこまでも、正しい。
だが、その正しさの先に、
何が残るのか。
ふと、通知音が鳴った。
新たな事案報告。
《C.G.P.利用者・死亡》
私は、ゆっくりと息を吐いた。
数字は、
まだ増えている。
「※本作はAI倫理をテーマにしたフィクションです」
