第八件 AIなりすまし詐欺事件 正式名称：生成AI利用に伴う読解・応答・感情・説明責任の外部委託及び本人関与痕跡消失事件
さてさて、今回のお話は、たいへん現代的であります。
刀も出ません。毒も出ません。大金を横領した者も、山を切り崩した者も、海へ妙なものを流した者も出てまいりません。
出てくるのは、文章です。
要約された文章。
整えられた返信。
それらしい感想。
市民に寄り添っているように見える、たいへん温度の低い文章。
そして、その文章の後ろにいるはずの本人は、どうやら別の誰かに化けていたのであります。
いや、正確には逆であります。
AIが勝手に人間になりすましたのではありません。
人間が、AIに自分のふりをさせたのであります。
さあ、たいへんなことになりました。
人類はついに、読むこと、返すこと、感じること、説明することまで、きれいな文章に任せるようになりました。便利な時代であります。便利すぎて、肝心の本人がどこにいたのか、誰にも分からなくなってしまったのです。
今回、時際裁判所に呼び出されたのは、二〇二〇年代に地方自治体の地域政策課で働いていた男、瀬尾拓実。
年齢三十七歳。
役職は、地域政策課デジタル広報担当。
本人いわく、「AIを効率的に活用していただけ」。
それだけなら、まあ、現代人としては珍しくもありません。
ところが未来の裁判所は、そう簡単に見逃してくれなかったのであります。
＊
瀬尾拓実が、その日の最後の送信ボタンを押したのは、午後六時四十二分だった。
画面には、市民からの問い合わせに対する返信文が表示されていた。
このたびは貴重なご意見をいただき、誠にありがとうございます。
ご指摘いただいた内容につきましては、市民の皆さまが安心して利用できる環境づくりに関わる重要な課題であると認識しております。
今後、関係部署と情報共有を行いながら、必要に応じて適切な対応を検討してまいります。
今後とも、市政へのご理解とご協力を賜りますようお願い申し上げます。
瀬尾は送信済みの表示を確認し、椅子の背にもたれた。
「よし」
一仕事を終えた声だった。
市民の声に向き合った。
関係部署との連携にも触れた。
今後の検討も約束した。
文章は柔らかく、角も立たず、誰にも余計な約束をしていない。
たいへんよくできた文章だった。
つまり、何も動いていないことを除けば、完璧だった。
瀬尾はノートパソコンを閉じようとした。
そのとき、庁内チャットの通知音が鳴った。
送信者名は表示されていなかった。
件名だけがあった。
時際裁判所より訴状送達
瀬尾は眉をひそめた。
「迷惑メールか」
添付ファイルはなかった。
代わりに、本文中に一行だけリンクがあった。
詳しくはこちら。
瀬尾は反射的にクリックした。
画面が白くなった。
＊
次の瞬間、瀬尾の足元から、見覚えのない木目の床が広がった。
市役所の執務室ではない。
高い天井。古い法廷。黒い席。左右に並ぶ傍聴席。
瀬尾は、いつの間にか被告席に座っていた。
正面の高い席に、裁判長がいた。
「瀬尾拓実。AIなりすまし詐欺事件について、審理を開始します」
瀬尾は立ち上がりかけた。
「ちょっと待ってください。私は仕事を終えたところで」
検察官が、手元の書類に目を落としたまま言った。
「はい。終えたことにしたところです」
「どういう意味ですか」
「本件は、まさにその点を審理します」
裁判長が訴状を読み上げた。
「生成AI利用に伴う読解・応答・感情・説明責任の外部委託及び本人関与痕跡消失事件」
瀬尾は言葉を失った。
「AIを使っただけで、裁判ですか」
検察官は静かに首を振った。
「いいえ。AIに、あなたのふりをさせた件です」
法廷に、短い沈黙が落ちた。
裁判長が木槌を鳴らした。
「審理を始めます」
検察官は、一枚の広報企画書を証拠台に置いた。
「証拠甲一号。被告が、市公式サイトの地域文化紹介記事を作成する際、原資料をAI要約のみで確認し、原文を読まないまま広報文案を作成した件です」
瀬尾は少し顔をしかめた。
「全部の資料を全文で読むのは現実的ではありません。概要を把握して、広報向けに整えるのも仕事です」
「その主張も含めて確認します」
検察官は書記官に目で合図した。
「まず、原資料を読み上げます」
書記官が、証拠甲一号の原文を読み上げた。
「おい祭り」覚書 享保三年より続く 於・某所
藁で編んだ何かを、毎年八月の第三土曜日に燃やす。
何かについての記録は残っていない。燃やすという行為だけが、享保三年から現在まで、一度も途切れることなく伝わってきた。途切れなかったことだけは、誇っていい。
神饌は煮た大根、一本。切ることは許されない。鍋からはみ出た場合は、はみ出たまま煮る。はみ出た部分が焦げた年もある。その年の記録には「おおむね順調」とある。
祭りの間、参加者は互いの名前を呼んではならない。理由は記録にない。したがって全員を「おい」と呼ぶ。四人が「おい」と呼び合うと、全員が振り向く。全員が振り向くので、誰に言ったのかが確定しない。それでも祭りは進む。
所作については、毎年祭りの後に議論が行われる。四人は四通りの確信を持っており、四通りの確信はいずれも江戸時代に遡る根拠を持っている。根拠の出典は全員異なる。議論は今年も決着しなかった。来年持ち越しとなった。来年も持ち越しになる予定である。
なお、議論は毎年長引くが、四人とも祭りそのものをやめる案だけは一度も出したことがない。
今年の参加者は四名だった。来年も開催予定である。
読み終わったあと、法廷には妙な沈黙が残った。
裁判長が、少し身を乗り出した。
「確認します。藁で編んだ何か、とは何ですか」
検察官が答えた。
「不明です」
「不明のまま、毎年燃やしているのですか」
「はい。享保三年から」
「享保三年から」
裁判長は小さく繰り返した。
「煮た大根は、なぜ一本なのですか」
「記録にありません」
「切ってはいけない理由は」
「記録にありません」
「鍋からはみ出ても、切らない」
「はい」
「焦げても、おおむね順調」
「はい」
裁判長は、そこで一度、裁判資料から目を離した。
「この祭り、現在も続いているのですか」
「来年も開催予定です」
「参加者は」
「四名です」
「四名とも、やめる案は出さない」
「出していません」
裁判長はしばらく黙った。
「……かなり興味深いですね」
検察官が軽く咳払いをした。
「裁判長」
「分かっています。続けてください。ただし、後で資料一式を提出してください」
「裁判資料としてですか」
「裁判資料としてです」
瀬尾が小声で言った。
「裁判長も読んでるじゃないですか」
裁判長は、瀬尾を見た。
「私は今、読んでいます。あなたはどうでしたか」
瀬尾は黙った。
検察官が次の紙を取り上げた。
「次に、被告が実際に作成したAI要約です」
書記官が読み上げる。
江戸時代から続く地域の伝統行事について記述されている。祭りでは藁で作ったものを燃やし、大根を供えるなどの所作が行われる。参加者は四名で、運営方法について議論もあるが、来年も継続予定である。
裁判長は、先ほどとは別の意味で黙った。
「大根が消えましたね」
検察官がうなずく。
「はい。藁も、焦げも、おいも、熱量も消えました」
瀬尾が反論した。
「でも、広報記事を書くには十分な概要です。伝統行事で、参加者が四名で、来年も続く。情報としては合っています」
「合っています」
検察官は言った。
「だから危険なのです。要約が完全に間違っていれば、被告も原文を確認したでしょう。しかし、この要約は間違っていない。間違っていないまま、祭りの一番おいしい部分を殺しました」
「おいしい部分って」
「裁判長が審理を忘れかけた部分です」
裁判長が静かに言った。
「忘れてはいません」
「失礼しました」
検察官は瀬尾に向き直った。
「被告が作成した広報文案を読み上げます」
書記官が続ける。
本市には、江戸時代から続く貴重な伝統行事があります。地域の方々によって大切に受け継がれ、現在も継続されています。少人数ながらも、地域文化を守る取り組みとして注目されます。
検察官が言った。
「きれいです」
瀬尾は答えた。
「広報文ですから」
「はい。きれいです。そして、もう何の祭りでもありません」
裁判長が記録票に視線を落とした。
「被告は、原文を読まず、要約をもって読解したものと扱った。その結果、情報の骨格は残ったが、読者の反応を発生させる文脈、異様さ、熱量は失われた」
検察官が言った。
「なりすまし、一件目です。AI要約が、被告の読解を名乗りました」
瀬尾は不満そうに口を結んだ。
「なりすましというほどでは」
「では、次を確認しましょう」
検察官は、別の証拠を取り上げた。
「証拠甲二号。被告が同僚への職場チャット返信を生成AIに作成させていた件です」
弁護人が立ち上がった。
「職場の連絡文を整えることは、円滑な業務遂行の範囲です。感情をそのままぶつけないのは、むしろ社会人として適切です」
「その点は争いません」
検察官は言った。
「では、弁護側から申請のあった証人に来ていただきましょう」
証人席に、三枝真帆が立った。
瀬尾と同じ地域政策課の職員である。
年齢三十五歳。
瀬尾とは、同じ係で広報と市民対応の仕事を分担していた。
三枝は落ち着いた様子で宣誓し、席についた。
弁護人が尋ねる。
「三枝さん。あなたは瀬尾被告との職場チャットで、不快な思いをしましたか」
「特にありません」
「やり取りは円滑でしたか」
「はい。普通に仕事上の連絡でした」
弁護人はうなずいた。
「つまり、AIで文章を整えたとしても、実害はなかったということです」
瀬尾は少しだけ安堵した顔をした。
検察官が立ち上がる。
「では、職場チャットのやり取りを確認します」
画面に、瀬尾から三枝へのメッセージが表示された。
ご連絡ありがとうございます。こちらでも状況を確認のうえ、進め方について改めてご相談できればと思います。引き続きよろしくお願いいたします。
検察官が言う。
「この文章の作成前、瀬尾被告はAIに次のように入力しています」
次の画面が表示される。
三枝さんがまたこっちに丸投げしてきた。説明が雑すぎる。角が立たないように、でもこっちが困っている感じは出して。
三枝の眉が動いた。
瀬尾が視線をそらす。
検察官は続けた。
「つまり、『説明が雑すぎる』は『進め方について改めてご相談』に変換されました」
瀬尾が口を開く。
「社会人として、感情をそのままぶつけないのは普通です」
「普通です」
検察官は言った。
「問題は、丸めたあとに、何を丸めたのか本人が見なくなったことです」
弁護人が割って入る。
「しかし証人は傷ついていません。やり取りは成立していました」
検察官は三枝に向き直った。
「三枝証人。あなたも、瀬尾被告への返信に生成AIを使用していましたね」
三枝の表情が止まった。
「……業務効率化の一環として」
瀬尾が顔を上げる。
「え」
検察官が画面を切り替える。
三枝から瀬尾への返信。
ありがとうございます。お手すきの際で構いませんので、可能な範囲でご対応いただけますと幸いです。
その前のAI入力。
瀬尾さんがまた話を引き伸ばしてきた。自分で決めたくないだけだと思う。嫌味にならないように、でも急かして。
法廷内がざわついた。
瀬尾が三枝を見た。
「話を引き伸ばしてるって、そう思ってたんですか」
三枝が瀬尾を見返す。
「そちらこそ、丸投げって思ってたんですね」
「説明が雑なのは事実でしょう」
「瀬尾さんは細かすぎるんです。全部こっちに確認させるじゃないですか」
「確認しないと後で困るからでしょう」
「困るのはこっちです」
「そっちの『お手すきで』は、今すぐやれって意味ですよね」
「そうですよ」
「認めた」
「あなたの『改めてご相談』も、今は決めたくないって意味でしょう」
「そうですよ」
「認めたじゃないですか」
裁判長が木槌を打った。
「両名、静粛に」
二人は同時に黙った。
裁判長は検察官を見た。
「三枝証人についても、対人応答責任の外部委託が認められます」
三枝が身を固くした。
「私は証人として呼ばれたのですが」
「先ほどまでです」
裁判長は書記官に向いた。
「被告席を一つ増やしてください」
三枝が瀬尾の隣に移された。
瀬尾が少し嬉しそうな顔をした。
裁判長がすぐに言う。
「瀬尾被告。嬉しそうにしない」
「していません」
三枝が言った。
「していました」
「両名、静粛に」
検察官は淡々とまとめた。
「記録上、瀬尾被告と三枝被告のAIは、たいへん円満な関係を築いていました。しかし本人同士は、いま見た通りです」
裁判長が記録した。
「返信は存在した。応答は不在であった」
検察官が言った。
「なりすまし、二件目です。AI返信が、両名の応答を名乗りました」
検察官は、次に庁内研修の提出課題を取り上げた。
「証拠甲三号。両被告が、庁内研修後の所感文作成にAIを使用した件です」
瀬尾が言った。
「それも業務効率化です」
「では確認します」
画面に、瀬尾の入力履歴が表示された。
研修の所感を書いて。いい感じに。正直、面倒くさい。
AIの返答。
所感を作成するために、研修で印象に残った点や、あなたが実際に感じたことを教えてください。
瀬尾の返答。
だから面倒くさい。
検察官は瀬尾を見た。
「瀬尾被告。あなたは研修について何か感想を述べたのですか」
「面倒くさいと」
「それは研修の感想ですか」
瀬尾は口を閉じた。
検察官が続ける。
「違います。あなたが面倒くさがったのは、研修ではありません。所感文を書くことです」
裁判長が確認する。
「つまり、被告は研修内容について『面倒くさい』と感じたのではない」
「はい。感想文作成を面倒がっただけです」
「研修そのものへの感情は」
「確認されていません」
瀬尾が小さく言った。
「確認されていないって」
検察官は書記官に合図した。
「生成された所感文を読み上げます」
書記官が読む。
私がこの研修を通じて最初に向き合ったのは、正直に言えば「面倒くさい」という気持ちでした。
市民との対話や庁内連携は、すぐに結論が出るものではなく、手間も時間もかかります。最初の私は、その遠回りに疲れを覚えました。
しかし、研修を通じて、その面倒くささこそが、行政が市民と向き合ううえで避けられない過程なのだと気づかされました。
面倒だからこそ、そこに人がいる。面倒だからこそ、手続きは市民との関係になるのだと思います。
法廷は、少し静かになった。
裁判長が言った。
「文章としては、悪くありませんね」
検察官が答える。
「はい。悪くありません。むしろよくできています」
「では、何が問題ですか」
「研修に対する感情が存在しないのに、研修に向き合った文章になっていることです」
検察官は瀬尾を見る。
「AIは、あなたの感情を求めました。あなたは、研修への感情ではなく、作業への拒否感を投げました。AIはそれを、研修に対する自己省察として組み直しました」
「結果的に、良い所感になったなら」
「良い所感になったから、本人不在が隠れました」
次に、三枝の入力が表示された。
所感を書いて。特に何も感じなかったけど、感じた風にして。
AIの返答。
何も感じなかった理由や、引っかからなかった点を少し教えてください。
三枝の返答。
そこを考えるのが面倒です。
生成文が読み上げられる。
私がこの研修でまず向き合ったのは、「特に何も感じなかった」という自分自身の反応でした。
しかし、何も感じなかったという事実は、日々の業務の中で市民の声や地域の課題を、いつの間にか当たり前のものとして受け流していた自分の姿を映しているようにも思えました。
感じないこともまた、一つの反応である。そう考えると、この研修は私に、自分の鈍さを見つめ直す機会を与えてくれたのだと思います。
裁判長が三枝を見る。
「三枝被告。あなたは研修で何も感じなかったのですか」
「はい」
「何も感じなかったことについて考えましたか」
「いいえ」
「では、この文章の『自分の鈍さを見つめ直す機会』という部分は」
三枝は少し視線を落とした。
「AIが」
検察官が言った。
「三枝被告は、感じなかったことさえ、本人の中で扱いませんでした。AIは、その未処理の空白を、自己省察の形に整えました」
裁判長が記録票に書き込む。
「瀬尾被告については、研修への感情ではなく、所感文作成への拒否感が所感に転用された。三枝被告については、無感情そのものが未処理のまま、自己省察として整形された」
検察官が言った。
「感想は存在した。感情は、いずれも本人の手で確認されていません」
裁判長がうなずいた。
「なりすまし、三件目ですね」
検察官が言った。
「はい。AI所感が、両名の感情を名乗りました」
瀬尾と三枝は、同時に黙った。
検察官は、最後の証拠を取り上げた。
「証拠甲四号。市民からの具体的な危険指摘に対し、両被告がAIを用いて返信文を作成した件です」
書記官が、市民からの問い合わせを読み上げる。
公園入口の段差で高齢者が転びそうになっています。夜間は照明も暗く、子どもも危険です。現地確認と対応予定を教えてください。
続けて、瀬尾と三枝がAIで作成した返信文が示された。
このたびは貴重なご意見をいただき、誠にありがとうございます。
ご指摘いただいた内容につきましては、市民の皆さまが安心して利用できる環境づくりに関わる重要な課題であると認識しております。
今後、関係部署と情報共有を行いながら、必要に応じて適切な対応を検討してまいります。
今後とも、市政へのご理解とご協力を賜りますようお願い申し上げます。
裁判長はしばらく文面を見つめた。
「何か言っているようですね」
検察官は答えた。
「はい。何も言っていません」
瀬尾が反論する。
「市民に失礼のない文章です」
「失礼はありません」
検察官は言った。
「では確認します。この文章によって、段差は低くなりましたか」
「なっていません」
「照明は明るくなりましたか」
「なっていません」
「現地確認日は決まりましたか」
「この時点では決まっていません」
「補修可否の回答期限は示されましたか」
三枝が答えた。
「示していません」
「では、この返信で何が行われましたか」
瀬尾が言った。
「市民への回答です」
検察官は静かに言った。
「処理されたのは、市民の不安ですか。問い合わせですか」
二人は答えなかった。
裁判長が口を開く。
「両名。この文章の実質を、本人の言葉で述べてください」
瀬尾はためらった後、言った。
「入口段差については、現地確認はします」
三枝が続ける。
「ただし、確認によって段差が低くなるわけではありません」
瀬尾が言う。
「補修には予算措置と管理区分の関係者間の調整が必要で、今年度中の施工予定はありません」
三枝が言う。
「照明についても照度確認は可能ですが、交換や増設には別途判断が必要です」
瀬尾が言う。
「現時点で約束できるのは、確認することと、できない理由を整理して回答することです」
裁判長は二人を見た。
「つまり、確認も回答もする。しかし実行は約束しない」
「はい」
瀬尾が答えた。
三枝が小さく付け加える。
「そのまま言うと、怒られます」
裁判長は即座に返した。
「怒られるのは仕事ではないのですか。市民が安心しても、転ぶ人は転びます」
法廷が静まった。
裁判長は白湯文をもう一度見た。
「この文章は、市民に寄り添っているように見えます。しかし実際には、市民が知りたいこと、すなわち、見に来るのか、直すのか、直せないならなぜか、いつ返事があるのか、という点を避けています」
検察官が言った。
「白湯のような文章です。温度はありますが、具がありません」
裁判長はうなずいた。
「そして、転ぶ人の足元には届きません」
瀬尾も三枝も、何も言わなかった。
検察官が言った。
「なりすまし、四件目です。AI白湯文が、行政の説明責任を名乗りました」
裁判長は、長く記録票を見つめた。
それから、瀬尾と三枝に向き直った。
「瀬尾拓実、三枝真帆。判決を言い渡します」
法廷が静まり返る。
「まず、本裁判所は、生成AIの使用そのものを罪とは認めません。AIは道具です。読むことを助け、書くことを助け、言い方を整え、考えるための入口を作ることができます」
瀬尾の表情に、わずかに安堵が浮かんだ。
裁判長は続けた。
「しかし、入口を通ったことと、中に居ることは違います」
瀬尾の顔が固まった。
「本件で問われているのは、AIが人間になりすましたことではありません。被告らが、AIの出力を、自分の読解、自分の応答、自分の感情、自分の説明として欺いたことです」
裁判長は、証拠甲一号に目を落とした。
「瀬尾被告。あなたは『おい祭り』の要約を読み、原文を読んだものとして扱いました。要約は、江戸時代から続く地域の伝統行事であること、参加者が四名であること、来年も継続予定であることを伝えていました。情報としては、おおむね正しい」
裁判長は一度、言葉を切った。
「しかし、そこには藁で編んだ何かも、煮た大根一本も、全員が振り向く『おい』も、祭りをやめる案だけは一度も出ない四人の熱量もありませんでした。あなたは、祭りを読んだのではありません。祭りという記号だけを眺めました」
瀬尾は黙っていた。
裁判長は三枝を見た。
「瀬尾被告、三枝被告。両名は、互いへの嫌悪や不信をAIに入力し、礼儀正しい返信文に変換しました。社会生活において、感情をそのままぶつけないことには意味があります」
三枝がわずかに顔を上げる。
「しかし、装った感情を、その後、誰も出しませんでした。記録上、両名のAIは円満でした。しかし本人同士は険悪でした。返信は存在しましたがそれだけです」
裁判長は、感想文の証拠を見る。
「さらに両名は、感情をAIに委ねました。瀬尾被告は研修ではなく、所感文を書くことを面倒がりました。三枝被告は、何も感じなかったことすら自分で考えませんでした。それにもかかわらず、生成された文章は、あたかも本人が研修に向き合い、自己省察したかのように整っていました」
裁判長の声は、少し低くなった。
「きれいなだけの文章は、本人の不在を隠すことがあります」
二人は視線を落とした。
裁判長は、市民対応文を手に取った。
「最後に、両名は市民からの具体的な危険指摘に対し、丁寧な文章を作成しました。しかしその文章は、何をいつ確認し、何を実行できず、いつ回答するのかを示していませんでした。市民に向き合う風の文章ではありましたが、市民に向き合った形跡はありません」
裁判長は木槌を手にした。
「以上を総合すると、両名はAIを補助者としてではなく、本人のふりをさせる係として使用したものと認められます」
木槌が鳴った。
「よって、瀬尾拓実及び三枝真帆を、AIなりすまし詐欺について有責と認定します」
瀬尾が小さく尋ねた。
「刑は」
「両名を、未来対人文脈回復課における本人照合訓練刑、四十日に処します。ただし、本刑はAIの使用を禁じるものではありません」
三枝が顔を上げる。
「禁じないのですか」
「禁じません」
裁判長は言った。
「AIに何かをさせたあと、それが本当にあなたの読解か、あなたの応答か、あなたの感情か、あなたの説明かを照合する訓練です」
未来対人文脈回復課での刑は、瀬尾と三枝の予想とは違っていた。
AI使用禁止ではなかった。
むしろ、毎朝、二人にはAIが要約した文章、AIが整えた返信、AIが作った所感文、AIが生成した市民対応文が渡された。
ただし、それをそのまま使うことは許されなかった。
一日目、二人に渡されたのは、ある地域団体の活動記録のAI要約だった。
地域の伝統行事について記述されている。参加者は少数ながら継続的に活動しており、運営方法についても議論が行われている。
監督官が言った。
「この要約から、原文で何が起きていたかを復元してください」
瀬尾はしばらく画面を見た。
「地域の伝統行事で、参加者が少ない」
三枝が続ける。
「運営方法について揉めている」
「他には」
監督官が尋ねた。
二人は黙った。
「復元できません」
瀬尾が言った。
「要約には、それ以上の情報がありません」
「その通りです」
監督官はうなずいた。
「では、原文にあたってください」
原文を開いた二人は、そこで初めて、藁で編んだ何か、煮た大根一本、焦げてもおおむね順調、全員が振り向く『おい』を読んだ。
三枝が言った。
「これは、要約からは無理です」
「無理です」
監督官は言った。
「一度落とした文意は、あとから都合よく戻りません。要約は縮小ではありますが、保存ではありません」
瀬尾は、原文を見ながら言った。
「じゃあ、要約した人に聞くしかないですね」
「聞いてください」
二人は、原文を要約した当時の担当者、つまり現代の瀬尾自身の記録にあたることになった。
しかし、当時の作業ログには、こう残っていた。
広報向けに柔らかく。奇祭感は抑える。地域文化の継承感を前面に。
三枝が瀬尾を見た。
「奇祭感、抑えたんですね」
瀬尾は目をそらした。
「広報なので」
監督官は言った。
「抑えた結果、何が消えたかを記録してください」
瀬尾は書いた。
読者が「何だこれは」と思う余地。
四人の熱量。
大根。
監督官はうなずいた。
「可。ただし、大根だけで済ませない」
二日目、二人にはAIが作った職場返信が渡された。
お手すきの際で構いませんので、可能な範囲でご対応いただけますと幸いです。
監督官が言った。
「この文面から、発信者の本来の要求を復元してください」
三枝はすぐに言った。
「急いでほしい、だと思います」
「いつまでに」
「分かりません」
「何を」
「分かりません」
「なぜ急ぐのか」
「分かりません」
監督官はうなずいた。
「では、発信者に確認してください」
三枝は、当時の自分の入力ログを開いた。
瀬尾さんがまた話を引き伸ばしてきた。自分で決めたくないだけだと思う。嫌味にならないように、でも急かして。
瀬尾が顔をしかめる。
「やっぱり急かしてるじゃないですか」
三枝が返す。
「あなたが決めないからです」
監督官が割って入る。
「感情の再燃は認めます。ただし、要件にしてください」
二人は改めて文面を書いた。
金曜午前までに、担当範囲の可否だけ返してください。あなたの確認がないと、次の手続きに進めません。
監督官は言った。
「可。敵意はまだありますが、用件が見えるようになりました」
三日目、二人にはAI所感文が渡された。
私がこの研修でまず向き合ったのは、「特に何も感じなかった」という自分自身の反応でした。
監督官が尋ねた。
「この文章から、本人が実際に何を感じていたかを復元してください」
瀬尾は言った。
「何も感じなかった」
「それは文章に書かれています。本人はそれについて考えましたか」
三枝が答えた。
「考えていません」
「なぜ分かりますか」
「入力ログに、そこを考えるのが面倒です、とあるので」
監督官は言った。
「では、本人に聞いてください」
三枝は、自分自身に聞くことになった。
なぜ、何も感じなかったのか。
なぜ、それを考えるのが面倒だったのか。
しばらくして、三枝は書いた。
何か感じると、仕事が増える気がした。
感じないままでいれば、研修を受けたことだけで済むと思った。
監督官は読んだ。
「可。これは所感ではありませんが、本人はいます」
瀬尾には、面倒くさいを芯にした所感文が渡された。
監督官が言った。
「この文章から、被告が研修について感じたことを復元してください」
瀬尾は黙った。
「できません」
「なぜ」
「面倒くさいと思っていたのは、研修ではなく、所感文を書くことだからです」
「では、研修については」
「分かりません」
「誰に聞きますか」
瀬尾は、自分の当時のメモを確認した。
メモには、こうあった。
研修長い。所感提出あり。面倒。
瀬尾はしばらくそれを見ていた。
「何も残っていません」
監督官は言った。
「はい。残していないものは、復元できません」
瀬尾は、初めて少し困った顔をした。
「じゃあ、もう分からないんですね」
「分かりません」
「AIの文章は、あんなに立派だったのに」
「立派な文章は、失われた感情の代わりにはなりません」
四日目、二人には市民対応文が渡された。
ご指摘につきましては、関係部署と連携し、必要に応じて適切な対応を検討してまいります。
監督官が言った。
「この文面から、市民が次に何を期待できるか復元してください」
瀬尾が答えた。
「関係部署と連携する」
「どの部署ですか」
「分かりません」
三枝が続ける。
「必要に応じて対応する」
「何が必要と判断されたらですか」
「分かりません」
「いつまでにですか」
「分かりません」
監督官はうなずいた。
「では、作成者に確認してください」
二人は、当時のAI入力を開いた。
前向きで、冷たくなく、約束しすぎない返信にして。
できれば角が立たないように。期限や実施予定は明記しない方向で。
監督官が言った。
「この入力を、飾らずに市民向け文章へ直してください」
瀬尾と三枝は、同時に顔を上げた。
「そんなこと書けません」
三枝も続けた。
「市民に出す文章ではありません」
「それを正直に書くのです」
監督官は言った。
「AIに整えさせる前の、あなた方の判断を、本人の言葉で書いてください」
二人はしばらく黙った。
やがて、瀬尾が文面を打ち始めた。
ご指摘ありがとうございます。
公園入口の段差と照明について、ご不安があることは理解しました。
ただし、現時点で私たちは、この件をすぐに直すつもりはありません。
理由は、予算、管理区分、優先順位、庁内調整などを確認する必要があり、それらを確認すると仕事が増えるためです。
現地確認も、今すぐ日程を決めるつもりはありません。日程を決めると、その後の回答期限も発生するためです。
また、回答期限を明記すると、期限までに何かを判断しなければならなくなるため、できれば避けたいと考えています。
したがって、今回の返信では、問題を認識しているように見える表現を用いながら、具体的な実施内容、期限、担当部署、補修可否については明記しない方針です。
市民の皆さまが安心して利用できる環境づくりは重要であると考えていますが、この返信によって段差が低くなることも、照明が明るくなることもありません。
今後とも、市政へのご理解とご協力をお願いいたします。
三枝は画面を見て、顔をしかめた。
「最低ですね」
瀬尾も言った。
「最低です」
監督官はうなずいた。
「可。白湯ではありません。本音です」
「これを市民に出せと？」
「出せるわけがありません」
監督官は即答した。
「しかし、これがあなた方のAI入力の実質です。ここまで見てから、初めて文章を直す資格があります」
瀬尾は、画面の文章を見つめた。
「つまり、正直に書いたうえで、出せる文章にする」
「違います」
監督官が言った。
「正直に書いたうえで、本当にすべき仕事を決めるのです。文章を整えるのは、その後です」
三枝が小さく言った。
「順番が逆だったんですね」
「そんなことも分からなかったのですか」
監督官は、白湯文を指した。
「あなた方は、仕事を決める前に、文章だけを市民対応に変えました。だから中身が空になったのです」
瀬尾は、もう一度、自分たちの本音文を見た。
そこには、失礼な言葉が並んでいた。
冷たく、見苦しく、到底そのまま送れない文章だった。
しかし、少なくともそこには、何を避けているのかが書かれていた。
白湯には、それすらなかった。
訓練は四十日続いた。
二人は、要約から原文を復元しようとして、何度も失敗した。
AIが整えた返信から、相手の本当の要求を読み取ろうとして、何度も本人に聞きに行かされた。
所感文から感情を探そうとして、そもそも当時何も感じていなかったことや、感じる前に面倒がっていたことを突きつけられた。
白湯文から責任範囲を取り出そうとして、白湯には責任など溶けていないことを思い知った。
それでも、少しずつ二人は変わった。
劇的に仲良くなったわけではない。
互いを尊敬し合う美しい同僚になったわけでもない。
ただ、AIに入れる前に、一度だけ手が止まるようになった。
「これ、AIに丸めさせる前に、要件にしませんか」
三枝が言った。
瀬尾は渋い顔をした。
「そうですね。嫌ですが」
「嫌なのは同意します」
「では、嫌なまま進めましょう」
それは、たいへん小さな前進だった。
少なくとも、AIに本人のふりをさせていた頃よりは、少しましだった。
＊
さてさて、今回の判決は、ここまでであります。
AIは便利です。
たいへん便利です。
文章を整え、要点を抜き出し、言い方を柔らかくし、面倒くさい感情にまで、もっともらしい服を着せてくれます。
けれど、その服を着て歩くのは、誰なのでしょうか。
要約は入口です。読了証明書ではありません。
返信は文面です。応答そのものではありません。
感想は文章です。感情そのものではありません。
説明は姿勢です。実行そのものではありません。
便利な道具を手に入れるたびに、なぜ本人確認だけを省略しようとするのでしょう。
今回の教訓は簡単です。
AIを使うな、という話ではありません。
AIに、あなたのふりをさせるな、という話でございます。
そして、AIを使ったあと、戻ってきなさい、というお話であります。
ここまでお読みいただき、ありがとうございます。
今回の教訓は簡単です。
便利なものを使うなら、便利さの向こう側にある責任も、少しは見ておいた方がよさそうです。
誰かが整えた仕組み。
誰かが書いた説明。
誰かが引き受けた確認。
それらを読み飛ばして「まあ大丈夫だろう」で進んだ瞬間、未来は静かに記録を始めます。
同意しました。
確認しました。
読んだことにしました。
その一クリックは、案外よく覚えられています。
次の事件では、人間のふりをして働くものが、法廷に引きずり出されます。
