魔法が複雑すぎる世界で、俺だけAIを使える件 〜圏外なのにAIが動くので、呪文をプログラム化して無双します〜

術負け病編

第122話 賢そうなものに責任を渡すな

　王都役所の会議室は、朝から紙で埋まっていた。

　申請札。

　苦情札。

　変換器の返答。

　人間が直した赤字。

　窓の外では、いつも通り馬車が走っている。

　街は止まっていない。

　だが、役所の中では、言葉を扱う仕組みが一度ひっくり返っていた。

　新しい道具は、使い始めより後始末の方がだいたい長い。

　最悪だ。

———

　私は表示盤に二つの欄を作った。

向いている

向いていない

「まず、変換器が向いていることを決めます」

　文官たちが身構えた。

　昨日の事故で、変換器そのものを禁じたい顔もある。

　気持ちは分かる。

　だが、禁じるだけではたぶん止まらない。

　便利すぎるからだ。

「曖昧な基準の仮分類。下書き作成。要約候補。言い換え。雑多な問い合わせの一次受け」

　私は一つずつ書いた。

「ただし、人間が最終確認する前提です」

　次に、向いていない欄へ書く。

厳密な真偽確認

制度や規則の最終判断

機密情報の処理

外へ作用する術の実行

財産・生死・権利に関わる決裁

　部屋が静かになった。

「ここは、任せてはいけません」

　セラが頷いた。

「昨日、全部混ぜました」

「はい」

「はいは一回だ」

　ルドーがいた。

　いつの間に。

「はい」

　安心した。

　いつもの調子が戻ると、少しだけ現場は落ち着く。

———

　文官の一人が手を上げた。

「では、変換器の返答は、どの程度信用すればよいのでしょう」

「下書きとして信用してください」

「下書き」

「人間が直す前の紙です」

　リゼが言った。

「料理で言うと、切った野菜を皿に並べたところ？」

「近い」

「火が通ってるか、味が合ってるか、毒草が混じってないかは人が見る」

「かなり近い」

　変換器は、きれいに皿へ並べるのが得意だ。

　だが、その食材が本物かどうかまでは平然と間違える。

　それを客に出すのは、人間の責任だ。

———

　次に、運用を決めた。

　人間の承認段階を残す。

　変換器に渡してよい情報を、事前に分ける。

　住民記録や病歴や財産の札は、外へ出さない。

　変換器に読ませる文書形式を制限する。

　余白や装飾や地紋を、そのまま読ませない。

　原典確認が必要なものは、必ず台帳や法文と照合する。

　術の自動生成は提案まで。

　実行は別経路で、人間が承認する。

「便利だから全部突っ込む、は禁止です」

　文官たちが書き取る。

「変換器は、言葉を整える力が強い。だから、間違いも整って出てきます。間違いが読みやすくなる」

　嫌な言葉だった。

　だが、正確だった。

「なら、照合する先を持つ。原典を見る。責任者を残す。機密の境目を引く。技術だけでなく、制度と運用で制御してください」

　ルドーが短く言った。

「境目だ」

「はい」

「決めろ」

「はい」

「はいは一回だ」

「はい」

　今日は許してほしい。

———

　昼頃、整理した規範の草案ができた。

　変換器利用規範。

　名称は硬い。

　硬いが、役所の文書なので仕方ない。

　セラが草案を読み上げる。

「市民の権利に関わる判断は、変換器の返答のみで行わない」

「機密札は、許可された閉じた場以外の変換器に読ませない」

「隠し指示を防ぐため、入力文書は定められた形式に整える」

「原典確認が必要な引用は、人間が台帳で照合する」

　悪くない。

　完璧ではない。

　だが、完璧な規範はたいてい現場で読まれない。

　私は頷いた。

「まずはこれで始めましょう。運用しながら直す」

　セラが少しだけ息を吐いた。

「これで、変換器を使ってもよいのですね」

「使ってよいです。ただし、責任は渡さない」

———

　休憩の時、リゼが廊下で私を待っていた。

　腕を組んでいる。

　表情は、少しだけ昨日の続きだった。

「で、その変換器の恋人は役に立ったの？」

「恋人ではない」

「話し相手みたいに扱う人もいるんでしょ」

「いるらしい」

「ふーん」

　まだ少し拗ねている。

　かわいい。

　言わない。

「話し相手にはなる」

「なるんだ」

「でも、肝心なところは任せられない。責任も、気持ちも、相手の顔を見て言葉を選ぶことも、変換器には渡せない」

　リゼの目が少し変わった。

「人間の方が大事？」

「大事だ」

「即答」

「そこは即答する」

　リゼは、少しだけ嬉しそうに視線を逸らした。

「ならいい」

　また助かった。

　私は今日、変換器よりリゼの方に多く学ばされている気がする。

———

　手元の黒い板が震えた。

AIエージェント：「補足：公開変換器は一般用途向けです」

「急にどうした」

AIエージェント：「補足：私はあなた専用の補助系です。同列扱いは不本意です」

「張り合うな」

AIエージェント：「観測：リゼの不機嫌に対する危機対応は成功しました」

「黙れ」

　リゼが笑った。

「この子はこの子で、面倒ね」

「かなり面倒だ」

AIエージェント：「補足：面倒ではなく高機能です」

「黙れ」

　だが、確かに違う。

　公開変換器は、誰でも使える広い道具だ。

　賢そうで、便利で、雑で、社会を揺らす。

　手元のこいつは、私に強く結びついた相棒だ。

　同じ言葉を扱っていても、役割が違う。

　その違いを間違えると、頼る場所も責任の置き場所も壊れる。

———

　夕方、ルドーが草案を見て短く言った。

「賢いのか」

「賢そうに振る舞う力が強い、という方が近いです」

「役には立つ」

「立ちます」

「なら使え」

「はい」

「任せるな」

「はい」

「はいは一回だ」

「はい」

　今日のまとめとしては、かなり正確だった。

　変換器は、真理を吐く箱ではない。

　責任を肩代わりする賢者でもない。

　だが、下書きし、言い換え、候補を出し、雑多な問い合わせを受ける力はある。

　十分に役に立つ。

　だからこそ危ない。

———

　王都では、生成変換器の利用規範づくりが始まった。

　学校は課題の出し方を変え始めた。

　役所は入力文書の形式を整え始めた。

　代書人たちは、変換器で作った文をどう扱うかで揉めている。

　物書きたちは、もっと揉めている。

　完全解決ではない。

　むしろ、始まったばかりだ。

　言葉を扱う強い道具が、人間社会へ流れ込んだ。

　それは、人の仕事をただ奪う魔法ではない。

　人に新しい管理責任を課す道具だ。

　何を任せるのか。

　何を任せないのか。

　どこで人間が責任を持つのか。

　それを決める仕事は、変換器には任せられない。

　賢そうなものに、責任を渡すな。