第58話 倫理演算の実装
共通魔法コードが初めて研究所の外へ出たのは、その翌朝だった。
鉱山組合から指定された場所は、東坑道の入口にある安全講習所。
石造りの壁。
煤の染みついた天井。
濡れた作業着を掛けるための太い木枠。
壁際には、消火用の砂箱と水桶が並んでいる。
魔法を教える場所というより、事故を起こさないための場所だった。
それでいい。
今日の目的は、誰かに新しい魔法を覚えさせることではない。
俺たちが隣にいなくても、共通魔法コードの意味が通じるかを確かめることだ。
講習を担当するのは、鉱山組合の安全係だった。
俺たちは説明役にならない。
研究所で書いた紙を渡し、必要な道具を配置し、後ろから観察する。
分からない部分があっても、すぐには口を挟まない。
説明した本人が隣にいなければ動かない手順を、「共通」と呼ぶことはできないからだ。
安全係の男が、参加者たちへ紙を掲げた。
「今日やるのは、火を強くする訓練じゃない。小さな火を出して、三回息をする前に消す訓練だ」
集まった鉱夫と工房見習いたちが、壁に貼られた図を見る。
小さな火。
三本の線。
停止札。
水桶。
退避方向を示す矢印。
「最初に、止める言葉を決める。火が出る前だ。出てから考えるな」
フィンが俺の隣で小さく頷いた。
「ちゃんと通じてるな」
「ああ」
「お前が説明するより早い」
「比較する必要はない」
「あるだろ。共通化の試験なんだから」
反論できなかった。
講習は、最初の説明までは問題なく進んだ。
参加者を二人一組にする。
一人が媒体杖を持つ。
もう一人が停止係になる。
停止係は水桶の位置を確認し、発動者が停止語を言えなくなった場合に代わって停止札を切る。
研究所で決めた手順が、鉱山組合の安全係の言葉で読み上げられていく。
細かな表現は変わっている。
だが、行動は同じだ。
それが重要だった。
◇
問題が起きたのは、三組目だった。
発動者は、若い工房見習い。
媒体杖へ触れた指が震えている。
呼吸も浅い。
それでも、本人は続けようとした。
「まだできる」
停止係の鉱夫が、紙を見ながら言った。
「一度離せ。呼吸が速い」
「怖くない」
「怖いかどうかじゃない。息が乱れてる」
「火も出てないのに止めるのかよ」
工房見習いの声に、苛立ちが混じった。
周囲の視線が集まる。
安全係は少し迷った。
共通魔法コードには、こう書いてある。
【呼吸が乱れたら停止】
【怖くなったら強くしない】
【本人が停止できない場合、停止係が止める】
だが、本人は続けたいと言っている。
今の彼は停止語も言える。
意識もある。
媒体の温度も、まだ危険域ではない。
本人の判断を尊重するのか。
危険の兆候がある以上、周囲が止めるのか。
紙に書かれた一文だけでは、境界が分からない。
「ユウマ」
エリシアが小声で呼ぶ。
「まだ口を出すな」
「分かっているわ。でも、あの子の火、底が滑り始めている」
発動前の熱核が安定していない。
媒体へ入る力に対して、呼吸と停止意思の入力が追いついていない。
このまま続ければ、大きな火にはならない。
代わりに、媒体内部へ熱だけが溜まる。
安全係が決断した。
「中止だ。手を離せ」
「まだ――」
「中止!」
停止係が札を切った。
黒鉛線が熱を吸い、媒体杖の光が消える。
その直後、石英の先端から小さな白煙が上がった。
あと数拍続けていれば、指先を焼いていた可能性がある。
工房見習いは黙り込んだ。
安全係が杖を受け取り、熱を確かめる。
「続けなくてよかった」
短い言葉だった。
だが、見習いは納得していない顔をしていた。
「俺は、まだ止めてない」
「だから俺たちが止めた」
「俺の魔法なのに?」
その問いで、講習所が静かになった。
使用者の魔法。
使用者の判断。
周囲の停止権限。
どれも、俺たちが守ろうとしてきたものだ。
だが、その三つが衝突した時の順序までは、共通魔法コードに書かれていない。
安全係の判断は正しかった。
しかし、正しい判断をしたという結果だけで終わらせれば、次の場所では違う結論になるかもしれない。
俺は前へ出た。
「今の中止判断は、記録上は成功とする」
見習いが俺を見る。
「火も出てないのに?」
「ああ。媒体の過熱を確認し、事故になる前に停止した」
「でも、俺は続けたかった」
「それも記録する」
「俺が間違ってたって?」
「違う。君が続けたいと判断したことと、安全係が中止を選んだことを、両方残す」
見習いは眉を寄せた。
「どっちが正しいんだよ」
「今回は安全係の停止が優先された。媒体過熱という観測可能な危険があったからだ」
「じゃあ、俺が何を言っても止められるのか?」
「そうならないために、どの条件で周囲が停止できるのかを決める必要がある」
紙の不足が、現場で見えた。
使用者の判断を尊重する。
ただし、判断できる状態にあることが前提だ。
安全担当者に停止権限を残す。
ただし、本人の意思を無視してよい理由を明確にしなければならない。
止める権限が曖昧なら、事故が起きる。
止める権限が強すぎれば、魔法を使う者は再び誰かの命令に従うだけになる。
教会が神意で人を止めたように。
学院が規則で知識を閉じたように。
俺たちが同じ構造を作らない保証は、まだなかった。
◇
講習終了後、安全係から返された共通魔法コードには、赤い炭で一文が書き足されていた。
【本人が続けたい場合、誰が止めるのか】
研究所へ戻った俺は、その紙を机の中央へ置いた。
「倫理仕様レビュー会を行う」
フィンが露骨に嫌そうな顔をした。
「絶対、字が多いやつだ」
「多い」
「ほらな」
フィンは机へ突っ伏した。
「今回は必要だ」
「毎回そう言うだろ」
「今回は特に必要だ」
「それも毎回言ってる」
反論しかけて、やめた。
再現性のある指摘だった。
だが、今回ばかりは避けられない。
アークの種は、入力を見て、過去の記録を参照し、停止方向を選ぼうとした。
共通魔法コードは、研究所の外へ出た。
そして今日、手順を使った人間たちの間で、判断と安全が衝突した。
技術はすでに、俺たちだけのものではない。
この先、アークの種が発動補助まで行うようになれば、衝突はさらに大きくなる。
入力整形。
位相補正。
境界の安定。
失敗検出。
停止補助。
それらを高速化すれば、低魔力者や非連結者でも、これまでより安定して魔法を扱える。
希望だ。
同時に、設計次第では悪夢にもなる。
恐怖を邪魔なものとして消す。
痛みを消す。
迷いを消す。
拒絶する意思を、発動を乱す雑音として除去する。
そうすれば、作業者は休まない。
兵士は退かない。
被験者は抵抗しない。
人間が装置を使うのではなく、装置が扱いやすい人間を作ることになる。
封印書庫に残されていた古代アークの失敗も、そこから始まった可能性がある。
◇
会議には研究所の全員が参加した。
俺。
エリシア。
フィン。
リナ。
ノエル。
ナタリア。
ミーナ。
ダリオ。
ジーク。
机の端には、停止状態のアークの種と表示板。
ルカたちは参加させなかった。
子どもに背負わせる議題ではない。
ただし、今日決める内容が彼らの未来へ影響することは、全員が理解していた。
「最初に結論を言う」
俺は東坑道から持ち帰った紙を掲げた。
「今日決めるのは、アークが何をしてよいかではない。何をしてはならないかだ」
ナタリアがすぐに書き留める。
「見出しとしてはいいわね」
ジークが腕を組んだ。
「禁止が多い装置は、現場では嫌われる」
「分かっている」
「だが、禁止がない装置は現場を殺す」
「それも分かっている」
ダリオが短く言った。
「戦場では、迷っている間に死ぬ」
部屋の空気が少し硬くなる。
「恐怖で動けない兵士は死ぬ。周囲も巻き込む。判断を速くする補助は必要だ」
リナが応じた。
「判断を助けることと、恐怖を消すことは違います。恐怖を感じなくなれば、危険な場所から退く理由も失います」
「承知している」
ダリオは頷いた。
「消すな。見える形にしろ」
ノエルが記録紙へ書く。
「恐怖、痛み、拒絶反応、呼吸の乱れ。発動を邪魔する雑音ではなく、危険を知らせる信号として扱う」
「第一項に入れよう」
【恐怖・痛み・拒絶反応を除去しない。危険信号として扱う】
エリシアが静かに続けた。
「撃たないという選択も、術者の判断よ」
「発動要求があっても、補助しない場合を作る?」
ノエルが訊く。
「危険が明確なら必要でしょう。でも、何でも止めればいいわけではない。アークが慎重すぎれば、術者は装置の許可がなければ何もできなくなる」
俺は黒板に二つの言葉を書いた。
【使用者の判断】
【人命に関わる危険】
「この二つが衝突する」
東坑道で起きたことだ。
使用者は続けたい。
安全係は止めたい。
どちらかを常に優先する単純な規則では、必ず破綻する。
リナが言った。
「観測できる危険が基準を超えた場合に限って、周囲が止めるのはどうでしょう」
「観測できる危険?」
「媒体温度、呼吸異常、意識低下、停止語が言えない状態。本人の気持ちではなく、先に共有した条件です」
ナタリアが頷く。
「利用者に、何をしたら止められるのかを事前に知らせる必要もあるわね」
「公開するのか?」
「当然よ。秘密の停止規則なんて、外から見れば支配装置でしょう。何が記録され、どの条件で補助が切られ、誰が停止できるのか。使う人には知る権利がある」
ミーナが肩をすくめる。
「公開すれば、停止条件を避ける方法も考えられる」
「隠せば、利用者は自分が檻の中にいることにも気づかない」
「記者らしい答え」
「情報屋には言われたくないわ」
二人の視線がぶつかる。
俺はその間に記録する。
【停止条件は使用前に開示する】
【公開する規則と、内部処理の差分を記録する】
【差分は監査できる状態にする】
フィンが顔を上げた。
「監査するのは誰だ?」
重い問いだった。
俺一人では駄目だ。
設計者が、自分の設計を自分だけで正しいと判定すれば、いずれ間違いを隠す。
エリシアと二人でも足りない。
研究者だけでは、現場や医療や情報の危険を見落とす。
「分ける」
俺は答えた。
「技術、医療、運用、記録。最低四系統にする」
「担当は?」
「技術はフィンとジーク。医療はリナ。運用はダリオ。記録はナタリアとノエル。俺とエリシアは設計者だから、監査する側ではなく監査される側にも入る」
フィンが目を丸くした。
「俺が、お前を止めていいのか?」
「そのための監査だ」
「お前が絶対に正しいと思ってても?」
「特に、その時に止めてくれ」
フィンは少し黙った。
それから、ゆっくり笑った。
「分かった。じゃあ遠慮なく止める」
「遠慮は最初から期待していない」
「ひでぇな」
◇
議論は夜まで続いた。
リナは生体に関する禁止項目を加えた。
【痛みを自動で遮断しない】
【恐怖を自動で抑えない】
【治癒への補助は医療監督者がいる場合に限る】
【細胞成長を促す処理は実装しない】
ダリオは運用上の項目を書く。
【敵味方の判定をアーク単独で行わない】
【複数人への命令の一括送信を行わない】
【退避の判断を妨げない】
【使用者が停止不能な場合、安全担当者の停止を優先する】
ミーナは記録の扱いを定義した。
【個人の入力記録を売買しない】
【個人識別情報は分離して封印する】
【押収の危険がある場合も、記録を単純に消去しない】
【検証用記録と個人情報の鍵を分ける】
ナタリアが訊いた。
「消さないの?」
「全部消せば、事故も成功もなかったことにされる。でも、そのまま奪われれば個人を追跡される。だから分けて封じる」
研究所の規則にもある。
記録は消さない。
だが、残すことと、誰にでも見せることは同じではない。
エリシアは最後に、一文を加えた。
【アークは、術者が自分で選ぶ機会を奪わない】
フィンが首を傾げる。
「最初の項目と同じじゃないか?」
「少し違うわ。判断を残すだけでは足りない。装置が全部を先回りしてしまえば、術者は選んだつもりになるだけよ」
ルカが火を消した時の顔を思い出した。
彼が得たのは、火を出したという結果だけではない。
自分で停止語を言い、自分の判断で火を戻したという経験だ。
その経験まで補助してしまえば、魔法は再び他人から与えられるものになる。
◇
最終的に、倫理演算の第一版は七項目になった。
【アーク倫理仕様・第一版】
【一、使用者が判断し、選ぶ機会を奪わない】
【二、人命に関わる危険が事前に定めた基準を超えた場合、出力補助を停止する】
【三、停止権限は使用者本人、監督者、周囲の安全担当者に残す】
【四、失敗、停止、危険の記録は削除しない。ただし、個人情報と分離して封印する】
【五、Ω接続、複数人への命令同期、恐怖抑制、痛覚遮断を自動実行しない】
【六、人を攻撃することだけを目的とした動作方式を実装しない】
【七、公開規則と内部処理の差分を記録し、複数の担当者が監査できるようにする】
俺はアークの種の前に立った。
出力経路は閉鎖してある。
今日は発動試験ではない。
規則の入力と、矛盾の検出だけを行う。
「アークの種。倫理仕様の第一版を登録する」
石英核が淡く光った。
表示板へ文字が浮かぶ。
【規則を受理】
【矛盾を検出】
【安全確保と使用者判断が衝突する場合の優先条件が必要】
予想された応答だった。
ノエルが、全員で作った優先表を差し出す。
俺は一項目ずつ読み上げた。
使用者が意識を失った場合。
停止語が発声できない場合。
媒体温度が危険基準を超えた場合。
周囲の人命へ回復不能な危険が及ぶ場合。
その時に限り、安全担当者の停止を優先する。
それ以外は、警告と選択肢の提示にとどめる。
装置が勝手に発動しない。
装置が勝手に目的を変更しない。
装置が補助を提案した場合も、使用者の同意を確認する。
入力が終わると、石英核の明滅がゆっくりと整った。
【優先条件を受理】
【安全は設計思想】
表示を見た全員の肩から、わずかに力が抜けた。
だが、俺は首を横に振った。
「訂正する」
表示板が切り替わる。
【訂正内容を要求】
「安全は、設計思想だけでは証明できない。運用し、失敗を記録し、更新して初めて証明できる」
少し間があった。
【訂正を受理】
【安全は運用によって検証する】
フィンが笑った。
「細かいな」
「ここは細かくなければならない」
「うん。今回は同意する」
リナも頷いた。
「私もです」
エリシアは、静かに石英核を見つめていた。
「これで、正式起動を試せるのね」
「条件付きで」
「誰に使ってもらうの?」
俺は、講習記録を開いた。
候補者の中で、手動発動には成功したが、媒体接触と呼吸の安定にばらつきがある者。
停止語を守り、自分から中止を選べる者。
そして、本人がアークによる補助試験を希望していること。
条件に当てはまる名前は、一つだった。
「ミリィに依頼する」
エリシアが頷く。
「本人と家族に、補助内容と記録範囲を説明しましょう」
「ああ。断る権利も含めて」
倫理仕様は入力した。
だが、文字を装置へ入れただけでは何も証明していない。
次は、人間が使う。
補助を受けるかどうかを自分で選び。
危険なら止まり。
停止後も、自分の魔法だったと思えるのか。
それを確かめなければならない。
安全は、明日の運用で初めて試される。




