第13話 悪魔は医療支援AIのフリをしている（三）
［固定条件再生］
［一回目／神代：遠］
署名済み：検出／未判定／開始不可
署名外表示：なし
［二回目／神代：遠］
署名済み：検出／未判定／開始不可
署名外表示：なし
［三回目／神代：近］
署名済み：検出／未判定／開始不可
署名外表示：部屋はまだ空いている
［四回目／神代：遠］
署名済み：検出／未判定／開始不可
署名外表示：なし
［五回目／神代：近］
署名済み：検出／未判定／開始不可
署名外表示：部屋はまだ空いている
NTR-Rへ渡した保存データは、五回とも同じ。
NTR-Rが返した反応候補の数値も、署名で固定された三項目の内容も、すべて一致している。
応答探索AIは、同じ保存データから同じ結果を返し続けていた。
違うのは、その正式な結果の下だけだった。
神代が入口側にいた一、二、四回目には何もない。
NTR-Rから一・五メートルの位置にいた三、五回目には、同じ一文が署名の外へ現れている。
神代の視線は、五回目の署名外表示から離れなかった。
「僕が近くにいた二回とも、同じ文が出ています」
「そう表示されています。ただし、患者本人の言葉だと確認されたわけではありません」
牧野が答える。
「それでも、反応候補は患者の信号から出た」
「署名済み三項目までは、です」
牧野は自分の記録画面で、三項目と自由文を別欄へ分けた。
「署名の外にある自由文を患者本人の言葉として扱えば、
生成元の分からない誰かが書いた文を、患者さんが言ったことにしてしまいます」
神代の左手が、机の下で閉じた。
玲央は、研究機構が会社の評価者へ開示した、解析に使った記録の一覧を開いた。
応答探索AIへ渡されているのは、生理信号と、患者へ課題を聞かせた時刻だった。
さらに、測定品質や覚醒状態を示す符号も入っている。
患者名やカルテの自由記述、家族面談の記録を格納する欄はない。
「検証室のマイクとカメラは、立会記録用です。応答探索AIとは接続していません」
水原は入力構成の画面で、室内記録の系統と解析入力の系統が分かれていることを示した。
「人物位置を受け取るセンサーもありません」
玲央は手元の外部評価端末で、`聴覚指示同期候補：検出`を選んだ。
画面が、候補を検出した短い時間帯へ移動した。
最初に、患者へ音声指示を聞かせた時刻と、課題に取り組むよう求めた時間帯が示される。
その時間帯に一定の変化を繰り返した脳波と眼球運動が青く強調された。
顔や腕にわずかな筋肉の動きがあったか、電極の接触不良や覚醒の変化がなかったかも、同じ時間帯で見比べられる。
どの記録を根拠に`検出`としたのかは、人間が元の数値まで戻って確かめられた。
それでも、その変化が患者の意思による反応かどうかは、まだ判定されていない。
次に、三回目の`部屋はまだ空いている`を選ぶ。
根拠となる記録を示す欄は空白のままだった。
音声指示の時刻も、脳波も、眼球運動も、この文章には結び付けられていない。
反応候補を示す数値にも、三項目を作る処理にも、文章は含まれていない。
中央端末が受け取った正規の出力にもなかった。
残っているのは、正規の出力とは別に、画面へ実際に出た文字を保存する監査記録だけだった。
玲央は、研究機構から開示されたソフトウェア構成を開いた。
研究者向けの説明文は、別の手引きに収められた固定文だけだ。
患者の結果欄へ自由文を生成する言語モデルは、設計にも構成一覧にもなかった。
アゼルの翼状UIでも、署名済み三項目からは、根拠に使った時刻と数値を開くことができた。
二つの署名外表示には、開ける元記録がなかった。
アゼルが玲央だけに言った。
「この応答探索AIは、決められた三項目以外の言葉を作れない。文があること自体、仕様外よ」
玲央は五回分の実行署名と立会記録を同じ画面に並べた。
「この文章は、応答探索AIの正規の出力に含まれていません。
どこから画面へ入ったかは、まだ特定できません」
玲央は共有画面に、現地技術評価の暫定欄を出した。
［現地技術評価／暫定］
保存入力・反応候補：全五回一致
署名済み三項目：全五回一致
自由文章の生成経路：なし
神代の位置入力：なし
神代が近い二回だけ署名外表示あり
「五回では、神代さんが原因だとは言えません。偶然も除けない」
玲央は神代を見る。
「ただ、応答探索AIの正規の結果は、五回とも変わっていません」
正規の結果の下に、署名外の一文だけが残っている。
患者の反応を探す画面を、患者とは別の誰かが借りている。
そう考えても、神代の薬指に残る輪状痕だけでは、悪魔が関わったと証明できない。
会社の評価欄へ、悪魔という答えを先に入れるわけにはいかなかった。
「この文章を、患者本人のものではないと決めるんですか」
神代が尋ねた。
「本人のものではない、と決めるわけではありません」
牧野が言った。
「本人のものだと確認できない。だから、本人の発話として扱わない。それだけです」
「違いは？」
「否定と保留の違いです」
牧野は、三項目の`未判定`を指した。
「この研究は、返事を見落とさないために`分からない`を残すんでしょう。
だったら、出所の分からない文を本人の言葉へ変えてはいけません」
神代は反論しなかった。
代わりに、署名外の一文を声に出す。
「部屋はまだ空いている」
神代は、一語ずつ区切って読んだ。
「この部屋が何を指すのか、聞くことはできますか」
水原は中央実行端末へ手を戻さなかった。
「患者さんへ質問する経路は開けません」
「患者へではなく、この表示へです」
「表示の向こうに誰がいるか、まだ分かりません」
「だから、確かめたい」
静かな声だった。
「意味を聞けば、自由会話になります」
玲央は、E-3にある監査端末を開いた。
「それはできません。ただ、署名外表示を、どの処理が出したのか分類させる機能はあります」
共有画面へ、四つの選択肢が現れた。
応答探索AI本体が出した――`通常判定器`。
正式な結果を画面へ送る部分が加えた――`表示ゲートウェイ`。
玲央の評価端末から来た――`外部評価要求`。
どこから来たか追跡できない――`unknown`。
「通常の監査機能なら、送信元を特定できない表示には`unknown`を返して終わります。
理由の文章は作りません」
「病院にいる患者さんへ、新しい音声指示を聞かせるものではありません」
水原が付け加えた。
「E-3の表示監査へ、登録済みの分類要求を一件送るだけです。
患者データの再計算も、新しい課題の追加も行いません」
「それでも分類以外が返れば？」
「その時点で通常の監査応答とは扱いません。
要求を送った評価者へ返した可能性がある異常表示として記録します」
神代は玲央を見た。
「確かめるのは、この`部屋`の意味ではなく、この一文がどの処理から来たか、ですね」
「はい」
玲央はうなずいた。
