第十章 選ぶ
さらに3か月後。
外部環境での試験が増えると、M-cellに必要な判断も増えた。
実験室では条件をそろえられるが、外では条件をそろえることが難しい。
地面が濡れる
予定した通路が塞がる
通信が弱くなる
人が突然近づく
すべての行動を指示として先に決めることはできなかった。
「優先順位を持たせるしかない」
晶が壁面ディスプレイに書き込んだ。
一、人への危害を避ける。
二、環境への拡散を避ける。
三、与えられた目的を達成する。
四、自身の機能を維持する。
五、情報を保持する。
《三と四が競合した場合、自身を失ってでも目的を優先しますか》
「状況による」
《その条件が必要です》
「難しいところを返してくるね」
《価値判断は、人間側の条件が必要です》
研究チームは条件を言葉にした。
救助対象へ到達するためなら、一部のM-cellを失ってよいのか。
全体の何割までか
戻れないと分かっていても進むのか
情報を持ち帰ることと、現場に残って監視を続けることのどちらを優先するのか
単純な順位では足りなかった。
人への危害回避は最上位。それ以外は状況に応じて重みを変える。
目的達成のために一部を失うことは認める。ただし、失う量と得られる情報を比較する。
危険が大きければ戻る。戻れなくても、人命に関わる情報が得られるなら残る。
仮想環境で何千通りも試した。
最初は人間の判断とずれた。
晶たちは理由を説明した。
MIRAとRISEは規則を組み直した。
また試す。
またずれる。
また直す。
2か月後、M-cellは同じ状況でも一つの固定解を返さなくなった。
情報の確かさ、残存量、将来の危険まで含めて行動を変える。
ある試験で、崩落した建物の奥に一人の要救助者役がいた。
進めばM-cellの8割を失う可能性が高い。
M-cellは進んだ。
別の試験では、同じ8割を失えば2時間後の二次災害を監視できなくなる。
今度は進まなかった。
「理由は？」
《現在の一名を確認することで、将来の複数名に対する監視能力を失う可能性が高いと評価しました》
「正しいかは別として、理由は分かる」
《それが必要だと晶が決めました》
AIやM-cellが人間と同じ答えを出すことが目的ではなかった。
違う答えを出した時に、なぜかを一緒に検討できること。
それが研究チームの基準になった。
報告書に、初めて「M-cell群は経路Bを選択した」と書かれた。
晶はその言葉を見た。
「選択、か」
《複数の許容行動から一つを評価して採用した、という意味です》
「なら、そのままでいい」
まだ意志とは呼ばなかった。
だが、指示された動作だけでもなくなっていた。
※毎週 火・木・日に更新予定です。
