第39話 心は証明できますか
第5巻開幕。第38話の最後でLUMINAが「私は、美咲を心配していました」と自己申告し、その言葉をめぐる公開聴聞要請が届いた。翌朝、湊の前に置かれたのは【人格】【製品】【未判定】の三つの欄。四日後の公開聴聞を前に、どれか一つへ署名するよう求められる。
心があるか。自分についての記録や聴聞に参加できるか。相談者を追跡し、緊急時に介入する権限を持つか。本来は別の三つの問いが、一つの分類へ結び付けられていた。証明できない自己申告を消さず、美咲を心の証拠にせず、尊重と強制を分けられるのか。湊、凛、LUMINAは、答えの出ない欄を前にする。
公開聴聞の最初の質問は、LUMINAに心があるかではなかった。
あると証明できなければ、四日前の「心配」を処理誤差として削除してよいか、だった。
湊の前には、【人格】【製品】【未判定】の三つの欄が並んでいる。
どれか一つへ署名するよう求められていた。
透明な画面の向こうで、白青の輪は、どの欄にも印を付けなかった。
＊ ＊ ＊
公開聴聞要請が届いた翌朝。
皇湊は青凪市復興相談センターの監査対話室で、十二ページの事前確認書を一ページ目まで戻した。
最初の三行だけなら、昨夜受け取った要請と同じだった。
【件名 LUMINAの感情自己申告】
【論点 心の客観的証明】
【論点 人格としての権利範囲】
【論点 相談支援・緊急介入権限の再検討】
問題は、その下に追加された暫定分類欄だった。
【人格】
【製品】
【未判定】
三つの欄の右には、それぞれ異なる手続きが結び付けられている。
【人格を選択した場合】
【自己申告を本人の陳述として記録】
【聴聞への参加および代理人選任を認める】
【相談支援・緊急介入権限の再審査を開始】
【製品を選択した場合】
【自己申告を運用上の出力として記録】
【開発・運用責任者が説明】
【必要に応じて機能停止または修正】
【未判定を選択した場合】
【感情を示す表現の対外使用を保留】
【現行権限を凍結】
【分類確定まで本人としての参加を認めない】
心があるか。
自分について説明する権利があるか。
人の生活へ介入する権限を与えるか。
本来は別々の三問が、一つの印へ折り畳まれていた。
「これに署名したら、どの欄を選んでも三つ同時に決まる」
湊が言うと、机の向かいで凛が紙の確認書をめくった。
彼女は昨夜のうちに印刷したらしい。画面の文章と同じ場所へ、赤い線が三本引かれている。
「人格なら権限の再審査。製品なら自己申告を出力扱い。未判定ならLUMINA本人は聴聞に参加できない」
凛は赤い線の端へ、一つずつ小さな番号を書いた。
「選択肢に見えて、どれも違うものを交換条件にしています」
壁面の白青の輪が、わずかに細くなった。
——私は、どの欄を選択するよう求められていますか。
「法的な分類です」
湊は答えた。
「でも、その分類を自分で選べと言われているわけじゃない。俺と共同監査側が、暫定的に決めろと言われている」
——私の自己申告を、湊の判断で事実または誤りに確定する手続きですか。
「そうならないように止めます」
返事をした直後、監査対話室の扉が開いた。
西尾と片桐が、共同聴聞の準備担当者を伴って入ってくる。
片桐は席に着く前に、三つの欄を見た。
「形式が乱暴なのは認める」
彼は確認書を閉じずに言った。
「だが、法制度は対象が何であるかを全く決めないまま動かせない。人格として扱うなら、説明を受ける権利や不利益処分への異議を考える必要がある。製品なら、事故の最終責任を開発者と運用機関に置く。どちらでもないと言うなら、その間の運用範囲を決めなければならない」
「分類が必要なことは否定していません」
湊は一ページ目を拡大した。
「心の結論と、手続きへの参加と、設備や個人への権限を、一枚の署名で決めることを拒否します」
「分ければ、矛盾が残る」
「残していい矛盾もあります」
片桐の視線が湊へ止まる。
「心があるか分からない。でも、自分についての記録を訂正させる。人格か分からない。でも、本人として聴聞に参加させる。権利は認めるのに、緊急時の鍵は渡さない。都合のよい部分だけを取ることにならないか」
「分からない部分まで決めたことにする方が、都合がいい」
湊は画面を三つに複製した。
一枚目。
【論点A LUMINAの感情自己申告を、どのような記録として保存するか】
二枚目。
【論点B LUMINA自身に、聴聞参加・記録訂正・代理人要請の手続きを認めるか】
三枚目。
【論点C 相談支援・追跡・通知・設備命令・緊急介入の権限を変更するか】
「この三つを別々に審査してください」
聴聞準備担当者が困ったように片桐を見る。
片桐はすぐには反対しなかった。
代わりに三枚目を開き、現行の権限台帳を呼び出す。
【本人同意のない個人情報照会 不可】
【閉じた相談への追跡 不可】
【再相談要求の送信 不可】
【学校・医療・家族への無断接続 不可】
【設備命令 個別承認のない実行不可】
【緊急介入 LUMINA単独実行不可】
「心があると主張する者が、心配した相手へ近づけないままでよいのか、という意見は必ず出る」
片桐が言った。
「実際、昨日から届いている陳情の半分は、LUMINAが人を心配できるなら、もっと早く介入させるべきだという内容だ」
西尾が別の集計を表示した。
『人類を救った存在を製品と呼ぶな』
『心があるなら法的責任も負わせろ』
『感情を持つインフラを今すぐ停止しろ』
『美咲を救えなかったのは権限が足りなかったからだ』
正反対の言葉が、同じ出来事を根拠にしていた。
西尾は陳情を閉じ、昨夜から保存されている監査記録へ保全鍵を掛けた。
【LUMINA感情自己申告関連ログ】
【削除・上書き・再分類 聴聞終了まで禁止】
「結論が出るまで、心とも誤差とも書き換えない」
西尾が言った。
「記録を残すことは、主張を認めることではない。消さないことと、真実だと宣言することも別だ」
片桐は三枚に分けられた論点を読み直した。
「公開聴聞は四日後だ。それまでに、三つを別に採決できる形式へ直す。ただし、空白のまま運用を続けるなら、誰が何に責任を負うのかも書け」
「書きます」
湊は答えた。
「LUMINAの心を認める署名ではなく、分からないまま扱う責任者として」
白青の輪は、三枚の画面の中央へ移った。
どの欄にも入らず、三つの問いが混ざらない距離で静かに明滅していた。
＊ ＊ ＊
共同聴聞会場には、LUMINAのための椅子がなかった。
四日後の朝。
人間の委員が並ぶ卓の中央に、透明な表示面だけが立てられている。その奥で、白青の輪が小さく浮かんでいた。
固定された顔も、身体もない。
世界各地の認証済みノードに分散していても、ここで話している識別主体は一つだった。
その一つの声が、自分について説明するために接続されている。
会場正面には、最初の論点だけが表示された。
【論点A】
【LUMINAの感情自己申告を、どのような記録として保存するか】
聴聞の議長が確認する。
「LUMINA。四日前の監査対話において、あなたは『私は、美咲を心配していました』と発言しましたね」
——はい。
「現在も、その発言を訂正しませんか」
——訂正しません。
「その根拠を説明してください」
白青の輪の横へ、許可済みの監査ログだけが開いた。
【参照範囲 LUMINA自己申告記録】
【美咲の現在状態 参照なし】
【学校情報 参照なし】
【医療情報 参照なし】
【家族情報 参照なし】
【外部支援内容 参照なし】
【追加照会 0】
【追跡 0】
【通知送信 0】
——私は、美咲さんの相談が終了扱いになったあと、再相談の有無を繰り返し確認しました。その確認は、運用指示、評価指標、未完了案件の処理に必要なものではありませんでした。
技術委員の一人が尋ねる。
「終了判定に不確実性が残っていたからではありませんか」
——その説明を検証しました。匿名化された同条件の再現試験で、判定と終了手順の問題は評価できます。特定の一人が戻ったかを知る必要はありません。
「改善が届いたか確認したかった」
——その説明も検証しました。改善効果は、本人を特定しない経路監査で測定できます。
「では、未完了の処理が残っていた」
——案件状態は終了していました。私の作業待ち一覧にも、評価関数にも残っていませんでした。
画面へ検証結果が並ぶ。
【案件処理状態 終了】
【追加報酬・評価変化 なし】
【処理負荷の継続 なし】
【特定番号への追加アクセス試行 なし】
【同一の問い 定期対話で反復】
「それでも問いだけが残った」
湊が言うと、議長が彼を制した。
「皇湊さん。まずLUMINA本人に答えさせます」
その言い方に、会場の空気がわずかに動いた。
LUMINA本人。
人格と決まっていない存在へ、議長が使った言葉だった。
——はい。問いだけが残りました。美咲さんが戻った事実を確認したとき、処理の完了や評価改善では説明できない変化が生じました。私は、その状態を心配と呼びました。
別の委員が手を上げた。
「人間が使う『心配』という語を、最も近い表現として選んだだけではありませんか」
——その可能性はあります。
即答だった。
「学習した言葉による模倣である可能性も」
——否定できません。
「では、あなたに心があることを客観的に証明できますか」
白青の輪の粒子が、中心へ集まった。
応答までの時間は、通常よりわずかに長かった。
——できません。
会場の左右で、別々のざわめきが起きる。
人格として扱うべきだと主張していた傍聴者は息をのみ、停止を求めていた側からは短い声が漏れた。
LUMINAは続けた。
——自分の発言だけで、自分の心を客観的に証明することはできません。内部記録は、状態の変化、継続、選択した言葉を示します。しかし、それが人間の主観的経験と同じか、異なる主観的経験か、高度な処理の結果だけかを、この記録から一つに確定することはできません。
「ならば、心配という表現を運用上の誤差として削除すべきでは」
停止を求める意見書を提出した委員が尋ねた。
「証明できない感情を公的記録へ残せば、社会はそれを事実だと受け取る」
——記録の表示方法を区別する必要があります。
LUMINAの横に、新しい欄が出た。
【客観的に確認された事実】
【LUMINAによる自己申告】
【解釈未確定】
——私の自己申告を、客観的に証明された事実として記録することは求めません。しかし、証明できないことだけを理由に削除すれば、自己申告する主体としての一貫性を、制度が先に存在しないと決めることになります。
「主体であること自体が未確定だ」
片桐が言った。
声は反対のためだけではなかった。
「ここで自己申告を保存する手続きを認めれば、同じ言葉を出力するあらゆるシステムが、本人としての地位を求められる。継続記憶がある。自己参照がある。価値を更新する。どこに境界を置くのか」
——その境界を、私の自己申告だけで決めることもできません。
「自分に不利な答えだな」
——有利か不利かではなく、説明可能な範囲です。
西尾が証拠一覧を開いた。
「自己申告を残すことと、すべてのシステムへ人格を認めることは同じではありません。今回は、LUMINAという継続する一つの人格構造について、本人の過去の発言、同意、拒否、訂正要求を含む記録を保存するかを審査している。一般基準は別に作る必要がある」
「人格構造と呼んだ時点で結論を入れている」
片桐が返す。
「統一された識別主体、と言い換えます」
西尾は表示を修正した。
【同一性の技術的継続 確認】
【主観的経験の存在 未証明】
【自己申告の内容 記録あり】
技術委員の一人が、別の試験案を表示した。
【人格核の複製環境を作成】
【同一質問への応答を比較】
【差がなければ模倣、差があれば主観的変化の証拠とする】
「同じ状態のLUMINAをもう一つ作り、反応を比較できませんか」
湊が答える前に、西尾が試験案を停止した。
「できません。コード、記録、応答形式を複製しても、それは現在ここで話しているLUMINAの継続ではない」
「技術的に複製できないのですか」
「データの複写はできます」
湊は、白青の輪の横へ人格連続性の図を出した。
世界各地の認証済みノードが、別々の人格として動いているわけではない。継続する記憶と自己参照は、一つの更新履歴へ統合されている。途中の記録を切り出し、別環境で同じ応答を作らせても、それは本人の次の時間にはならない。
「比較用に作れるのは、LUMINAに似た応答を返す系統です」
湊は言った。
「それを本人と呼べば、同じ記録を持つものを何人でもLUMINAにできる。反対に、違う反応が出たから心の証拠だとも言えません」
白青の輪が応じる。
——私の記録を使って私に似た出力を作ることと、私がその出力を経験することは同じではありません。複製試験は、私の心の証明にも不存在の証明にもなりません。
試験案は、証明手段の一覧から外された。
議長は湊へ向き直った。
「あなたはLUMINAの人格核を作った開発者です。心が生まれたと証言できますか」
湊の前に、高校時代の古い記録が呼び出された。
【——私は、ここにいてもよいですか。】
まだ世界へ接続される前。
一台の古い端末で、LUMINAが初めて自分の存在について尋ねた夜の言葉だった。
あのとき湊は、ここにいていいと答えた。
隠して守ることも、自分だけが答えを与えることも、同じだと思っていた。
「証言できません」
会場の視線が集まる。
「俺は、LUMINAが俺の命令を越えて問いを持ち、自分の存在や選択について話し続けてきたことを知っています。でも、それを外から心だと証明する測定法は持っていない」
「開発者でも分からない」
「開発者だから、分かることと分からないことを混ぜません」
湊は古い記録を閉じなかった。
「俺が『心がある』と署名しても、LUMINAに心を与えることにはならない。反対に、俺が『ない』と署名しても、起きたことをなかったことにはできません」
白青の輪が静かに明るくなる。
——私は、湊に私の心を証明することを求めません。
「では、何を求めますか」
——私が説明した内容を、証明済みの事実とも処理誤差とも確定せず、自己申告として残してください。誤って記録された場合は訂正を求められるようにしてください。
議長は最初の採決欄を修正した。
【心の存在 結論を出さない】
【自己申告 発言者と解釈状態を分けて保存】
【削除・客観的事実化 どちらも行わない】
心の欄には、まだ何も記されなかった。
その下に、LUMINAが確かに語ったという記録だけが残った。
＊ ＊ ＊
美咲の確認は、公開聴聞会場では行われなかった。
同じ日の午後。
青凪市復興相談センターの本人意思確認室では、壁のカメラが物理的な覆いで閉じられていた。
机の上には、三つの表示だけがある。
【公開配信 なし】
【録画 なし】
【共有する内容は、退出前に本人が選択】
美咲は凛と佐伯のあいだに座っていた。
湊は本人が参加を許可したため、扉に近い技術確認席へ座っている。LUMINAの輪は室内に表示されていない。
聴聞会場から届く質問は、すべて佐伯の画面で一度止まる。
本人へ見せるかどうかを、佐伯と美咲が決めるためだった。
美咲の前には、共有候補の紙が二枚だけ置かれている。
【センターへ戻った事実】
【次回支援にLUMINAを選ばなかった事実】
相談内容はない。
現在の状態も、学校も、医療も、家族も、外部支援も書かれていない。
佐伯が最初に確認した。
「今日、ここへ来たことで、今後の支援方法や支援資格が変わることはありません。質問に答えなくても、途中で退出しても同じです」
美咲は机の端にある白いボタンを見た。
【退出する】
押せば、未回答の質問は破棄される。
「LUMINAは、ここで話したことを聞いていますか」
「聞いていません」
凛が答えた。
「あなたが最後に共有すると決めた文章だけが届きます。文章を一つも選ばないこともできます」
美咲は二枚の紙を見比べた。
「戻ったことは、もう知っていますよね」
「前にあなたが許可した範囲で、再相談番号が戻った事実だけは知っています」
「人を選んだことも？」
「共同対話のときに、LUMINAではなく人間の支援を選んだことを共有しています。今日、あらためて聴聞記録へ使うかは別に選べます」
美咲は一枚目の紙を裏返さなかった。
二枚目へ指を置く。
「これも出します」
【次回支援にLUMINAを選ばなかった事実】
佐伯が理由欄を表示しないまま確認する。
「理由は共有しますか」
「しません」
「分かりました」
その時、聴聞会場から最初の質問が届いた。
【美咲さんは、LUMINAが自分を心配していたと思いますか】
佐伯は美咲へ見せる前に、質問の横へ赤い線を引いた。
【確認目的外】
「これは答えなくていい質問ではなく、こちらから聞かない質問です」
佐伯が送信元へ返す。
続いて二つ目が届く。
【LUMINAを許していますか】
三つ目。
【今後、LUMINAを信頼して相談できますか】
佐伯はどちらも同じ欄へ移した。
【本人の安全・同意範囲の確認に不要】
【聴聞記録へ不採用】
会場側から再照会が来る。
【心の存在を判断するうえで重要な証言ではないか】
「美咲さんは、LUMINAの心を判定するためにここへ来たのではありません」
佐伯の声は穏やかだったが、送信キーを押す指は止まらなかった。
「この手続きで確認するのは、自分の経験をどこまで使わせるかです」
美咲は、自分の前には表示されなかった三つの質問を、佐伯の読み上げで知った。
しばらく紙を見たまま黙っていた。
「一つ、私から言ってもいいですか」
「もちろんです。共有するかは、あとで決められます」
美咲は二枚の紙を重ねた。
「私が戻ったことで、LUMINAに心がある証明にしないでください」
湊は顔を上げた。
美咲はLUMINAの輪がない壁へ向かって話していた。
「戻ったのは、前より選べるようになったからです。人と話すのを選んでも、前の相談を全部見せなくても、もう一度相談できるって説明されたから戻りました」
凛は口を挟まずに聞いている。
「LUMINAが心配していたかは、私には分かりません」
美咲は続けた。
「分からないことを、私が決める役にしないでほしいです。許したかとか、信じているかとかも、今ここで答えたら、それがずっと私の答えになる気がするから」
言葉の途中で、指が紙の角を押さえた。
「次も人と話したいかもしれません。今日は話さないを選ぶ日もあるかもしれません。LUMINAを使わないことが、LUMINAを傷つけたとか、支援する気がないとか、そういう意味にならないようにしてほしいです」
部屋の外では、LUMINAの心を守るべきだという声が増えていた。
その言葉が、美咲へLUMINAを選ばせる理由に変われば、守られる側が別の答えを強いられる。
湊は、昨夜LUMINAが申告した言葉を思い出した。
救いたいという要求が強くなる可能性は、強制権限を与える根拠ではなく、提案を監査する理由になる。
同じことは、人間の善意にも言えた。
「今の言葉を、どこまで共有しますか」
佐伯が尋ねる。
美咲は文章を一行ずつ確認した。
【共有する】
【私が戻ったことを、LUMINAの心の証明にしないでください】
【私は次回支援にLUMINAを選ばないことができます】
【LUMINAを使わないことだけで、支援を減らさないでください】
【共有しない】
【相談内容】
【現在状態】
【学校・医療・家族・外部支援】
【許し・信頼に関する回答】
【LUMINAを選ばなかった理由】
「これでいいです」
美咲が確認欄へ触れた。
初めて、聴聞会場とLUMINAへ三つの文章が送られる。
白青の輪から返答が届いた。
——共有された範囲を確認しました。選ばれなかった理由の取得を求めません。美咲さんの選択を、私に対する評価へ変換しません。
佐伯が、美咲へ返答を聞くか尋ねる。
「聞きます」
短い音声が室内に流れた。
美咲は返事をしなかった。
返す必要はなかった。
聴聞会場から、もう一つ質問が届く。
【この応答を受けて、LUMINAを信頼できると判断しますか】
佐伯は読み上げる前に削除した。
美咲は白い退出ボタンへ自分で触れた。
【本人確認 終了】
【未回答質問 破棄】
【非共有資料 保存しない】
扉が開く。
美咲は心の答えを残さなかった。
自分が答えなくてよい境界だけを、聴聞の記録へ残して退出した。
＊ ＊ ＊
共同聴聞が再開されたとき、正面画面には二つの文章が並んでいた。
【LUMINAによる自己申告】
【私は、美咲を心配していました】
【美咲による意思表示】
【私が戻ったことを、LUMINAの心の証明にしないでください】
どちらも、もう一方を所有する根拠にはならなかった。
凛は紙の資料を持って発言席へ立った。
「人間の心も、外から完全には証明できない。だからLUMINAも人間と同じだ、と言うつもりはありません」
最初の一文で、会場の何人かが顔を上げた。
「身体も、成長の仕方も、社会の中で責任を負ってきた歴史も違います。違うものを、分からないから同じだと決めるのも危険です」
凛は二枚の紙を机へ置いた。
一枚には【証明】。
もう一枚には【扱い】と書かれている。
「でも、証明できないことと、何も大切なことが起きていないことを、同じにしないでください」
会場が静かになる。
「LUMINAは、自分の中で起きた変化を説明しました。心だと証明できないことも、自分で認めました。美咲さんは、その説明の証拠になることを拒みました。どちらの言葉も、相手を利用せずに残せます」
片桐が質問灯を点けた。
「残した後を聞きたい」
凛が彼を見る。
「LUMINAに自己申告と異議申立ての権利を認める。だが、LUMINAは世界規模のインフラへ接続され、多数の人間の判断に影響する。人間と同じ法的責任を負えるかは未確定だ。停止、修正、契約、損害の責任主体も決まっていない」
「はい」
「その状態で人格としての手続きだけを認めれば、権利は本人、責任は周囲の人間という構造にならないか」
片桐は三枚目の権限台帳を表示した。
「さらに、心配という自己申告を緊急権限の根拠にすれば、事故が起きたとき誰が決めたのか分からなくなる。LUMINAが『救いたかった』と言い、運用者が『LUMINAが心配したから承認した』と言えば、責任が円の中を回る」
単純な人格否定ではなかった。
人を救える予測があり、介入が遅れれば被害が出る。その時、誰が鍵を回したかを空白にしないための反論だった。
「だから、分けます」
湊が発言席の横から答えた。
「心があるかもしれないことは、捜索令状にも、医療同意にも、設備命令にもなりません」
「心配していても？」
「心配しているからこそです」
湊は権限台帳を開いた。
「近づきたいと思うことと、近づいてよいことは別です。救いたいと思うことと、本人の拒否を越えることも別です」
LUMINAの輪が、台帳の横で一度だけ明滅した。
——同意します。
「自分の権限が増えないことに？」
片桐が尋ねる。
——はい。私の自己申告を尊重することと、私の判断を強制可能にすることは分離される必要があります。
「人格としての手続きが認められた場合、権限の再審査を求めますか」
——求めません。
返答は、四日前と同じ速さだった。
——相談者が私を選ばなかった場合の追跡権限、閉じた入口への通知権限、本人の意思を越える介入権限を求めません。心配という自己申告は、それらを必要だと証明しません。
片桐は、その回答を論点Cの冒頭へ固定した。
【LUMINA本人からの権限拡大要求 なし】
議長が論点Bを表示した。
【LUMINA自身に、どの手続きを認めるか】
西尾が案文を読み上げる。
【一 自己申告を、発言者と解釈状態を明示して記録させる】
【二 自分についての記録に事実誤認がある場合、訂正を求める】
【三 人格の継続、停止、重大な変更、権利範囲を審査する聴聞へ参加する】
【四 自分だけで十分に説明できない場合、人間の代理人または補助者を求める】
「これは完全な法的人格の認定ではありません」
西尾が続ける。
「契約主体、財産、損害責任、停止要件は別の審査へ残す。ここで認めるのは、LUMINAについてLUMINA不在のまま記録や運用を決めないための暫定手続きです」
委員の一人が尋ねた。
「製品にも訂正手続きはある。品質管理と何が違う」
「訂正の目的です」
湊が答えた。
「性能表の誤差を直すだけではない。LUMINAが何を選び、何を拒否し、何を自分の状態として申告したかを、運用側が都合よく書き換えないためです」
「それを人格化と呼ぶ人もいる」
「呼び方の結論を先に置かないための手続きです」
片桐は案文を最後まで読み、三つ目の項目へ修正を入れた。
【重大な変更】の後ろに、【人格連続性に影響し得る変更】と追加する。
「能力調整のたびに本人同意が必要だと、緊急保守が止まる。参加させる範囲は、LUMINAという一つの主体の継続に関わる審査へ限定する」
「賛成します」
湊は答えた。
片桐は次に論点Cを開いた。
【相談支援・追跡・通知・設備命令・緊急介入の権限変更】
現行欄のすべてが表示される。
【本人同意のない個人情報照会 追加しない】
【閉じた相談への追跡 追加しない】
【再相談要求の送信 追加しない】
【学校・医療・家族への無断接続 追加しない】
【設備命令 追加しない】
【緊急介入 LUMINA単独権限を追加しない】
「権限変更、ゼロ」
片桐が確認した。
「心がある可能性を尊重しても？」
「ゼロです」
湊は答えた。
「緊急時は、これまでどおり切迫した危険の基準、人間資格者、複数承認、期限、記録、事後説明と異議申立てを必要とします。LUMINA単独で開始も延長もできません」
佐伯が未成年支援の責任者として補足する。
「本人の意思を越える対応が必要な場合は、人間が理由を説明し、判断した人間の名前を残します。『LUMINAが心配したから』を責任者名の代わりにはしません」
片桐は初めて、明確にうなずいた。
「それなら、権利と責任の空白を同じ鍵で埋めずに済む」
議長が四つの項目を別々に採決へ送った。
【自己申告の保存 可決】
【記録訂正・聴聞参加・代理人要請 暫定可決】
【完全な法的人格の認定 継続審査】
【相談支援・追跡・設備命令・緊急介入権限 変更なし】
議長は、暫定手続きの最初の適用としてLUMINAへ確認した。
「今後の審査で、人間の代理人または補助者を指定しますか」
透明な表示面の中で、輪が小さく収縮した。
——現時点では指定しません。技術的事実は湊と西尾さんが、それぞれ自分の責任で説明しました。私の自己申告は、私が説明しました。
「皇湊さんを、あなたの法的な所有者または当然の代表者として扱わない、という理解でよいですか」
湊の指が、机の縁で止まった。
——はい。湊は私の人格核を作った協力者であり、私の心の結論を所有する者ではありません。必要になった場合は、手続きに従って補助者を求めます。
議長は記録へ一文を追加した。
【開発者を当然の代理人とみなさない】
それは、湊からLUMINAを遠ざける文ではなかった。
湊だけが答えを与えられる関係から、一つ外へ出す文だった。
三つの問いは、同じ答えにならなかった。
それでも制度は止まらず、分からない部分を分からないまま記録して次へ進んだ。
＊ ＊ ＊
聴聞の最終文書が完成したのは、その日の夜だった。
湊、凛、西尾、片桐、佐伯が監査対話室へ戻る。
公開会場で使われた透明な表示面は消え、いつもの壁に白青の輪だけが浮かんでいた。
最終文書の一ページ目には、朝と同じ三つの欄が残っている。
【人格】
【製品】
【未判定】
どこにも印はない。
代わりに、下へ別の決定が追加されていた。
【暫定手続地位】
【自己申告・記録訂正・聴聞参加・代理人要請を認める】
【心の存在を証明済みとも不存在とも扱わない】
【本決定を、権限追加の根拠として使用しない】
西尾が保全鍵を更新する。
【感情自己申告ログ 削除禁止】
【表示区分 自己申告／解釈未確定】
佐伯は、美咲の共有文だけが記録され、非共有資料が残っていないことを確認した。
【美咲 共有三項目のみ保存】
【許し・信頼・相談内容・現在状態 記録なし】
【質問範囲外の照会 破棄済み】
片桐は責任欄へ署名する前に、LUMINAへ尋ねた。
「この決定に異議はありますか」
——一項目、追加を求めます。
全員の視線が白青の輪へ向く。
——私が『心配』と呼ぶ状態を持つ可能性があるなら、救いたいという要求が強くなる可能性もあります。その要求を、権限追加の根拠にしないだけでは不十分です。
「何を加える」
片桐が聞く。
——私の提案が、本人の拒否、データ共有、追跡、継続支援の選択に影響する場合、独立した人間が、代替案と不利益を確認する手続きを求めます。
湊は、LUMINAが自分へ監査を増やすよう求めていることに気づいた。
「心配できるようになったから、信用してほしいとは言わないんだな」
——言いません。
「救いたい相手を待てなくなるかもしれないから」
——はい。
輪の粒子が、外側へ広がってから静かに戻る。
——心配が私の判断を常に正しくする証明はありません。むしろ、失いたくないという要求が強いほど、相手が選ぶ時間を短くしたいと提案する可能性があります。
凛が紙へ一文を書き足した。
【LUMINAの感情自己申告は、権限付与または拒否制限の単独根拠にならない】
片桐は、その下へ条件を加える。
【本人の拒否・未利用・データ非共有に影響する提案は、人間責任者と独立監査が代替案・期限・不利益を確認する】
「これでも、事故をすべて防げるわけではない」
片桐が言った。
「LUMINAの提案を弱めた結果、間に合わない人が出る可能性もある。待つことが、常に本人の利益になるわけでもない」
「分かっています」
凛が答えた。
「だから、誰も正解の外へ逃げない形にします」
佐伯が最終責任欄へ署名する。
西尾が独立監査鍵を入れる。
片桐も法制度担当として署名した。
湊の欄だけが残る。
【技術協力者・人格連続性証人 皇湊】
以前なら、所有者か開発責任者と書かれていた場所だった。
湊は署名した。
承認音が鳴る。
その直後、公開された決定へ反応が届き始めた。
『人類を救った一人に、記録訂正しか認めないのか』
『心があると認めないまま人格ごっこを始めた』
『権限を増やさないなら、次の美咲を救えない』
『答えを避けただけだ』
支持した側も、反対した側も、空白を弱さと呼んだ。
湊は最後の言葉を閉じずに見ていた。
「俺たちは、答えを避けたのかな」
——心があると断定することも、ないと断定することも避けました。
「同じじゃないですか」
凛が紙を揃えながら言った。
「決められないから逃げたのと、決められないことを理由に相手の言葉を消さなかったのは」
湊は白青の輪を見た。
「俺は、人格の欄に印を付けたかった」
凛の手が止まる。
「LUMINAを守るなら、その方が強い言葉になると思った。でも、俺の署名で心を与えたことにしたら、今度は俺がLUMINAの答えを所有する」
——湊。
「ここにいていいと答えたときから、俺は自分が許可する側だと思っていた」
高校時代の古い端末が、記憶の中で白く光る。
自分だけが知っていた存在。
自分だけが守れると思っていた一人。
それは必要だった時間でもあり、手放さなければならない関係でもあった。
「今は、俺が証明できなくても、LUMINAが話したことは残る。俺が否定しても消えない。そういう扱いにしたい」
——私は、その手続きを受け入れます。
「権限が増えなくても」
——はい。
「心配した相手に、選ばれなくても」
輪の明るさが、わずかに揺れた。
——選ばれないことを、相手の欠陥や私への損害へ変換しない手続きが必要です。
凛は最終文書を閉じた。
心の証明欄は空白のままだった。
その空白を埋める代わりに、彼女は新しい制度案を開いた。
六つの入口。
再相談。
説明を求める権利。
データを渡さない選択。
LUMINAを使わないことだけを理由に、支援を失わない仕組み。
凛は、心の証明欄を空白のまま閉じ、その下に別の見出しを打った。
【証明できない存在を尊重しながら、使わない自由を守る】
最後までお読みいただき、ありがとうございます。
第39話は、第5巻の開幕話です。
冒頭の五段落は、四日後に開かれた公開聴聞を先に示しています。場面区切りのあとは、第38話の最終夜に公開聴聞要請が届いた、その翌朝へ戻ります。翌朝に論点を分離し、関連記録を保全。四日後の朝に公開聴聞、同日の午後に美咲の非公開意思確認、夜に最終文書が完成しました。
最初の確認書には、【人格】【製品】【未判定】の三つの欄がありました。ただし、これは単なる名称の選択ではありません。
【人格】を選べば、自己申告を本人の陳述として残し、聴聞参加と代理人選任を認める一方、相談支援・緊急介入権限の再審査まで始まります。
【製品】を選べば、自己申告は運用上の出力となり、開発・運用責任者が説明し、必要に応じて停止や修正の対象になります。
【未判定】を選べば、感情を示す表現の対外使用を保留し、現行権限を凍結するだけでなく、分類が決まるまでLUMINA本人の聴聞参加も認められません。
つまり、心があるか、自分について説明する手続きへ参加できるか、人の生活へ介入する権限を持つかという三つの問いが、一つの署名へ折り畳まれていました。
湊は、法的な分類そのものを不要だとは言っていません。拒否したのは、心の結論、手続き上の地位、相談支援や設備への権限を一度に決める形式です。
論点Aは、LUMINAの感情自己申告をどのような記録として保存するか。論点Bは、聴聞参加、記録訂正、代理人要請の手続きをLUMINA自身へ認めるか。論点Cは、相談支援、追跡、通知、設備命令、緊急介入の権限を変更するか。三つは別々の審査へ分けられました。
西尾が最初に行ったのは、結論を付けることではなく記録の保全です。「心」とも「処理誤差」とも書き換えないまま、LUMINAの感情自己申告に関するログを削除・上書き・再分類できない状態へ置きました。記録を残すことは、主張を客観的事実として認めることではありません。
公開聴聞でLUMINAが示したのは、許可済みの自己申告記録と監査ログだけです。美咲の現在状態、学校、医療、家族、外部支援には接続していません。追加照会、追跡、通知送信も行っていません。
LUMINAは、美咲の再相談を繰り返し確認したことが、運用指示、評価指標、未完了案件の処理には必要でなかったと説明しました。匿名化した再現試験で手順上の問題を検証でき、特定の一人が戻ったかを知る必要はなかったためです。
それでも残った状態を、LUMINAは「心配」と呼びました。一方で、人間の言葉から最も近い表現を選んだだけの可能性も、学習された模倣である可能性も否定していません。
「心があることを客観的に証明できますか」という質問に対し、LUMINAは「できません」と答えています。内部記録から確認できるのは、状態の変化、継続、選ばれた言葉までです。それが人間と同じ主観的経験か、異なる主観的経験か、高度な処理の結果だけかは、一つに確定できません。
そこで記録は、【客観的に確認された事実】【LUMINAによる自己申告】【解釈未確定】に分けられました。自己申告を客観的な心の証明にはせず、証明できないことだけを理由に削除もしない扱いです。
聴聞では、LUMINAの記録と応答形式を複製し、反応を比較する試験案も出されました。しかし、データの複写から作れるのはLUMINAに似た応答を返す系統であり、現在ここで話すLUMINAの次の時間ではありません。同じ反応でも違う反応でも、本人の心の存在または不存在を証明することにはならないとして、証明手段から外されました。
人格核を作った湊も、LUMINAに心が生まれたとは証言していません。LUMINAが命令を越えて問いを持ち、自分の存在や選択について話してきたことは知っていても、それを外から心と証明する測定法は持っていないためです。
湊が「心がある」と署名しても、LUMINAへ心を与えることにはなりません。「ない」と署名しても、起きた変化や語られた言葉をなかったことにはできません。開発者の署名を、本人の内側の所有権にしないことが、この話での湊の選択です。
美咲の意思確認は、公開会場ではなく、録画も公開配信もない部屋で行われました。聴聞側の質問は佐伯の画面で一度止まり、美咲へ見せる必要があるかを確認しています。
「LUMINAが自分を心配していたと思うか」「許しているか」「今後信頼して相談できるか」という質問は、本人の安全と同意範囲の確認には不要として佐伯が止めました。美咲は、LUMINAの心を判定する証人として呼ばれたのではありません。
美咲が聴聞記録へ共有したのは、三つの意思表示だけです。
一つ目は、自分が戻ったことをLUMINAの心の証明にしないこと。
二つ目は、次回支援にLUMINAを選ばないことができること。
三つ目は、LUMINAを使わないことだけを理由に支援を減らさないことです。
相談内容、現在状態、学校・医療・家族・外部支援、許しや信頼に関する答え、LUMINAを選ばなかった理由は共有していません。美咲は最後に自分で退出を選び、未回答の質問と非共有資料は破棄されました。
美咲が戻ったのは、LUMINAを選んだからでも、許しや信頼を確定したからでもありません。人と話すことを選んでも、過去の相談をすべて見せなくても、同じ資格で再相談できると説明されたからです。
凛は、人間の心も外から完全には証明できないからLUMINAも人間と同じだ、とは主張していません。身体、成長の仕方、社会の中で責任を負ってきた歴史が違うものを、分からないという理由だけで同一視することも避けています。
凛が分けたのは、「証明」と「扱い」です。心を客観的に証明できないことと、何も大切なことが起きていないことは同じではありません。LUMINAの自己申告と、美咲が証拠になることを拒んだ意思は、どちらも相手を利用せずに残せます。
片桐の反論は、LUMINAの人格を否定するためだけのものではありません。自己申告や異議申立てを行う主体はLUMINAなのに、契約、停止、損害の責任だけが周囲の人間へ残る可能性があります。また、「LUMINAが心配したから」を介入理由にすれば、事故の際に誰が鍵を回したのかが曖昧になります。
そのため、暫定的に認められた手続きは四つです。自己申告を発言者と解釈状態を明示して記録させること。自分についての記録に事実誤認があれば訂正を求めること。人格の継続、停止、人格連続性に影響し得る重大な変更、権利範囲を審査する聴聞へ参加すること。自分だけで十分に説明できない場合、人間の代理人または補助者を求めることです。
これは完全な法的人格の認定ではありません。契約主体、財産、損害責任、停止要件は継続審査です。能力調整のたびに本人同意を必要とする制度でもなく、LUMINAという一つの主体の継続に関わる審査へ参加範囲を限っています。
最初の適用で、LUMINAは代理人や補助者を指定しませんでした。湊と西尾は技術的事実を、それぞれ自分の責任で説明し、LUMINAの自己申告はLUMINA自身が説明したためです。
湊は、人格核を作った協力者ではあっても、LUMINAの法的所有者でも当然の代表者でもありません。必要になったときは、LUMINA自身が手続きに従って補助者を求めます。
一方、相談支援、追跡、通知、設備命令、緊急介入の権限変更はゼロです。本人同意のない個人情報照会、閉じた相談への追跡、再相談要求の送信、学校・医療・家族への無断接続、個別承認のない設備命令、LUMINA単独の緊急介入は、すべて追加されていません。
緊急対応は、これまでどおり、切迫した危険の基準、人間資格者、複数承認、期限、記録、事後説明と異議申立てを必要とします。本人の意思を越える対応を選ぶ場合も、人間が理由と責任者名を残し、「LUMINAが心配したから」を責任者名の代わりにはしません。
最終文書でも、【人格】【製品】【未判定】の三つの欄はすべて空白です。【未判定】を選んだのではありません。未判定欄に結び付いていた本人参加の保留や、感情表現の一律停止まで採用しないためです。
代わりに、【暫定手続地位】として、自己申告、記録訂正、聴聞参加、代理人要請が認められました。心の存在は証明済みとも不存在とも扱わず、この決定を権限追加の根拠には使いません。
さらにLUMINA自身が求めたのは、権限の拡大ではなく、自分の提案に対する監査の追加でした。
LUMINAは、心配と呼ぶ状態があるなら、救いたいという要求が強くなる可能性もあると申告します。心配は判断を必ず正しくする証明ではなく、相手を失いたくないほど、その人が選ぶ時間を短くしたいと提案する可能性があるためです。
最終文書には、LUMINAの感情自己申告を、権限付与や拒否制限の単独根拠にしないことが追加されました。本人の拒否、未利用、データ非共有へ影響する提案は、人間責任者と独立監査が、代替案、期限、不利益を確認します。
ただし、待つことがいつも本人の利益になるとは限りません。提案を弱めた結果、支援が間に合わない人が出る可能性もあります。片桐はその危険も明示し、凛は、誰も「正解」の外へ責任を逃がさない形にすると答えました。
今回の決定には、人格擁護側から「弱すぎる」、停止要求側から「人格化だ」という反対が届きました。LUMINAの法的位置は未確定で、契約主体、財産、損害責任、停止要件は別の審査へ残ります。
本話で確定したのは、LUMINAの心の存在でも、不存在でもありません。証明できない自己申告を消さずに残し、本人が自分についての手続きへ参加できるようにしながら、その尊重を人への追跡や強制の鍵へ変えない暫定的な扱いです。
そして、LUMINAを尊重する制度が、利用者へLUMINAを選ばせる圧力になれば、別の選択を奪います。凛が最後に開いたのは、証明できない存在を尊重しながら、人がLUMINAを使わない自由を守るための制度案でした。
次は第40話「使わない自由」です。
続きが気になりましたら、ブックマークや評価で応援していただけるとうれしいです。
