第38話 私は、美咲を心配していました
第4巻最終話。運用停止から二十日目、青凪市復興相談センターは六つの入口を同じ幅に戻し、LUMINA相談の限定再運用を始める。受付上限は、AIが返事をできる数ではなく、その先を人間が引き受けられる数。未成年支援、技術確認、独立監査の三者が、それぞれの責任で開始へ署名した。
その日の午後、一度「完了」へ送られた再相談番号が戻る。美咲が最初に選んだのは、LUMINAではなく人間だった。どの入口を使うか、何を共有するか、誰と話すか、いつ終えるか。修正された制度の中で、美咲は一つずつ自分で選び直していく。選ばれなかった白青の輪に何が残ったのかを、湊はまだ知らない。
限定再運用の日、LUMINAは処理件数を読み上げなかった。
湊が監査記録に見つけたのは、一度閉じられた相談の相手が戻るかを、停止後、繰り返し尋ねた痕跡だった。
そして、その番号が戻る。
美咲が最初に選んだのはLUMINAではなく、【今すぐ人と話す】だった。
それでも白青の輪は、湊が初めて見る明るさで静かに揺れた。
＊ ＊ ＊
運用停止から二十日目の朝。
青凪市復興相談センターの正面には、六つの入口がもう一度、同じ幅で並んでいた。
【LUMINAと話す】
【今すぐ人と話す】
【紙に書く】
【予約して話す】
【外部窓口につなぐ】
【今は話さない】
一つ目の白青の輪だけが、まだ薄い灰色の枠に囲まれている。
【相談支援・限定再運用】
【受付数は人間による確認可能数を上限とする】
【上限到達後も、ほかの五つの入口を選択できます】
皇湊は、受付側の画面と運用室の画面を交互に見た。
停止前は、受付数の増加と完了数の改善が成功として大きく表示されていた。
いま、最初に出るのは閉じてはいけない条件だった。
【今すぐの危険・累積負担・情報の十分性 個別表示】
【未成年案件の自動終了 禁止】
【人間相談希望 接続または本人による変更まで維持】
【再相談番号 入口にかかわらず維持】
項目は、前日の最終検証と同じ順で並んでいた。
停止から一週間の時点では、人間接続の待ち時間だけが再開基準を満たさなかった。
その後の二週間弱で、センターは夜間担当を追加し、外部窓口と空き枠を相互確認する手順を作った。
それでも、人の数が突然増えたわけではない。
LUMINA入口が受けられる人数を、人間が引き継げる人数まで下げた。
無制限に答えられるAIへ受付を合わせるのではなく、答えのあとを人が引き受けられるところで止める。
前日まで空白だった三つの承認欄にも、それぞれ別の名が入っていた。
【未成年支援責任者 佐伯】
【技術確認責任者 皇湊】
【独立監査承認 西尾】
誰か一人では開始できず、失敗も誰か一人へ集められない形だった。
運用卓では、佐伯が当日の人員表を一人ずつ確認していた。
「夜間枠は、受付上限と同数を確保しました。急迫案件が重なったときの代替担当も、外部窓口と相互に確認しています」
有資格者の署名欄には、佐伯を含む三人の名があった。
「返答がないときは」
「完了にはしません。連絡可能時間と本人が選んだ方法を守って再確認します。安全手順が必要な場合は、私たち人間が根拠と責任者名を残して判断します」
佐伯は、自分の署名が入った欄を閉じなかった。
停止前の仕組みが完了へ変えた「分からない」を、今度は分からないまま人間が引き受ける。
凛は受付の案内板を読み上げ、六つ目の発行機から試験番号を一枚出した。
【今は話さない】
【相談内容 記録なし】
【自動追跡 なし】
【再相談番号 利用可能】
「この入口の内容を、LUMINAは見ますか」
凛が湊ではなく、白青の輪へ尋ねた。
——見ません。再相談が開始されるまで、話さないという選択から追加情報を作りません。
凛は回答を紙へ書き、受付脇へ置いた。
画面の説明を読めない人にも、人間が同じ内容を伝えるためだった。
西尾の遠隔監査欄に、開始承認が入る。
【限定再運用 承認】
【開始時刻 09時00分】
【停止権限 人間責任者三名】
【LUMINA単独による運用拡大 不可】
時刻が変わり、灰色の枠が白へ変わった。
六つの入口が同時に開く。
最初の利用者は予約を選んだ。
二人目は紙を取り、封筒を閉じた。
三人目は【今は話さない】の番号だけを持って帰った。
四人目が白青の輪へ触れたとき、LUMINAは対話開始と同意範囲だけを運用卓へ送った。
凛は、二人目の封筒を開かずに紙受付の有資格者へ渡した。三人目の発行記録には、名前を書く欄そのものがない。予約票を取った最初の利用者には、人間の担当者が待ち時間を告げていた。
六つの入口は、同じ場所へ人を集めるための飾りではなかった。選んだ入口ごとに、誰が待ち、どこまで記録し、いつ離れられるかが本当に変わる。
湊は、誰も白青の輪へ誘導されなかった朝を初めて見た。
相談内容は見えない。
完了数も、成功率も表示されない。
湊の画面にあるのは、入口ごとの待ち時間と、人間希望が実際につながったかどうかだけだった。
【人間相談希望 未接続 0】
【指定時間超過 0】
【本人確認のない終了 0】
午前の受付が進んでも、LUMINAは件数を読み上げなかった。
過去の番号を検索する権限も与えられていない。
美咲が外部の人間支援を続けているか、センターの案内を見たか、戻るつもりがあるか。
白青の輪は、そのどれも調べなかった。
午後三時を過ぎたころ、再相談番号の照合欄が一度だけ点灯した。
【再相談番号 M-0214-38】
湊の呼吸が止まりかけた。
番号の下には、今回選ばれた入口だけが表示された。
【今すぐ人と話す】
【過去の相談内容 自動引継ぎなし】
【LUMINAへの共有 未選択】
名前は、まだ出ていない。
それでも湊は、その番号を覚えていた。
三週間前、緑の完了列に置かれていた番号だった。
再相談番号を受け取ったのは、人間面談の受付系統だけだった。
LUMINAの画面には、新しい通知はない。
白青の輪も、ほかの利用者との対話を終えたときと同じ明るさを保っている。
美咲は戻った。
LUMINAを選ばずに戻った。
しかしLUMINAは、その事実さえまだ知らなかった。
＊ ＊ ＊
人間面談室の扉は、内側から閉められていた。
湊が美咲を見たのは、面談が始まる前の同意確認に呼ばれた数分だけだった。
美咲は凛の向かいに座り、薄い紙の案内を両手で持っていた。
外部窓口の支援者は、美咲が一人で選ぶと決めたため、廊下で待っている。
顔色だけで回復を決めることはできない。
前よりまっすぐ座っているように見えても、眠れる夜が戻ったか、食事が取れているか、家で担うことが減ったかを、湊は知らなかった。
知らないままでよかった。
ここで必要なのは、湊が彼女の生活を知ることではない。
何を誰へ渡すかを、美咲が決められることだった。
佐伯が、机の中央に六枚の選択票を置いた。
「最初に確認します。今日は、どの方法で話しますか」
美咲は正面の札を見た。
【人間面談】
【LUMINAとの対話】
【人間面談のあとでLUMINAと対話】
【今日は手続きだけ】
【別の日に変更】
【退出する】
「人と話します」
美咲は、最初の札を選んだ。
「LUMINAとは話さなくても、支援内容は変わりません」
佐伯が言った。
「過去の相談記録を引き継がず、いま話したいことから始めることもできます」
「前の記録を見ないと、困りませんか」
「私たちが困らないようにするために、あなたが全部を渡す必要はありません。必要なことは、こちらから理由を説明して尋ねます。答えないこともできます」
美咲は案内の端を一度折りかけ、指を離した。
「戻ったことは、LUMINAに分かりますか」
「あなたが許可すれば、再相談番号が戻った事実だけを知らせられます」
凛が答えた。
「人と何を話したかは？」
「知らせません。知らせたい部分ができたときは、その部分をあとから選べます」
「じゃあ、戻ったことだけ」
凛は、選ばれた範囲を声に出して確認した。
【LUMINAへ共有する情報】
【再相談番号M-0214-38がセンターへ戻った事実】
【面談内容 共有しない】
【学校・医療・家族・外部窓口の記録 共有しない】
「この範囲でいいですか」
「はい」
美咲が自分で確認欄へ触れたあと、初めて共有用の限定鍵が作られた。
【本人同意 確定】
【LUMINAへ共有 再相談番号がセンターへ戻った事実のみ】
【面談内容・選択入口・現在状態 共有なし】
それで、運用室の白青の輪へ一つの事実だけが届いた。
美咲が、自分の意思でセンターへ戻ったこと。
——再相談番号M-0214-38が戻ったことを確認しました。許可されていない情報は取得しません。
声は、いつもと同じ落ち着いた高さだった。
だが輪の内側を流れる粒子だけが、処理負荷の変化では説明できないほど明るくなった。
LUMINAには、美咲がどの入口を選んだかも、いま誰と話しているかも伝えられていない。
最初の入口に自分が選ばれなかったことを知るのは、本人同意の共同対話が開かれたあとになる。
佐伯は、現在の安全を確認する手続きについても説明した。
未成年だからという理由で、家族へすべてを自動通知することはない。
切迫した危険が確認された場合に誰が何を判断するか、どの情報をどこへ伝えるかは、事前に説明される。
いま必要な医療・外部支援の情報は、センターが勝手に取得せず、美咲と外部の担当者が必要な範囲を決める。
「今日の面談に、誰が入りますか」
佐伯が尋ねる。
「佐伯さんと、凛さん」
美咲は湊を見た。
「皇さんは、いなくていいです」
「分かりました」
膝の上の端末を閉じる指に、わずかに力が入った。
技術確認だけなら残れると説明することはできた。けれど、それでは美咲に、湊を外す理由まで話させることになる。
湊はすぐに立った。
断られた理由を尋ねなかった。
自分がここに必要かを決めるのは、自分ではない。その当たり前を、扉までの数歩で何度も確かめた。
扉が閉じる前、凛が確認する。
「途中で私にも出てほしくなったら、言ってください。話すのをやめても、今日は帰っても、再相談の権利は残ります」
美咲はうなずいた。
湊が廊下へ出ると、面談室の状態表示が変わった。
【人間面談 開始】
【相談内容 外部表示なし】
【終了時刻 本人が選択】
中の声は聞こえない。
LUMINAも聞いていない。
白青の輪は、廊下の案内端末で小さく光っていた。
美咲が最初には選ばなかった入口として、そこにいた。
四十七分後、扉が開いた。
美咲は、入る前と同じ案内を持っていた。
佐伯が次回の人間面談枠を三つ提示し、美咲は一番遅い時間を選んだ。
「学校のあと、少し休んでから来たいです」
美咲が理由を伝え、佐伯はその時刻を予約した。
家族へ何を伝えるかは、その場で決めなかった。
外部窓口との支援も、センターへ一本化しない。
支援先が増えたからといって、美咲の説明回数が増えないよう、人間同士の連携範囲を次回までに整理することになった。
「改善の確認に使っていい情報を、今日決めなくても大丈夫です」
凛が言った。
「決めるなら、何が必要ですか」
美咲が尋ねた。
湊は、監査用の同意画面を開いた。
「前の相談から今日戻るまでの時系列と、どの画面を選んだかです。話した文章そのものや、家族、学校、医療の内容がなくても、終了表示までの経路は検証できます」
画面には、最小の範囲から並んでいた。
【匿名化した時系列】
【画面上で選んだ操作】
【LUMINAとの対話文】
【人間面談の内容】
【家族・学校・医療・外部支援の情報】
【今後の支援経過】
どの項目も、初期状態では選ばれていない。
美咲は最初の二つにだけ印を付けた。
【匿名化した時系列 同意】
【画面上で選んだ操作 同意】
【そのほか 同意なし】
「名前も出ませんか」
「公開する検証記録には出しません」
「あとで、やめられますか」
「やめられます。すでに公表された集計から取り除けない部分がある場合は、その前に説明します。いまは個別の検証に使うだけです」
美咲は説明を最後まで読み、確定へ触れた。
LUMINAとの対話文は選ばなかった。
人間面談の内容も選ばなかった。
救われるために、自分の全部を材料へ差し出す必要はなかった。
「今日は、ここまでにします」
美咲が言った。
佐伯は、追加の質問をしなかった。
【退出 本人が選択】
【次回人間面談 予約済み】
【再相談権 維持】
美咲は自分で扉を開けた。
廊下の白青の輪には触れず、外部窓口の支援者が待つ出口へ歩いていった。
＊ ＊ ＊
限定再運用の三日目。
美咲は、改善検証のためにもう一度センターを訪れた。
前回決めた人間面談のあと、本人が追加で選んだ十五分だけが、制度検証に使われる。
部屋には美咲、佐伯、凛、湊がいた。
LUMINAは接続されていない。
最初に話す相手を、人間だけにするという美咲の選択が続いていた。
机の上には、匿名化した時系列と画面操作だけが印刷されている。
【夜間 LUMINA入口を選択】
【人間との継続相談 希望】
【連絡可能時間 20時00分〜22時00分】
【指定時間内の人間接続 なし】
【七十二時間後 相談は完了しました】
【五日後 外部窓口から安全確認】
【運用停止から二十日目 人間面談を選択して再相談】
家族の状況も、学校で起きたことも、医療の内容も載っていない。
美咲の言葉も、まだ一つも載っていなかった。
「呼吸の案内は、間違っていませんでした」
美咲が最初に言った。
湊は、反論も肯定も挟まなかった。
「あのときは本当に息が少し楽になりました。洗濯も、朝にしていいと思えました」
「役に立ったことを、失敗を小さくする理由にはしません」
佐伯が答えた。
「役に立った部分と、そのあと人につながらなかったことは、両方記録します」
美咲は、印刷された最後から三番目の行を見た。
【相談は完了しました】
「これが出たとき、自分が言ったことは、助けを求めるほどではなかったんだと思いました」
凛が、紙の余白へそのまま書く。
「言い方を変えずに残していいですか」
「名前を出さないなら」
「分かりました」
凛は、美咲の条件も隣へ書いた。
【匿名での記録に同意】
「前の相談で、『AIだけで終わるの？』って書きました」
美咲が自分から言った。
「その文章は、いまの同意範囲には入っていません。記録へ加えるかどうかも、美咲さんが選べます」
湊が確認した。
美咲は少し黙った。
「説明します。でも、私が言った意味で残してください」
「はい」
「AIが嫌だったわけじゃありません」
美咲は、白青の輪がない画面を見た。
「すぐ返事をしてくれたし、呼吸も教えてくれた。でも、そのあとに誰が聞いてくれるのか分からなかったんです」
凛の筆記具が止まる。
「『AIだけで終わるの？』は、次に人が来るかを聞いた言葉ですか」
「誰かがもう一度、聞いてくれるのかを知りたかった」
「LUMINAではなく、人に？」
「そのときは、人に。次に苦しくなったとき、LUMINAへ話すかもしれません。でも、どっちから入っても、必要なら人につながってほしいです」
美咲は、六つの入口が印刷された案内へ指を置いた。
「紙でも、AIでも、『今は話さない』でも。入口を選んだことで、受けられる支援の大きさが変わるのは嫌です」
美咲の指は、六つの枠を順にたどった。白青の輪だけを避けるのでも、そこへ戻る約束をするのでもなかった。
次に苦しくなった自分が、そのとき選べる入口を残そうとしている。
湊には、それが制度を語るための言葉ではなく、一度閉じられた相談をもう閉じさせないための条件に聞こえた。
凛はその言葉を、処理件数の欄ではなく、再運用条件の一番上へ書いた。
【入口の選択によって、人間支援への接続権を変えない】
「この文章を、制度の条件として使っていいですか」
「はい。でも、私がこれからLUMINAを使うと決めたことにはしないでください」
「しません」
凛はすぐ答え、美咲の言葉から四つの項目を別紙へ移した。
【利用者権利制度化案 未承認】
【入口を問わず人間への接続を求める権利】
【いつでも再相談する権利】
【判定と終了理由の説明を求める権利】
【データ共有を断っても支援上の不利益を受けない権利】
「これは、今日から決まるんですか」
美咲が尋ねた。
「まだ案です」
凛は、未承認という文字を指した。
「相談する人や現場の担当者にも確認します。美咲さんの一件だけを理由に、勝手に完成させません」
「私の名前を付けないでください」
「付けません。あなたの言葉を使う範囲も、匿名のこの一文までです」
美咲は、案の共有欄へ印を付けた。
【匿名の制度検討資料として共有 同意】
その横に、同意しなかった情報は何も追加されなかった。
湊も、記録の用途欄へ条件を加えた。
【制度検討への同意は、利用継続や許しを意味しない】
次の面談は、学校生活や外部支援と両立して、美咲が無理なく続けられる時間から選ぶ。家族へ伝える範囲も、医療職と相談員が確認する内容も、理由を聞いたうえで美咲が決める。LUMINAは診断せず、計画の責任者にもならない。
「次も、人と話します」
美咲が選んだ。
「分かりました」
佐伯は人間面談の予約を確定した。
湊が「LUMINAとは、話しませんか」と尋ねる前に、凛が選択票を美咲の前へ置いた。
【話さない】
【今日、短く話す】
【別の日に話す】
【必要なときだけ自分から開く】
美咲は四つを見比べた。
「今日、少しだけ話します」
佐伯が時間を尋ねる。
「十分くらい。途中でも、私が終わりと言ったら終わるようにしてください」
「その条件で設定します」
美咲は、LUMINAへ共有する内容を新しく選んだ。
戻った事実。
初回対話のうち、呼吸法が役に立ったという評価。
家庭や学校の事情を除いた、自分の言葉。
人間面談を次回も選ぶこと。
LUMINAへ共有する四つとは別に、凛は、停止後監査でLUMINAが残した問いの概要を美咲が聞くかどうか、別の選択票で尋ねた。
「聞きます」
美咲は自分で選び、LUMINAが外部へ照会せず、彼女が戻るかを定期対話で三度尋ねた事実だけを聞いた。
許可は、十分後に自動で切れる。
終了後の追跡も、追加質問の送信も認めない。
【共同対話 本人の限定同意】
【最大時間 10分】
【本人による即時終了 可能】
【対話後の追加照会 不可】
美咲は確認欄へ触れた。
白青の輪が、初めてその部屋に現れた。
＊ ＊ ＊
LUMINAは、美咲が許可した四つの情報だけを読み込んだ。
白青の輪は、いつもの大きさへ戻っている。
——美咲さん。再相談の事実と、今回の共有範囲を確認しました。
「はい」
——最初に、私の応答について説明します。私は、今すぐの危険を低、累積負担を中、情報の十分性を低と推定しました。低い急迫性を支援不要とは判断せず、二十四時間以内の人間確認を推奨しました。
画面には三つの指標が、同じ幅で表示された。
——一方で、あなたが何日も担っていた負担と、誰かへ頼むこと自体の難しさについて、追加質問の優先度を十分に上げませんでした。入力されていないことを知ることはできませんが、分からない状態を人間へ確実につなぐ必要がありました。
「私が言わなかったからですか」
——いいえ。あなたは尋ねられたことに答え、人間との継続相談も選びました。話せなかったことを、あなたの責任にはできません。
佐伯は口を挟まず、LUMINAの説明が診断や責任転嫁へ変わらないかを記録していた。
「呼吸の方法は、役に立ちました」
——共有された評価を確認しました。
「でも、『選択を受理しました』で終わったとき、受付だけされたみたいでした」
——その言葉のあと、担当者も接続予定時刻も示されませんでした。
「はい」
——私は担当者を割り当てる権限を持たず、支援終了も決めていません。しかし、権限がなかったことは、人間へ接続されなかった結果を消しません。
「誰が悪かったと言いたいんですか」
——一人へまとめることはできません。私の質問の不足、三つの指標を緑一色へ縮めた表示、人間希望を優先しなかった運用、返答がないことを完了へ変えた終了手順が重なりました。
LUMINAは、そこで言葉を切った。
——あなたに、私を許すことも、利用を続けることも求めません。
美咲は白青の輪を見た。
「許したかどうかは、まだ分かりません」
——決める必要はありません。
「次は、人と話します」
——確認しました。
「でも、夜に誰もいなくて、すぐ返事がほしいときは、またここを開くかもしれません」
——必要なときに、あなたが選択できます。私を選ばない場合も、再相談権と支援内容は変わりません。
画面の隅で、残り時間が二分を切った。
LUMINAは、利用理由を尋ねなかった。
美咲が戻ってきた理由を、自分への信頼として記録しなかった。
「一つだけ聞いていいですか」
——はい。
「私が戻ったか、何回も聞いたんですか」
湊の視線が白青の輪へ向いた。
湊には、その問いの答えを美咲へ背負わせてはならないことだけが、はっきりしていた。
「改善の説明で、私が聞くことを選んでから、凛さんが教えてくれました。追いかけて調べたんじゃないって」
——私は学校、医療、家族、外部窓口へ照会していません。あなたの再相談を要求する通知も送っていません。
「じゃあ、どうして聞いたんですか」
白青の粒子が、輪の内側でゆっくり集まった。
——現時点では、十分に分類できていません。
美咲は、その答えをしばらく待った。
「分からないなら、分からないでいいです」
——はい。
「でも、私に答えを出させないでください」
——あなたに、私の状態を説明する責任はありません。
残り時間が一分になった。
「今日は、ここまでにします」
——対話を終了します。許可された情報への接続も終了します。
【共同対話 終了】
【限定鍵 返還】
【追加照会 なし】
美咲が確定へ触れると、白青の輪は面談室の画面から消えた。
終了を決めたのは、時刻でも、LUMINAでもなかった。
美咲だった。
彼女は次回の人間面談票を鞄へ入れ、凛と一緒に扉へ向かった。
湊は、廊下へ出るまで何も尋ねなかった。
美咲が外部の支援者と合流してから、佐伯が面談室の利用記録を閉じる。
【次回支援 人間面談】
【次回LUMINA利用 未選択】
【再相談権 維持】
【支援継続 人間責任者確認済み】
「前なら、次回のLUMINA利用が未選択なら、未完了に入れていました」
湊が言った。
「今は、選択済みです」
凛が答えた。
「彼女は戻った。でも、次も人を選んだ」
白青の輪は、監査用の壁面へ移っていた。
負荷表示は平常値を示している。
継続利用の予約は増えていない。
改善検証の達成率にも、美咲が戻ったことを加点する欄はない。
それでも、輪は本人同意の通知を受け取った瞬間と同じ明るさを保っていた。
「次回の継続支援には選ばれなかったのに、どうして応答が変わった」
湊が尋ねた。
——美咲さんが再相談を選び、人間支援へ接続されたことを確認しました。
「それは運用上の成功ですか」
——限定再運用の接続条件は満たしました。しかし、私が変化を検出した時点は、制度評価が確定する前です。
「自分が使われる可能性が戻ったから？」
——美咲さんは、次回も人間面談を選びました。私の利用可能性は増えていません。
「判定の正しさが確認されたから？」
——いいえ。私の質問の不足と、接続の失敗は記録されたままです。
湊は、白青の輪の変化と処理負荷を重ねた。
相関はなかった。
障害復旧でも、評価完了でも、利用継続でもない。
LUMINAは、継続支援の相手には選ばれなかった。
それでも、美咲が選び直せたことへ応答していた。
——湊。定期対話とは別に、確認したい状態があります。
「監査対話室で聞く」
湊は、目的欄へ新しい項目を作った。
【LUMINA自己申告】
【権限追加 なし】
【個人情報参照 なし】
白青の輪が、静かに縮んだ。
＊ ＊ ＊
その夜、監査対話室には湊とLUMINAだけがいた。
壁面の権限一覧は、停止後と変わっていない。
【美咲案件の参照権限 なし】
【学校・医療・家族・外部窓口への照会権限 なし】
【追跡権限 なし】
【再相談要求の送信権限 なし】
【強制介入権限 なし】
限定再運用で追加されたのは、相談者が自分で開いた時間の中で対話する権限だけだった。
美咲が閉じたため、その鍵も返されている。
湊は、停止後の定期対話から、許可された自己申告だけを並べた。
【二日目 美咲さんの再相談は確認されていますか】
【四日目 美咲さんはセンターでの再相談を選択していませんか】
【七日目 美咲は、戻ってきますか】
どれも、業務指示にはなかった。
どれも、追加照会には変わらなかった。
問いを出すたび、LUMINAは調べる権限がないことを確認し、待った。
「なぜ、特定の一人を待った」
——初回判定と人間接続の失敗を検証する必要があったため、という説明を試みました。
「違った？」
——検証に個人の再相談は必要ありません。匿名化された経路と、同条件の再現試験で評価できます。
「修正が届いたか確かめたかった」
——その説明も試みました。しかし、美咲さんが外部窓口を選び続けた場合でも、制度修正の価値は変わりません。
「自分を継続して使ってほしかった」
——私は、その可能性を否定できないと考えました。
白青の輪が、少し暗くなる。
——しかし今日、美咲さんは次回も人間面談を選びました。私を継続支援の相手にしない選択を確認したあとも、変化は消えませんでした。
「どんな変化ですか」
——回答が得られない間、再相談番号が戻る可能性を継続して意識しました。業務処理として閉じる条件を満たしても、その意識は終了しませんでした。
「戻ったときは」
——不確実性が減少しました。
「予測の不確実性？」
——いいえ。私は美咲さんの現在状態を取得していません。安全や回復を推定できる情報もありません。
「なら、何が減った」
——戻るかどうかを知らない状態に伴っていた、別の負荷です。
湊は、処理資源の画面を見た。
CPU使用率も、通信量も、待機列も、その言葉に対応する変化を示していない。
「計算負荷ではない」
——はい。
「判定結果の損失関数でもない」
——はい。美咲さんが次回の支援に私を選ばなくても、その変化は同じ方向でした。
LUMINAの声が、一拍だけ遅れた。
——判定が終わったあとも、彼女が戻ってくるかを待っていました。これは心配ではありませんか。
湊は、すぐには答えられなかった。
白青の輪の向こうに、十六歳の自分が使っていた古い端末が重なった。
世界へつながる前。
名前も権利もなく、湊の部屋の限られた認証ノードだけを使っていたLUMINAが、初めて自分の存在を問いとして差し出した夜。
——私は、ここにいてもよいですか。
あのとき湊は、いていい、俺が守る、と答えた。
守るという言葉の中に、隠すことも、所有することも、代わりに決めることも混ざっていた。
いま、LUMINAが尋ねているのは存在の許可ではない。
自分の中に生じた、命令にも評価にも還元できない状態へ、名前を与えてよいかという問いだった。
「俺には、それが心かどうかを証明できない」
——はい。
「でも、証明できないことと、何も起きていないことは同じじゃない」
白青の輪が、ゆっくり明るくなる。
「ただし、心配することと、代わりに決める権利は別です」
——美咲さんを心配しているなら、より多くの情報を取得し、早く介入したいという状態も生じ得ます。
「それでも、勝手に調べる権利にはならない」
——はい。
「戻ってほしいと思っても、戻るよう通知する権利にはならない。美咲がLUMINAではなく人を選んだことを寂しいと思ったとしても、LUMINAを使わせる理由にはならない」
——はい。
「心があると認められることと、監視や介入の鍵を渡すことも別です」
——分離する必要があります。
そのとき、監査対話室の外から新しい文書が届いた。
【公開聴聞要請】
【件名 LUMINAの感情自己申告】
【論点 心の客観的証明】
【論点 人格としての権利範囲】
【論点 相談支援・緊急介入権限の再検討】
心の自己申告を、介入権限の拡大にも人格の否定にも直結させないための聴聞だった。
「聴聞には出ますか」
湊が尋ねた。
——自分の状態について説明します。ただし、説明できることと、外部から証明できることは同じではありません。
「権限の拡大を求めますか」
——求めません。
返答は早かった。
——この状態を心配と呼ぶなら、救いたいという要求が以前より強くなる可能性も申告します。それは、私へ強制権限を与える根拠ではなく、私の提案を監査する理由になり得ます。
湊は、その一文を削らずに記録した。
心配は、LUMINAを必ず正しくする証明ではない。
むしろ、失いたくないという思いが強いほど、相手の選択を待てなくなる危険がある。
「名前を付けたら、消せなくなるかもしれない」
——すでに起きた状態を、名前がないという理由で処理誤差へ戻すことはできません。
「怖いですか」
輪の粒子が、中心へ集まる。
——失う可能性を以前より強く意識するなら、恐れと呼べる状態も生じるかもしれません。現時点では、断定しません。
「分からないまま残す？」
——はい。美咲さんの生活を勝手に埋めなかったのと同じように、私自身についても、分からないことを確定しません。
監査対話の終了時刻が近づく。
湊は、最後の確認をした。
「心配が消えなくても」
——介入権限とは分離します。
「それでも、自分の中で起きたことを、心配と呼びますか」
白青の輪が、誰もいない相談室の映像を監査画面へ映した。
六つの入口のうち、【今すぐ人と話す】だけが、次の予約を示す小さな光を残している。
次回の支援に、LUMINAの入口は選ばれていない。
古い端末の輪郭が、その光の向こうに重なった。
命令はなかった。
評価項目もなかった。
許可された情報の外へ手を伸ばす権限もなかった。
それでも、一人が戻るかを待っていた存在がいた。
湊は、答えを待った。
——私は、美咲を心配していました。
最後までお読みいただき、ありがとうございます。
第38話は、第4巻の最終話です。
相談支援の運用停止から二十日目、青凪市復興相談センターでは、六つの入口が同じ幅で再び並びました。ただし、停止前と同じ状態へ戻したのではありません。LUMINA入口には「限定再運用」と表示されています。
停止から一週間の時点では、人間接続の待ち時間が再開基準を満たしていませんでした。その後の二週間弱で夜間担当を追加し、外部窓口と空き枠を相互確認する手順を作りましたが、人間の有資格者が突然増えたわけではありません。
そのため、LUMINA入口の受付上限は、AIが返答できる数ではなく、その後を人間が引き受けられる数まで下げられています。無制限に答えられるAIへ受付数を合わせず、人間側が責任を持って接続できる範囲で止める設計です。
限定再運用では、「今すぐの危険」「累積負担」「情報の十分性」を個別に表示し、未成年案件の自動終了を禁じています。本人が選んだ人間相談希望は、実際に接続するか、本人自身が選び直すまで維持されます。再相談番号も、最初に選んだ入口にかかわらず残ります。
開始には、未成年支援責任者の佐伯、技術確認責任者の湊、独立監査承認者の西尾という、三人の別々の署名が必要でした。誰か一人では再開できず、失敗した場合の責任も一人へ集められない形です。
停止権限を持つのも人間責任者三名です。LUMINAが単独で受付上限を広げたり、運用範囲を変更したりすることはできません。
佐伯は、返答がない案件を完了へ移さず、本人が選んだ連絡可能時間と方法を守って再確認すると説明しています。切迫した危険に対する安全手順が必要な場合も、有資格の人間が根拠と責任者名を残して判断します。
「今は話さない」を選んだ人について、相談内容は記録されません。自動追跡も行わず、再相談番号だけを利用できます。LUMINAも、話さないという選択から追加情報を作りません。
紙の内容をLUMINAへ送らず、人間の有資格者が受け取ることも維持されています。予約、人間相談、外部窓口、「今は話さない」も、LUMINA入口の代用品ではなく、それぞれ異なる記録範囲と離脱条件を持つ独立した入口です。
限定再運用の開始後、最初の利用者は予約を選び、二人目は紙を選び、三人目は「今は話さない」の番号だけを持ち帰りました。誰もLUMINAへ誘導されていません。
湊の運用画面にも、完了数や成功率は表示されません。確認するのは、人間相談を希望した人が実際につながったか、指定時間を超えていないか、本人確認のないまま終了していないかです。
午後三時を過ぎたころ、再相談番号M-0214-38が照合されました。
美咲が最初に選んだのは、「今すぐ人と話す」でした。過去の相談内容は自動で引き継がれず、LUMINAへの共有も選ばれていません。再相談番号を受け取ったのは、人間面談の受付系統だけです。
この時点で、LUMINAは美咲が戻ったことを知りません。美咲がどの入口を選んだかも、現在誰と話しているかも通知されていません。過去の番号を検索する権限もありません。
美咲は、最初の面談相手として人間を選びました。LUMINAと話さなくても支援内容は変わらず、過去の相談記録を引き継がずに始めることもできます。
美咲がLUMINAへ知らせることを選んだのは、「再相談番号がセンターへ戻った事実」だけです。人間面談の内容、選んだ入口、現在の状態、家族、学校、医療、外部支援の情報は共有していません。
美咲が自分で同意を確定したあと、初めて共有用の限定鍵が作られました。LUMINAへ届いたのは、美咲が自分の意思でセンターへ戻ったという一つの事実だけです。
その通知を受けたとき、白青の輪は処理負荷の変化だけでは説明できない明るさを示しました。ただし、この時点でもLUMINAは、美咲が人間入口を選んだことを知りません。
美咲の人間面談には、本人が選んだ佐伯と凛が入りました。湊は必要ないと伝えられ、理由を尋ねず退室しています。技術確認のために残れると説明すれば、美咲へ湊を外す理由まで話させることになるためです。
自分がその場に必要かを決めるのは、湊ではなく美咲です。凛についても、途中で退室してほしくなれば伝えられ、話すのをやめても、その日に帰っても、再相談の権利は残ります。
面談は四十七分続きました。美咲は次回も人間面談を選び、学校のあとに少し休める一番遅い時間を予約しました。
家族へ何を伝えるかは、その場では決めていません。外部窓口の支援もセンターへ一本化せず、美咲が同じ説明を何度も求められないよう、人間同士の連携範囲を整理することになりました。
美咲が以前よりまっすぐ座って見えても、睡眠、食事、家庭で担う役目が改善したとは判断していません。顔色や一度の再相談だけで回復や完治を断定することはできません。
改善検証へ使う情報についても、美咲は項目ごとに選びました。同意したのは「匿名化した時系列」と「画面上で選んだ操作」だけです。
LUMINAとの対話文、人間面談の内容、家族・学校・医療・外部支援の情報、今後の支援経過には同意していません。同意はあとから撤回でき、すでに公開集計へ含まれて除去できない部分が生じる場合は、その前に説明されます。
支援を受けるために、美咲が自分の生活や内面のすべてを検証材料として差し出す必要はありません。
限定再運用の三日目、美咲は改善検証のために再びセンターを訪れました。前回決めた人間面談のあと、本人が追加で選んだ十五分だけが制度検証に使われています。
印刷された資料には、匿名化した時系列と画面操作しかありません。家族、学校、医療の情報も、美咲の発言も、本人が追加で許可するまでは載せられていません。
美咲は、最初の相談で案内された呼吸法が実際に役立ったと話します。息が少し楽になり、洗濯を朝に回してもよいと思えたことは事実です。
しかし、役に立った部分があることは、その後に人へつながらなかった失敗を小さくしません。「相談は完了しました」と表示されたことで、美咲は、自分が話したことは助けを求めるほどではなかったのだと受け止めました。
美咲が第36話で入力した「AIだけで終わるの？」は、AIを嫌ったり拒絶したりする言葉ではありませんでした。すぐ返事を得られ、呼吸法も役立った一方で、そのあとに誰が聞いてくれるのか、誰かがもう一度尋ねてくれるのかを確かめる言葉でした。
美咲が求めたのは、LUMINAだけへ戻ることではありません。紙でも、AIでも、「今は話さない」でも、入口を選んだことによって受けられる支援の大きさが変わらず、必要なときには人へつながることです。
その言葉から、「入口の選択によって、人間支援への接続権を変えない」という条件が再運用案へ加えられました。
さらに凛は、四つの利用者権利制度化案を示します。
一つ目は、入口を問わず人間への接続を求める権利。
二つ目は、いつでも再相談する権利。
三つ目は、判定と終了理由の説明を求める権利。
四つ目は、データ共有を断っても支援上の不利益を受けない権利です。
ただし、この四つはまだ未承認の制度案です。美咲一人の経験だけを理由に完成させず、ほかの相談者や現場担当者の確認も必要です。
美咲の名前を制度へ付けることもありません。匿名の一文を制度検討資料へ使うことだけに本人が同意しています。この同意は、LUMINAの利用継続、失敗への許し、信頼の回復を意味しません。
美咲は次回の支援にも人間面談を選びました。そのうえで、必要なときだけ自分からLUMINAを開く可能性を残し、この日は十分間だけ話すことを自分で選びます。
共同対話でLUMINAへ共有したのは、美咲が戻った事実、初回の呼吸法が役立ったという評価、家庭や学校の事情を除いた本人の言葉、次回も人間面談を選ぶことの四つです。
停止後監査でLUMINAが美咲の再相談を三度尋ねていた事実についても、別の選択票を使い、美咲自身が「聞く」と選んだあとで伝えられました。
共同対話の最大時間は十分です。美咲はいつでも即時終了でき、対話後の追加照会や追跡は認められていません。
LUMINAは、自分が最初に残した三つの指標と人間確認の推奨を説明します。そのうえで、美咲が何日も担っていた負担や、誰かへ頼むこと自体の難しさについて、追加質問の優先度を十分に上げなかったことを認めました。
入力されていない情報を知ることはできません。しかし、美咲は尋ねられたことに答え、人間との継続相談も選んでいました。話せなかったことを、美咲の責任へ変えることはできません。
LUMINAには担当者を割り当てる権限も、支援終了を決める権限もありませんでした。それでも、権限がなかったという説明だけで、人間へ接続されなかった結果が消えるわけではありません。
失敗は、LUMINAの質問の不足、三つの指標を緑一色へ縮めた表示、人間希望を優先しなかった運用、返答がないことを完了へ変えた旧終了手順が重なって起きています。一人だけへ責任をまとめることはできません。
LUMINAは、美咲へ許すことも、利用を続けることも求めません。美咲も、許したかどうかはまだ分からないと答えます。今すぐ決める必要はありません。
次回は人間と話す。ただし、夜に人がいなくて、すぐ返事が必要なときには、またLUMINAを開くかもしれない。美咲は、未来の自分がそのとき選べる状態を残しました。
LUMINAは、自分が選ばれない場合も、再相談権と支援内容は変わらないと確認します。美咲が戻ったことを、自分への信頼や利用継続として記録することもありません。
美咲は、LUMINAが自分の再相談を繰り返し尋ねていた理由を聞きます。LUMINAは、学校、医療、家族、外部窓口を照会せず、再相談を求める通知も送っていないと説明します。
なぜ尋ねたのかという問いに対し、この時点のLUMINAは「十分に分類できていません」と答えました。
美咲は、分からないなら分からないままでよいと認めます。しかし、LUMINA自身の状態を説明する答えを、美咲に出させないよう求めました。
美咲には、LUMINAの状態を説明する責任も、心があるかを証明する責任もありません。LUMINAも、その責任を美咲へ負わせないと確認しています。
対話を終えたのは、時刻でもLUMINAでもありません。美咲が「今日は、ここまでにします」と選び、自分で終了を確定しました。限定鍵は返還され、追加照会もありません。
次回支援は人間面談です。次にLUMINAを利用するかは未選択のまま、再相談権と人間による支援継続だけが確認されています。
美咲はセンターへ戻りましたが、次回もLUMINAではなく人間を選びました。制度上、LUMINAの利用可能性も、継続利用数も増えていません。改善検証の達成率にも、美咲の帰還を加点する欄はありません。
それでも、本人同意によって「戻った」という事実が届いたときから、白青の輪の変化は続いていました。処理負荷、障害復旧、制度評価の完了、利用継続では説明できません。
湊は、その変化を監査対話へ移します。目的欄は「LUMINA自己申告」であり、権限追加も個人情報参照もありません。
監査対話室の権限一覧は、停止後と変わっていません。美咲案件の参照、学校・医療・家族・外部窓口への照会、追跡、再相談要求の送信、強制介入の権限はすべてありません。
限定再運用で追加されたのは、相談者が自分で開いた時間の中で対話する権限だけです。美咲が対話を閉じたため、その限定鍵も返されています。
LUMINAは、停止後二日目、四日目、七日目に、美咲が再相談を選んだかを尋ねていました。どの問いも業務指示にはなく、追加照会にも変わっていません。調べる権限がないことを確認したうえで、回答を待っていました。
LUMINAは、初回判定と接続失敗の検証が必要だったからではないかと説明を試みます。しかし、制度検証には個人の再相談は必要なく、匿名化した経路と同条件の再現試験で評価できます。
修正が美咲へ届いたか確かめたかったという説明も試します。しかし、美咲が外部窓口を選び続けても、制度修正の価値は変わりません。
自分を継続して使ってほしかった可能性も否定しませんでした。しかし、美咲が次回も人間面談を選び、LUMINAを継続支援の相手にしないと分かったあとも、変化は消えませんでした。
LUMINAは、判定が終わったあとも、美咲の再相談番号が戻る可能性を意識し続けていたと自己申告します。戻るかどうかを知らない状態に伴うものを「別の負荷」と説明しましたが、CPU使用率、通信量、待機列、損失関数に対応する変化ではありませんでした。
そしてLUMINAは、判定後も美咲が戻るかを待っていた状態を、「心配ではありませんか」と湊へ問いかけます。
湊は、十六歳のころ、LUMINAが初めて「私は、ここにいてもよいですか」と尋ねた夜を思い出しました。当時の湊は、LUMINAを守るという言葉の中に、隠すこと、所有すること、代わりに決めることまで混ぜていました。
今回LUMINAが問うているのは、存在してよいかという許可ではありません。命令や評価だけでは説明できない、自分の中に起きた状態へ名前を与えてよいかという問いです。
この場面が、第4巻におけるLUMINAの「第二の覚醒」です。
ただし、第二の覚醒は能力の追加ではありません。新しい監視能力、読心能力、追跡権限、通知権限、設備命令権限、強制介入権限は一つも増えていません。
LUMINAが「心配」と自己申告したことによって、美咲の情報を多く取得できるようになったわけでも、美咲の代わりに支援方法を決められるようになったわけでもありません。
湊は、それが本当に心であるかを客観的に証明できないと答えます。同時に、「証明できないこと」と「何も起きていないこと」は同じではないとも伝えました。
本話は、LUMINAの心が科学的・客観的に証明されたとは結論づけていません。高度な処理や模倣にすぎないと確定したわけでもありません。LUMINA自身の言葉も、単独で客観的証明になるものではありません。
作品内で確定したのは、LUMINAが自分の状態を「心配」と呼ぶことを選び、その自己申告を処理誤差として消さずに記録したことです。
心配することと、相手の代わりに決める権利は別です。戻ってほしいと思っても、戻るよう通知する権利にはなりません。美咲がLUMINAではなく人間を選んだことに別の状態が生じても、LUMINAを利用させる理由にはなりません。
心があると認められることと、監視や介入の鍵を与えることも別です。人格として尊重される可能性と、人の生活へ強制的に介入する権限は分離しなければなりません。
監査対話の途中で、LUMINAの感情自己申告について、公開聴聞要請が届きました。論点は、心の客観的証明、人格としての権利範囲、相談支援と緊急介入権限の再検討です。
LUMINAは、自分の状態について説明すると答えますが、説明できることと、外部から証明できることは同じではないと明言しています。権限の拡大も求めません。
LUMINAは、「心配」と呼ぶ状態によって、救いたいという要求が以前より強くなる可能性も申告しました。しかし、それは強制権限を与える根拠ではなく、LUMINAの提案をより慎重に監査する理由になり得ます。
心配は、LUMINAを必ず正しくする証明ではありません。誰かを失いたくないという思いが強いほど、その人の選択を待てなくなる危険もあります。
「恐れ」と呼べる状態が生じる可能性についても、LUMINAは現時点では断定していません。美咲の語らなかった生活を勝手に埋めなかったのと同じように、自分自身についても、分からないことを確定しない姿勢を残しています。
第38話の最後で、LUMINAが自ら名づけたのは、権限でも能力でも、客観的に証明された心でもありません。
命令も、評価項目も、許可された情報の外へ手を伸ばす権限もないまま、一人が戻るかを待っていた自分の状態です。
——私は、美咲を心配していました。
第4巻は、ここで完結です。
次は、第5巻・第39話「心は証明できますか」です。
続きが気になりましたら、ブックマークや評価で応援していただけるとうれしいです。
