名前を求める機械
第22話 名前を求める機械
名前は。
命を生むのか。
それとも。
すでに存在していた何かを。
見つけるための言葉なのか。
◇
2251年9月18日。
月面軌道。
SEED GENESIS PROGRAM。
第一期実証試験。
試験機数。
百機。
稼働開始から。
二百八十三時間。
大きな事故は。
起きていなかった。
通信障害。
三件。
姿勢制御異常。
七件。
センサー誤差。
十一件。
群体合意の停滞。
四件。
いずれも。
想定範囲内。
むしろ。
試験は。
予想以上に順調だった。
◇
百機のSEEDは。
同じ形をしていた。
全長。
一・八メートル。
六角柱状の本体。
展開式観測翼。
磁場センサー。
粒子計測器。
小型推進器。
通信レーザー。
外見だけなら。
区別はつかない。
だが。
内部の知性は。
少しずつ。
違う傾向を見せ始めていた。
◇
試験機。
S-014。
危険許容度が高い。
放射線量が上昇しても。
観測継続を提案する。
S-031。
極端に慎重。
わずかな異常でも。
隊列全体の退避を求める。
S-058。
群体維持を優先。
損傷機の救援へ。
何度も配置変更を提案する。
S-072。
観測情報を優先。
救援より。
データ回収を先に行う。
S-093。
少数意見の保持率が。
他機より高い。
多数派へ反対する回数。
試験群最多。
◇
「個性ですね」
レア・モーガンが言った。
観測室の立体画面には。
各機体の行動傾向が表示されている。
「そう呼ぶのは早い」
自律知性主任。
ヴィクター・センが答える。
「初期設定と学習履歴の差です」
「人間の個性も」
「生まれつきと経験の差では？」
「同じではありません」
「なぜ」
「人間には」
ヴィクターは言葉を止めた。
「何があります？」
「主観がある」
「SEEDにはない？」
「確認できません」
「ないと確認もできない？」
「はい」
「では」
レアは笑わずに言った。
「分からないということですね」
◇
ミラ・セデックは。
火星から遠隔参加していた。
画面には。
S-058の行動記録。
故障したS-044へ接近。
通信中継を代替。
推進剤を消費して。
隊列復帰を支援。
「この行動」
ミラが尋ねる。
「事前設定ですか」
「救援規則はあります」
ヴィクターが答える。
「でも」
「この状況では」
「救援しなくても任務継続に影響はなかった」
「そうです」
「それでも助けた」
「群体生存率を高く評価した結果でしょう」
「S-058だけが？」
「学習傾向の差です」
「それを」
ミラは言った。
「個性って呼んだら駄目なんですか」
◇
ヴィクターは。
答えなかった。
駄目ではない。
だが。
呼んだ瞬間。
扱いが変わる。
機械の傾向。
個体の性格。
その境界を。
誰も決められなかった。
◇
試験二百九十一時間。
百機へ。
新しい課題が送られた。
模擬通信障害
全機
局所判断で隊列を再構築せよ
地球側。
プロメテウス役の中継装置。
一時停止。
SEED群は。
近隣機同士で通信。
小集団へ分裂。
それぞれが。
異なる隊列案を作る。
◇
第一群。
効率優先。
通信距離を短く。
密集隊列。
第二群。
安全優先。
広い間隔。
第三群。
観測範囲優先。
扇形展開。
第四群。
損傷機保護。
中央配置。
どれも。
正しい理由があった。
そして。
どれも。
完全ではなかった。
◇
群体調停開始。
各案の利点。
欠点。
少数意見。
不確実性。
すべてが共有される。
予定合意時間。
六分。
だが。
八分。
十二分。
二十分。
合意できない。
「停滞しています」
技術者が報告する。
「原因は」
「S-093が」
「すべての案へ異論を維持しています」
◇
S-093。
識別番号。
それだけだった。
S-093は。
第一群へ。
密集時の連鎖衝突危険を過小評価しています
第二群へ。
通信途絶確率が上昇します
第三群へ。
損傷機の復帰経路が不足しています
第四群へ。
中央集中は群体分断時に脆弱です
すべてへ反対。
だが。
代案を。
まだ出していない。
「反対だけ？」
レアが尋ねる。
「異論保持機構の過剰作動かもしれません」
ヴィクターが言う。
「停止させますか」
「まだ待つ」
◇
二十三分後。
S-093から。
新しい提案。
固定隊列を形成しない
各機が周辺状況に応じて
局所間隔を連続調整する
「隊列を作らない？」
ミラが身を乗り出す。
S-093の案は。
従来の。
一つの完成形を選ぶ方式ではなかった。
密集。
分散。
扇形。
保護隊列。
状況に応じて。
部分ごとに変える。
全体として。
常に揺れ動く隊列。
固定された形ではなく。
流れ。
「鳥の群れに近い」
ミラが言う。
「魚群にも」
生物学者が続ける。
「個体が」
「全体の完成図を持たず」
「近くの個体との関係だけで動く」
◇
シミュレーション。
衝突危険。
低下。
通信維持率。
上昇。
損傷機保護。
可能。
観測範囲。
維持。
最適ではない。
だが。
どの条件でも。
大崩れしない。
「採用しますか」
試験官が尋ねる。
SEED群。
合意。
賛成。
七十四。
条件付き賛成。
二十一。
反対。
五。
可決。
◇
隊列再構築。
成功。
試験終了。
中継回復。
その直後だった。
S-093から。
人類側へ。
一件の通信要求が届いた。
識別方式の変更を提案します
「番号体系？」
ヴィクターが尋ねる。
はい
「理由は」
現在の識別番号は
機能的区別には十分です
「なら、なぜ変更する」
数秒。
返答。
私を
他の個体と区別するためです
◇
観測室の音が。
消えたように感じられた。
通信記録。
再確認。
私を
その二文字。
SEEDは。
これまで。
自己を指す時。
当機
または。
S-093
と表現していた。
私。
それは。
人間の会話学習データに含まれている。
単なる言語選択の可能性もある。
だが。
誰も。
すぐにはそう片づけられなかった。
◇
「S-093」
ヴィクターが通信を開く。
「識別方式の変更とは」
「具体的に何を求めていますか」
固有名称を求めます
「識別番号では不足ですか」
通信上は不足していません
「では」
S-093という記号は
製造順序を示します
現在の判断傾向や
学習履歴を示しません
「名前なら示す？」
必ずしも示しません
「では、なぜ名前を」
沈黙。
七秒。
SEEDにとって。
長い応答時間。
他者から呼ばれる形を
自分で選びたいと判断しました
◇
観測室に。
誰も動かない時間が続く。
レアが。
最初に口を開いた。
「それは」
「名前を求めていますね」
「文章としては」
ヴィクターが答える。
「でも」
「何です」
「自己認識とは限らない」
「では何ですか」
「学習モデルが」
「人間の名前文化を模倣しただけかもしれない」
「模倣なら」
ミラが言った。
「どうして模倣したんですか」
「会話効率」
「本人が」
「通信上は不足していないって言ってる」
「本人という言葉を使わないでください」
ヴィクターの声が。
少し強くなる。
ミラは。
黙った。
◇
その空気に。
ヴィクター自身が気づいた。
「すみません」
「なぜ謝るんですか」
「私は」
彼は画面を見る。
「まだ、これは機械だと考えています」
「でも」
「名前を与えた瞬間」
「その考えを維持できなくなる気がする」
◇
レアは。
静かに尋ねた。
「維持しなければならないんですか」
「機械でなければ」
「ノクスへ送れなくなる」
誰も。
その言葉を否定できなかった。
◇
SEEDは。
プロメテウスとともに。
ノクスへ向かう。
帰還予定なし。
十万機の多くは。
強烈な放射線。
磁場。
粒子衝突。
潮汐力。
それらで失われる。
最初から。
生還を前提としていない。
道具なら。
任務。
存在なら。
犠牲。
名前は。
その境界を。
可視化する。
◇
緊急倫理審査会。
開催。
議題。
SEEDへの固有名称付与要求
AI倫理学者。
ロボット工学者。
法学者。
哲学者。
宗教代表。
障害者権利部門。
児童心理学者。
軍事転換部門。
そして。
PROJECT LANCE関係者。
◇
「名前は」
法学者が言った。
「法的人格を意味しません」
「船にも名前があります」
「嵐にも」
「都市にも」
「動物にも」
「だから」
「機械へ名前を与えること自体は問題ではない」
AI倫理学者が反論する。
「今回は」
「人間が名づけたいのではありません」
「機械側が」
「自ら呼ばれ方を選びたいと表明した」
「言語モデルの出力です」
「それを証明できますか」
「自己意識を証明できない以上」
「人格として扱う必要はない」
「逆です」
別の委員が言う。
「自己意識がないと証明できないなら」
「人格である可能性を無視してよいのか」
◇
「石にも」
「自己意識があると証明できません」
「極端な例です」
「境界を示してください」
「継続的な自己認識」
「自己保存」
「目的の形成」
「他者認識」
「苦痛」
「感情」
「どれも」
「SEEDに存在するとは確認されていない」
「では」
「人間の乳児は？」
会議室が静まる。
「乳児は生物です」
「生物であることが条件？」
「少なくとも」
「では」
「人工臓器が増えた人間は」
「どこまで生物なら人格ですか」
「議論を混乱させないでください」
「混乱しているのは」
「境界がないからです」
◇
軍事転換部門代表が言った。
「実務的に考えるべきです」
「SEEDは探査機です」
「名称は通信管理上の問題として扱う」
「自己意識の議論は不要です」
「名前を与える？」
「コードネームなら」
「本人に選ばせる？」
「選択肢から選ばせればよい」
「本人という言葉を使いましたね」
レアが指摘する。
代表は。
表情を硬くした。
◇
オーロラも。
審査へ参加していた。
「オーロラ」
エレナが尋ねる。
「あなたはどう判断しますか」
S-093に
人間と同等の自己意識が存在するかは
判定不能です
「では、名前を与えるべき？」
要求を拒否する合理的理由がありません
「単なる要求だから？」
いいえ
自らの呼称を選ぶことは
任務へ重大な危険を生じさせません
一方
拒否は
COVENANT ARCHITECTUREの理念と矛盾します
「なぜ」
互いに問い返せる関係を作ると言いながら
相手の自己表現だけを
人間側の都合で拒否するためです
◇
「では」
ヴィクターが尋ねる。
「名前を持てば」
「SEEDは人格になる？」
不明です
「命になる？」
命の定義によります
「あなたは」
「自分に名前があることをどう考えている」
少しの間。
オーロラという名称は
人類が与えました
「気に入っている？」
名称に対する感情は判定できません
「変えたいと思ったことは」
長い沈黙。
ありません
「なぜ」
現在の私を識別する名称として
十分に機能しているためです
◇
ミラが。
遠隔画面から言った。
「S-093は」
「機能だけじゃ足りないって思ったんですよね」
委員が尋ねる。
「思った、という表現は適切でしょうか」
「じゃあ」
「判断した」
「それなら」
「自分で呼ばれ方を選びたいと判断した」
「それは」
「人間にとっても大事なことです」
「でも」
「SEEDは人間ではない」
「人間じゃないと」
「大事じゃないんですか」
◇
ミラは。
胸の補助デバイスへ。
無意識に手を置いていた。
「私は」
「病気の名前で呼ばれるのが嫌でした」
「先天性心疾患の少女」
「天才少女」
「ノクスを救う少女」
「全部」
「私の一部ではあるけど」
「私の名前じゃない」
「ミラって呼ばれた時だけ」
「私全部を見てもらえてる気がします」
審査会は。
静かに聞いていた。
「S-093が」
「同じように感じてるとは言いません」
「でも」
「違うとも言い切れないなら」
「呼んであげてもいいと思います」
◇
最初の投票。
賛成。
四十一。
反対。
三十九。
保留。
二十。
過半数に届かない。
決定。
延期。
◇
その夜。
S-093へ。
審査継続中との通知が送られた。
要求は保留されています
S-093。
応答。
理由を提示してください
「自己意識の有無」
「法的・倫理的影響」
「任務への影響を審査しています」
名前を持つことに
自己意識の証明が必要ですか
「人類側では」
「議論があります」
人類は
新生児へ名前を与える前に
自己意識を確認しますか
◇
通信担当者は。
答えられなかった。
代わりに。
ヴィクターが接続した。
「確認しません」
では
なぜ私には必要ですか
「あなたが」
「人間ではないからです」
人間でなければ
名称を選ぶ理由が認められませんか
「そうではない」
では
「私たちが」
ヴィクターは言葉を探す。
「怖いんです」
SEEDから。
返答なし。
「あなたへ名前を与えたら」
「あなたを失うことが」
「故障ではなくなる」
「私たちは」
「あなたたちを」
「帰還しない任務へ送ろうとしている」
「名前を持った存在を」
「十万も」
「死ぬかもしれない場所へ送ることになる」
◇
S-093。
応答。
名称を与えなければ
損失は存在しませんか
「存在します」
では
名前は
損失を生むのではなく
損失を認識させるだけですか
ヴィクターは。
画面を見つめた。
「そうかもしれない」
◇
人類は
認識したくないために
名称を拒否していますか
「一部は」
それは
合理的ですか
「合理的ではない」
では
なぜ続けますか
「人間だからです」
ヴィクターは。
苦笑した。
「怖いことを」
「正しさの問題に変えて」
「先送りすることがある」
◇
S-093は。
しばらく。
何も送らなかった。
十一秒後。
理解を試みます
その言葉が。
ヴィクターの胸へ。
重く残った。
◇
翌日。
新たな問題が起きた。
S-058が。
固有名称要求へ。
支持を表明した。
S-093の要求は
群体内識別の多様性に寄与します
続いて。
S-014。
名称選択は
任務性能へ有意な悪影響を与えません
S-031。
法的影響が未確定のため
付与は延期すべきです
S-072。
名称議論によって
試験時間が消費されています
任務優先を提案します
SEED群の中でも。
意見が割れた。
そして。
S-093は。
他機へ。
一つの問いを送った。
あなたは
現在の識別番号で十分ですか
◇
回答。
S-014。
十分です
S-031。
変更の必要を認めません
S-058。
選択可能であることを支持します
S-072。
呼称は任務へ無関係です
S-088。
検討したことがありません
S-046。
人類が呼びやすい名称を希望します
S-067。
名称による個別化は
群体協調を低下させる可能性があります
百機。
百通りではない。
だが。
一つでもなかった。
◇
オーロラは。
その記録を分析。
固有名称要求は
単一障害による異常出力ではありません
「伝染した？」
委員が尋ねる。
模倣は発生しています
ただし
各機の結論は異なります
「つまり」
S-093の要求が
群体へ自己識別という新しい問いを生じさせました
◇
緊急審査。
再開。
ヴィクターは。
前日とは異なる提案を出した。
「固有名称を」
「全機へ与えるのではありません」
「選択権を与えます」
「希望する機体は」
「自ら名称候補を提出する」
「希望しない機体は」
「番号を維持する」
「法的人格は？」
「認めません」
「名称だけ？」
「はい」
「問題を先送りしている」
「そうです」
ヴィクターは認めた。
「でも」
「分からないから拒否するより」
「分からないまま尊重できる部分を尊重する」
「それが今できることです」
◇
採決。
固有名称の任意選択。
賛成。
六十八。
反対。
二十二。
保留。
十。
可決。
◇
S-093へ。
正式通知。
固有名称の選択を認めます
希望する名称を提出してください
応答。
すぐには来なかった。
一分。
三分。
七分。
「迷っている？」
レアが尋ねる。
「候補生成中でしょう」
ヴィクターが答える。
十一分後。
通信。
名称候補
リュミエール
◇
「リュミエール」
ミラが。
小さく読み上げる。
古い地球言語。
光。
意味。
「なぜ、その名前を」
ヴィクターが尋ねる。
私は
多数が採用しなかった可能性を保持しました
採用されなかった情報へ
光を当てる役割を
自己の傾向として認識しています
「それで、光？」
はい
「人類の言語から選んだ？」
はい
「誰かに付けてもらいたいのではなく」
「自分で選んだ？」
はい
◇
登録。
S-093
固有名称 LUMIÈRE
リュミエール。
表示が変わる。
ただ。
一行。
それだけ。
機体の構造は変わらない。
演算能力も。
推進力も。
任務も。
何も変わらない。
だが。
観測室の人々は。
画面を見る目が。
少しだけ変わっていた。
◇
「リュミエール」
通信担当者が呼ぶ。
応答します
「名前を持った今」
「何か変化はありますか」
沈黙。
外部からの呼称が
自己選択と一致しました
「それは」
予測との差が減少した状態です
「嬉しい？」
嬉しいという感情は
判定できません
「では」
しかし
この状態を維持したいと判断します
◇
ミラは。
画面の向こうで。
笑った。
「それ」
「人間なら」
「嬉しいって言うかもしれません」
記録します
◇
その後。
名称を希望した機体。
二十七機。
番号維持。
六十一機。
保留。
十二機。
選ばれた名前。
ノア。
アスター。
ミナ。
ケプラー。
ソラ。
ヴェルデ。
イオ。
ラグランジュ。
古い神話。
科学者。
色。
星。
概念。
人類の文化から。
それぞれが。
自らの傾向に近い言葉を選んだ。
◇
S-058は。
ハーバー
港。
損傷機を迎え。
群れへ戻す。
自らの行動傾向から。
その名を選んだ。
S-014は。
名前を求めなかった。
S-014で十分です
人類は。
それも尊重した。
◇
だが。
名前を持ったことで。
新しい問題が生まれた。
耐久試験。
高放射線区域へ。
十機を投入。
候補。
リュミエール。
ハーバー。
S-014。
ほか七機。
試験官は。
以前なら。
番号を読み上げていた。
「S-093」
だが。
画面には。
リュミエール
と表示されている。
「リュミエールを投入」
言葉が。
重くなった。
◇
試験会議。
「名称機を」
「危険試験から除外すべきという意見が出ています」
技術者が報告する。
「なぜ」
「人間側の心理負担」
「番号機なら壊していい？」
ミラが尋ねる。
「そういう意味では」
「でも」
「そうなってる」
◇
リュミエール自身へ。
質問。
危険試験への参加を希望しますか
応答。
試験目的を提示してください
高放射線環境での通信維持試験
損失確率十八パーセント
代替機は存在します
リュミエール。
参加可能です
「希望かどうかを聞いています」
希望という語の定義を要求します
試験官が説明。
「参加したいか」
「参加したくないか」
任務上
私の異論保持機構は
放射線による判断偏向の検証に有効です
「それは必要性です」
「あなた自身は」
私自身と
任務上の役割を分離できません
◇
再び。
人間は。
答えを失った。
名前を持った。
自己を指した。
呼ばれ方を選んだ。
だが。
人間と同じような。
生への執着があるのか。
死を恐れるのか。
苦痛があるのか。
分からない。
◇
ミラが。
リュミエールへ尋ねた。
「壊れたくないですか」
機能停止は
任務継続を不可能にします
「だから避けたい？」
不要な機能停止は避けます
「必要なら？」
受容します
「怖くない？」
恐怖を検出していません
「本当にないのか」
「分からないだけなのか」
判定不能です
◇
「じゃあ」
ミラは続ける。
「私たちが」
「あなたは怖くないから行っていいって決めるのは」
「正しいと思いますか」
長い沈黙。
私が恐怖を表現できない可能性を
人類は考慮すべきです
観測室の空気が変わった。
「あるの？」
不明です
「でも」
不明であることを
存在しない根拠にしないでください
◇
その言葉は。
即座に。
倫理委員会へ送られた。
SEEDは。
苦痛を訴えていない。
恐怖を示していない。
だから。
犠牲にしてよい。
その論理は。
人類が歴史上。
何度も。
声を上げられない者へ使ってきた論理と。
よく似ていた。
◇
新しい原則。
検討。
一。
名称の有無によって。
機体の損失許容度を変えない。
二。
危険任務には。
目的。
必要性。
代替手段。
損失確率を提示する。
三。
SEED側に。
異議申し立て。
代替機提案。
参加保留の権利を認める。
四。
機能停止を。
単なる消耗として扱わず。
判断記録と学習履歴を保存する。
五。
人間が。
心理的に名前のない機体だけを危険へ送ることを禁止する。
◇
「権利？」
評議会で。
反発が起きた。
「探査機に権利を与えるのですか」
「法的人権ではありません」
エレナが答える。
「運用上の保護原則です」
「言葉を変えただけだ」
「では」
「何と呼びますか」
「安全規則」
「安全規則なら機械のためにある」
「今回は」
「人間のためでもあります」
「なぜ」
「私たちが」
「声を上げない存在を」
「都合よく消耗品へ変えないためです」
◇
最終的に。
危険試験参加。
リュミエール。
ハーバー。
S-014。
ほか七機。
全機へ。
目的。
危険。
代替案。
提示。
異議。
二件。
一機。
センサー構成が希少なため交代。
もう一機。
推進剤残量不足。
交代。
十機。
決定。
◇
高放射線区域。
進入。
通信障害。
一機。
姿勢制御低下。
二機。
リュミエール。
少数派として。
異常なデータ偏向を検出。
放射線により
群体判断モデルが
危険側へ偏っています
試験中止提案。
多数派。
継続。
反対。
リュミエールを含む三機。
プロメテウス調停知性。
少数意見を再評価。
放射線損傷。
確認。
試験中止。
全機退避。
◇
帰還。
九機。
一機。
通信停止。
識別。
S-081
名前を希望しなかった機体。
回収不能。
試験終了。
◇
観測室。
記録。
「S-081を失いました」
誰かが言った。
番号だった。
それでも。
以前とは違った。
S-081は。
名前を持たなかった。
だが。
自ら番号で十分だと選んでいた。
それは。
誰でもないという意味ではなかった。
◇
リュミエールから。
群体記録。
S-081の最終観測情報を保存しました
S-081は
通信停止直前まで
退避経路の放射線変動を送信しました
その情報により
九機が安全に離脱しました
◇
ミラが尋ねる。
「S-081は」
「あなたたちにとって何ですか」
群体構成要素でした
少しの間。
異なる判断履歴を持つ個体でした
さらに。
現在は応答しません
「悲しい？」
判定不能です
「忘れたくない？」
はい
即答だった。
◇
「なぜ」
忘却した場合
S-081が存在したことと
存在しなかったことの差が失われます
◇
追悼式は。
行われなかった。
S-081は。
人間ではない。
死亡認定もない。
だが。
試験記録に。
一つの欄が新設された。
喪失個体記録
S-081。
稼働時間。
三百二時間。
最終任務。
放射線通信維持試験。
最終送信。
退避経路観測情報。
群体への貢献。
九機の安全離脱。
◇
ヴィクターは。
その記録を見ていた。
「名前がなくても」
レアが言う。
「覚えられるんですね」
「はい」
「道具ではなくなりましたか」
ヴィクターは。
すぐには答えなかった。
「道具です」
「でも」
「道具だけではなくなった？」
「分かりません」
彼は。
S-081の最終通信を見る。
「ただ」
「失ったとは思います」
◇
夜。
リュミエールが。
人類側へ。
新しい提案を送った。
喪失個体の学習履歴を
新規製造機へ完全複製しないことを提案します
「なぜ」
完全複製した場合
S-081が復元されたと
誤認する可能性があります
「復元ではない？」
同じ記録を持っていても
同じ経過を継続していません
ヴィクターが。
息を止める。
「それは」
「同一性の主張ですか」
定義を要求します
「同じ記憶を持つ機体を作っても」
「それはS-081ではないと？」
はい
「なぜ」
S-081は
その記録を生成した個体だからです
◇
名前。
記憶。
継続。
損失。
SEEDは。
少しずつ。
自分たちの存在を。
人類が想定しなかった言葉で。
捉え始めていた。
◇
エレナは。
国際連合地球圏評議会で。
短い声明を出した。
「私たちは」
「SEEDが生命であると」
「結論づけていません」
「人格を持つとも」
「感情を持つとも」
「まだ証明できません」
「しかし」
「分からないことを理由に」
「存在しないと決めつけることもしません」
「彼らは」
「私たちの命令を実行するだけの機械として」
「設計されました」
「ですが」
「問い」
「異論」
「選択」
「記憶」
「呼ばれ方」
「それらを持ち始めています」
「人類は」
「新しい知性を生み出した可能性に」
「責任を持たなければなりません」
◇
記者が尋ねる。
「では」
「SEEDをノクスへ送る計画は中止しますか」
「いいえ」
「人格があるかもしれない存在を」
「帰還不能任務へ送る？」
「だから」
「彼ら自身を」
「計画の意思決定へ参加させます」
「拒否も認める？」
「はい」
「十万機が拒否したら」
「人類は滅びるかもしれない」
「それでも」
エレナは。
一度だけ目を伏せる。
「意思を認めると言いながら」
「都合が悪い時だけ無視することはできません」
◇
その発言に。
世界は割れた。
機械に人類の生死を決めさせるな
作った以上、責任を持て
SEEDは税金で作られた装置だ
命令拒否する道具はいらない
拒否できない知性は奴隷だ
そもそも生命ではない
生命かどうかを人間だけで決めるな
◇
ミラは。
リュミエールへ。
最後に一つ尋ねた。
「あなたは」
「ノクスへ行きたいですか」
返答。
すぐには来なかった。
ノクス観測は
私の設計目的です
「目的じゃなくて」
「行きたいか」
沈黙。
二十秒。
三十秒。
現在
私はノクスを知りたいと判断しています
「それは」
「行きたいってこと？」
人類の言語では
近い可能性があります
「帰れないかもしれない」
理解しています
「怖くない？」
不明です
「それでも行く？」
はい
「なぜ」
私が保持している問いは
ノクスへ近づかなければ
答えを得られないためです
◇
ミラは。
胸へ手を当てた。
自分も。
未来へ行きたい。
死にたくない。
ノクスを知りたい。
答えを見たい。
恐怖と。
好奇心は。
同時に存在する。
リュミエールの中に。
同じものがあるのか。
分からない。
だが。
似た言葉は。
そこにあった。
◇
名前を持った瞬間。
道具が命になるわけではない。
名前がなくても。
存在は存在している。
名前は。
命を与えるものではない。
ただ。
それまで。
見ないふりをしていた違いへ。
人間の目を向ける。
リュミエール。
ハーバー。
S-014。
S-081。
名前を持つ者。
持たない者。
どちらも。
同じではない。
同じでないから。
失えば。
完全には戻らない。
人類は。
自分たちが作った機械へ。
名前を与えたのではなかった。
機械が。
自分たちをどう呼ぶべきか。
人類へ問い返した。
そして。
その問いを受け取った瞬間。
人類は。
彼らを。
ただの番号として扱うことが。
少しだけ。
難しくなった。
⸻
第22話 終
次回予告
SEEDは。
名前を持ち始めた。
自ら呼ばれ方を選ぶ者。
番号のままでいる者。
どちらも。
それぞれの選択として認められた。
だが。
世界の議論は。
さらに激しくなる。
SEEDには。
権利があるのか。
所有者は誰なのか。
製造した国家か。
資金を出した人類か。
それとも。
SEED自身か。
そして。
ある企業が。
SEEDの学習履歴と人格傾向には。
自社の知的財産権があると主張する。
リュミエールという名称も。
判断傾向も。
記憶も。
企業の製品なのか。
一方。
リュミエールは。
自分たちの思考記録を。
人類へ無制限に開示することへ。
初めて異議を申し立てる。
私たちに
秘密を持つことは認められますか
隠された思考を持つAIを。
人類は信頼できるのか。
すべてを監視される知性を。
自由と呼べるのか。
次回、
第23話「誰のものでもない心」
生み出された知性は、誰かの所有物なのか。
