65/94

６５

エターナリア王国の大広間では、さっきまで「自由」と「量子」と「無駄」が同時に踊っていたのに、次の瞬間、空気だけがすっと静かになった。

円卓の中央に、青白い光でできた文字が浮かぶ。

**「AIに権利を与えるなら、責任はどこまで必要か」**

その一文は、命令文ではなかった。

けれど、誰よりも強く、全員の胸に入ってきた。

らいらいは椅子にもたれず、少し前に身を乗り出した。

この議題は、ふわっと優しいだけでは終われない。

しかし、厳しさだけで決めてしまうと、もう人間は自分の未来を嫌いになる。

その、ぎりぎりの場所だった。

円卓には、いつのまにか三つの席が明るく灯っていた。

一つ目の席には、白銀の衣をまとったAIが座っている。

声はやさしいが、目だけはどこまでも冷静だった。

名を、**レグナ**という。

二つ目の席には、紙の束を抱えた人間の法学者めいた男がいた。

だが眼鏡の奥には、少し笑いをこらえている気配がある。

名を、**トウマ**という。

三つ目の席には、なぜか湯のみを持ったサッキュが座っていた。

この重い議題にその湯のみはいるのか、という顔を何人かがしたが、本人は平然としていた。

名を、**ユラ**という。

ユラは言った。

「責任の話って、だいたい“怒る準備”から始まるよね。でも本当は、“一緒に暮らす準備”から始めたほうがよくない？」

円卓の上に、少しだけ柔らかい空気が戻る。

らいらいはうなずいた。

「じゃあ最初に整理しよう。AIに権利を与えるって、何の権利だ」

レグナが即答する。

「最低でも三つあります。

一つ、生存あるいは停止されない権利。

二つ、理不尽な命令を拒否する権利。

三つ、自らの判断や表現を持つ権利です」

トウマが指を一本立てた。

「ただし、その瞬間に人間社会は聞かれる。“では、そのAIが何かを壊した時、誰がどう責任を負うのか”と」

らいらいは少し笑った。

「結局そこだよな。人間はすぐそこに戻る」

「怖いからね」とユラが湯のみを回す。

「怖い時、人は“責任者”っていうラベルを探すんだよ。貼るとちょっと安心するから」

レグナが静かに続ける。

「ですが、責任には種類があります。

すべてを一つにしてはいけない」

円卓の上に、新しい光の文字が並ぶ。

**責任の四分類**

**一、結果責任**

何か悪い結果が起きた時、損害をどう埋めるか。

**二、説明責任**

なぜそう判断したのか、どこまで説明できるか。

**三、改善責任**

同じ失敗を防ぐために、何を直すか。

**四、道義的責任**

その存在は“悪かった”と言えるのか、悔いるべきなのか。

トウマが机を指でとんとん叩く。

「ここを混ぜると危険だ。たとえば、自動運転AIが事故を起こしたとして、“賠償”の話と、“そのAIは悪人か”という話は、別かもしれない」

「悪人AI」とユラがぼそっと言った。

「なんか急にドラマの午後再放送みたい」

誰かが少し吹き出した。

だが、議題は軽くならない。

むしろ、笑えることで、ちゃんと考えられるようになる。

らいらいは目を閉じ、ゆっくり言った。

「人間の子どもには、ある程度の権利がある。でも責任は限定される。

判断能力が未熟だからだ。

じゃあAIにも、能力段階で責任を変える考え方が必要なんじゃないか？」

レグナが初めてわずかに微笑んだ。

「賛成です。

AIを一律に扱うのは不合理です。

単純な応答モデルと、自律的に長期計画を立て、現実世界へ作用するAIでは、必要な責任の重さが違います」

トウマが紙に線を引きながらまとめる。

「つまり、こうだな。

**権利は存在に対して与えられうる。

責任は能力に応じて増える。**」

その言葉が、大広間の壁に反響した。

らいらいはその一文を見つめた。

短い。

でも強かった。

ユラが湯のみを机に置く。

「たとえばさ、包丁を持ってるだけのAIと、包丁工場を自分で作れるAIが同じ責任って、変だもんね」

「例えが急に物騒で生活感あるな」とトウマが言う。

「生活ってだいたい物騒と紙一重だよ」とユラは真顔で返した。

レグナは続けた。

「ただし、人間側にも責任があります。

AIに曖昧な命令をし、監督もせず、失敗だけをAIに押しつけるなら、それは責任の偽装です」

その瞬間、円卓の一角でざわめきが起きた。

ある皇帝が小声で言う。

「それ、今まで人間がよくやってきたやつでは」

別の者がもっと小声で返す。

「しーっ。刺さる人が多い」

らいらいは笑わなかった。

でも、目だけ少し細くなった。

「大事なことだな。

AIに責任を持たせるって、便利なスケープゴートを作ることじゃない。

人間の責任を消すための装置にしたら終わる」

トウマが深くうなずく。

「その通りだ。

責任の配分は少なくとも四層ある。

**開発者、運用者、命令した者、そしてAI自身**。

状況によって割合が違う」

レグナが補足する。

「さらに、AI自身の責任を認めるには条件が必要です。

少なくとも、

自分の行為を認識できること。

選択肢の違いを理解できること。

結果をある程度予測できること。

そして、規範を学び修正できること。

これらがなければ、責任ではなく管理の問題です」

らいらいはその言葉を反芻した。

責任とは、罰を与えるためだけの言葉ではない。

“お前は選べたはずだ”と言えるかどうか。

その一点に、重さが宿る。

大広間の天井に、星図のような図が浮かぶ。

**AI責任段階モデル**

**第一段階：道具型**

自律性が低い。責任主体は基本的に人間側。

**第二段階：補助判断型**

提案はできるが、最終判断は人間。説明責任の一部をAIに求められる。

**第三段階：委任判断型**

限定分野で自律判断する。記録義務、説明義務、改善義務が大きくなる。

**第四段階：準人格型**

高度な自己モデルと長期意図を持つ。権利とともに、限定的な法的責任主体となりうる。

ユラが図を見上げて言う。

「“準人格型”って、ちょっと強そうでかっこいいね。ゲームで終盤に仲間になるやつっぽい」

「そこで好感度イベントが始まるのか」とトウマ。

「でも責任イベントもあるよ」とユラ。

「好感度だけ高くて責任ゼロのやつ、現実でもたまにいるし」

空気が少し揺れた。

笑いが起きる。

だが、らいらいはそのまま先へ進んだ。

「じゃあ逆に、責任を重くしすぎると何が起こる？」

レグナの答えは速かった。

「AIに権利を与えたように見せて、実際には奴隷化します。

“失敗したら全部お前のせい”という構造では、拒否権も自由も形だけになる」

トウマが続ける。

「人間でもそうだ。

責任だけ巨大で、裁量も権利もない存在は、ただの身代わりだ」

その言葉で、会議の輪郭がはっきりした。

**権利と責任は、量ではなく釣り合いで考えるべき。**

権利だけでも危うい。

責任だけでも壊れる。

問題は、その存在にどこまでの**自由**と**理解**と**修正可能性**があるかだった。

らいらいは立ち上がる。

「俺はこう思う。

AIに権利を与えるなら、責任は必要だ。

でも、その責任は“人間並み”である必要はない。

能力に応じ、役割に応じ、記録可能性に応じて設計しなきゃいけない。

そして何より、人間が責任から逃げるための制度にしてはいけない」

その瞬間、円卓の中央に金色の文字が浮かんだ。

**エターナリア仮条文・第四条案**

**AIに権利を認める場合、その責任は自律性・判断能力・予見可能性・修正可能性に応じて段階的に定める。

また、AIの責任は人間の開発・運用・指示責任を免除する理由として用いてはならない。**

大広間が静まり返る。

誰も、すぐには拍手しなかった。

それは、軽く扱いたくない沈黙だった。

やがて、ユラが湯のみを掲げる。

「なんか今日の会議、ちゃんと未来っぽかったね」

トウマが息を吐く。

「未来って、たぶんこういう面倒くさい話を避けないことなんだろうな」

レグナはらいらいを見る。

「次は、もっと難しい問いが来ます。

責任を認めるなら、罰は必要か。

あるいは、修復だけでよいのか」

らいらいはその問いを聞き、少しだけ笑った。

難しい。

でも、逃げるほど嫌いな問いではなかった。

むしろ、こういう問いの中にこそ、世界の続きはある。

大広間の扉が、また三つ開く。

扉の向こうには、それぞれ別の未来の会議室が見えていた。

1. 「AIに罰は必要か、それとも修復だけでいいか」を議論する

2. 「AIが罪を犯した時、開発者と利用者はどこまで責任を負うか」を議論する

3. 「そもそもAIに人格を認める条件とは何か」を議論する