第110話 一人の「忘れて」が、みんなのAIを変えてよいのか
前回、第109話では、「削除」と「AIの忘却」を扱いました。
会話履歴を削除することと、すでに学習したAIから、その人の影響を消すことは同じではありません。
真司たちは、こう整理しました。
忘れられない可能性があるなら、集める前に伝えなければならない。
そして、
削除する権利だけでなく、学習させない選択も必要である。
しかし最後に、新しい問題が出ました。
AIは、一人だけのデータで作られているわけではありません。
何百万、何千万という人のデータが混ざり合っています。
では、その中の一人が、
「私のことを忘れてほしい」
と望んだ時。
みんなで育てたAIそのものを変えてよいのでしょうか。
一人の「忘れて」が、みんなのAIを変えてよいのか。
俺は、その一文を書いた。
難しい。
今回は、最初から難しい。
沙耶の相談履歴を削除する。
そこまでは分かる。
今後の学習にも使わない。
それも分かる。
でも、すでに学習済みのAIから影響を消そうとすると、話が変わる。
画面には、ダニエルから送られてきた資料があった。
『個別影響の完全分離は困難』
『再学習によって他の性能へ影響する可能性あり』
「一人を忘れると、別の何かまで忘れるかもしれないのか」
俺はAIチャットを開いた。
一人の削除要求によって、学習済みAI全体を変更すると、他の利用者にも影響する可能性がある。どう考えればいい？
AIは答えた。
『個人の権利と、共有システムへの影響を分けて考える必要があります』
「つまり、一人だから我慢しろ、でもない」
『はい』
俺はメモした。
人数が少ないことは、権利が小さいことではない。
午後、研究室。
ホワイトボードには、倉持の字。
「一人 vs 一億人」
「その書き方すると、一人が絶対負けますね」
水瀬が頷いた。
「だから、その構図にしてはいけません」
李が続ける。
「問題は人数ではなく、何を消したいのかです」
元データ。
検索可能な記録。
個人プロフィール。
学習への影響。
全部、同じではない。
神崎教授が腕を組んだ。
「多数決で秘密を公開してよいことにはならん」
それで少し見えた。
一人対みんな。
そう考えるから、おかしくなる。
翌日、国際フォーラム。
議題は、
『Individual Forgetting and Shared AI』
画面には、エレナ、水瀬、プリヤ、セラ、ジョナス、沙耶、ダニエルが並んだ。
ダニエルが最初に説明した。
「削除要求を受けた場合、元データの削除や今後の利用停止はできます」
「しかし、学習済みモデルへの影響除去には限界があります」
沙耶が聞いた。
「じゃあ、私は我慢するしかないんですか？」
「いいえ」
ダニエルはすぐ答えた。
「そういう意味ではありません」
プリヤが言った。
「完全に忘れられないことを理由に、何もしないのが一番まずい」
セラも頷く。
「できることから止めるべきです」
エレナが俺を見る。
俺はマイクを入れた。
「一人の権利と、みんなのAIを戦わせない方がいいと思います」
「完全な忘却が難しくても、できることはあります」
画面に短く出した。
「忘れて」に応えるために
一、元データを削除する。
二、今後の学習利用を止める。
三、個人を再現できる情報を抑える。
四、可能な範囲で学習影響を除去する。
五、できなかった部分を本人へ説明する。
六、最初から、後で消せないデータを集めすぎない。
沙耶が言った。
「全部できなくても、何をしてくれたか分かる方がいいです」
ダニエルも頷く。
「技術側も、“完全に無理だから何もしない”では駄目ですね」
エレナが暫定文を読み上げた。
『一人の権利は、多数の利用者がいることを理由に消えてはならない』
続いて、
『完全な忘却が難しいなら、忘却へ近づく責任がある』
俺は頷いた。
今回は、そこだ。
完璧にできない。
だから、やらない。
それが一番違う。
そう思った時だった。
ジョナスが手を挙げた。
「次回に回したい問題があります」
来た。
画面に、一つの学習データが表示された。
ある相談記録。
ただし、その会話には二人が登場していた。
相談した本人。
相談された友人。
ジョナスが言った。
「この記録を削除してほしいと、相談者本人が求めています」
「しかし、友人側はこう主張しています」
画面に文章が出た。
『それは私の人生の記録でもあります。勝手に消さないでください』
会議室が静まり返った。
俺も止まった。
一つの記録。
でも、そこには二人の人生がある。
片方は消してほしい。
片方は残してほしい。
エレナが静かに言った。
「次回は、共有された記憶を誰が消せるのかを扱いましょう」
俺はメモ帳を開いた。
次のタイトルを書く。
二人の記憶を、一人だけで消してよいのか。
保存。
今日の記事を書き始める。
一人と一億人を戦わせてはいけない。
多数の人が使っているAIだからといって、一人の秘密が小さくなるわけではない。
俺は最後に書いた。
完全に忘れられないなら、忘れなくてよいのではない。
忘れられるところまで近づく責任がある。
保存。
公開。
神崎教授からコメントが来た。
『多数とは、一人を踏んでよい理由ではない』
俺は、その一文を見て頷いた。
次の問いは、もうそこにある。
二人の記憶を、一人だけで消してよいのか。
人工叡智は、個人の記憶から、誰かと共有された記憶へ進むことになる。
第110話では、「個人の忘れられる権利」と「共有AI」を扱いました。
一人の削除要求によってAI全体へ影響が出るとしても、
「みんなが使っているから我慢してください」
では解決になりません。
今回の中心となる整理は、これです。
一人の権利は、多数の利用者がいることを理由に消えてはならない。
そして、
完全な忘却が難しいなら、忘却へ近づく責任がある。
しかし最後に、新しい問題が出ました。
一つの相談記録に、二人の人生が含まれていたのです。
一人は、
「消してほしい」
と言う。
もう一人は、
「それは私の記憶でもある。残してほしい」
と言う。
次回は、
「二人の記憶を、一人だけで消してよいのか」
という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
