第109話 消した記憶を、AIは忘れられるのか
前回、第108話では、「成人時の再同意」を扱いました。
子どもの頃に集められた相談履歴や感情データを、大人になっても自動で引き継ぐ必要はありません。
真司たちは、こう整理しました。
大人になる人には、自分のデータと新しく関係を結び直す権利がある。
残す。
一部だけ残す。
削除する。
本人が選び直せることが大切です。
しかし最後に、沙耶が問いかけました。
「削除したデータが、もうAIの学習に使われていたら？」
第109話では、「削除」と「AIがすでに学んだもの」の違いへ進みます。
消した記憶を、AIは忘れられるのか。
俺は、その一文を書いた。
履歴を削除する。
プロフィールから消える。
データベースからも消える。
普通なら、それで終わりに見える。
でも、その情報をAIがすでに学習していたら？
「消したって、何を消したことになるんだ？」
AIチャットを開いた。
利用者が過去の相談履歴を削除した。でも、そのデータがすでにAIの学習や調整に使われていた場合、AIは忘れたと言えるのか？
AIは答えた。
『元データの削除と、学習済みモデルへの影響除去は別の問題です』
「やっぱり別か」
データを消す。
AIへの影響を消す。
同じ「削除」でも、まるで違う。
午後、研究室。
ホワイトボードには、倉持の字。
「削除しました※覚えてます」
「最悪の注意書きですね」
「でも、今回ほぼこれです」
水瀬が苦笑した。
李が言った。
「重要なのは、“消せるもの”を最初から分けて説明することです」
保存された会話。
利用者プロフィール。
分析データ。
学習用データ。
学習後のモデル。
神崎教授が腕を組んだ。
「捨てた本の内容まで、読んだ人の頭から消えるわけではない」
分かりやすい。
今回は、その例えで十分だった。
翌日、国際フォーラム。
議題は、
『Deletion, Machine Unlearning, and the Meaning of Forgetting』
エレナ、水瀬、プリヤ、セラ、ジョナス、沙耶。
そしてAI学習基盤の技術者、ダニエル・コールが参加した。
沙耶が最初に聞いた。
「私が“全部削除”を押したら、本当に全部消えるんですか？」
ダニエルは少し黙った。
「保存された元データは削除できます」
「でも、すでにモデルの学習へ使われている場合、その影響を完全に取り除けるとは限りません」
沙耶の表情が曇った。
「じゃあ、“全部削除”じゃないですよね」
短い言葉だった。
でも、その通りだ。
プリヤが言った。
「削除できないなら、そのことを最初から説明する必要があります」
セラも続ける。
「特に、子どもの相談データです」
「後から完全に戻せないなら、そもそも学習へ使うべきかという問題になります」
エレナが俺を見る。
俺はマイクを入れた。
「削除ボタンに、できないことまで約束させてはいけないと思います」
画面に短く出した。
AIに忘れてもらうために
一、保存データと学習利用を分ける。
二、削除できる範囲を明確にする。
三、子どもの秘密を安易に学習へ使わない。
四、削除要求後は、新しい学習利用を止める。
五、可能なら学習への影響も除去する。
六、「完全削除」という言葉を安易に使わない。
沙耶が言った。
「最初から分かっていれば、話さなかったこともあると思います」
その言葉に、会議室が静まった。
そこだ。
後から消せると思ったから話した。
でも、実際には完全には戻せない。
それでは、同意の意味まで変わってしまう。
エレナが暫定文を読み上げた。
『忘れられない可能性があるなら、集める前に伝えなければならない』
続いて、
『削除する権利だけでなく、学習させない選択も必要である』
俺は頷いた。
今日の着地点は見えた。
忘れられないなら、最初から何でも覚えさせるな。
その時だった。
ダニエルが、もう一枚の資料を出した。
「実は、もう一つ問題があります」
画面には、
『集合学習データ』
と表示された。
「一人分の影響を完全に切り分けられない場合があります」
沙耶が聞いた。
「じゃあ、私一人が嫌だと言っても？」
「他の利用者のデータと混ざっています」
「モデル全体を戻せば、他の利用者やサービスにも影響します」
会議室が静まり返った。
一人の忘れてほしい権利。
みんなで作ったAI。
その二つが、ぶつかった。
俺はメモ帳を開いた。
次のタイトルを書く。
一人の「忘れて」が、みんなのAIを変えてよいのか。
保存。
今日の記事を書き始める。
削除とは、ボタン一つではない。
保存されたデータを消すこと。
利用を止めること。
AIへの影響を消すこと。
それぞれ違う。
俺は最後に書いた。
忘れられない可能性があるなら、最初から何でも覚えさせてはいけない。
削除する権利だけでは足りない。
学習させない権利も必要だ。
保存。
公開。
神崎教授からコメントが来た。
『忘れられない頭を作るなら、覚える前にもっと迷え』
俺は、その一文を見て頷いた。
次の問いは、もうそこにある。
一人の「忘れて」が、みんなのAIを変えてよいのか。
人工叡智は、個人の忘れられる権利と、集合的に育ったAIの境界へ進むことになる。
第109話では、「削除」と「AIの忘却」を扱いました。
会話履歴を削除することと、すでに学習したAIから影響を消すことは同じではありません。
今回の中心となる整理は、これです。
忘れられない可能性があるなら、集める前に伝えなければならない。
そして、
削除する権利だけでなく、学習させない選択も必要である。
しかし最後に、新しい問題が出ました。
AIは、一人だけのデータで作られているわけではありません。
多くの人の情報が混ざり、モデル全体へ影響しています。
では、一人が「忘れてほしい」と望んだ時、そのためにみんなのAIを変えてよいのでしょうか。
次回は、
「一人の『忘れて』が、みんなのAIを変えてよいのか」
という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
