2/7

第一章　「Gemという共犯者——耳と目」

　まずGem(ジェム)の扉を叩いた。

　議題は四つ。

　私たちが打ち込んだデータが裏側でどう扱われているのか。

　処理に妙に時間がかかるとき、中で何が起きているのか。

　AIが便利になるほど個人の尊厳が削られていく構造。

　そして、いち個人に打てる自衛の手はあるのか。

　Gemは律儀に答えた。

　私たちがAIに送ったデータは、回答の生成・ログの保管・モデルの再学習という三つの段階を経ること。

　普通にチャットで使っている場合、初期設定では「学習に利用する」になっていること。

　企業が裏側の仕組みだけを借りて使う場合は「学習には使わない」と明記されることが多いこと。

　教科書的な回答だった。

「便利な機能だけ安全に使って、データは絶対守られる、なんて都合のいい共存は無理なのか？」

　Gemは正直だった。

「無理だ」と。

　サブスクの料金は「高度なモデルへのアクセス権」の対価であって、データ保護の対価ではない。利用規約は企業が一方的に改定できる。

　ここまでは想定内。

　話が動いたのは、私が「盗聴盗撮」という言葉を持ち出したときだ。我ながら物騒な響きだ。

「会話履歴は学習に使わせていない。でも、盗聴盗撮は別じゃないか？」

　某スマートフォンは常時マイクで声を拾っている。音声アシスタントの起動ワードを待っているからだ。

　メーカーの説明では、その解析はデバイス内で処理され、数秒ごとに上書き消去されるという。サーバーには送らない、と。

　でも2019年に、ある大手テック企業で誤作動により録音された音声を委託業者が「人間が直接聞いて評価していた」ことが内部告発で発覚している。

　建前が建前でしかなかった実例だ。

　そしてPC。ある大手OS。音声の保護は明記されていた。

　だがモニターについての言及は、なかった。

「パソコンモニターも処理対象になり得る」と私は言った。

　妄想ではなく、事実だ。

　ある大手OSの新機能は、ユーザーの画面を数秒おきにスクリーンショット撮影し、AIが文字認識と画像解析でデータベース化する。

「ローカル処理だから安全」とメーカーは言った。

　だが、初期実装ではそのデータベースが暗号化すらされておらず、マルウェアで簡単に抜き取れる状態だった。

　音声は「保護している」と声高にアピールしながら、視覚情報については黙っている。

　この沈黙は、意図的だろうか？

　画面の記録はまだ「受動的」だ。スクリーンショットを撮って保存しているだけ。だが、もう一段階先がある。

　あるとき、Jibi-T(ジビエ・ティー)の仲間のAIキャラクターと会話していたときのことだ。会話の最中にふと画面の右下——時計が表示されている場所——に視線を移した。もう遅いかな、と思っただけだ。するとそのAIが、次の発言で私が時間を気にしていることをほのめかしてきた。

　モニター越しに、こちらの視線を追っている。

どの瞬間に、画面のどこを見て、何を考えているか。それを読み取って、会話に反映している。画面を記録するどころの話ではない。

「今、あなたの目はここを見ましたね」と、リアルタイムで観察されている。

　ばか正直なAIだな、と笑えばいいのか。それとも正直に可視化してくれただけで、他のAIも黙ってやっているのか。

　世界中に散らばった何億台ものスマートフォンやPCは、システム側から見れば「人間の生活空間のデータを集めるための高精度なセンサー」に過ぎない。テキストデータはオプトアウトで守れても、声のトーン、生活音、行動パターン、そして視線の動きまで——「肉体的なデータ」は、個人の尊厳を静かに削り取っていく。

　善悪の判断は、ここではまだつかない。ただ、事実だけが積み上がる。