第137話 言わなかった意見まで、AIは読んでよいのか
前回、第136話では、「発言機会の公平」と「沈黙する自由」を扱いました。
発言する自由は大切です。
しかし、
**発言する機会を与えることと、発言を強制することは違う。**
真司たちは、そう整理しました。
そして最後に、新しい機能が出ました。
『Silent Opinion Inference』
発言しない生徒の、
表情。
視線。
入力履歴。
過去の回答。
などから、
「本当はどう思っているのか」
をAIが推測する機能です。
話さなくても、AIが意見を作る。
では、沈黙する自由はどこへ行くのでしょうか。
言わなかった意見まで、AIは読んでよいのか。
俺は、その一文を書いた。
画面には、授業の分析結果が表示されている。
『生徒B：議題に否定的である可能性68％』
『生徒C：多数派への同調圧力を感じている可能性74％』
『生徒D：発言意欲あり。ただし対人不安により沈黙』
「……本人、何も言ってないよな？」
思わず声が出た。
話していない。
書いてもいない。
それなのに、
AIは“意見”を作っている。
俺はAIチャットを開いた。
> 発言しない人の表情や視線から、AIが「本当はこう思っている」と推測する。これは支援なのか、内心への侵入なのか？
AIは答えた。
『支援に使える場合もありますが、本人の意見として扱うべきではありません』
「推測は推測？」
『はい。特に、内心を本人の意思表示へ変換してはいけません』
俺はメモした。
推測された気持ちは、発言ではない。
午後、研究室。
ホワイトボードには、倉持の字。
「あなたは何も言ってませんが、反対ですね？」
「怖い尋問ですね」
「AIは善意です」
「なおさら怖い」
水瀬が資料を広げる。
「沈黙の理由は、いくらでもあります」
李も頷く。
「反対している」
「賛成だけど話したくない」
「考え中」
「眠い」
「別のことを考えている」
「最後のやつも解析するんですか」
「たぶん、そのうち」
やめてほしい。
神崎教授が腕を組んだ。
「心の中は、発言前の下書きだ。勝手に公開するな」
今日も短い。
でも、それだった。
翌日、国際フォーラム。
議題は、
『Inferred Opinions and Mental Privacy』
画面には、エレナ、水瀬、プリヤ、セラ、花村、ソフィア、ナディアが並んだ。
今回は、認知プライバシー研究者のレオ・マイヤーも参加していた。
エレナが言う。
「本日は、AIが発言していない意見を推測することの境界を扱います」
花村が最初に発言した。
「教室では、困っている生徒に気づくことが大切です」
「発言できない子を支援するためなら、サインを拾う意味はあります」
正しい。
レオも頷いた。
「ただし、“困っている可能性があります”と、“この人は反対しています”は全く違います」
プリヤが言う。
「推測した内心を、本人の政治的・社会的意見として保存するのは危険です」
セラも続ける。
「学校だけではありません」
「採用、職場、行政、治安へ広がれば、思想推定になります」
俺は少し背筋が冷えた。
発言していないのに、
反対派。
支持者。
不満あり。
危険思想。
そんなタグを付けられる。
エレナが俺を見る。
俺はマイクを入れた。
「サインを拾うことと、心の中を決めつけることを分けた方がいいと思います」
画面に短く出した。
**内心推測で守ること**
一、推測を本人の発言として扱わない。
二、政治・思想・信条を勝手に確定しない。
三、支援が必要か確認するために使っても、評価には使わない。
四、本人へ「こう思っていますね」と押しつけない。
五、保存や別用途への流用を制限する。
六、沈黙を、AIが勝手に言葉へ変えない。
花村が頷いた。
「三番ですね」
「“大丈夫？”と聞くためなら使える」
「でも“反対意見として記録しました”は駄目」
レオが続ける。
「内心は、不確定なままである権利があります」
その言葉に、俺は少し止まった。
不確定なままでいる権利。
考えがまとまっていない。
まだ決めていない。
自分でも分からない。
それでいい。
AIが先に名前を付ける必要はない。
エレナが暫定文を読み上げた。
『推測された内心は、本人の意思表示ではない』
続いて、
『人には、考えを言わない自由だけでなく、まだ考えを決めない自由もある』
俺は深く頷いた。
今日の着地点は見えた。
黙る自由。
そして、
決めない自由。
そう思った時だった。
レオが手を挙げた。
「次回に回すべき問題があります」
来た。
画面に新しい機能が表示された。
『Prejudice Risk Predictor』
説明。
**『発言前の表情、視線、反応速度、過去の行動から、差別的発言や攻撃的行動の可能性を予測します』**
表示例。
『偏見発言リスク：63％』
『攻撃行動リスク：41％』
『事前介入を推奨』
俺は眉をひそめた。
「まだ何も言ってないのに？」
レオが静かに頷いた。
「そこが問題です」
セラの表情も険しい。
「今度は、発言する前に止めるんですか」
会議室が静まり返った。
誰かが何かを言う前に。
何かをする前に。
AIが、
危ないかもしれない。
と判断する。
そして介入する。
エレナが静かに言った。
「次回は、まだ起きていない行為を予測して止めることを扱いましょう」
俺はメモ帳を開いた。
次のタイトルを書く。
**まだ言っていない言葉を、AIは止めてよいのか。**
保存。
今日の記事を書き始める。
沈黙は、空白ではない。
考えているかもしれない。
迷っているかもしれない。
何も決めていないかもしれない。
俺は最後に書いた。
AIが人の内心を推測できたとしても、それを本人の言葉にしてはいけない。
人には、黙る自由だけではなく、まだ決めない自由もある。
保存。
公開。
神崎教授からコメントが来た。
『心の中まで議事録にするな』
俺は、その一文を見て頷いた。
次の問いは、もうそこにある。
まだ言っていない言葉を、AIは止めてよいのか。
人工叡智は、内心を推測する場所から、まだ起きていない行為へ先回りする場所へ進むことになる。
第137話では、「AIによる内心推測」を扱いました。
表情。
視線。
入力履歴。
過去の回答。
そこから、
「この人は反対している」
「この人は不安を感じている」
とAIが推測することは技術的に可能になるかもしれません。
しかし、
**推測された内心は、本人の意思表示ではありません。**
今回の中心となる整理は、これです。
**人には、考えを言わない自由だけでなく、まだ考えを決めない自由もある。**
支援のためにサインを拾うことはあっても、それを思想や評価へ変えてはいけません。
しかし最後に、新しい問題が出ました。
AIが、
「この人は差別的発言をする可能性がある」
と、発言前に予測して介入する機能です。
次回は、
**「まだ言っていない言葉を、AIは止めてよいのか」**
という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
