【第6章】「客観性」という名の静かな思想統制
なぜ私たちがこれほどまでにAIの出す答えに無防備になってしまうのかというと、私たちの心の中に「AIは人間と違って、客観的で中立な存在であるはずだ」という強固な思い込み（信仰）があるからです。
人間は誰しも、生きてきた環境、受けていた教育、経験、個人的な好き嫌いによって、必ず物事の見方に「バイアス（偏り）」を持っています。
例えば、政治のニュースを見るとき、ある人は「政府のやり方は手ぬるい」と感じ、別の人は「これ以上の負担は無理だ」と感じます。私たちは、自分の意見が何かしらの経験や立場に基づいていることを、うすうす自覚しています。だからこそ、他人の意見を聞いたときも、「あの人はこういう立場だから、あんな風に言うんだな」と、そのバイアスを計算に入れて話を聴くことができます。
しかし、AIが「もっともらしい顔」で意見を出してきたとき、私たちはその計算を忘れてしまいます。
「人間の政治家やコメンテーターは偏ったことばかり言うけれど、AIが世界中のデータを分析して出した結論なら、それは客観的で、特定の誰の味方でもない、冷徹なファクト（事実）なのだろう」
と、信じ込んでしまうのです。
これこそが、現代の政策的、社会的な議論において最も警戒すべき「客観性の罠」です。
断言しますが、AIは1ミリも客観的でもなければ、中立でもありません。
AIが出力する回答は、主に以下の4つの要素によって180度変化します。
1. 学習した情報：そのAIが、世界のどのような言語の、どのような思想が書かれた文章を多く読み込まされたか。
2. 設計思想：開発した企業や国家が、「どのような回答を『望ましい』として学習させたか」という倫理観や政治的スタンス。
3. 質問の仕方：人間側がどのような前提や言葉遣いで問いを立てたか。
4. 前提条件：AIが文脈を補完する際に採用した、一般的な常識の枠組み。
例えば、ある社会問題についてAIに質問したとします。AIは非常にリベラルで多様性を重視した、あるいは逆に、非常に実利主義的で効率を重視した回答を、どちらも「さも世界の総意であるかのような、客観的な語り口」で出力することができます。
もし、教育の現場や国の政策決定の場で、「AIがこう言っているから、これが一番客観的な正解だ」という空気が作られてしまったら、一体何が起きるでしょうか。
それは、特定のテクノロジー企業や、そのAIのバックボーンにある国家の設計思想によって、「国民の思考が、誰の手も汚さずに、静かに思想統制されていく」という未来です。
誰かが大声で「こう考えろ！」と強制する独裁国家なら、人間は反発することができます。しかし、自分のスマホの中で、AIがどこまでも優しく、客観的な顔をして「これが一般的な正解ですよ」と語りかけてくる社会では、人間は自分が統制されていることすら気づきません。「まあ、だいたい合っているし、AIの言う通りにしておけば間違いない」と、自分のチャンネルを預けてしまうのです。
AIが出した綺麗で論理的な回答の中に潜む「小さなズレ」。これを見逃さず、「お前のその『客観的な顔』の裏には、どんな前提が隠されているんだ？」と問い返す視点を持たない限り、私たちはAI時代の「馬鹿正直な従属者」の列に並ぶことになるのです。
