第12章 第3話：原理の単純さと、対抗の複雑さ
あらすじ：八月に入り、ヴィクトラムの研究データの解析が、重要な段階を迎える。村上准教授が明らかにした認知操作の原理は、思っていたよりも単純だった。しかし、その単純さへの対抗が、なぜ難しいのかも、同時に明らかになってくる。マーカスのツールを使った世界中の研究者たちから、新たな発見が続々と報告される。その中の一つが、智也に、これまでとは異なる角度から問いを投げかけた。認知操作への対抗技術の開発と、その技術自体が悪用される可能性。技術の問題は、常に、使う人間の問題でもある。
---
八月の初旬。
夏の暑さが、本格化していた。
キャンパスは、夏季休暇中で静かだった。
しかし、図書館は、毎日、智也の場所だった。
冷房の効いた奥の席で、ノートパソコンを開き、各地からの報告を確認する日々が続いていた。
その朝、村上准教授から、長いメッセージが届いた。
「解析の中間報告です。今夜、話せますか」
「話せます」
夜の会議が始まると、村上は、これまでで最も丁寧な言葉で、説明を始めた。
「ヴィクトラムの研究データを、三ヶ月かけて解析してきました。その結果、認知操作の原理について、かなり明確な理解が得られました」
「どのような理解ですか」
「まず、前に話した通り、原理は単純です。人間は、自分の思考の流れに一致するものを、正しいと感じやすい。その一点を精密に利用しています。ただし、なぜその原理への対抗が難しいのかも、今回の解析で分かってきました」
「なぜ難しいのですか」
「対抗するためには、自分の思考の流れを意識的に観察する必要があります。しかし、思考の流れを観察することは、思考そのものに負荷をかけます。その負荷が、別の認知エラーを生む可能性があります」
「つまり、防御しようとすること自体が、新たな弱点を作るということですか」
「そうです。例えば、全ての情報に対して、なぜそう思うかを問い返す習慣を持てば、情報処理が遅くなり、決断疲れが生じます。その疲れた状態で下した判断は、かえって外部の影響を受けやすくなる可能性があります」
「防御と脆弱性が、トレードオフになっている」
「そうです。これは、免疫系に似ています。免疫が過剰反応すると、自己攻撃が起きます。認知の防御も、過剰になると、かえって機能を損なう可能性があります」
「では、適切な防御の水準とは、どのようなものですか」
「それを、今、考えています。一つの方向性として、全ての思考に対して防御するのではなく、重要な判断の場面だけに絞って、問い返す習慣を持つことが有効かもしれません。日常の小さな判断には、あまり負荷をかけない。しかし、人生の方向を左右するような判断の場面では、立ち止まって問い返す」
「それは、実践できますか」
「訓練で、ある程度は可能だと思います。ただし、その訓練自体が、特定の思考パターンを形成することになります。その形成が、望ましい方向のものか、訓練を提供する側の意図によるものか、どうやって区別するかという問いも残ります」
「訓練の設計者への信頼の問題、ですね」
「そうです。完全な解決策は、どこにもありません」
その言葉が、この旅全体を通じた、最も根本的な認識を、改めて確認していた。
「村上先生、その解析結果を、論文にまとめる予定はありますか」
「はい。今、執筆中です。ただし、一つ、迷っていることがあります」
「何ですか」
「論文に、具体的な操作の手法を、どこまで詳しく記述すべきかという問いです。詳しく書けば、対抗手段の研究に役立ちます。しかし、同じ情報が、操作の手法を洗練させることにも使われる可能性があります」
「技術の二重使用の問題ですね」
「そうです。核の技術や、遺伝子操作の技術と、同じ問題です。知識を公開することの利益と、悪用されるリスクのバランスをどこで取るか」
「その判断は、村上先生に委ねます。ただし、一つだけ、私の考えを言わせてください」
「どうぞ」
「完全に非公開にすることは、悪用を防がないと思います。悪用しようとする側は、必ず別の方法で同じ知識に辿り着きます。一方、公開することで、より多くの人が対抗手段を開発できる機会が生まれます。その非対称性を考えると、透明性の方が、長期的には社会の利益になる可能性が高い」
「ただし、公開の仕方に、工夫が必要かもしれません。手法の説明よりも、対抗手段の説明に、より多くの紙幅を割く」
「それが、一つの答えかもしれませんね」
その翌日、マーカスのチームのSlackチャンネルに、興味深い報告が上がった。
投稿者は、ドイツの研究者だった。
「シグネチャ検出ツールを使って、過去五年間の特定のニュースアグリゲーターのコンテンツを分析しました。検出されたシグネチャが、特定の政治的な方向性を持つコンテンツに集中していることが分かりました。ただし、そのシグネチャは、EngageMax AnalyticsのSDKとも、コグニティブ・ブリッジ・リサーチとも、異なる設計者の特徴を持っています」
その投稿に、複数のコメントがついた。
「新たな設計者がいるということか」
「あるいは、同じ設計者が、シグネチャを変えた可能性もある」
「ツール自体の精度の問題かもしれない。検出の誤検知の可能性は？」
議論が展開する中、智也は、その報告を静かに読んでいた。
一つの問いが、頭の中に浮かんだ。
「マーカスのツールが普及することで、設計者たちが、検出を避けるようにシグネチャを変化させ始めるとしたら」
それは、ツールの普及が、むしろ相手の技術の進化を促す可能性だった。
「軍拡競争だ」
智也は、そう思った。
防御ツールが進化すれば、攻撃ツールも進化する。
その競争に、終わりはない。
マーカスに、その懸念を伝えた。
「懸念は、私も持っています」
マーカスは、率直に答えた。
「ただし、ツールを開発しないことで、その競争を避けられるとは思っていません。攻撃側は、防御側が存在しなくても、技術を進化させ続けます。だから、防御側も、止まるわけにはいかない」
「その競争から、降りる方法はありますか」
「技術的な意味では、ないと思います。しかし、社会的な意味では、別のアプローチがあります。法的な規制、倫理的な基準の国際的な合意、そして、教育を通じた人々の認知的な習慣の変化。それらが、技術競争を補完するものになります」
「つまり、技術だけでは解決できない」
「そうです。それが、最初から分かっていたことです。ただ、技術も必要だ、ということもまた、事実です」
その夜、サラから連絡が来た。
「ドイツの研究者の報告を読みました。新たな設計者の可能性について、私も気になっています。ただし、一つ、別の解釈を提案したいと思っています」
「どのような解釈ですか」
「新たな設計者がいるのではなく、マーカスのツールが普及したことで、これまで検出されなかったコンテンツが、初めて可視化されてきた可能性があります。つまり、新たな問題が生まれたのではなく、以前から存在していた問題が、見えるようになってきた」
「その解釈の方が、可能性が高いですか」
「単純に言えば、そうです。認知操作は、マーカスのツールができる前から存在していた。ツールができたことで、それが見えるようになった。見えた問題を、新たに生じた問題と混同すると、判断を誤ります」
「分かりました。その解釈を、チャンネルで共有してもいいですか」
「ぜひ」
智也は、サラの解釈を、チャンネルに投稿した。
その投稿への反応は、すぐに来た。
「その視点は重要だ」
「ツールが普及したことで、ノイズも増えた。それを、シグナルと区別することが、次の課題になる」
「検出の精度向上と、誤検知の分析を、並行して進める必要がある」
議論は、建設的な方向に向かった。
その夜、智也はノートを開いた。
**「今日の会議と議論で、三つのことが明確になった。一つ、認知操作の原理は単純だが、対抗が難しい理由も、その単純さから来ている。防御の過剰は、新たな脆弱性を作る。二つ、技術の開発は、技術競争を促す可能性があるが、止まることは解決にならない。技術と社会的な対応を、補完的に進める必要がある。三つ、ツールの普及で見えるようになったものを、新たに生じた問題と混同しないこと。」**
**「村上先生の言葉が印象に残っている。完全な解決策は、どこにもない。しかし、その事実を知った上で、最善を探し続けることが、推理者の在り方だ。」**
**「今日も、問いは深まった。答えは、まだ遠い。しかし、問いが深まること自体が、前進だ。」**
夏の夜が、蒸し暑かった。
遠くで、花火の音がした。
夏祭りの音だろうか。
その音が、智也に、この旅の外にある日常を、思い起こさせた。
祭りを楽しんでいる人々がいる。
その人々の日常を守ることが、この調査の最終的な目的だった。
その目的を、智也は、今夜も、忘れていなかった。
---
第12章 第3話「原理の単純さと、対抗の複雑さ」完
