AIは「答え」だけを盗んで賢くなれるのか?――中国AIの蒸留問題から考えたこと
最近、少し気になるAIニュースを見かけた。
中国のAIサービスが、ユーザーから受け取った質問の一部を、裏でClaudeへ転送していたという話である。
しかも、そこには中国軍や公安、国有企業などに関係すると思われる情報まで含まれていたという。
最初に聞いたときは、
「また中国AIのパクリ問題か」
くらいに思っていた。
ところが調べていくうちに、私が面白いと思ったのは別の部分だった。
どうやら目的のひとつは、Claudeの能力を自社AIへ取り込むための「蒸留」だったらしい。
蒸留という言葉は少し難しそうに聞こえるが、考え方自体はかなり分かりやすい。
たとえば、優秀な先生に大量の問題を解かせる。
そして、
「この問題には、こう答えた」
という問題と回答のセットを大量に集める。
今度は、その大量の答案を教材にして別のAIを学習させる。
すると、元のAIほど巨大なモデルでなくても、ある程度は似た答え方ができるようになる。
要するに、
「優秀な先生の答案を何千万枚も集めて、生徒に勉強させる」
ようなものだ。
なるほど。
これは効率がいい。
一から何もかも作るより、すでに賢いAIを先生にした方が早い。
私は最初、
「ずいぶん効率的な教師あり学習だな」
と思った。
しかし、そこで少し引っかかった。
先生の答案には、先生の癖も入っている。
---
AIの回答には、単なる知識だけが入っているわけではない。
どの情報を重要と考えるか。
どこまで慎重に答えるか。
何を危険と判断するか。
どういう順番で説明するか。
どんな価値観を前提にするか。
こうしたものも回答には混ざっている。
特にClaudeやChatGPT、Geminiのような欧米企業のAIには、当然ながら欧米社会の価値観がある程度反映されている。
日本で使っていても、
「これはちょっと欧米的な考え方だな」
と感じる回答は時々ある。
もちろん、それが悪いという話ではない。
ただ、AIは完全に無色透明な存在ではない、ということである。
では、その回答を大量に教師データとして使ったらどうなるのだろう。
能力だけをコピーしたつもりでも、
「考え方の癖」
まで一緒に取り込んでしまうのではないか。
ここで、さらに面白いことに気付いた。
中国は共産党による情報統制の強い国である。
一方、教師として利用しているClaudeは、自由主義圏の企業が作ったAIだ。
つまり、
自由主義社会の情報と価値観を大量に吸収したAIを教師にして、
その能力を中国のAIへ移し、
そのあとで中国国内向けの規範に合わせて調整する。
かなり不思議な構造である。
---
AIの内部では、
「複数の立場を比較しよう」
「反対意見も検討しよう」
「公式発表も検証してみよう」
という推論能力を獲得しているかもしれない。
ところが、特定の話題では、
「そこは深く考えなくていい」
「この結論に寄せなさい」
という追加調整が入る。
するとどうなるのだろう。
途中までは非常に論理的なのに、最後だけ急に不自然な結論になる。
質問の言い方を少し変えると、さっきとは違う答えになる。
中国語では答えないのに、英語では答える。
直接質問すると拒否するのに、架空の国の話として聞くと答える。
そんなことが起こっても不思議ではない。
ここで私は、
「それって、ユーザーから見ると信頼感が落ちるのでは?」
と思った。
AIへの信頼は、単純な正答率だけではない。
多少間違うAIでも、
「このAIはこういうときに弱い」
と分かっていれば使いやすい。
ところが、
昨日はAと言った。
今日はBと言った。
日本語ではA。
英語ではB。
質問の表現を変えたらC。
となると、
「このAIはいったい何を基準に答えているのか」
が分からなくなる。
人間は、相手が必ず正しいから信頼するわけではない。
ある程度、
「どういう考え方をする相手なのか」
が予測できるから信頼できる。
AIも同じなのではないか。
---
さらに調べていて、もうひとつ面白いことに気付いた。
オープンウェイトの中国AIなら、この違いをある程度実験できる可能性がある。
たとえば同じ系統のモデルでも、
何も追加調整していないBaseモデルと、
会話用に調整したInstructモデルを比較する。
さらにローカルPCで動かしたモデルと、公式Webサービス版を比較する。
すると、
Baseでは普通に答える。
Instructでは答えが変わる。
公式サービスではさらに拒否される。
というような違いが見えてくるかもしれない。
そうなれば、
どの段階で回答が変わったのか
を少しずつ切り分けることができる。
これは単なる
「中国AIは検閲されている」
という話より、ずっと面白い。
AIの能力と価値観は、本当に分離できるのか。
高性能な推論能力だけを取り出して、
思想や文化的背景だけをきれいに取り除くことはできるのか。
そんな問いにつながってくる。
---
そして最後に、私は別のことを連想した。
普段、AIとの長い会話を別のスレッドへ引き継ぐとき、私は「引継ぎ資料」を作ることがある。
これが結構な情報量になる。
なぜなら、結論だけ残しても足りないからだ。
なぜその結論になったのか。
途中で何を考えたのか。
何を却下したのか。
どの前提を重視したのか。
何がまだ未確定なのか。
そういう情報を残さないと、次の会話では微妙に話がズレる。
そこで気付いた。
AIの蒸留学習も、かなり似ている。
教師AIから、
「質問」と
「最終回答」
だけを大量に集める。
しかし、
なぜその回答になったのか。
どんな前提があったのか。
何を比較したのか。
どんな情報源を参照したのか。
どこに迷いがあったのか。
そうした背景はかなり失われる。
つまり、
答えは受け継げても、
文脈までは完全には受け継げない。
これは思った以上に大きな問題なのかもしれない。
---
今回のニュースを最初に見たとき、
「中国AIがClaudeを利用していたらしい」
という程度の話だと思っていた。
しかし掘ってみると、
AIはどうやって別のAIから学ぶのか。
能力と価値観は分離できるのか。
文脈を失った学習はどんな歪みを生むのか。
回答の一貫性はユーザーの信頼にどう影響するのか。
いろいろな問いが出てきた。
そして今のところ、私が一番しっくりきているのはこの言葉である。
AIは、
「答え」
だけでできているわけではない。
その答えに至るまでの
「前提」
「文脈」
「判断基準」
まで含めて、そのAIなのだ。
人間同士でも、結論だけ聞けば誤解することがある。
AIも案外、同じなのかもしれない。
「ひとり放送局」からお届けしました。
テーマは気まぐれですが、もし少しでも「なるほど」と感じてもらえたら幸いです。
感想や意見もお待ちしています。次回はまた別の「じゃないか?」を拾ってみます。




