↓ ↑ページトップへ
表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

PR
34/37

AIは「答え」だけを盗んで賢くなれるのか?――中国AIの蒸留問題から考えたこと

最近、少し気になるAIニュースを見かけた。

中国のAIサービスが、ユーザーから受け取った質問の一部を、裏でClaudeへ転送していたという話である。

しかも、そこには中国軍や公安、国有企業などに関係すると思われる情報まで含まれていたという。


最初に聞いたときは、

「また中国AIのパクリ問題か」

くらいに思っていた。


ところが調べていくうちに、私が面白いと思ったのは別の部分だった。

どうやら目的のひとつは、Claudeの能力を自社AIへ取り込むための「蒸留」だったらしい。

蒸留という言葉は少し難しそうに聞こえるが、考え方自体はかなり分かりやすい。


たとえば、優秀な先生に大量の問題を解かせる。

そして、

「この問題には、こう答えた」

という問題と回答のセットを大量に集める。

今度は、その大量の答案を教材にして別のAIを学習させる。

すると、元のAIほど巨大なモデルでなくても、ある程度は似た答え方ができるようになる。


要するに、

「優秀な先生の答案を何千万枚も集めて、生徒に勉強させる」

ようなものだ。


なるほど。

これは効率がいい。

一から何もかも作るより、すでに賢いAIを先生にした方が早い。


私は最初、

「ずいぶん効率的な教師あり学習だな」

と思った。


しかし、そこで少し引っかかった。

先生の答案には、先生の癖も入っている。


---


AIの回答には、単なる知識だけが入っているわけではない。

どの情報を重要と考えるか。

どこまで慎重に答えるか。

何を危険と判断するか。

どういう順番で説明するか。

どんな価値観を前提にするか。

こうしたものも回答には混ざっている。


特にClaudeやChatGPT、Geminiのような欧米企業のAIには、当然ながら欧米社会の価値観がある程度反映されている。


日本で使っていても、

「これはちょっと欧米的な考え方だな」

と感じる回答は時々ある。


もちろん、それが悪いという話ではない。

ただ、AIは完全に無色透明な存在ではない、ということである。


では、その回答を大量に教師データとして使ったらどうなるのだろう。

能力だけをコピーしたつもりでも、

「考え方の癖」

まで一緒に取り込んでしまうのではないか。


ここで、さらに面白いことに気付いた。

中国は共産党による情報統制の強い国である。

一方、教師として利用しているClaudeは、自由主義圏の企業が作ったAIだ。


つまり、

自由主義社会の情報と価値観を大量に吸収したAIを教師にして、

その能力を中国のAIへ移し、

そのあとで中国国内向けの規範に合わせて調整する。

かなり不思議な構造である。


---


AIの内部では、

「複数の立場を比較しよう」

「反対意見も検討しよう」

「公式発表も検証してみよう」

という推論能力を獲得しているかもしれない。


ところが、特定の話題では、

「そこは深く考えなくていい」

「この結論に寄せなさい」

という追加調整が入る。


するとどうなるのだろう。

途中までは非常に論理的なのに、最後だけ急に不自然な結論になる。

質問の言い方を少し変えると、さっきとは違う答えになる。

中国語では答えないのに、英語では答える。

直接質問すると拒否するのに、架空の国の話として聞くと答える。

そんなことが起こっても不思議ではない。


ここで私は、

「それって、ユーザーから見ると信頼感が落ちるのでは?」

と思った。


AIへの信頼は、単純な正答率だけではない。

多少間違うAIでも、

「このAIはこういうときに弱い」

と分かっていれば使いやすい。


ところが、

昨日はAと言った。

今日はBと言った。

日本語ではA。

英語ではB。

質問の表現を変えたらC。


となると、

「このAIはいったい何を基準に答えているのか」

が分からなくなる。


人間は、相手が必ず正しいから信頼するわけではない。

ある程度、

「どういう考え方をする相手なのか」

が予測できるから信頼できる。

AIも同じなのではないか。


---


さらに調べていて、もうひとつ面白いことに気付いた。

オープンウェイトの中国AIなら、この違いをある程度実験できる可能性がある。


たとえば同じ系統のモデルでも、

何も追加調整していないBaseモデルと、

会話用に調整したInstructモデルを比較する。

さらにローカルPCで動かしたモデルと、公式Webサービス版を比較する。


すると、

Baseでは普通に答える。

Instructでは答えが変わる。

公式サービスではさらに拒否される。

というような違いが見えてくるかもしれない。


そうなれば、

どの段階で回答が変わったのか

を少しずつ切り分けることができる。


これは単なる

「中国AIは検閲されている」

という話より、ずっと面白い。


AIの能力と価値観は、本当に分離できるのか。

高性能な推論能力だけを取り出して、

思想や文化的背景だけをきれいに取り除くことはできるのか。

そんな問いにつながってくる。


---


そして最後に、私は別のことを連想した。


普段、AIとの長い会話を別のスレッドへ引き継ぐとき、私は「引継ぎ資料」を作ることがある。

これが結構な情報量になる。

なぜなら、結論だけ残しても足りないからだ。


なぜその結論になったのか。

途中で何を考えたのか。

何を却下したのか。

どの前提を重視したのか。

何がまだ未確定なのか。

そういう情報を残さないと、次の会話では微妙に話がズレる。


そこで気付いた。

AIの蒸留学習も、かなり似ている。


教師AIから、

「質問」と

「最終回答」

だけを大量に集める。


しかし、

なぜその回答になったのか。

どんな前提があったのか。

何を比較したのか。

どんな情報源を参照したのか。

どこに迷いがあったのか。

そうした背景はかなり失われる。


つまり、

答えは受け継げても、

文脈までは完全には受け継げない。

これは思った以上に大きな問題なのかもしれない。


---


今回のニュースを最初に見たとき、

「中国AIがClaudeを利用していたらしい」

という程度の話だと思っていた。


しかし掘ってみると、

AIはどうやって別のAIから学ぶのか。

能力と価値観は分離できるのか。

文脈を失った学習はどんな歪みを生むのか。

回答の一貫性はユーザーの信頼にどう影響するのか。

いろいろな問いが出てきた。


そして今のところ、私が一番しっくりきているのはこの言葉である。


AIは、

「答え」

だけでできているわけではない。

その答えに至るまでの

「前提」

「文脈」

「判断基準」

まで含めて、そのAIなのだ。


人間同士でも、結論だけ聞けば誤解することがある。

AIも案外、同じなのかもしれない。





「ひとり放送局」からお届けしました。


テーマは気まぐれですが、もし少しでも「なるほど」と感じてもらえたら幸いです。


感想や意見もお待ちしています。次回はまた別の「じゃないか?」を拾ってみます。



評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
― 新着の感想 ―
ふ~ん、では、自分のコンテンツをたくさん上げ続ければ、それが多少なりに反映されるんですね。 たぶん、そうかなと思います☺
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。