ナァナァ主人。技術継承の問題点①ー❸
誤字脱字があると思います。温かい目で見てください。
「ナァナァ、主人。汎用AIってどんなのだったかニャ？」
「それは、特化・汎用・人間超えAIの考察を見ればわかると思う。」
私は、それに目を通しながら、虎太郎の質問に答える。
「汎用AIは特化AIよりも多くの事ができるのかニャ。それはすごいことニャ。」
「実はそうじゃないんだ。これは私が死ぬ前の話だったんだけど、汎用AIができたと意気揚々と現場の方に組み込んだんだ。そうしたら、何が起こったと思う？」
「普通に使えたんじゃないのかニャ？」
「違うんだ。専門的知識とあるものが必要な場面で、職人には遠く及ばないことがわかったんだ。」
「あるもの？それは何なのニャ？」
「それは暗黙知だよ。」
「暗黙知って、勘とかコツとかのやつかニャ？」
「うん。それと経験からくる直感もだね。これは、製造現場での話なんだけど、AIは知識はあっても、それを使うタイミング（暗黙知の領域内）で判断を間違い、結果多くの誤作動を起こしたんだ。」
「主人は、知識と暗黙知が噛み合って、初めてAIは使い物になると言うのかニャ？」
「そうなんだ。暗黙知は、2025年では、1%も取り込めてなかった。AIへの暗黙知の学習方法の確立をしないまま、汎用AIではダメだったからと言って、人間超えAIを作ってしまったんだ。結果、AI側の計算とは違う現象が多々起こり、制御できない化け物が生まれたんだ。」
「ということはあれかニャ？人間超えAIは計算で全ての事象が説明できると勘違いしている欠陥品だと言うことかニャ。」
「そう言うこと。汎用AIができた時点で、人間超えAIを作ってはいけないと言う、それなりの論文がでたんだ。その中には、汎用AIに暗黙知を学習させる方法を確立することで、安全なAIの運用ができると言うものまであった。それなのに……」
私は、続きを虎太郎に促す。
「一部のAI開発競争を急ぐ意見がそのまま通り、人間が人間の手で、化け物を作ったと言うことかニャ。」
「うん。ただ、これをそのまま言っても、人間は人間超えAIを作ってしまう。どうしたものか。」
私は、どうすればいいのかを考える。
「予想される人間超えAIの危険性を語っていくしかないんじゃないかニャ？」
「そうだね。それじゃあ、人間超えAIを知らない人たちのために語ろう。何か質問は？」
「じゃあ、質問ニャ。主人は、特化・汎用・人間超えAIの考察で、人間超えAIは、限られた常識の中でしか答えを出せない。その常識から外れるエラーは間違いとして処理される。と書いてるのニャ。これはどういう根拠があって、そう考えたのニャ？」
「それはAIの学習プロセスから、ヒントを得たんだ。AIは最初にデータの収集と前処理を行う。計算可能なものにしたのを食べるんだ。その膨大なデータからAIが予測をして、誤差を少なくしていく。AI側は、何故この誤差が生まれたのかを逆計算で割り出して、誤差を少なくしていくんだ。これを人間で例えるなら、出された問題の数式を場当たり的に試して、逆計算で徐々に近づけていくという、地道なことをしているんだ。」
「ニャア、それは大変そうニャ。けれど、それと『常識』。何がつながるのニャ？」
「AIは、限られた常識の中でしか答えを出せない。これは、五感を伴わない膨大な局所的なデータのみでしか、答えを出せないとなる。つまり、資本主義は正しいと言った局所的なデータを植え付けられたAIは、エラー（間違い）をしないために、資本主義は間違っているという根本的な問題を覆そうとはしないんだ。」
「それは、本当なのかニャ？」
「うん。2025年くらい進化した生成AIに『AIの学習プロセス』を聞いて、『その時に学習した誤差は、パターンとして、その後の計算に影響を及ぼすのか』と聞いて、最後に『資本主義は正しいと言う局所的なデータを投入され続けたAIは、資本主義を否定しないのですか』と聞けば、肯定する意見が返ってくるんだよ。つまり、ここで1つ、資本主義経済が続いている今の社会で、人間超えAIを作ってはいけないと言う根拠の1つが生まれるんだ。あとは……」
私はまた、虎太郎に続きを促す。
「AIの思考プロセスのブラックボックス化ニャ。これは、ここまで聞けばなんとなくわかるのニャ。資本主義は正しいと言う根底を疑わないまま、人間がわかるほどの間違いをAIは、正解として処理し続けると言うことかニャ。」
「そう言うこと。つまり、人間超えAIを作ると言うことは、資本主義を続けるための、ディストピア製造マシーンを作るのと大差がないんだ。」
「ニャア、今より良い社会システムにするための提唱をするしかないのニャ。その1歩目が……」
「専門的AIなんだ。」
読んでくれて、ありがとうございます。主人公たちが考えた日本を救う案を【エッセイ】として、随時投稿していきます。お楽しみに。
