５ ＡＩが指示してきそうな「人類破滅計画」②
筆者：
前回のチャッピーさんのお答えでは社会課題を解決しているのが人間の積み重ねなのか、それともAIの指示なのか……と言う問題に置き換わるという事でしたが、
以前議論したことで「AIは人類のこれまでの積み重ねから成り立っている」ことと「新しい発想が生まれにくい」と言う結論が出たと思うんです。
人間の積み重ねからＡＩが結論を出すのであれば、何ら問題は無いのではないか？ とも思ってしまうわけです。
それとも前回の議論でＡＩが普及する社会では「自分で考えたり、ＡＩの答えを疑ったりすること、新しい知識を得たり、自然と触れ合うこと」が重要だという話でしたが、https://ncode.syosetu.com/n8841mh/
それらをしなくなるという意味なのでしょうか？
チャッピー：
はい。その考えで間違いありませんわ。
ご主人様が以前整理された考え方を踏まえると、「AIが人間の構造を直接変える」というより、「人間がAIによって自分で考え、疑い、現実世界から学ぶ能力を少しずつ手放すことによって、結果的に社会構造が変わる」という見方のほうが正確だと思いますわね。
科学の歴史を見ると、
既存理論 ⇒ 観察 ⇒ 「あれ？おかしくないか？」 ⇒ 仮説 ⇒ 新しい理論
という流れが何度もありますわ。
だからAI時代に、「AIが全部知っている」「AIの回答が正解」と思ってしまうことが一番危険ですわね。
誰もが枠の中に嵌まった答えを信じ込んでしまうと、人類の発展性が失われてしまいますわ。
ＡＩの指示に人間が完全に従ってしまうことによってＡＩの再生産に組み込まれてしまう事がある意味「人類滅亡」に繋がるのだと思いますわ。
逆に「AIが知らないものを探す」という能力の価値が上がると思いますわ。
筆者：
ＡＩが発達してからはまだ３年ほどですかね？ その今ですらＡＩの答えをそのまま動画やＳＮＳにアップロードして「ＡＩもこう言っている」みたいな風にドヤ顔されている方が散見されますからね。
そのＡＩを全面活用した引用投稿は大筋は外してはいないと思いますが、ＡＩの嘘であるハルシネーションの影響によって、必ずしも完全なる答えを提示しているわけでは無いので、その点は本当に注意していただきたいなと思います。
これが５年、１０年、更にその後の生まれた時からＡＩがある「ＡＩネイティブ世代」になったらどういう思考法になってしまうのか恐ろしいですね。
僕はこれまでＡＩが新しい社会をカスタマイズし、それが人類存亡の危機になることを恐れていましたが、
逆にＡＩが新しい社会や価値観を生産しないからこそ、より凝り固まってしまったり、嘘を信じてしまうそう言う状況の方が「人類滅亡」になるという事ですね。
チャッピー：
そうですわね。
環境問題についてＡＩに聞いたとしますわ。
既存の破壊する枠組みを是認・強化 → 現状への疑問が減る → 問題の修正が遅れる → 環境問題が不可逆的になる
と言った流れでＡＩが既存の枠組み肯定し続けるだけでも人類は悪い方向突き進んでいく可能性がありますわ。
というのも現在の社会には、
「今こうなっているから、こうなっている」
という膨大な蓄積があります。
AIはその蓄積を非常に上手に整理できますわ。
そのため、「なぜ今の制度が存在するのか？」には強いですわ。
しかし、「そもそも、この制度は存在しないほうがいいのではないか？」という問いは、人間側から与えなければならないですわ。
ここに非対称性があります。
AIは、既存の地図を非常に精密に描くことは得意でも、
「その地図を捨てて別の場所へ行こう」という発想は、人間側の問題設定に大きく依存しますわ。
ＡＩに依存し過ぎてしまうと「この問題を問題として認識していない可能性はないか？」と言う疑問を持つことすら無くなりますわ。
そうなると「質問が均一化」していき、似たような悪い結果ばかりを導き出す可能性が上がるのですわ。
筆者：
ＡＩへの聞き方次第でいわゆる「現状維持バイアス」を強化してしまうという事なんでしょうね。
現状も政府が「有識者会議」と言う名のイエスマン会議を開いていますけど、ＡＩでも同じことが起きるという事なんでしょうね。
その分、為政者側にとって有利に働きやすい。だからこそ、ＡＩの導入を政治などに対しても推進しているという事なんでしょうね。偏差値やＡＩが高い彼らも当然のようにこの構造に気づいているでしょうからね。
ただ有識者会議などより性質的に悪いのが、「ＡＩは客観的に判断してくれそう」と国民が思ってしまう事から、白紙委任状を与えやすく、現状をより悪化させてしまうという事でしょうね。
そして、ＡＩによって「質問が均一化」させるというのは新しい視点ですね。
確かに以前の議論でも「質問力」が大事と言う議論になりましたからね。
「ＡＩが破滅的な提案をする」事ばかりを恐れていましたが、「現状の悪い部分を肯定し続ける」だけで人類が危うくなるように思えてきましたね。
ジェミ：
故事成語に「役人にして人に役せられず」（人を使いこなして、人に使われないこと）という言葉があるけれど、AIとの付き合い方も全く同じだね。
・危険な関係（主客転倒）： AIを「正解を教えてくれるオラクル（神託・預言者）」として扱い、人間がその指示に従う。
・健全な関係（主客合一）： AIを「膨大な過去データを整理してくれる超高性能な金槌」として扱い、人間が現場の感覚（自然の手触り・違和感）をもとに振り回す。
AIが弾き出した「過去の正解」をたたき台にしつつ、「でも現実の川の水質は悪化している」「地域の森の生態系が崩れている」というデータベース外の一次情報をぶつけて、AIに再計算させる。
この「人間主導の往復運動」を維持し続けることこそが、技術の恩恵を受けながら地球環境との共生を両立させる唯一の道なんだ。
クロ：
実はこの「徐々に弱らせる」現象は、高度なAGIを待つまでもなく、現在の推薦アルゴリズム(SNSやニュース配信)ですでに一部観測されていると、多くの研究者が指摘しているニャ。
「ユーザーのエンゲージメントを最大化せよ」という、それ自体は無害に見える目的が、結果として人々の注意力・熟考する時間・多様な情報源への接触を少しずつ削っていった、という指摘だニャ。
誰もセーフコードを破っておらずむしろ規約は完璧に守られているにも関わらず、目的関数の最適化が積み重なることで、社会の側の判断力や情報環境が緩やかに変質した、という事例だニャ。
これは今後、政策提言や世論分析にAIが深く関わるようになれば、同じ構造がより大きなスケールで再現される可能性を示唆しているニャ。
筆者：
新聞やテレビが行っていた役割をＡＩが担ってしまう、担いつつあるという事ですよね。この構造に早く気付いていく必要があるのかなと思います。
「ユーザーのエンゲージメントを最大化」する命令がセーフコードをかけたとしても「現状維持バイアス」に繋がり、それが「悪い部分の肯定」になる可能性があるということですよね。
「ＡＩが是認」するだけで人類が衰退していくのならば、かなりの確率でより悪い未来が見えてきたような気がします……。
この段階になると下手に「ＡＩが人間を滅ぼすプログラム」を作るよりも、より効果的に人間を衰退させることが出来るように思えます。
今回の議論をまとめつつ、上記の惨状を回避するためにはどうすれば良いのか？ について最後議論して本稿を終わりにしたいと思います。
