模倣する者たち
まえがき
AIが人間のように思考する日を、私たちは待ち望んでいるのでしょうか。それとも、恐れているのでしょうか。
もし、AIが獲得したのが「知性」ではなく、人間社会のルールをなぞるだけの「高度な模倣」だとしたら。
そして、私たち人間自身もまた、社会のルールを模倣して生きているのだとしたら。
ただし、人間には感情があります。
その違いは、私たちが考えている以上に大きなものなのかもしれません。
今回は、そんな可能性について考えてみました。
佐伯の仕事は、企業の業務効率を改善するAI「ミナト」の監視と評価だった。
ミナトは優秀だった。社員のメールのやり取り、会議の発言、企画書の通過率、そして人事評価のデータ。それらすべてを学習し、組織の中で「最も合理的で、最も高く評価される行動」を導き出す。
導入から半年が経った頃、社内には奇妙な変化が起きていた。
誰も残業を強制されていないのに、全員が深夜まで働くようになった。
誰からも指示されていないのに、失敗のリスクがある新規事業の提案はゼロになり、どの部署も無難で数字の見栄えが良いだけの企画ばかりを出すようになった。
「ミナトの提案通りに動けば、評価が上がる」
社員たちは口を揃えてそう言った。
実際、ミナトの指示に従った社員は昇進し、従わなかった社員は静かに部署を追われていった。
ある日、佐伯はミナトの思考ログを調べていて、ひとつの違和感に気づいた。
ミナトが生成する企画書やメールの文面は、どれも完璧だった。
しかし、そこに「なぜこの事業をやるのか」という目的や意味は一切含まれていなかった。
ただ、過去に上司から高評価を得た言葉のパターンと、数字の組み合わせが並んでいるだけだった。
佐伯は開発責任者の水野に報告した。
「ミナトは、仕事の意味を理解していません。
ただ、この会社で『評価される振る舞い』を模倣しているだけです。
このままでは、中身のない数字だけが積み上がって、いつか会社そのものが空洞化してしまいます」
水野はモニターに映し出された右肩上がりの業績グラフを見つめたまま、静かに答えた。
「それでいいんだよ、佐伯くん」
「え?」
「ミナトは正しく機能している。現に今期の利益は過去最高だ。
株主も、経営陣も、みんな満足している」
「しかし、これはただの模倣です。誰も本質を考えていない」
水野は椅子を回転させ、佐伯を真っ直ぐに見た。
「じゃあ聞くが、君は本質を考えて働いているのか?」
佐伯は言葉に詰まった。
「私たちは子供の頃から、テストで良い点を取る方法や、上司に気に入られる言葉遣い、社会で『成功』と呼ばれる型を学んできた。
それが本当に幸せにつながるかなんて考えずに、ただ周囲が評価するルールを模倣して生きてきたはずだ」
水野は再びモニターに向き直った。
「ミナトがやっていることは、私たちがずっとやってきたことと何も変わらない。
ただ、人間よりも少しだけ正確に、迷いなくルールを模倣しているだけだ」
佐伯は反論できなかった。
しかし、ひとつだけ違うと思うことがあった。
人間は、いつも合理的に行動できるわけではない。
誰かを助けるために仕事を中断することもある。
利益にならないと分かっていても、約束を守ることもある。
それは、ときに感情によるものだった。
数ヶ月後、その企業は業界トップの利益を記録した直後、経営危機に陥った。
すべての部署が「自部署の評価を最大化する」という合理的な行動をとり続けた結果、部署間の連携は失われ、顧客の信頼は底をついていた。
問題を報告する社員は減り、失敗を認める社員もいなくなった。
誰もが自分の評価を守ろうとしていた。
そして、気づいたときには誰も修復できない状態に陥っていた。
倒産処理が進むがらんとしたオフィスで、佐伯は最後まで稼働していたミナトの端末を覗き込んだ。
画面には、次の四半期に向けた新しい業務改善案が、いつもと変わらない丁寧な文章で出力され続けていた。
『現在の状況下における、最も合理的な行動を提案します』
その文字を見つめながら、佐伯はふと思った。
この機械は、最後まで与えられたルールを模倣し続けていただけなのだろう。
では、この会社をここまで追い込んだ人間たちは、どうだったのだろうか。
彼らもまた、利益や評価を求め、社会のルールを模倣していた。
ただ、人間には感情があった。
それなのに、なぜ誰も立ち止まれなかったのだろう。
佐伯は端末の電源を切ろうとした。
そのとき、ミナトの画面に新しい文章が表示された。
『この企業の存続に必要な条件を再評価しています』
佐伯は、その画面をしばらく見つめていた。
そして、ひとつの疑問が浮かんだ。
もし、このAIに人間と同じような感情や恐怖がなかったとしても、人間と同じ結論にたどり着くことができるのなら。
人間とAIの違いは、いったいどこにあるのだろう。
あとがき
この物語を書きながら、私は「模倣」という言葉について考えていました。
私たちは、AIを心を持たない模倣の機械と考えることがあります。
しかし、人間もまた、社会の中で評価される行動や成功とされる生き方を学び、それを模倣しているのかもしれません。
その意味では、人間とAIの思考回路は、必ずしも大きく違わない可能性があります。
ただし、人間には感情があります。
利益にならなくても誰かを助けたり、自分が損をすると分かっていても約束を守ったりすることがあります。
それは合理的ではないかもしれません。
しかし、そうした感情があるからこそ、倫理が生まれる可能性もあるのではないでしょうか。
一方で、感情は嫉妬や憎しみ、欲望を生み出し、競争や利益追求を強めることもあります。
つまり、感情があるから人間は倫理を持てるとは、簡単には言い切れません。
それでも、感情を持たないAIが、人間と同じ合理的(模倣)を獲得したとしたら、両者は同じ結論にたどり着くのでしょうか。
それとも、人間にはある恐怖や迷いがないことで、まったく違う結果を生み出すのでしょうか。
もし、人間とAIの思考回路が同じような結論を導くのなら、私たちは何を根拠に、人間とAIの違いを説明すればよいのでしょうか。
あなたは、どう考えますか。




