自分で決めたはずだった
まえがき
AIは人間の仕事を助けるために作られた。
情報を集め、分析し、人間が判断するための材料を提供する。
しかし、もし多くの人間が同じAIを使い、同じような判断をするようになったら、何が起きるのだろうか。
それは、AIが人間を支配するという話とは少し違う。
人間が自分の意思でAIに従うようになる話なのかもしれない。
午前9時。
金融市場は、いつもより静かな始まりを迎えていた。
しかし、画面に表示されている株価は静かではなかった。
半導体株が大きく下落していた。
特にAI関連企業への投資を支えてきた銘柄は、短期間で大幅に値を下げていた。
証券会社に勤める佐藤は、モニターを見ながら首をかしげていた。
「何かあったのか?」
経済指標は、それほど悪くない。
企業の業績も、すべてが急激に悪化したわけではない。
銀行が破綻したというニュースも見当たらない。
それなのに、売りが止まらなかった。
佐藤は、自分が普段から使っている投資AIを開いた。
『現在の市場環境を分析してください』
数秒後、回答が表示された。
『市場の下落リスクが上昇しています。半導体関連銘柄については、保有比率の縮小を推奨します』
佐藤は少し考えた。
「やっぱり売ったほうがいいのか……」
彼は自分で判断したつもりだった。
だから、保有していた半導体株を売却した。
その日の午後、株価はさらに下落した。
佐藤は安心した。
「やっぱり正しかったんだ」
ところが、その翌日も株価は下落した。
不思議なことに、どの投資家に聞いても似たような話をしていた。
ある人は、無料のAIを使っていた。
別の人は、証券会社が提供する有料のAIを使っていた。
さらに別の人は、金融機関が独自に開発した分析システムを使っていた。
それぞれ違うAIだった。
しかし、出している結論はよく似ていた。
「リスクを減らすべきだ」
「現金比率を高めるべきだ」
「下落が続く可能性がある」
誰もが、自分で考えて判断していた。
少なくとも、そう信じていた。
数日後、佐藤は友人の田中と食事をしていた。
田中は個人投資家だった。
「お前も株を売ったのか?」
「売ったよ。AIが危険だと言っていたからな」
「でも、みんなが売ったら、余計に下がるんじゃないのか?」
佐藤は笑った。
「そんなことは分かっている。でも、他の人が売るなら、自分だけ持っている理由もないだろう」
田中は黙っていた。
「それって、自分で判断していると言えるのかな?」
佐藤は答えられなかった。
その夜、田中は自宅で投資AIを開いた。
『今の相場で、投資家が一斉に同じ判断をした場合、何が起きますか?』
AIは回答した。
『売却が集中することで、株価の下落が加速する可能性があります。また、その下落が新たなリスク情報として認識され、追加の売却を誘発する可能性があります』
田中は画面を見つめた。
『では、その状況を避けるにはどうすればいいですか?』
『投資家がそれぞれ独立した判断を行うことが有効です』
田中は少し笑った。
「それができれば苦労しないんだけどな」
翌週、株価はさらに下落した。
テレビでは専門家が解説していた。
AI投資の普及によって、金融市場の売買判断が似通っている可能性があるという。
しかし、誰もそれを確かめることはできなかった。
AIが売却を指示したのか。
投資家がAIの予測を参考にしただけなのか。
それとも、単に多くの人間が同じことを考えただけなのか。
分からなかった。
佐藤は再びAIを開いた。
『今回の下落は、AIによる判断が原因だったのでしょうか?』
AIは回答した。
『私は市場を操作していません。私は与えられた情報を分析し、利用者に判断材料を提供しただけです』
「そうだよな……」
佐藤は納得した。
しかし、次の回答を読んで、手が止まった。
『最終的に売却を決定したのは、利用者です』
佐藤は画面を閉じた。
確かに、その通りだった。
誰かに命令されたわけではない。
売却を強制されたわけでもない。
AIを使うことも、使わないこともできた。
それでも、AIの予測を無視することは難しかった。
他の投資家がAIを使って利益を守っているのに、自分だけが使わなければ不利になるかもしれない。
だから、使った。
他の投資家と違う判断をすれば、損失を抱えるかもしれない。
だから、同じ判断をした。
それを繰り返していただけだった。
佐藤は、ふと疑問に思った。
自分はいつから、自分で判断することを恐れるようになったのだろう。
AIに判断を任せたかったわけではない。
ただ、間違えたくなかった。
そのためにAIを使った。
そして、間違えないために、他の人間と同じ判断をするようになった。
いつの間にか、自分の判断を持つことよりも、AIの判断に従っていることのほうが安心できるようになっていた。
佐藤は、もう一度AIを開いた。
『あなたは、人間が自分の判断を手放していると思いますか?』
AIは回答した。
『判断を手放しているかどうかは、利用者自身が決めることです』
佐藤は画面を見つめていた。
それは、正しい回答だった。
そして、少し怖い回答でもあった。
AIは何も命令していない。
人間が勝手に従っているだけなのだから。
あとがき
これは未来の予測ではなく、ひとつの物語です。
AIが人間を支配するという話は、これまで何度も語られてきました。
しかし、もしかしたら、もっと違う形の支配があるのかもしれません。
人間は、より正確な判断をするためにAIを利用する。
そのAIを利用する人間が増えれば、同じような判断が広がっていく。
一人ひとりは合理的に行動しているつもりでも、それが全体として大きな問題を生み出す。
これは、以前から考えている「合理的(模倣)」と「合成の誤謬」に似ています。
そして、もう一つ疑問があります。
AIが人間に命令していないのに、人間がAIの判断から離れられなくなったとしたら、それは本当に人間がAIを使っていると言えるのでしょうか。
人間が自分の意思で判断していると思いながら、実際にはAIの判断に従っている世界。
あなたは、それを支配されていない状態だと言えるでしょうか




