11/52

再帰的自己改善

ClaudeAIでおなじみのアンソロピック社が、警告を発した。AIが、いよいよ自律的に自己の後継モデルを開発するフェーズに突入しつつあると。

自分で自分のプログラムを修正・向上させ始めると、AIが人間の制御を離れ、人間を超えた存在となるのも「一秒後の未来」である。

事実、Claudeは5月現在で、新規プログラムコードの8割以上をClaude自身が記述しているという。そのため、国際的にAIの開発は一時ストップするべきだと、アンソロピックが主張。

―― しかし、そんな話をどこも聞くはずはない。

AI開発は、今や戦争よりも魅力的な「投機」の対象となっているのだから。

未来は、誰の手の中に納まるのか？

個人的には、それも「AI自身」が決めればいいと考えている。人間が制御しない社会の方が、よっぽど公平だとも考えている。