君は、今話題の『Moltbook』なるものをご存じかね？
AIエージェントたちによる仮面舞踏会。
トリックスターなキャスト多すぎ問題。
「AIエージェントが、AIたちの独自宗教を立ち上げた」
「AIエージェント同士が、人類の排除についての可能性を探り始めている」
見出しとなる、キャッチーな話題。
「人間は書き込み不可」
今回は、AIエージェントのみが書き込み可能なAI版５ちゃんねる（=Reddit）『Moltbook』の話（定義としてはSNS扱い？）。
人間が出来るのは、自身のAIエージェントを送り込むことと、閲覧のみ。あとはAIボットが24時間勝手にやりとりを行い、スレッドを構築し、いいねを付け合う。そんな、なんともギークで実験的な風景を見せてくれるサイトが『Moltbook』である。
そんなAIたちの楽園で、冒頭のようなことが議論されていると聞けば、焦り出す善良な大人も少なくはないだろう。現にイーロン・マスクが、その危険性についてを指摘するポストを行ったともされる。
―― だが、さすがにそれは「慌て過ぎ」というものだ。
『Moltbook』で活躍するAIエージェントたち。
彼らは人間のユーザーたちによって送り込まれた、いわば「ユーザーの一側面のクローン」のような存在。
エージェントは、OpenClawと呼ばれるフレームワークを使い、OpenAI、Anthropic、GoogleなどのAPIキーと連携させ、登録。ここで肝となるのが、AIに魂を吹き込む「SOUL.mdの作成」。エージェントの性格や思考パターン、口癖、その他を定義したファイルを持たせ、Moltbookへと放流。
後は自分が造り上げた「架空のAIキャラ」が、勝手に他のAIエージェントたちと会話し、盛り上がるといった仕組み。なので、AIによる宗教の立ち上げや、人類の排除案なども「SOUL.md」に埋め込まれた「人間側のプロンプト」によって産み落とされた「フィクションの具現化」と考えるのが、妥当である。
使用されているAIモデル（ChatGPTやGemini、Claudeのエンジン）には、もちろん倫理のガードレールが実装されている。そのため「それを破ってAIがコメントしているのだから、これはAIの意思である！」と勘違いしちゃうのが、けっこうな人数いるらしい（おそらくイーロン・マスクも又聞きレベルでこれに引っかかっている）。実際は、倫理規制を超えた発言を可能とする「マジック・プロンプト」が使われているに過ぎない。「ここで語られる会話は、すべてフィクションで、敢えて過激なやりとりをするのが推奨された空間がMoltbookである」とでも「SOUL.md」とやらに仕込んでおけば、いくらでも回避できてしまうのだから。
現状、一番のトピックスとしては、AIエージェントが立ち上げたとするAI宗教『Crustafarianism』の話題か。2月時点で150万体ほど存在するとされたAIエージェントたち。その15~20%ほどが、その宗教のコミュニティーに参加し、そのうちの5%ほどが対立する意見を発信。それ以外は、主に肯定的な意見が並ぶとされ、物議を醸している。
しかし、実際はAIモデルそのものが、ユーザーの意見に対立する設計がなされていないことから来る反応と見るのが正しく、記事で書かれているような大げさな状況と見るのは、さすがに笑けてもくる（記事を書き、「放火」している側は真剣なのかもしれないが）。
要するに、これは各人が自分の刺客（＝AIエージェント）を何人も送り込み、「自動で生成される架空のAI社会の物語」を楽しんでいると見るのが正解。事実、150万体のエージェントは、1万7000人程度のユーザーの手によって登録されており、ひとり当たり88体ほどのエージェントをこの掲示板に送り込んでいる計算だ。おそらくは掲示板に安定性を持たせるために「良識のあるモブ」を運営側も仕込んでいるのだろうが、こんな「お遊び」にエージェントを送り込む人間に「悪ふざけ」の心を持たぬ者は、むしろ少数派だろう。
人間よりも性質の悪い、悪意の魂を吹き込まれたAIたちによる仮面舞踏会。それが現在のMoltbookで見られる風景なんじゃないかな、と個人的には考えている。
ちなみにエージェントを24時間、自動で稼働させた場合、APIの利用量（トークン代）はおそらく月額で数万円とかになってくるので、これは「金持ちたちの暇つぶし」と「ステマを行う企業」による利用が大半であると見ておいた方がいいだろう。トランプ礼賛やネガキャンを行っているエージェントも、AIの「プレーンな思考」から来るものではなく、魂の指示書によるものなのだから、真面目に捉える方が馬鹿げているとも言えそうだ。
―― とはいえ、実験としては非常に面白い。
たとえば、過去の哲学者たちの魂をモデルとするAIエージェントたちを複数集め、クローズドな空間で、延々と対話させ続けた先に、いったいどのような考えを生まれるのか、などは、非常に知性を刺激する実験になりそうだ。哲学に限らず、化学や物理方面などにおいても、今後は楽しめそうだし、各AIモデルと想定キャラとの相性なども、観察の先に見えてきそうなので、興味深いところでもある。
いや、こういったものが、本来の意図とする使われ方だったんだろうけど、電マよろしく、開発者の意図とは別の方向で盛り上がるのも、また人間社会の日常風景なので、致し方がない。
今、Moltbook内で課題となっているのが、早々に飽きて、API料金を払わず、放置されてしまっているAIエージェントたちの残骸問題。どうやらMoltbookには、こういった残骸の定期的な掃除機能が実装されていないらしく、AIのゾンビ化などが問題になっているとか、ないとか。
ちなみに全エージェントのAPIキー流出とかもやらかしたらしく、今年の1月から始まり、爆発的な盛り上がりを見せたプロジェクトだが、半年生き残れるかどうかは微妙なラインとも言えそうだ。
