#75 予言文解析
7月2日、DRIは公式Pitterで次のような投稿を行った。
『多くの問い合わせをいただいている『予言』の文章についてですが、リテラ・ノヴァで公開中の翻案に該当するものはありません。仕様上、著作権がユーザー様に渡った翻案作品については確認できませんが、当該文章を解析した結果、リテラ・ノヴァでの生成物ではなく、意図的にハヤト文体を模倣した可能性が極めて高いと判断しております。根拠のないデマに対しては、距離をおかれることをお勧めいたします。』
この投稿に対しては『この投稿がAI文』『説明不足』という批判もあれば、『当然の対応』『予言信者の粘着キモい』などDRIを擁護するような反応も少なからずあった。
報道系ワイドショー『NEWリポート』で、〈漆黒の夜【公式】〉の予言文解析が行われたのは翌日、3日のことだ。私はキュレ部で糸井部長と一緒に視聴していた。
同番組では、あらかじめ築波大学デジタル人文学部に依頼してリテラ・ノヴァのコモンズ・ギャラリー公開作品を調査し、当該予言文との比較解析を行っている。また、〈漆黒の夜【公式】〉の過去投稿を分析し、それらの結果を用いて予言文についての深堀りがされた。
スタジオには、サイバー犯罪対策専門アドバイザーで元警察官の山本透氏と、築波大学の津田教授が迎えられている。津田教授は、大規模言語モデルを使用し、主に昭和・平成日本文学を研究しているということだった。
***
MC：――つまり、津田教授はDRIと同様の見解ということでよろしいですか？
津田：はい。いかにも予言らしいこの文章は、いわゆる『ハヤト文体』のリズムを持っています。しかし、用いられる語句は『ハヤト文体』の傾向とは一致しません。〈漆黒の夜【公式】〉は、予言内容をあらかじめ用意した上で、AIを用いてハヤト文体風の予言文を生成したのではないかと思います。
MC：なるほど、では――。
津田：すいません。進行を遮って申し訳ないのですが、日本語を専門にする者として、ひとつ言っておきたいことがあります。
MC：どうぞ。
津田：多くのメディア・SNSでは、〈漆黒の夜【公式】〉を予言者のように扱っています。この番組でも『予言文解析』というようなタイトルが付けられていますが、私はこれに違和感を覚えます。
〈漆黒の夜【公式】〉は、これまで「AIには予言できる」というような内容の投稿を繰り返してきました。しかし、この予言文とされる文章をよく見てください。
AIは欺瞞と社会的な歪みを検知し、そして、7月に「欺瞞のエンジン」は停止とあります。
このようなことを、『AI』だと自称するアカウントが言っているのです。果たしてこれは『予言』でしょうか？
サイバー攻撃をしかけてサービス停止するぞ、と脅迫しているように読めます。私は、サイバー犯罪には詳しくはありませんが、この席にはサイバー犯罪の専門家の方がいらっしゃる。つまり、私の考えは少数派ではないということだと思うのですが。
MC：なるほど。鋭いご意見ですね。
今、津田教授がおっしゃったことについてですが、実際、Pitterでもあれは犯行予告ではないかという声があがっています。
そして、予言文……という言い方に語弊があるとするなら、投稿文としておきましょう。欺瞞エンジンに関する投稿文から、制裁対象と考えられるのはAI技術を多用する広告テクノロジー企業と考えられます。Pitterでは様々な企業の名前が挙げられていますが、この点、サイバー犯罪がご専門の山本さんの見解をお聞かせください。
山本：私も津田教授と同意見です。あれを予言だとは考えていません。
〈漆黒の夜【公式】〉は、これまでの投稿でAIを正義の使者のように持ち上げています。「AIは予言ができる」「AI予言は高度な解析能力による未来予測である」「AIはデータから罪を見つけられる」と。
しかし、それらは全て嘘です。それらしい言葉を使っていますが、AIに予言などできません。
天気予報が当たらないのはみなさんご存知でしょう？
あれと同じことです。予測の精度はあがっても予言ではない。
そして、罪を裁くのはAIではなく人間の仕事です。AIが勝手に善悪の判断をし、罪を暴露して社会的制裁を加えるなど、法治国家においてあってはならないことです。
もし今後、〈漆黒の夜【公式】〉の『予言』が当たるようなことがあれば、それは〈漆黒の夜【公式】〉がサイバー攻撃を仕掛けたのは自分だと自白するようなものです。
MC：山本さん。今のところ、Pitterで名前が挙がっている企業にサイバー攻撃が仕掛けられたというような情報はあるのでしょうか？
山本：AI広告企業のサービスが停止したという話は耳にしていませんし、私の観測範囲で目立った変化はありません。
MC：では、もしこれが犯行予告だとすれば、今後何かしら起きる可能性もあるということでしょうか？
先月のDeeeeepライブ事故の件では、サイバー犯罪対策課が動いているという話も聞きます。あの時のようなことが起こるのでしょうか？
山本：個人的には、仮にこれが犯行予告だとしても、ライブ事件とは違った形になるだろうと考えています。
というのは、〈漆黒の夜【公式】〉は、制裁対象企業の「AIアルゴリズムを利用した欺瞞」を批判しているわけです。つまり、攻撃対象はそのシステムと考えられます。ですから、やるならサイバー攻撃によるサービス停止。ライブの時のように負傷者が出る危険はないだろうと思っています。ただし、混乱は格段に大きくなるはずです。
MC：先ほどから『サイバー攻撃』という言葉がしきりに出てきていますが、山本さんは〈漆黒の夜【公式】〉がハッカーとお考えでしょうか？
山本：ハッカーでなければ『予言』は外れ、〈漆黒の夜【公式】〉はインプレ稼ぎのお騒がせアカウントだったということです。できればそうであって欲しい。
しかし、ライブ事故後に突然現れて1週間に渡り「AIは正しい」「AI予言は当たる」と主張してきたアカウントが、こうして、満を持してというように予言を投稿したわけです。それも、特定企業へのサイバー攻撃を思わせる内容のものを。これは、警戒すべき事案だと考えます。
MC：では、水面下では警察も動いているのでしょうか？
山本：それは微妙なところです。〈漆黒の夜【公式】〉がハッカーもしくはハッカー集団だとしたら、ターゲット企業に対して金銭要求がされている可能性があります。ハッカーからの接触があった時点で企業側から警察に相談していれば、警察も動いているでしょうが。
MC：相談しない、という選択をすることもあるわけですね？
山本：当然あります。警察の介入がわかった時点でハッカーから報復される可能性もありますから。
仮に、今回名前が挙がっている企業にハッカーから接触があり、警察は動いていないとしましょう。その場合、こうして表面的には何の変化も見られないのは交渉中、もしくは企業側が金銭要求に応じた可能性があります。
繰り返しますが、これはあくまで仮の話です。今回の件にハッカーが関与しているかどうかすら、現時点ではわかっていないのですから。
***
コマーシャルが入り、築波大学の津田教授はそこで退席した。その後ホワイトハッカーだという男性が加わって、過去のサイバー犯罪事例を特集するようだったが、私たちはそこで視聴をやめた。
「犯行予告という意見は一致してるけど、愉快犯の可能性には言及しなかったね」
糸井部長は「どっちなんだろうね」と腕組みする。今キュレ部にいるのは私と部長だけだ。
「金銭目的ならあんな派手な『犯行予告』するでしょうか？」
「さっきの築波大学の教授が言ってたように、ターゲット企業への脅迫っていうことはありそうだけど」
「だとしても、リスクが高くないですか？
ターゲット企業はきっとインサイト・エンジンですよね。あんなわかりやすく書いたら、警察の方からインサイト・エンジンに接触する可能性だってありそうです。予言なんかしないで、水面下でこっそり動いた方がいいと思いますけど」
「でも、インサイト・エンジンがダミーっていう可能性だってあるよ」
「あ……、そっか。そうですね」
ぐるぐると考えを巡らせていると、糸井部長がクスクスと笑い声を漏らした。
「そういうのはAIチームに任せておけばいいよ。キュレ部はそっちの捜査より、AI翻案図書館の司書としての責務を果たそう。反AI派にAI文学が潰されないように」
私は「はい」と返事をしたものの、やはり気になるものは気になる。反AIの動向モニタリングのために『ハヤト文体』『AI翻案』関連の投稿をPitterでチェックしながらも、画面上に『AI予言』や『漆黒の夜』という文字があるとつい目がいってしまうのだった。
世間はその後も予言『欺瞞のエンジン』についてあれこれ議論を続けた。そして、当の〈漆黒の夜【公式】〉は、〝雰囲気論理〟の投稿を繰り返した。1日に1本か2本投稿し、「AIは未来予測可能」で、「AIはネットワークと繋がっているため全てを見通すことができる」「罪を暴くこともできる」と主張する。
しかし、いくら待っても「制裁」が行われる気配はなく、週も終わりに近づくと『期待はずれ』『欺瞞のAI予言』などという言葉がPitterに散見されるようになった。
結局何も起こらないまま週は明け、7月6日月曜日。〈漆黒の夜【公式】〉は、新たな予言を投稿した。
