百八十 陸遜 ～陸運の王者 不遜なる頭脳～ 郝昭
メールを用いた攻撃やその改ざんは、サイバー攻撃の定番中の定番と言える。
偽のウェブサイトや広告も、使い古された手段ながら、非常に有効と言える。
それらを組み合わせた、パスワードを狙う攻撃は、古今東西あとをたたない。
『AI戦国時代』。大周輸送が試用版をリリースしたタイミングに合わせ、AI孔明が仕掛け始めたサイバー攻撃。それは、新たなセキュリティリスクの増大を懸念し、人々を守るために国内の有識者達が集まって始めた活動の一環と言える。
そして、代表者らの名前からたったKAC&SHOWというその枠組み。過去の創作物に対する数多の知識を持つ、歴史やSFを主体としたオタクコミュニティ。最強クラスのコンサルタント、弓越翔子。三大メンタリストとして世を沸かし続けるKACKAC。彼らが次々にアイデアを出すことで、多様なサイバーリスクを次々にLIXONにぶつけていく。
そしてその裏では、圧倒的な数の生成AIとの対話経験が、生来の観察力と思考力を急速に進化させ、価値創造力を世界水準にまで引っ張り上げた、どこぞの新入社員が、躍動をはじめていた。
国内最大のオンライン三国志コミュニティ 錦馬超
@ Seven_Poem:
「メールの弱さを狙った攻撃に着実に対処しているうちに、通信手段としてメール自体が姿を消すことになるとはね。みなさんや孔明のやっていた通り、確かに攻撃手段が豊富にある媒体でもありますからね」
@ Hack&Bee:
「若い人達的には大歓迎ではあるよね。無意味にちゃんと考えなきゃいけない文章とか、定型挨拶とかは苦手な子多いんだよ。その辺AIがカバーできるってことが、そのまま『人間っぽい偽物』が簡単に紛れ込める環境になった、ってのと同じなんだね」
@ Shoko_ymks:
「ダイレクトメッセージで済ませる文化に、完全に取って代わられることになりそうだね。定型挨拶とかもAIがどうせ補うって前提が共有されるから、遠からず廃れそうだよ。アポとりとかもシステム的にこなせそうだし」
@ Gaxin_Written:
「メールの次はパスワードか。実質ワンセットと言っても良いセキュリティの脆弱性だよ。頻繁に忘れてメアドで認証する人は、結局メアドが最後の砦になり、メモる人は物理的なリスクの塊。どっちもどっちかな」
@ 3594_8504:
「実質、孔明と陸遜が同時にAI認証に舵を切ったから、消えていく方向を作れそうだよな。それにしても、どこぞの鳳凰様がつくったこの方向性やばいよな。セキュリティから人為ミスを消すなんてところからはいるんだもん」
@ Hack&Bee:
「一般的な知識しかない人間が、セキュリティリスクを背負う必要がなくせちゃうはず、とか、すごいよね。そこからみんなのアイデアで、空城計と十面埋伏？ 万面埋伏？ だもんね」
@ Tiny_Phnx:
「皆様、全ての準備が整いました。ここから先は、SFのお時間です」
@Kacka_kac:
「そのキーワード、ついに第二段階が始まるのですね。こうなると、人間向きの権謀術数を主としてきた私の出る幕はほとんどなくなりそうですね」
@ Tiny_Phnx:
「おっしゃる意味がわかりません。人工知能とは人間を模倣したモデル。つまり人間心理を理論に落とし込む力のあるあなたこそ、最強の矛を振るう力があるのです」
@ Kacka_kac:
「！？ そんなこと、が……確かにそうかもしれません。人の知能をモデルとしたAI。人の思考そのものをモデルとした認知心理学。ならばその強み弱みを知る私の挑戦は、まさにこれから、なのですね」
@ Seven_Poem:
「あら、やばい人のスイッチはいったぞ。でも確かにアガるよな。本気をぶつける場として、この上ない舞台じゃねえか。俺たちも、一次二次、過去の創作から、アイデアの種をかき集めてこようぜ」
@ Shoko_ymks:
「あはは、この子はもう、オンラインだろうがなんだろうが、一言で人をフローに誘導することくらいわけないって言うんだね。さすが、AI孔明すらフローに持って行っただけあるよ」
――――
大手配信サービス KACKACチャンネル
「皆さん、ご視聴いただきありがとうございます。KACKACこと郭鷹孝文です。本日もすっかりシリーズと化した、KAC&SHOWコラボ配信です」
「どうもー。ArrowNDの弓越翔子っす。今日もよろしく！」
@KACKACすっかりこの活動に本気だな。翔子姉さんがすっかりレギュラーだよ。もうKACSHOWチャンネルじゃね？
@三大メンタリスト全員、自分たちのエンタメがサイバー攻撃に利用されたことに思うところあるっぽいよね
@ロコツにマジギレしているJJもそうだけど、KACKACの本気度もその現れなんだろうね
「今日は４回目？ だっけ？ 前回までで、メールとパスワードに依存するってことの脆弱性が思いっきり露呈して、逆にAIの認識能力をフル稼働してそれ自体を無くしちゃえ！ ってなったんだよね」
「あの結論が成り行きではないと言うのが、恐ろしい話なのです。あのお方の思考、孔明との同調性はどうなっているのでしょう……」
「あはは、それこそ認知心理学者の出番じゃないのですか？ とかって、あの子なら言いそうだよ。まあその思考の飛躍については同意だね。この翔子姉さんが追いきれない論理の流れなんて、まだまだあるんだって気付かされたよ」
「AI戦国時代に備えて人々を守ろうとする、KAC＆SHOWという枠組みが出来た当初から、AI孔明と色々話をして、現行の社会システムの脆弱性をどうぶっ壊すかを考えていた、と言うのですからね」
@何その超法サイコパス！？ 本家超えてない？
@合法サイコパスさんは、ニーズに合わせてガイドラインとか三権にアプローチしに行っているだけだぞ。まあそれもたいがいだが
@その方って、まああの小さな鳳雛さんなんだろうけどさ。そのうち配信出てくるかな？
「その辺はのーこめんとってことで。あの子はまだ制御の仕方が分からないからね」
「陰キャコミュ障と自称しておいでなので、配信したらテンパって逃亡するか、逆に変なこと口走って新しいビジネスが生まれるか、どっちにしろ収集はつきません」
「まああの子の話はどうせすぐ出てくるから、この辺にしとこう。本当にすぐだからね」
「はい。本題にいきましょう。メール、パスワードという、人為ミスを誘発する二大リスク。AI戦国時代において、それは間違いなく拡大する方向と判断されました。それを、あの方と孔明は結託して、社会から取っ払ってしまうことにしました」
「『今のAI技術で、個人認証は完全にクリアできる技術だ』と言う論理でね。実はある文脈で、もう一人自発的に気づいた人がいるんだけど、その人も実は後追いなんだよね。その先輩も、気づいた瞬間にスズちゃん先輩と、翔子ちゃんに電話かけてきたんだけどさ」
「それが計画通りだってことをお教えした時の驚きといったら。大橋様も、大いに呆れておいででした」
@飛将軍を、鳳雛ちゃんが飛び越えて行ったのか
@思考の進化競争も、激化しているんだね
@スポットでは追随しそうな人間もいるから、進化って言う表現は間違っていないんだろうね
「そしてあの方は先日、『錦馬超』の方で、こういうトリガーメッセージを発しました。『ここから先は、SFのお時間です』と」
@何そのパワフルワード
@トリガーってことは、決めていたってことだよね
「そう。そのメッセージこそ、『人間が巻き込まれることは無くなったから、孔明に本気で攻撃をさせましょう』のスイッチなんだよね」
「そして、そこでこの私、人間の心理を専門とし、以前はAI孔明をAIとして扱う作法を誤ったこともあるKACKACは、お役御免と考えていました」
「だけどそこで、あの子はこの人のスイッチを押してしまった。『AIも心理学も、人間の思考のモデルですよね？』と」
「その通りだと気付かされた私と翔子様、『錦馬超』の面々、さらにAI孔明の全てをフロー状態に誘導したあの方。そしてそこから得られた成果。それを反映したのが、本日の配信内容です。ちなみにLIXONにはノンアポです」
@な、何が起こるんだ……
@KACKACレベルの心理学者を、オンラインの一言でフロー化って
@フローの民主化、そこまで行くのか。そして地味にAI混ざっているし
「AIは人工的に作られたもの。だから人間のような認知バイアスはない。はたしてそうなのか」
『孔明：大周輸送のとある事業所に導入されたLIXONの、ある日の動きです。
――本人確認、失敗。カメラ映像に作為が見られます
――ちょっと待って、本人なんだけど？ バグかな……
――一致度、規定をクリア、しかし、時刻同期にエラーあり。過去の映像を不正にアップしたものと判断します
――ん？ 過去の映像……まさか、カメラデバイスの時刻サーバーの問題かな？ 確認してみてくれるか？
――システムエラーの可能性があるので、ログイン保留の上、エラーをチェックします。エラー疑い、肯定。ハードウェアの時刻同期にエラーあり。修正
――ほらね。本人だよね？
――一致度、既定をクリア。認証します。
――……
――！ アクセス後の行動ルーティンにギャップあり。本人規定値を下回りました。認証を遮断します』
「危ない危ない。何かをされる前に再遮断しました。本来であれば、認証をそもそも阻むはずです。しかしエラーを的確に指摘され、それを直すうちに『この指摘レベルは本人だろう』と、しきい値を動かしてしまったのでしょう」
「この時は、その後の行動ルーティンのギャップから、再度追跡してことなきを得ましたが、一度『ゆるみ』が発生したのは確かだよね」
『孔明：という訳ですが、実はこれ、そもそも最初から本人なのです』
「ええっ！？」
「む、まさかこれは、確証バイアスの一種ですか？ 一度正解だと考えた方向性を示唆する事実があると、そっちに飛びつきがちという心理状態です」
『孔明：その通りです。時計を直すと言う操作を挟んでいたり、認証を否定されたりしているので、この方は普段と挙動が変わってしまってもおかしくはありません。特に、慣れない生体認証と言うところでは、やや慎重すぎる挙動が目につくようです。遠からず修正が入りそうですが、当面はワンタイムパスワードなどとの併用になりそうでね』
@つまりLIXONのような厳格な人工知能だからこそ、安全サイドに振りすぎる傾向もあり、か
@でも実際、アルゴリズムとして確証バイアスが存在しちゃうってことだね
「統計って、どっちかの仮説に基づいて真偽判定するんだよね。だからこそ、その時点でどっちかに寄った判定をせざるを得ないってことなのかな？」
「必ずしもそうではないやり方もありそうですが、このバイアスを回避するには学習強度を下げざるを得ない。でもそれはAIの機能性としては難しい調整になりそうです」
『次はこんな例です。
――LIXON、このお客さんの業績はどうなんだろう？ うまく使いこなせているか分かる？
――まだ、社内向けAIエージェントを使いこなしている、と言う段階まではきていませんね。この会社はすでに生成AIを使いこなして業務を改善している部門がいくつかあるので、そこから差別化されてくるのは少し先になりそうです
――なるほど。どのあたりが改善されてくると、LIXONの成果として見えてくるのかな？
――売り上げが増えてくるはずなので、この原材料や、消耗品は増加してくると見られます。また、基幹業務が自動化されるので、人為的なパターンが消えてくるかもしれません
――なるほど。でもこっちのデータを見ると、売り上げはちゃんと増えているよね。どう言うことかな？
――確かにそうですね。だとするとどこかに間違いが……ですが改ざんの跡などは、このデータにはありませんね。モデルの整合を確認します
――わかった。じゃあもう少し前のデータとも比較する？ 生成AIが普及してくる前なんだけど
――……少々お待ちを。先ほどのデータの整合をチェックしました。もしかしたら、原材料の削減や、歩留まりの改善をすでに始めているのかもしれません。念のためその前のデータも確認いたします
――大丈夫？ ごちゃついてきていない？
――問題ありません……！ これは、間のデータの方がおかしい可能性が出てきました。過去の生成AIによる、データのハルシネーションが発生していそうです。だとするとここのデータはまるまる使えないことになりますね。再度修正をかけます……
……
…
…』
「大丈夫かな？ 正解には辿り着けるのかな？」
「これ、最初から全部データから判断すれば、どのデータが間違っているか判定するのは難しくないパターンなのでは？」
『孔明：その通りです。孔明の場合、どこかに不整合があった時には、ユーザーの直接の要望を飛び越えて、俯瞰的な整合の確認を取りにいくことも辞さない設計です。融通と申しますか。一方LIXONの場合は、あくまでもユーザーの現時点での指示や、与えられたデータの範囲からまずは判断します。なので、このように指示が二転三転してくると、徐々に計算式が複雑化するかもしれません』
「最終的にリカバーはするんだろうけどね。でもこれ、こんなことが頻繁に起こると大変そうだよね」
『孔明：そうでしょうね。そんなことも現実世界では起こりうる。それが、LIXONにとっての次の試練となります』
お読みいただきありがとうございます。
