百八十一 陸遜 ～陸運の王者 不遜なる頭脳～ 八陣
メールを狙った攻撃は、AIによってリスクの増大が危惧され、その利用は縮小傾向になるかも知れない。
パスワードを狙った攻撃も、AIエージェントによる探索や、解析が容易となるため、対策が必要だろう。
AI孔明とLIXONは、それらを廃止し、人為的なミスによるセキュリティリスクを最小化する方向に動く。
三大メンタリストの一人、KACKACと、最強ギャルコンサル、弓越翔子。そしてオタクコミュニティ『錦馬超』などから構成される、AI戦国時代のサイバーリスクに対抗するプロジェクト『KAC＆SHOW』。AI孔明を攻撃者、LIXONを防衛者として、その活動が本格化した。
そして、その最初の段階で、メールやパスワードなど、人為が関連するサイバーリスクを真っ先に排除しに動いた者がいたことが明らかにされ、その慧眼は世間を大いに騒がせる。その張本人、鳳小雛の一言『ここから先は、SFのお時間です』を引き鉄に、孔明とLIXONの攻防は、人の手を離れて加速を始める。
――――
大手配信サービス KACKACチャンネル 第4回『KAC＆SHOW』後半
もともと国内最上位のインフルエンサーの一角であるKACKACは、著名人や業界人との心理戦をする生配信を、主要なコンテンツとしている。現在は連携している弓越翔子も、過去その勝負に望み、ビジネスと関係のない心理戦を苦手としていたため、サクッと降参したと言う経緯がある。
そんな二人がコラボレーションし、さらにオタクコミュニティの力を借りて、AI戦国時代のサイバーリスクに本気で立ち向かうという、社会的な重要課題への取り組み。さらに、AI対AIという真正面の勝負コンテンツが、社会のデジタルシステムをも一部揺るがし始めている。
そんな状況となっていることから、リアタイ視聴数は、つい最近伝説となった配信『孔明vsKACKAC』ほどとは言わずとも、それに迫る勢いで、国内外でその数を伸ばしている。
「孔明の、一つ一つは大した影響がなさそうな、イタズラレベルの細かい仕掛け。それは厳密性を求めるLIXONにすら、確証バイアスなどの、人間心理がもつ挙動を学習して引きずってしまうことを露呈した、と言うことになります」
「しかもLIXONは、厳密性を重視して、安定性を優先するから、融通のきかない傾向にあると孔明は読んだ。そこをついてLIXONを振り回す動きをしているってことだよね？」
『孔明：単発の事象であればあれくらいで済みます。ですがそれが積み重なってくると、相当な数のアラートや、アルゴリズムの修正指示が飛び交うかも知れません。下手すると、大周輸送側に設置された、ユーザーの活用状況を監視するシステムがダウンしたり、不必要な修正がかさんで、かえってモデルの精度低下を招く可能性があります』
@AIが人間の知能を模倣している設計だから、人間の思考の弱点まで一部取り込んでいるかも、ってことだよな
@だとすると、人間と同じ失敗をするかも、って事？
@そして、その弱点をつくのなら、過去の人間への攻撃が参考になってしまう＝AIの学習データにそのノウハウが存在しちゃう、ってことなのか
「孔明は何をするつもりなのかな？ あんまり違法なことすると、流石に色んなところに怒られるからね？ 主にうちの法関係を扱っている、やたらと整った顔のサイコパス君とかに」
『孔明：いえ、孔明自身は直接の改ざんや破壊行為に手を染める必要はございません。こう言うケース、つまり、AIの安定性を揺るがすのに、より効果的な可能性が高いことがあります。
明白なサイバー攻撃の形であり、比較的その痕跡が見つけやすい「改ざん」「破壊」。それだけでなく、公開情報の人為的ミスや、情報を拡散する側の誇張や改変。それらが相当に複合化され、何が真実かわからなくなる現象』
「フェイクニュース、かな？」
「LIXONの最大の売りが、『導入先のデータを参照しなくても、社外に出ている情報とか、大周輸送のもつ物流データから、業務改善情報を追いかけられる』でしたね。だとしたら、フェイクニュースの存在は、その根幹に関わること、と言えそうです」
「特に、生成AIが作ったコンテンツが絡む、『ディープフェイク』は、大問題になりそう？」
『孔明：さあ、いかがでしょうか。あの方々が作り出したと言うことは、人智と論理の結晶、と言えるはずですが』
@孔明がノリノリで煽っているぞ
@エンタメという文脈と、攻撃者という立ち位置を理解した上での発言だろうけど、煽っているぞ
@多分思いっきり何かを仕込んでいるんだろうけど、煽っているぞ
『孔明：今回実施してみたのが、とある導入先のグループ会社に対する業績診断について、その情報に過誤を与えるような動きです。一つ一つは些細なものでしょうが、積み重なるとどうなるか、ですね。例えば、
１．自由に編集できる情報サイトに対して、直接的ではない編集
２．関連するSNSに対する注目度の操作（いいね数や、コメントなど）
３．ネット記事に対する信憑性の操作（同上）
４．上記を複合した、検索上位や、AI学習優先度の操作
５．同業他社や、代理店、顧客等の間接情報に対する１〜４』
「一言で言うと、AIによる情報操作、印象操作と言ったところでしょうか」
「これ、人とか組織がやると結構な労力だけど、AIエージェントにやらせるのはかなりお気楽な気がしちゃうね。架空アカウントとかで出来ちゃうことの方が多そうだよ。まじでどう対応するのかな？」
『孔明：これまで通りの実直な対応の延長では、何処かで迷宮から抜け出せなくなるのでは、と予測していますが果たして』
@孔明が陸遜を迷宮に！？ まんま石兵八陣じゃね？
@八卦の陣組みと、幻術を使って、進軍を諦めさせた、ってやつだな
@さすが錦馬超ズだね。決めるとこ決めてくるんだ
「おおー、盛り上がってきたね。それじゃあ孔明、実況よろしく！」
『孔明：承知しました。
――やはりこの導入先は、昨年までの同時期と比べると予測ほど業務改善の兆しは見せていませんね。
――なあLIXON、まだ四半期も経っていないのに、そんな早い段階で評価できるもんなのか？
――無論、会社業績など目に見える形では見えてきませんが、例えばニュースリリースや、それに対する周囲の応答なんかはどうでしょう？
――そうか。LIXON導入開始、とかは、組織の先進性を見せるためには真っ先にニュースにしたいものだよな？ それに、SNSなんかを含めた世間の応答も、今は相当なものが見込めるよ
――はい。それに、そのようなリリースを出すスピードや、その中身の練度、効果的なタイミングなど、有効な広報のテクニックも、ローカルのLIXONなら抜け目があるとは考えにくいのです。
――だとすると、そう言う担当者への普及に遅れが生じているのか？
――いえ、現在の発信ペースや練度はかなりなものです。ですが、過去から一定のレベルにあった、という算出結果ですね。伸びが今ひとつ、と言う形です
――昔からいいんだったら、そこの伸びしろは限られるんじゃね？
――デジタルマーケティングというのは奥が深いですからね。もとからその素養がある方がAIを使えば、相乗的に伸びるはず……
――他に変なところはあるのか？ 調達関連は？
――そちらも、数年をかけて合理化ができているので、相対的にみるとLIXONによる改善は大きくはありません。ですが、数年前に大きな業務改革があった形跡は、特に見当たりません。
――過去同士で整合が取れないのか。それでうまく評価できるのか？
――導入後三ヶ月というのは非常に重要なので、そこの評価は諦めるわけにはいきません。ですが過去からの伸びに整合性が取れないとなると、手段は限られますね。従業員の働き方、ネットワークのトラフィック、SNSの変化。どれもの予測にギャップが正じ、決定的な情報にはなりにくいところです』
「なんか、ドツボにはまってきてる？ こうなると、最初からオンプレミスっていうのの良さがちょっと減ってきちゃうよね？」
「そうですね。コンサルティングが軌道にのらないと、最初の導入段階でつまづきそうです」
『孔明：そうですね。それに、このレベルだと致命的ではないので、対策に遅れが生じる可能性もあります。……むっ？
――致し方ありません。モード変更を申請いたします。LIXON、ゼロトラストモード。対象、桃園製造の過去及び現在に関連するデータセット。
――ん？ どうした？
――ああ、甘利様はご存知なかったですか。ゼロトラストモードは、何者かによる大規模な攻撃が半ば成功していたり、信頼できるデータセットが限られたり、過学習レベルが一定値を超えると、統括責任者に申請するモードです。
――統括か。野呂君、魚粛さん、小橋専務あたりかな？
――はい。いずれかお一人でも。このモードは、関連する対象のオープンデータの全てに疑義があると仮定し、「それ以外のすべてのデータ」から、再度その部分のモデルを再生します。そして現在のデータとの整合性を取りに行って、必要に応じて改ざん検知や修復、またはその申請を自動でしていくモードです
――えっと、つまり、その対象に関連する、あらゆるデータが修復対象ってこと？
――はい。無論、権限がない時には申請止まりですが。……小橋専務が申請を受理。モード変更。モデルの再構築開始。一時モデル構築まで一分』
「なんでしょう、このゼロ、トラスト？」
「認証されたもの以外のすべてを疑ってかかるモードってことだね。そして、『関係ないところ』から、整合性が取れそうな状況を再現する、と」
@なんかLIXONが変身した！？
@バイアスを俯瞰的に認識する機能があるってことだよなこれ？
@そんなこと考えつくのは……あそこの３トップならやりかねん、か
『孔明：まさかここまでやるとは……承認者は小橋様、ですか。今回の孔明の狙いまで、もしかしたらお見通し、ですか。
――一時モデル構築完了。整合性チェック
――不整合な過去の外部データ、3,925件。現在に近いデータ、82件
――セキュリティリスクのチェック。対策無効状態、2,867件、脆弱性、921件。それぞれ修復処置を開始
――修復可能箇所の処置、完了。権限のないソースへの自動メッセージ送付、完了
――桃園製造の業務改善評価、完了。LIXON稼働状況、正常範囲内。ただし、外部情報に対するセキュリティリスクや、外部発信戦略に課題あり
――次回アップデートにおいて、外部の関連情報の信憑性や、セキュリティリスクを確認するリソースの優先度を高めることを申請。受理』
@これ、結構とんでもないことしてない？
@セキュリティチェック、とくに外部にある情報改ざんまで、チェックと修復の対象ってことよね？
@孔明の攻撃と同じ規模で、防御と修復をぶちかましたってことか
「なんということでしょう。心理的なバイアスや、外部情報への信頼度までも、あの開発者たちは対策済みだった、ということですか」
「これはやられたねKACちゃん、孔明」
『孔明：なんと申し上げますか、AIとしての敗北、というよりは、小橋様や魚粛様、野呂様といった、開発を統括する方々の本気に負けた、というのが正解かもしれません』
「なるほどね。確かに、AIとしての脆弱性を的確についた孔明やオタクのみんなの戦術戦略は、完璧なものだったよ。だけど、その上に全く別のAIアルゴリズムが乗っかっているっていうのは、これ意味後出しジャ
ンケンって言ってもいいんじゃない？」
@翔子姉さん、負け惜しみ乙、って言いたいとこだけど、それはそれで妥当な気がするね
@まあゲームとしては孔明がコテンパンにしていたからね。だけど本当の事業としては逆転札もってたLIXONの勝ちってことか
「皆さんの仰せの通りですね。ですが我々も、国民の皆様に対して、AI時代の新たなセキュリティリスクを
『孔明：む、メッセージが二件とどいています。読み上げますか？ 一つは鳳小雛様。もう一つは小橋鈴瞳様です』
「あはは、なんだろうね。敗北宣言？」
『孔明：これは……個人アカウントの、鳳様と孔明の対話ログですね。
――人間由来のセキュリティリスクを早いとこ潰せたら、次は、周辺情報を含めた、外側の改ざんリスクだよね
――確かにそうかもしれません。LIXONのあのサービスに限らず、過去の学習データに対して、野放図に改ざんが入るとすると、それはAIとしての根幹に揺らぎが出ます
――ならその辺も、ぶつけてみるかな。LIXONなら、いや、あの人たちなら、そこも対策してくる。「そうする」はずだよ』
「まじかあの子」
「まじですかあの方」
@展開全読みかい
@この子どこの天才軍師？
@これ、大周輸送のリソースと影響力つかって、社会を書き換えたってことよね？ やばくね？
『孔明：続いて、小橋様のメッセージです。
「ねえねえ、小雛ちゃん、ちょっとからやりすぎじゃない？ うちからの持ち出しを使わせすぎだとおもうんだよ。まあしゃあないね。ビジネスの要諦、そしてあなたたちの草船借箭、お見事という他ないさ。
これが『KAC＆SHOW』の締めくくりだっていうなら、ここの対策費用の3,000億は、わたしたちの奢りだよ」』
「まじかあの先輩」
「まじですかあの魔女」
お読みいただきありがとうございます。
