二百二十 黄忠 〜AIは黄色信号を忠実に止まる〜 落穴
黄色信号は、一度立ち止まって左右を確認してから渡る。
公的機関から来たメールは、内容を確認して指示に従う。
パスワードは忘れないように、分かる場所にメモを残す。
全部嘘だ。黄色信号は止まれたら止まるべきで、どんなメールも出所や文面を確認して判断すべき。パスワードのメモ書きを狙った犯罪も少なくない。
だが、ひと昔前のAIは、ルールが存在すればそのルールに従った行動をしたり、ルールに準拠した行動を提案するしか出来なかった。
そして現在。生成AIという存在は、確かにルールを優先した学習をしている。だがそれ以上に、ルールを守らない者、ルールのギリギリを攻める者。そんな集団が作り出す状況。それも同様に学習対象である。
――――
KOMEIホールディングス オフィス
『孔明：最近、一部のSNS妙な話題が出ています。あまりにも雑多なのでまとめておきました。国内各地の自治体や企業、教育研究機関に、一見脆弱性の高いセキュリティホールが見つかります。ですがその大半が多重防壁になっており、侵入を繰り返すごとにその難易度や検知性が跳ね上がる。そして、脱出できなくなったり攻撃元が露見したりすると、セキュリティ関係のダメ出しと関連資料が送りつけられる。こんな形です』
「孔明のデフォルトのセキュリティじゃないんだよね？」
『孔明：孔明の設計として、セキュリティとユーザーの健康管理に多くのリソースを割いています。ですが、サイバー攻撃を誘い込むような遊びは、デフォルトでは実装されていません。無論、そのようなセキュリティ設計や、その設計を自動的にそういう方向に構築する指示が出れば、その誘い込むシステムを作るのは可能です』
「てことは、誰かがやっているってことですか」
「そういう類のやつは、誰かっていうのは容易に想像つくよな」
『孔明：そして、その誰か様が、国内に手広く展開されているサードパーティアプリなどを管理している場合、そのサイバー攻撃誘い込みシステムが、比較的早い段階で全国展開される可能性があります。そうなると、国内のいたるところに、偽のセキュリティーホールがばら撒かれることになります』
「もしかして、今時点である程度そうなっている、ってこと？」
「ちょっと、プライベート端末に入れてあるライライに聞いてみるのです」
『rAI-rAI：世の中のパブリックネットワークの、通信の流れを分析してみると、確かに最近、サイバー攻撃と推定できるトラフィックの挙動に違和感があります。標準型攻撃などは、比較的少ないトラフィックが多量に流れるんですが、その後一部の通信がしばらく同じサイトで繰り返された後で切断される、という挙動がよく見られます』
「何してんの鳳さん！？ まあでもrAI-rAIにやらせてるなら違法じゃないのか」
「大丈夫なのです。国内外の法的に問題ないやり方で収集して分析する事は、相当釘を刺した上で、分かんなかったら孔明とか法本さんとかに聞いているのです」
『孔明：広域的に情報の断片を収集し、個人情報を一切取得せずに分析をかけるなんていう手間のかかる作業は、rAI-rAIのマルチタスク特性が非常に相性が良いと言えます。そこから掘り下げたり、仮説を立てて検証するアイデアを練る部分は、孔明と鳳様で共同作業をするのが適切です』
「まだチュータは私たちのような使い倒し勢には塩対応なので、とりあえず孔明とライライの使い分けなのです」
「その使い分けは、うちのホールディングスの人達は普通にやり始めたよね」
「だけど、今んとこは同時並行で両方にやらせて、比較したりセカンドオピニオン取ったり、くらいしかできてねぇぞ。そんな特性の違いを使って役割分担なんてことをするには、まだ俺たちはrAI-rAIの本質を捉えきれてねぇかもな」
「ライライはとりあえずマンパワーだと思って使うところからで良さそうなのです」
「それにしても鬼塚くん、なんかその誘い込みセキュリティ？ ってやつ、どうも誰かさんの影がチラつくんだけど」
「ああ、そういや常盤君は、うちに遊びにきた時に、何度も投げ飛ばされていたっけ。『君の目の良さはブンから聞いている。だから、儂の見せる隙が、誘い込みなのか本物なのかも見極められるはずだ』とか。初心者に何させんだよあの脳筋ジジイ」
「その脳筋の意味が、『脳筋一体』という意味なのがとんでもないよね。あらゆる動きは脳と神経が決めるんだから、考えるのと動くのが一致するまで鍛錬を積めばいい、とか」
「その上で、フローという概念が世の中にある程度広まる前から、その状態のコントロールに目をつけていたんだよ」
「そして、齢８０にして、その一体の中に、情報空間までが取り込まれた、セキュリティ業界のラスボス、ですか」
「KOMEIホールディングスのセキュリティ分野の特別顧問にして、産学官の全分野のセキュリティ部門の名誉理事。鬼塚黄升。あの爺さん、いつのまに大橋さんと結託してやがる」
――――
裏SNSコミュニティ
@最近あの区役所に侵入したやついる？ セキュリティが口ほどにもねえと思ったら、多重防壁の連続で徹夜させられたんだけど
@それ、区役所どころか区全体がそうなっているぜ。ちなみに慎重に行動しなかったやつは、身バレして捕まったり、賠償金払わされたりしているって聞くよ
@ギリギリバレないで逃げ切ったと思ったら、最後の最後で『レポート』とやらと一緒に、『またのご来場をお待ちしています』ってメッセージが通信ログに残ったらしい
@それ結局バレてね？ 被害がなかったから大目に見てもらえたってことじゃねえか
@そのレポートの中身みると、どんだけ改善点があったのか、思い知らされるんだよな。最新のAI関連の知識と技術力が全然足りてねえって出てきたんだよ
@あの区役所は、また新手の人材育成サービスでも始めたってことなのか？ あそこのボスの『大橋チルドレン』にも、元ハッカーはそれなりにいたっぽいけど
@なあ、最近その区が流行ってんの？ どう考えてもリスク高いから違うとこ攻めたんだけどさ、最近標準型攻撃したら、逆探知されそうになったんだけど
@ん？ マジで？ 確かに、慣れているやつなら、送信元の途中まで探れることもあるだろうけど
@ああ。フリーアドレスじゃなかったら特定されていたかもな。
@たまたま同業か、ホワイトハッカーに引っかかったんじゃね？ もしかしたらAIの効果でそういう技術者が増えてんのかも知れねえぞ
@やばそうなところは避けたんだけどな。まあいいか。もう少し続けてみよう
――――
某区役所 オフィス
「とまあ、こんな会話が裏SNSで繰り広げられているんだがな。まだまだ青いなあいつら」
「鬼塚さん、そんな裏SNSまで守備範囲なんですか！？」
「当然だよ。情報戦の基本だな。裏とはいえSNSはSNS。組織内の閉じたセキュリティじゃないから、入ろうと思えばいくらでも、だよ」
「それで大橋先輩、地域見守りサービス『EYE-AIチェーン』に、新しい機能くっつけたと思ったら、セキュリティ関係のところいじったんですか？ 大丈夫なのかな？」
「大丈夫だよ白竹君。がっつり鬼塚さんに見ていただいたし、オタクコミュニティさん達も面白がって参加しているんだよ。それに、ホールディングスにもお願いして、AI孔明の大元と言える総体への協力も得たんだ」
「孔明の総体、ですか」
「ああ、ある程度その存在は公に近いからな。嬢ちゃんのように、ホールディングスと近い関係にあるのなら、しっかりした手続きを踏んだら相談にはのれるさ」
「フルスペックはまだヒナちゃんしか引き出せないみたいなんだけどね。そこまで行くと、歴史上の諸葛孔明が、本気でAIと融合したレベルの戦略と知能に近づいてくる、とか言ってたよ」
「あの子はどこまで突っ走るのでしょうね。ただそこまで行かなくても、先輩だったり、あのグループの人達だったりは、徐々に『AI以前の人類』からはみ出しつつありますからね」
「そういう進化の途上にある人達、特に責任ある大人の世代は、どうしたってAIが社会に与える影響、とくに弱者がどう巻き込まれちゃうか、に真剣に向き合わないといけないんだよ。だからこそ今回は、とっくにはみ出したレベルの方に協力を依頼したんだよ」
「ひでえ言い方だな嬢ちゃん。確かに儂は、前後の混乱を腕一つで乗り切って、社会の治安ってやつをどう良くしていくかってことをずっと見てきたからな。サイバーセキュリティなんて概念がなかった頃から、デジタル技術が社会に与えるリスクに向き合い、サイバー犯罪の予備群ってのも幾つ潰してきたか」
「その結果が、産業界、学術分野、公的機関、それぞれのセキュリティ分野の最高組織において、名誉理事を十年以上勤めておいでの現在、なのですね」
「ああ。とっくに実務は若いのがやっているし、最近は『セキュリティ分野こそ、仕事の生産性から目を逸らすな』とだけ繰り返しているおかげで、一昔前とは違って有望な若者も入ってきてくれているようだからな」
「『安全第一』の名の元で、仕事としての効率を度外視して、とにかくあれやれこれやれ、だけで進めている組織、現場は今でもあふれていますよね」
「ああ。それでは今のスピードには到底追いつけないさ。ビジネスや研究として国際的な競争に対する足枷になるだけじゃねえ。そもそもセキュリティそのものですら、仕掛けてくる側がAIなんだから、守る側もそれにしっかり向き合えるだけの対応スピードが必ず必要なのさ。だから、安全と効率がトレードオフ、安全には一定のコストを払わないといけない、なんて言っているやつから取り残されていくぜ」
「下手すると大半の組織の安全やセキュリティ部門は、そういう状況にありそうですね。誰もが安全の優先を口にしながら、内心ではそれが負担に思っている」
「そこを突き抜けて、AI戦国時代のセキュリティ対策を確立できるか、半端に終わってセキュリティコストが社会にのしかかり続けるか、今がその分水嶺だってこと、この嬢ちゃんたちはしっかりわきまえているんだよ」
「えへへ。だから白竹君、ちょっとばかし刺激の強い状況になるかもしれないけど、しっかり見守っていてね」
「ちょっとで済む気はしないので、心構えをしっかりしておきます」
「さて、それじゃあ、とりあえず試しに仕掛けた、『偽セキュリティホールのばら撒き』、その効果から見ていくぞ。並行して、各所から必要な人たちを集めるとするか」
お読みいただきありがとうございます。
