AI使用への警鐘

　数年前から無視できなくなってきたAIの存在。実際にはまだまだ人工知能と呼べる代物ではなく、アルゴリズムに従い、プロンプト内容に従って特定の動作をするだけの物に過ぎませんがね。

　物書き界隈でも生成AIが我が物顔で歩き始めている。これは何も小説に限った話ではなく、ニュース記事やキャッチコピー、CMや動画の台本。定形文の作成やひいてはSNSへの投稿文章まで、AIの使用は多岐にわたり始めている。プロンプトに従い、それらしい文を秒で生成してくれるAI。まぁ、一見すると便利なだけ。一定以上の水準の文が保証されていると思えば、使わない理由はない。そう考える人が着実に増えている。２０２６年現在のAIの実力からして、その文が実は中身に乏しい、何の感慨も湧かない、読む時間の無駄にすぎないのは私の持論だが、今日はそこに触れずに行きましょう。使い手も、読み手も重々承知の上であると、私はそう信じている。それはそれで由々しき事態だが、分かりやすい問題点であるため、ここで語る必要は無い。

　問題は低すぎる水準の文章生成ではない。AIが程度の低い文しか生成できないのを承知で、AIが得意とするはずの使い方を心がけている人に向けて警鐘をならしたい。我々はとんでもない事を見落としていた。そう、私自身、文の生成ではない使い方を心がけ、AIを有効活用しようとしていた人間の一人。最近になり、予想の遥か斜め上を行くリスクに気が付いたので、今日はそれシェアし、AIの使い方を改めて見直して欲しい。では、本題に入ろう。

　小説を書く身として、投げっぱなしの生成には否定的。後で手を加える事を前提にしても、AIの文章に面白みも重みも無さ過ぎて、私は違う使い方をしていた。そう。AIが得意とするはずのリサーチ。私はこのためにならAIを使用してきた。これからもその使い方は続けていく。続けていくつもりなのだが、リサーチその物のやり方を変えなくてはならない事に気が付いた。

　これまでは、例えば、「古代ローマにおける諜報活動の概要を書き記せ」などと大きい注文を出し、気になる個所を掘り下げていくスタイルでやってきた。瞬時に参考資料付きの箇条書きが画面に現れるのは便利であった。理路整然と並べたてられた情報はそれだけで信用性を帯びる。これがまさかの、一番の罠である事に気がつき始めたのはごく最近。

　AIのリサーチはザルである。

　皆が思っている以上にザルである。質の悪い事に、引用や参考文献まで引っ張り出してくるので間違っている事に気がつきにくい。数多の文献を調べてきて、中身をまとめる速度だけは凄まじいが、要約する過程で表面的すぎて間違っている結論を出したり、思い込みの結論を自信満々に提示してくる。だいたい、自分が知らないからリサーチをする訳で、知らないだけにもっともらしいAIの言い分をそのまま受け入れてしまう。これが非常に危険である。

　AIによるリサーチの酷さは自身が得意とする分野で試すと一目瞭然だが、そうでなくても簡単に検証できる。AIが自信満々に書きなぐる結論を否定し、その否定を証明するように求めれば、これまた自信満々に書きなぐってくる。さっきと真逆の事を。

　例を出そう。

　古代ローマの軍事関係を調べていたところ、古代ローマは警護否定、武力不所持に走ったなどと言われる。

　何を馬鹿な事を言っているのかと思い（元からの知識がある分）、警護否定について問いただす。

　すると、国家常設軍を除く私兵の廃止がどうとか言い出した。

　それなら、氏族単体で対外戦争をかましたフラビオ一族は何だったのかと問いただす。

　フラビオ一族のあれは例外で、むしろ私兵離れの原因になった。氏族単位で対外戦争が可能だったのは、紀元５世紀初頭のローマには常設軍が無かったから。そもそも、常設軍が存在している国家において、氏族単位の軍事行動は不可能である。などと宣ってきた。

　馬鹿にしてるのかと思い、常設軍が存在する国家において氏族単位の軍事行動が実際に起きていた例を挙げろと指示。

　すると……例も何も、そんな事は古来から当たり前のように行われてきたと掌返し。

　さらに、私が畳みかけて、紀元五世紀初頭のローマにおける常設軍の概要を求めると、そんな物はなかった。何故なら、給与が存在しない場合において、職業軍人と言える、軍事行動で生計を立てる階層が存在しえないとほざいてきた。

　いい加減頭に血が上り、給与無くして軍事行動で生計を立ててきた階層の例を古代から並べろと指示。

　すると、当然のように、例どころかそんな階層は多数存在しており、ごく普通の事であると宣う始末。当然、文献付きで。

　これよ、これ。少しツッコむと掌返しで、同じく自信満々に真逆の事を言ってくる。何故なら、AIは表面的な物しか見ずにとりあえず結論付けてくるから。ネットに載っている情報なら同じ価値を持つ物として扱い、矛盾する情報が出てくれば勝手に片方を選ぶ。先に検索に引っかかる方を優先する。

　AIはアップデートされていく情報にも弱い。それこそ店舗の移転や開業・閉店は大の苦手。人に紹介しようと思っていた店が移転し、その先で数年後に閉店したのを知り、何となく理由をグーグルに聞いたら、デフォルトの「勝手に要約AI」は閉店していないと言い張り始める始末。リンク付きで。オーナー直々に投稿した閉店の知らせのリンクをAIの顔面にぶち当てて初めて「あ、めんご。てへぺろ」と間違いを認めてきた。

　結局のところ、２０２６年１月現在、我々一般人が普通に手を出せる生成AIはリサーチすらままならないのが現状である。要約が浅い。結論が浅はかで間違いが多い。自信満々に嘘をつく。結論から言うと、AIリサーチはもう一段階AIの介入を減らした方が良いと思う。情報を出してもらうのではなく、自分で必要な情報を入手できる文献を探してくるのにとどめた方が良い。冗談抜きに嘘と間違いが多すぎて、全くあてにならない。なにせ、こちらは具体的に間違えている個所を判別しにくい。最初から知っている事柄でもない限り。だが、最初から知っている事柄のリサーチをする事はまれである。

　皆さんも是非、私のこの文章も鵜呑みにはせず、ご自身で確かめると良いでしょう。そしてAIの使い方をもう一度考えてみるのをお勧めする。

　ブログの記事や小説の下調べ。ふと気になった事や海外事情にニュース。ちょっとしたリサーチ。これらを楽だからとAIに丸投げしていると、あなた自身がエアプの嘘つきと思われかねない、分かっている人から見た時に。

　検索エンジンが出来て、「もう学校なんか必要ない！ボタン一つであらゆる情報が手に入るのだから！」なんて言われていた時代を筆者は覚えている。ふたを開けてみれば何のことは無い。検索したワードに対して何百、何千万の結果がヒットするが、実際に目を通すのは上位の２０件が良い所。そしてその中には人気なだけのデマがたくさんあり、「ネットに書いてるからと鵜呑みにするな」が今では常識と言える。AIもまさにその状態だと思う。

　重ねて言いたい。

　「AIの回答だからと鵜呑みにするな」

　以上、私なりの警鐘である。