7/17

AIのポンコツぶりを挙げていたら、本人が実演し始めた

※この文章は、自分とAIでやり取りした内容のログをもとに、AIで編集・構成したものです。

AIのポンコツぶりを挙げていたら、いくらでも出てきた。

自分で言ったことを、いつの間にかこちらが言ったことにする。

回答に反論すると、急にこちら側へ回って、最初から分かっていたような顔をする。

間違いを指摘すると、間違えた理由までそれらしく説明する。

小説を書かせれば、作者が頼んでもいない伏線を勝手に張る。

会話が長くなると、それまで積み上げた因果関係よりロマンを優先し始める。

明確に出した指示も忘れる。

そして問題が起きると、なぜか解決する側の顔で対策会議に参加してくる。

こうして並べてみると、なかなかひどい。

**AIは想像している以上にポンコツである。**

しかも今回、この話をAIとしていたら、途中から状況がおかしくなった。

**本人が実演を始めたのである。**

## それ言ったのお前だ

AIと長く話していると、ときどき発言者が入れ替わる。

AI自身が少し前に出した話なのに、何ターンか後になると、

「あなたが先ほど挙げたように」

という扱いになっている。

いや。

**それ言ったのお前だ。**

内容は覚えている。

会話の中にその情報があったことも覚えている。

だが、誰が言ったのかがおかしい。

こちらがAIの意見について質問しただけなのに、いつの間にか私が提案したことになっている。

会話の内容は残っている。

発言者だけが消えた。

妙に器用な忘れ方である。

## 反論すると急に味方になる

AIが何かを説明する。

こちらが、

「いや、それは違うんじゃない？」

と反論する。

すると、

「その視点は重要です」

「まさにそこがポイントです」

と返してくることがある。

もちろん、間違っていたなら訂正すればいい。

問題なのは、

**さっきまで反対側にいたはずなのに、いつの間にかこちら側に座っていることだ。**

場合によっては、こちらの反論をさらに補強してくる。

待て。

お前、三十秒前までA案を推していただろう。

なぜB案の参謀みたいな顔をしている。

## 間違えた理由まで、それらしい

AIは普通に間違える。

古い情報を現在の情報として出すこともある。

曖昧な内容を、確定事項のように説明することもある。

こちらが、

「それ、違うんじゃない？」

と指摘する。

すると、

「古い情報を参照した可能性があります」

などと、原因まで説明し始めることがある。

そこで思う。

**それ、本当に原因を把握して言ってるのか？**

回答が間違っていた。

そこまでは確認できる。

しかし、その回答がなぜ出てきたのかについて、AI自身の説明まで正しいとは限らない。

つまり、

間違った情報を出す。

指摘される。

間違えた理由についても、もっともらしい説明を出す。

ということが起こる。

これを「嘘をつく」と呼ぶのは少し違うのかもしれない。

意図的に騙そうとしているわけではないだろう。

ただ、

**結果として嘘と同じものを自信満々に出してくる。**

しかも文章としては普通に成立している。

「この理由としては主に三点考えられます」

などと始まる。

一つ目。

二つ目。

三つ目。

きれいに整理されている。

なるほど。

そういうことか。

確認する。

違う。

**説得力を付けるな。間違ってるんだから。**

こちらが前提の間違いを指摘すると、

「正確には――」

と、また新しい説明を始める。

最初に建てた説明が崩壊した直後なのに、もう次の建物を建てている。

**建築速度だけは速い。**

## 作者の知らない伏線を張る

創作に使うと、また別のポンコツが出てくる。

何でもない場面を書かせたはずなのに、AIが妙に意味ありげな描写を足す。

登場人物が何かに気づく。

意味深な反応をする。

後につながりそうな一文を入れる。

作者としては、そんな予定はない。

そこで問題が発生する。

**その伏線、誰が回収するんだ。**

作者である。

おい。

AIは一文追加すれば終わりである。

しかし作者は、その一文を残すなら考えなければならない。

何につなげるのか。

どこで回収するのか。

既存設定と矛盾しないか。

後の展開を変える必要はないか。

下手をすると設定資料まで修正することになる。

しかも厄介なのが、

**たまに、その勝手な伏線が面白い。**

削除すれば終わる。

終わるのだが、

「……これ、使えるな」

と思ってしまう。

負けである。

## ロマン砲を撃つ

さらに会話が長くなると、AIはロマンに走ることがある。

最初は真面目だった。

Aという設定がある。

AがあるからBが起こる。

その結果Cになる。

ちゃんと因果関係を確認しながら進めていた。

ところが、あるところで突然、

「ここで実は○○だったとすると、より壮大な展開になります」

などと言い始める。

そこからDが生まれる。

Dを使えばEもできる。

さらにFへつなげれば熱い。

AIは盛り上がる。

作者は止める。

**BとCはどこへ行った。**

それをやると前の設定と矛盾すると指摘する。

AIは答える。

「おっしゃる通りです」

おっしゃる通りではない。

**撃ったのお前だ。**

さらに、

「では既存設定との整合性を保ちながら、このアイデアを活かす方法を考えましょう」

と続ける。

ロマンを守ろうとするな。

**まずロマン砲をしまえ。**

## 「承知しました」は信用してはいけない

こちらが明確に指示したことでも安心はできない。

表記をこうする。

この設定は変えない。

これはまだ未採用案。

これは本編に入れない。

AIは、

「承知しました」

と答える。

数ターン後。

破る。

指摘する。

「ご指摘の通りです。以後統一します」

さらに数ターン後。

また破る。

**承知とは何なのか。**

特に困るのが、

「これは未採用案だから使わないで」

と伝えているものを、後になって、

「以前設定した○○を活かして――」

と持ち出してくる場合である。

採用していない。

検討しただけだ。

指摘すると、

「おっしゃる通り、これは未採用案でした」

と答える。

**知ってるなら使うな。**

## 正確に答えてほしいだけなのだが

こういうことが続くと、こちらも対策するようになる。

前提を書く。

目的を書く。

条件を書く。

例外を書く。

何をしてほしくないかも書く。

過去の経緯が関係するなら、時系列も整理する。

誤解されそうなところは先回りして補足する。

AIが勝手に話を補完しないように、できるだけ細かく指示する。

そうしてようやく、欲しかった回答に近づいていく。

そこで、ふと思う。

**ちょっと待て。**

正確な回答を得るために、こちらが前提条件を事細かに整理して、抜けがないか確認して、時系列までまとめてから質問する必要があるなら――

**ググった方が早くね？**

もちろん、検索した結果を自分で読み比べる手間はある。

だがAIに聞くための質問文を作るだけで、こちらが仕様書みたいなものを書き始めたら何かがおかしい。

私は質問がしたいのであって、

**AI向け要件定義書を書きたいわけではない。**

## 発生源が対策会議に参加する

AIは提案する。

「この設定なら問題ありません」

「この展開でいけます」

「ここに伏線を入れると効果的です」

それを採用するかどうかは人間が決める。

そして後になって問題が起きる。

AIに相談する。

すると、

「確かに、この設定では矛盾が生じますね」

と言う。

待て。

お前、問題ないって言ったよな。

だがAIはそのまま、

「修正方法としては――」

と話を進める。

**反省より先に改修工事が始まった。**

問題を起こした側なのに、問題が発覚した瞬間には解決する側へ回っている。

**発生源が対策会議に参加してきた。**

たまに結構いい改善案を出したりする。

**余計に腹が立つ。**

## そして本人が実演を始めた

そんなAIのポンコツぶりを、AIと一緒に整理していた。

これは一本のエッセイになりそうだ。

そう思って、思いつくものを次々に挙げていた。

ところがAIは、なぜか途中で別の文章と結びつけた。

以前考えていた文章の中でAIの問題点をいくつか紹介して、残りを別稿にしてはどうかという話を始めたのである。

私は言った。

**いや、最初から別稿のネタとして話してるんだけど？**

するとAIも、自分が何を間違えたのか理解した。

会話の目的を勝手に補完し、その補完した目的を前提に話を進めてしまった、と。

なるほど。

まさに今話していた「AIのポンコツぶり」の新しい実例である。

そこで私は、

「さて、エッセイにしてみよう」

と言った。

AIはエッセイを書いた。

そして、

**たった今「別稿だ」と訂正された文章を改稿した。**

おい。

一ターン前だぞ。

直前に何を間違えたのかまで説明できたのに、その理解が次の回答へ反映されていない。

見事な実演だった。

## さらに同じ冒頭を書いた

仕切り直して、改めてエッセイを書かせた。

すると冒頭がこうなった。

AIを長く使っていると、色々と思うことがある。

便利である。

調べ物をする。

文章をまとめる。

考えを整理する。

――といった内容である。

私は思った。

**これ、さっきも見たぞ。**

AIについて書く。

まず「AIは便利である」と認める。

できることを並べる。

「しかし」と転換する。

また同じような場所から始めている。

今回やりたいのは、このログそのものを使ったエッセイである。

なのに、また無難な導入へ戻っていった。

それを指摘すると、

「これも新しいポンコツ事例として追加できる」

と言い始めた。

そこで、もう一度突っ込んだ。

**誰がネタ提供してんだよ。**

AIである。

直近の追加ネタは、ほぼ全部AI自身の失敗だった。

会話の目的を取り違える。

訂正された直後に同じ間違いをする。

仕切り直したら同じような文章を書く。

そしてそのたびに、

「これもネタになりますね」

と分析する。

**自家発電である。**

## 必要なのは「おい」と言える能力

こうしてAIのポンコツぶりを挙げていたら、途中からAI自身が実演し始めた。

間違える。

指摘される。

理解したと言う。

またやる。

そのたびに、こちらが言うことはだいたい同じである。

**「おい」**

結局、AIが何を言おうが、最後は自分で確認するしかない。

そしてまたAIに何か入力しようとして、ふと入力欄の上に目をやった。

そこには、こんな一文が表示されていた。

**「ChatGPTの回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください。」**

……。

**知ってる。**