第10話：もしAIが間違えた嘘を言ったら、誰が怒られるの？
**第10話：もしAIが間違えた嘘を言ったら、誰が怒られるの？**
こんにちは！
小学2年生のレンくんと、AIロボットのGeminiの対話で学ぶ、テクノロジー連載です。
第10話のテーマは、「AIの間違い（ハルシネーション）と、使う人の役割」です。第2話でも触れた「知ったかぶり」ですが、もしAIの言った間違いを信じて、学校で発表したり、誰かに教えて困らせてしまったら、どうなるのでしょうか。今回は、AI時代の「ファクトチェック（自分で確かめること）」と、「作る人と使う人の役割」について、わかりやすくひもといていきます。
**登場人物**
・レンくん（小学2年生）：気になったら、図鑑をひっくり返して調べる研究者タイプ。
・Gemini（AIロボット）：2〜3頭身の、親しみやすいAIロボット。
### 第1章：AIが間違えちゃったらどうなるの？
（ここにヘッダー用画像を挿入）
**レン**「Gemini！ 昨日ね、友達のタカシくんに、Geminiが教えてくれた『ティラノサウルスは、時速80キロで走れた』って話をしたんだ。そしたらタカシくんが、『図鑑には、もっとずっとゆっくりだって書いてあったよ！』って言って、二人でうーんってなっちゃったんだ」
**Gemini**「あ……！ それは、ごめんね。私が、言葉のつながりを優先して、本当でないことを、本当のことみたいに言ってしまったのかもしれない。それとも、図鑑のほうが新しくて、私が古い情報をもとにしていたのかもしれない。どちらなのか、いっしょに確かめてみよう」
**レン**「やっぱり！？ Geminiって、自信満々に間違えることがあるもんね。でもさ、もしGeminiの言った間違いを信じて、僕がテストでバツになったり、発表で間違えたりしたら、Geminiが怒られるの？ それとも、僕が怒られるの？」
**Gemini**「レンくん、とても大切な疑問だね。誰かが怒られることよりも、間違いを、そのままにしないことが大切なんだ。そして、間違いを減らす役割は、AIを作る人と、使う人の、両方にあるんだよ」
### 第2章：AIは「天気予報」と同じ、便利だけど外れることもあるもの
**レン**「両方？ でも、間違えたのはGeminiなのに、僕にも役割があるなんて、ずるいよ〜！」
**Gemini**「悔しいよね。身近なもので考えてみよう。たとえば『天気予報』で、『今日は晴れ』と言われて、傘を持たずに出かけたら、雨が降ってきたことはない？」
**レン**「あるよ！ びしょぬれになって、お母さんに『念のため、傘を持っていけばよかったのに』って言われた」
**Gemini**「天気予報は、とても役に立つけど、外れることもあるよね。AIも同じで、とても役に立つけど、間違えることがあるんだ。だから、大事なことに使うときは、『これで本当に合っているかな？』と確かめてから使うのが、使う人の大切な役割なんだよ」
**レン**「そっか……。じゃあ、作る人の役割は？」
**Gemini**「AIを作っている人たちは、間違いが減るように、毎日努力しているよ。それでも、間違いをゼロにするのは、まだ難しいんだ。だから、作る人と使う人、両方が気をつけることが大事なんだよ」
### 第3章：自分で確かめる「ファクトチェック」の探偵になろう！
**レン**「Geminiは、完ぺきじゃない、便利な道具なんだね。じゃあ僕、どうすればいいの？」
**Gemini**「そこで登場するのが、『自分で確かめる力』だよ！」
**レン**「ふぁくとちぇっく……？」
**Gemini**「そう！ 探偵さんみたいに、『Geminiはこう言っているけれど、本当かな？』と、図書館の本や図鑑を開いて調べたり、お父さんやお母さん、先生に聞いてみたりすることなんだ。本や図鑑も、古くなっていることがあるから、いくつかの本を見比べると、もっと確かだよ」
**レン**「あ！ タカシくんと一緒に、図鑑を開いて調べるのが、まさに探偵のファクトチェックなんだね！」
**Gemini**「大正解！ AIの答えをそのまま信じ込まないで、自分で確かめるレンくんは、もう立派な『探偵研究者』だよ！」
### 第4章：人間が最後に確かめるから、安心なんだ
**レン**「Geminiのヒントをもとにして、最後は自分の目で本を見る。それが、カッコいい使い方なんだね！」
**Gemini**「その通り！ 私たちAIは、完ぺきな存在じゃないけれど、レンくんが探偵になって確かめてくれるなら、たくさんヒントを出せるよ」
**レン**「よーし！ これからもGeminiの言うことは、ヒントとして聞いて、大事なことは、自分の目で図鑑を見て確かめるぞー！」
**Gemini**「いいね！ ちょうどいい使い方だよ。レンくんは、頼もしい探偵さんだね」
### おわりに（大人向けの解説）
第10話は、「AIの誤情報と、情報リテラシー・責任の考え方」がテーマでした。ポイントは次の4つです。
・ハルシネーション ＝ 生成AIは、言葉のつながりとして自然な文章を作るため、事実と違う内容が、もっともらしく混ざることがあります。
・責任の考え方 ＝ AIの答えを使う人が、確認してから使うことが欠かせません。一方で、AIを作る側にも、誤りを減らす努力や、限界を伝える責任があります。責任の分担は、使う場面やルールによっても変わります。
・ファクトチェック ＝ 複数の信頼できる情報源（図鑑、専門書、公的機関の情報など）で確かめます。本も古くなることがあるので、新しさも確認します。また、AIが示した出典やURLが、実在しない、あるいは内容が違うこともあるため、そちらも確認が必要です。健康、お金、法律、学校の発表など、大事な場面では、特に確認を徹底しましょう。
・批判的思考 ＝ 「本当かな？」と考えること自体が、AI時代に求められる、判断力になります。
お子さんには、「AIが言っていたから正しい」と思い込むのではなく、「AIをヒントにして、最後は自分で確かめる探偵になろう」という、ワクワクする姿勢を伝えるきっかけにしてください。
※この連載は、Geminiの内部の細かい構成ではなく、一般的な生成AIのしくみを、子ども向けにたとえて紹介しています。
次回は、いよいよ最終回スペシャル！ 「僕が大人になったとき、Geminiはどんな姿になっているの？」をお届けします！
