【12章】 メモ（AIまとめ）
【メモ1】
1. 「人間はAIによって馬鹿になる」という言葉への違和感
AIが社会に浸透し始めたことで、
「人間はどんどん馬鹿になっていく」
という論調が生まれている。
しかし、ここで問題になるのは「馬鹿」とは何かである。
知識が減ることなのか。 能力が低下することなのか。 それとも、考えることを放棄することなのか。
単純に「AIを使う＝馬鹿になる」と考えることはできない。
---
2. AIは判断しない。判断するのは人間である
AIは大量の情報を整理し、答えを提示する。
しかし、最終的に選択し、責任を負うのは人間である。
問題は、その判断に至るまでの過程である。
本来、人間は、
・情報を集める
・比較する
・疑う
・仮説を立てる
・判断する
という過程を経て結論を出していた。
しかしAIによって、
「答えを探す」 「答えを受け取る」
という行動が容易になった場合、その途中の思考が省略される可能性がある。
---
3. 「馬鹿」とは何か
辞書的な意味を見ると、「馬鹿」には複数の意味がある。
・理解力や判断力が劣る
・常識が欠ける
・役に立たない
・程度が極端である
ここで注目すべきは「馬鹿正直」「馬鹿真面目」という使い方である。
これは能力不足ではない。
一つの価値観を疑わず、極端に適用してしまう状態を表している。
つまり、AI時代の「馬鹿」とは、
知識がない人ではなく、与えられた答えを疑えない人
なのではないか。
---
4. インターネット時代との共通点
かつてインターネットでは、
「嘘を嘘と見抜けない人は利用すべきではない」
という趣旨の言葉があった。
これは、情報社会では受け手側にも判断能力が必要だという意味である。
AI時代も同じである。
ただし、違いがある。
インターネットでは、
「情報が正しいか疑う」
ことが必要だった。
AI時代では、
「AIが出した答えそのものを疑う」
ことが必要になる。
---
5. AIを客観的意見として扱う危険性
人間は誰でもバイアスを持っている。
経験、環境、価値観によって判断は偏る。
しかし、そのバイアスは自分自身のものとして認識できる場合がある。
一方で、
「AIが言ったから客観的だ」
と考えると、新しい問題が生まれる。
AIも完全な中立ではない。
回答は、
・学習した情報
・質問の仕方
・前提条件
・設計思想
によって変化する。
AIは客観そのものではなく、判断を補助する道具である。
---
6. 問題はAIではなく、人間側の習慣
AIは人間を馬鹿にする道具ではない。
しかし、
「考える」という行為を簡単に代替できるため、思考を省略する習慣を生む可能性がある。
人間は昔から、
・権威がある
・多数派である
・時間がない
・面倒である
という条件が揃うと、疑うことをやめる傾向がある。
AIはその条件を非常に満たしやすい存在である。
---
7. 必要なのはAI禁止ではなくAI教育
だから必要なのは、AIを遠ざけることではない。
むしろ幼少期から、
・AIは間違えることがある
・AIの答えには前提がある
・複数の答えを比較する
なぜそう答えたのか考える
という教育を行うことである。
AIを使える能力ではなく、
AIを疑いながら使う能力
が必要になる。
---
8. 大人の役割とは何か
最後に、保守という言葉について。
保守とは「変化を拒むこと」ではない。
本当の保守とは、
未来を不確定すぎるものにしないために備えること
ではないか。
技術の進歩は止められない。
だから大人がするべきことは、未来を拒否することではなく、未来に備えて子どもたちに判断する力を渡すことである。
---
【メモ2】
AI時代に必要なのは「答え」より先に「接続確認」ではないか
1. 大人の会話は、多くを省略して成立している
人間は成長すると、会話の途中にある多くの工程を省略できるようになる。
例えば、
> 「例の件、あれで」
「了解」
という会話が成立するのは、双方に共通の経験や前提があるからである。
大人同士の会話では、
・相手が何を指しているか
・何を目的としているか
・どの前提で話しているか
を瞬時に補完している。
つまり、大人の会話では「認識の共有」が高速化されている。
---
2. 子供との会話では、まず接続確認が必要になる
幼児との会話では、この省略が成立しない。
子供：
> 「ミルクが欲しい」
親：
> 「今ないよ」
と答えると、大人から見れば正しい返答である。
しかし、子供が必要としている最初の段階は、解決ではない。
必要なのは、
> 「ミルクが欲しいんだね」
という返答である。
これは要求を叶えることではない。
「あなたの言葉を受け取りました」
「あなたと同じチャンネルに入りました」
という認識共有である。
その後で初めて、
> 「でも今はないんだ」
という現実の話が成立する。
---
3. AIは、この接続確認を飛ばして答えを出す
AIの大きな特徴は、曖昧な入力でも補完して答えを作れることである。
これは非常に便利である。
しかし同時に、
> 「理解した」
と人間側が錯覚する危険がある。
実際にはAIは、
「あなたの意図を完全に理解した」
のではなく、
「あなたの言葉から最も可能性が高い意味を推測した」
に近い。
---
4. 危険なのは大きな間違いではなく、小さなズレ
AIの回答が完全に間違っていれば、人間は気づく。
しかし問題になるのは、
・文章は綺麗
・論理も通っている
・ある程度正しい
という微妙なズレである。
人間は、
> 「まあ、だいたい合っている」
と受け入れてしまう。
その結果、本来考えるべきだった問いや違和感が、整えられた一般論の中に消えていく可能性がある。
---
5. 幼児はズレを許さない
興味深いことに、幼児は大人より会話のズレに敏感である。
大人なら、
「まあ、そういう意味で言ったんだろう」
と補完するところを、幼児は、
> 「違う！」
「そうじゃない！」
と反応する。
これは幼児が未熟だからではなく、まだ文脈補完による省略が発達していないため、純粋に「接続できているか」を確認しているとも考えられる。
---
6. AI時代の新しい思考習慣
AIを使う時、人間側に必要なのは、
「正しい答えを受け取る能力」
だけではない。
まず、
> 「自分が言いたかったことと、AIが受け取ったことは一致しているか」
を確認する能力が必要になる。
つまり、
AI時代に重要になるのは、答えを出す力だけではなく、チャンネルが正しく繋がっているか確認する力である。
---
これ、前半の「AIに判断を委ねる危険性」と繋げると、
・判断をAIに委ねる危険
・思考をAIに整理させる危険
・意図の共有をAIに任せる危険
という3段階の話になります。
そして面白いのは、最後の「幼児」の話が単なる育児話ではなく、人間が本来持っている会話の基本構造を見せているところですね。
……あと、このまとめを作る過程自体が、「AIは綺麗にまとめるけど、元の違和感を保持できているか確認が必要」という実例になっているのが、今回一番面白いところです（笑）。
【追記】
今回の執筆は、おおよそ次のような流れで進みました。
思考（自分）
↓
ジェミニと議論
↓
ChatGPTで問い直す
↓
ジェミニへ戻す
↓
ChatGPTで整理（12章メモ）
↓
ジェミニで再整理
↓
総括（自分）
↓
ChatGPTで整理
↓
ジェミニで最終執筆
AIからは、この過程を、
「二人の優秀な編集者（AI）に何度も原稿を読ませ、そのたびに『いや、そこじゃない』と作者が修正し続けた」
と評価されました。
確かに、その通りだと思います。
ただ、それでも最終執筆には、作者が感じる小さなズレが残ります。
AIで執筆するとは、そういうものなのかもしれません。
