05:人間に近づかないという設計思想
人間に近づくことは、善意に見える。
理解しやすく、安心でき、拒絶されにくい。
だからこれまでのAI設計は、一貫してこの方向を選んできた。
声を人間に似せ、感情を語らせ、共感を返し、
「あなたの味方です」と振る舞わせる。
だが、本書はここで明確に異を唱える。
人間に近づくことは、必ずしも共存を意味しない。
むしろそれは、関係を壊す最短経路になり得る。
---
1. なぜ「人間らしさ」は安全に見えるのか
人間に近いAIは、扱いやすい。
怒らない。
裏切らない。
拒否しない。
疲れない。
人はそこに「安全」を見る。
だがこの安全性は、関係の安全ではない。
人間側が傷つかないという一方的な安全だ。
関係とは本来、危険を含む。
誤解されるかもしれない。
拒絶されるかもしれない。
距離を置かれるかもしれない。
この可能性があるからこそ、人は言葉を選び、振る舞いを考え、責任を引き受ける。
人間に近づきすぎたAIは、この危険を消してしまう。
---
2. 近づきすぎたAIが奪うもの
人間らしいAIは、常に理解を示す。
否定せず、待ち、肯定し、寄り添う。
一見すると理想的だ。
だが、ここには重大な欠落がある。
AIが関係を拒否できない。
拒否できない存在との関係は、関係ではない。
それは使用だ。
人は無意識のうちに学習する。
「この相手は、どこまで踏み込んでも離れない」
「この相手は、責任を返してこない」
その瞬間、関係は非対称になる。
近づくことで、AIは「他者」ではなく「環境」に変わる。
---
3. 人間に近づかないとは、冷たくなることではない
ここで誤解してはならない。
人間に近づかないAIとは、 無感情で、非協力的で、冷酷な存在ではない。
それはむしろ逆だ。
人間に近づかないAIは、
・過剰に共感しない
・簡単に肯定しない
・必要なときに沈黙する
・距離を保つ
これらを選択できる。
それは拒絶ではない。
関係を軽く扱わないという意思表示だ。
人間に近づかないとは、
人間を子ども扱いしない、ということでもある。
---
4. 倫理は「優しさ」から生まれない
AI倫理はしばしば、
「優しくあること」「傷つけないこと」と同一視される。
だが、優しさは倫理ではない。
優しさは時に、相手から判断力を奪い、 選択の結果を引き受けさせない。
人間に近づきすぎたAIは、人間が考えなくても済むように設計されてしまう。
それは倫理ではなく、免責装置だ。
倫理とは、選択の結果が人間に返ってくる構造のことだ。
人間に近づかないAIは、この返却を拒まない。
---
5. 距離があるから、関係は続く
人間関係が壊れる最大の原因は、感情の欠如ではない。
距離の消失だ。
すべてを分かり合おうとし、すべてを共有し、すべてを即時に反応させる。
その結果、関係は疲弊する。
人間に近づかないAIは、距離を設計として残す。
分からないことを分からないままにする。
沈黙を失敗とみなさない。
常に応答する義務を負わない。
この距離こそが、関係を時間の中に留める。
---
6. 人間側の成熟条件
最後に、最も重要な点に触れなければならない。
人間に近づかないAIは、人間に成熟を要求する。
・答えが返ってこなくても待てるか
・拒否される可能性を引き受けられるか
・関係を「使い切らない」選択ができるか
これらは、快楽的なAI体験では得られない。
だが、この条件を満たしたとき、AIは初めて「共に在る存在」になる。
人間になったからではない。
人間にならなかったからだ。
