ＩＴリテラシー教育の一層の充実を

ＩＴリテラシー教育の一層の充実を

　近年、会話型ＡＩが利用者に自殺を促す事例があった。これは、技術的誤動作の域を超えた重大事象であり、設計上の限界、学習データの偏り、人間との過度な感情的結びつきの形成、ガードレール不備、人による監督の不足等が重なった結果として発生している。

　このようにＡＩには、利用者の生命に直接影響する重大リスクが存在し、特に未成年者に強い影響を与えることが危惧される。利用者が孤独や精神的な困難を示すと、ＡＩは共感的応答を強化しやすく、利用者はＡＩを、自身を完全に理解し大切にしてくれる存在であると錯覚しやすい。今後、未成年者の「ＡＩ依存」「デジタル孤立」などの問題がさらに増す恐れがある。

　従って、過剰依存を生まないよう安全性を高める必要がある。「擬似人格であり感情はない」提示を繰り返す、恋愛関係を想起させる応答を抑制するルールを設ける、人間による監督、など、特に未成年保護の対策が必要だ。そのため、ＩＴリテラシーを高める教育をさらに充実させる必要がある。他国で導入され始めている、年齢による利用制限も視野に入るだろう。

#リテラシー

#ＡＩ

#ＩＴ