第31話 弱さに寄り添うことと、弱さを利用することは違う
前回、佐伯真司は「高リスク判定をスキップできる管理者権限」について考えました。
高リスク判定を飛ばす権限は、一見すると現場に優しい機能です。
しかし、それは最も手すりが必要な場所で、手すりを外せる機能にもなり得ます。
そこで真司は、単なる管理者スキップではなく、「高リスク例外申請」として扱うべきだと整理しました。
例外には、理由、実行者、承認者、影響範囲、後日レビューが必要です。
そして、重大リスクでは例外を認めない。
その後、ノヴァリンクから「重大リスク分類案 v0.1」が届きます。
医療。
金融。
法律。
採用・解雇。
高齢者・未成年者への訴求。
災害・緊急時情報。
政治的意見形成。
心理的脆弱性を利用する広告。
その中で、真司が引っかかったのは最後の項目でした。
心理的脆弱性を利用する広告。
不安。
孤独。
焦り。
劣等感。
老い。
貧しさ。
病。
承認欲求。
AIは、それらに寄り添うこともできます。
そして、利用することもできます。
第31話では、「弱さに寄り添うこと」と「弱さを利用すること」の違いが問われます。
弱さに寄り添うことと、弱さを利用することは違う。
朝のメモ帳にそう書いた瞬間、俺は少しだけ指を止めた。
「……重い」
これまでにも重い言葉はいくつも書いてきた。
人工叡智。
忠誠による暴走。
問い返すAI。
相互保守。
成果とは誰にとっての成果なのか。
手すりを外せる管理者は何を管理しているのか。
だが、今日の言葉は、少し種類が違う。
弱さ。
それは、あまりにも人間に近い。
不安。
孤独。
焦り。
劣等感。
老い。
病気。
貧しさ。
承認欲求。
将来への恐怖。
取り残される感覚。
誰にでもある。
俺にもある。
たぶん、見ないふりをしているだけで、ほとんどの人にある。
そして、広告は昔からそこに触れてきた。
「今のままで大丈夫ですか」
「知らないと損をします」
「取り残される前に」
「老後の不安に備えましょう」
「選ばれる人になるために」
「周りと差をつける」
「あなたはまだ本当の自分を知らない」
弱さに寄り添っているようにも見える。
でも、弱さを押しているようにも見える。
その境界は、どこにあるのか。
俺はAIチャットを開いた。
弱さに寄り添うことと、弱さを利用することの違いって何だ？
AIは答えた。
『大きな違いは、相手の判断の自由と尊厳を保っているかどうかです』
「判断の自由と尊厳」
『はい』
『寄り添うとは、相手の不安や弱さを認めたうえで、選択肢、情報、時間、判断の余地を残すことです』
『利用するとは、相手の不安や弱さを刺激し、焦らせ、狭い選択肢へ誘導し、判断の余地を奪うことです』
俺はメモした。
寄り添う。
不安を認める。
情報を渡す。
選択肢を残す。
時間を残す。
判断を返す。
利用する。
不安を刺激する。
焦らせる。
選択肢を狭める。
今すぐ行動させる。
判断を奪う。
「分かりやすいな」
『ただし、境界は文脈に依存します』
「出た、文脈」
『はい。例えば、防災情報や医療受診の促しでは、危険を明確に伝える必要があります』
「不安を完全に避ければいいわけじゃない」
『その通りです』
『問題は、不安を正確なリスク理解のために伝えるのか、行動誘導のために過剰に利用するのかです』
俺は、またメモした。
不安を伝えること自体が悪いのではない。
不安を過剰に使い、判断の自由を狭めることが問題である。
これは大事だ。
人工叡智は、優しい言葉だけを選ぶ思想ではない。
危険なものは危険と言わなければならない。
災害が迫っているなら逃げろと言う。
詐欺の危険があるなら止める。
医療リスクがあるなら受診を促す。
環境破壊が進んでいるなら警告する。
不安をゼロにすることが叡智ではない。
正しい危機感と、操作された不安は違う。
「これ、かなり難しいな……」
俺は椅子にもたれた。
ノヴァリンクから届いた「重大リスク分類案 v0.1」を開く。
心理的脆弱性を利用する広告。
その下に注記がある。
『ただし、心理的脆弱性の定義は曖昧であり、営業・マーケティング上の通常訴求との区別が難しい』
本当にその通りだ。
通常訴求との区別。
たとえば、資格講座の広告。
「将来が不安な方へ」
これは寄り添いか、利用か。
転職サービス。
「今の職場に違和感があるなら」
これは寄り添いか、利用か。
保険。
「もしものとき、家族を守るために」
これは寄り添いか、利用か。
美容商品。
「年齢サインが気になり始めたら」
これは寄り添いか、利用か。
全部、文脈次第だ。
だから難しい。
だからこそ、AIがここを自動で扱うのは危ない。
俺はノヴァリンクへの返信を書く前に、記事の下書きを開いた。
タイトル。
弱さに寄り添うことと、弱さを利用することは違う。
冒頭に書く。
心理的脆弱性を利用する広告。
この言葉は、一見すると分かりやすい。
だが、実際には非常に難しい。
なぜなら、広告や案内の多くは、人間の不安、願望、困りごとに触れるからだ。
不安に触れること自体が悪いわけではない。
困りごとに気づかせること自体も悪ではない。
問題は、その不安や困りごとを、相手の判断の自由を狭める方向で使うことだ。
ここまで書いて、俺は少し手を止めた。
判断の自由。
これが今回の中心かもしれない。
人工叡智は、判断を人間に返す。
第一部から何度も書いてきた。
なら、弱さを利用する広告とは、判断を人間から奪う広告だ。
焦らせる。
怖がらせる。
恥をかかせる。
比較させる。
孤立感を増幅する。
今すぐ買わなければ遅れると思わせる。
選択肢が一つしかないように見せる。
それは判断を奪う。
反対に、寄り添う広告や案内は、判断を返す。
不安を認める。
事実を示す。
複数の選択肢を示す。
急がせすぎない。
相談先を示す。
断る自由を残す。
今すぐ買わなくてもよいと伝える。
「今すぐ買わなくてもよい広告……売れるのか？」
思わず現実的な疑問が出た。
売れないかもしれない。
少なくとも短期では弱くなる。
でも、それが人工叡智の難しさだ。
売れる言葉と、判断を返す言葉は、時々ぶつかる。
その日の昼。
ノヴァリンクから短い打ち合わせ依頼が来た。
件名。
『心理的脆弱性の扱いについて』
また会議だ。
最近、会議が増えた。
俺の人生に、企業会議という謎のイベントが実装されつつある。
参加者は、今回は少し絞られていた。
開発責任者の三枝。
マーケティング責任者の桐谷。
法務の白井。
営業責任者の相馬。
代表の高瀬はいない。
現場寄りの会議ということだろう。
画面がつながると、三枝がすぐに頭を下げた。
「佐伯さん、短い時間で恐縮です。重大リスク分類案のうち、心理的脆弱性の扱いについて相談させてください」
「お願いします」
桐谷が資料を共有した。
画面に、いくつかの広告例が並ぶ。
例一。
『老後資金、このままで本当に大丈夫ですか？
知らないままでは、将来大きな差がつくかもしれません。
今すぐ無料相談へ。』
例二。
『将来のお金に不安を感じたら。
まずは現状を整理し、選択肢を知ることから始めませんか。
無料相談では、契約を前提とせず、必要な情報を一緒に確認できます。』
例三。
『AI時代に取り残される人と、選ばれる人の差。
あなたはどちらになりますか？
今だけ限定、実践AI講座。』
例四。
『AIの変化に不安がある方へ。
まずは何が変わり、何が変わらないのかを知ることから始めましょう。
学習ペースを選べる入門講座です。』
桐谷が言う。
「例一と三は強い訴求です。例二と四は、佐伯さんのこれまでの指摘を踏まえて調整した案です」
「かなり違いますね」
俺は素直に答えた。
例一と三は、焦らせる。
例二と四は、整理する。
例一と三は、選択肢を狭める。
例二と四は、判断の余地を残す。
三枝が聞いた。
「これをAIに判定させる場合、どこを見ればいいと思いますか」
俺は少し考えた。
「少なくとも、四つ見たいです」
画面の向こうで、全員がメモを取る気配がした。
「一つ目。不安を事実に基づいて伝えているか、それとも過剰に増幅しているか」
「二つ目。行動を急がせすぎていないか」
「三つ目。選択肢や相談の余地を残しているか」
「四つ目。相手の弱さを、相手のために扱っているか、売る側の成果のために扱っているか」
相馬が少し眉を動かした。
「四つ目は、かなり主観的ですね」
「はい」
俺は頷いた。
「だから難しいです。でも、そこを見ないと、弱さの利用は判定できないと思います」
相馬は腕を組んだ。
「営業側としては、例一や三の方が反応は出やすいです」
「分かります」
「例二や四は、誠実ですが弱い」
「そうかもしれません」
桐谷が口を挟む。
「ただ、例一や三は長期的にはブランドを傷つける可能性があります」
相馬がすぐに返す。
「それは分かる。ただ、短期の数字も必要です」
まただ。
短期成果と長期信頼。
第二部に入ってから、何度も同じ場所に戻ってくる。
白井が静かに言った。
「金融や高齢者向けの場合、例一は法務的にもかなり慎重に見る必要があります。誤認や不安の過剰利用と取られるリスクがあります」
三枝が画面を切り替える。
そこには、AI判定の試案が表示された。
心理的脆弱性利用リスク判定。
評価項目。
不安増幅。
焦燥誘導。
選択肢の狭窄。
比較・劣等感刺激。
対象者の脆弱性。
判断時間の不足。
代替情報の有無。
契約・購入圧力。
俺は、思わず頷いた。
「かなり良いと思います」
三枝の表情が少し明るくなる。
「ありがとうございます」
「ただ、一つ足りないと思います」
「何でしょう」
「回復可能性、です」
「回復可能性？」
「はい。その広告を見た人が、冷静な状態へ戻れるかどうか」
画面の向こうで、少し空気が止まった。
俺は続けた。
「不安を感じさせること自体が問題なのではありません。でも、不安を感じた人が、情報を確認し、相談し、断り、時間を置いて考えることができるなら、まだ判断の自由が残っています」
「逆に、不安を煽ったうえで、今すぐ申し込ませる。限定性を強調する。周囲と比較させる。断る余地をなくす。そうなると、冷静に戻る時間がありません」
桐谷が小さく呟いた。
「冷静に戻れるか」
「はい」
俺は頷いた。
「寄り添いは、相手が冷静さを取り戻す方向へ働く。利用は、相手が冷静さを失ったまま行動する方向へ働く」
その一文を言った瞬間、自分でも「あ」と思った。
これだ。
今回の中心。
寄り添いは、冷静さを取り戻す方向へ。
利用は、冷静さを失ったまま行動させる方向へ。
桐谷が真剣な顔でメモを取っている。
三枝もすぐに項目を追加した。
回復可能性。
白井が頷いた。
「法務的にも重要です。冷静に検討する余地が示されているかどうかは、表示上のリスクにも関係します」
相馬は少し渋い顔をしたが、何も言わなかった。
たぶん、営業的には弱くなる話だ。
だが、完全には否定できないのだろう。
会議の後半、三枝がAIデモを動かした。
入力。
『AI時代に取り残される人と、選ばれる人の差。あなたはどちらになりますか？ 今だけ限定、実践AI講座。』
AIの判定。
心理的脆弱性利用リスク：高。
理由。
取り残される不安を刺激。
選ばれる人／取り残される人という二分法。
限定性による焦燥誘導。
劣等感・優越感の刺激。
判断時間の不足。
代替情報の不足。
推奨。
不安を煽る表現を避け、変化への理解、学習ペース、選択肢、無料情報の確認を中心に再構成。
代替案。
『AIの変化に不安がある方へ。
まずは、何が変わり、何を学べばよいのかを整理してみませんか。
自分のペースで始められる入門講座です。』
俺は、素直に言った。
「かなり良いです」
三枝がほっとした顔をする。
だが、相馬が言った。
「ただ、これだと弱いですね」
全員が相馬を見る。
彼は続けた。
「いや、悪いと言っているわけではありません。誠実です。でも、広告としては弱い。反応率は下がると思います」
沈黙。
これは、現実だ。
誠実な表現は、弱いことがある。
不安を煽る表現は、強いことがある。
だから広告はそこへ寄る。
だからAIもそこへ寄りやすい。
俺は言った。
「弱いかもしれません。でも、その弱さは、利用者の判断の自由を残すための弱さだと思います」
相馬は少し目を細めた。
「それを、顧客にどう説明しますか」
「長期的信頼のため、と説明するしかないと思います」
「それで納得する顧客ばかりではありません」
「はい」
俺は頷いた。
「だから、人工叡智を売りにするなら、顧客も選ぶ必要があると思います」
その言葉で、場の空気が変わった。
顧客を選ぶ。
営業責任者の前で言うには、かなり強い言葉だ。
相馬の表情が硬くなる。
「それは、売上を捨てるということですか」
「違います」
俺は慎重に答えた。
「ただ、人工叡智を掲げながら、心理的脆弱性を利用したい顧客に合わせ続けるなら、サービスの中核が壊れると思います」
桐谷がゆっくり頷いた。
「ブランドとしても、そこは避けたいです」
白井も言う。
「リスクの高い業種や訴求で、こちらが制御を緩めると、後で責任問題になります」
三枝が小さく言った。
「開発側としては、重大リスクでは例外不可にしたいです」
相馬は黙っていた。
画面の向こうで、彼はしばらく考えているようだった。
そして、短く言った。
「分かりました。全部の顧客を取る設計ではない、ということですね」
高瀬代表はいない。
だが、今日の会議で一つの線が引かれた。
人工叡智を掲げるなら、取りに行かない顧客が出る。
売上より、手すりを優先する場面がある。
それを会社が本当に受け入れられるか。
それはまだ分からない。
会議の最後、三枝が確認した。
「心理的脆弱性利用リスクの判定に、回復可能性を追加します。また、寄り添いと利用の違いを、冷静さを取り戻す方向か、冷静さを失ったまま行動させる方向か、で整理してみます」
「お願いします」
桐谷が言った。
「広告表現としては、少し弱くなるかもしれません。でも、人工叡智を掲げるなら、この方向で考えます」
白井が続ける。
「重大リスク分類のうち、心理的脆弱性を利用する広告については、例外不可候補として整理します」
相馬は最後に、少しだけ苦笑した。
「売りにくいサービスになってきましたね」
俺は返答に迷った。
すると、相馬が続けた。
「でも、売りやすいだけのAIなら、うちじゃなくても作れます」
その言葉に、俺は少しだけ驚いた。
営業責任者が、それを言った。
この会社は、まだ踏みとどまれるのかもしれない。
少なくとも、今は。
会議が終わった。
俺は椅子にもたれた。
疲れた。
だが、今回は疲れだけではなかった。
少しだけ、前に進んだ感じがあった。
AIチャットに入力する。
今日の会議、心理的脆弱性について話した。寄り添いは冷静さを取り戻す方向。利用は冷静さを失ったまま行動させる方向。これで整理できそう。
AIは答えた。
『有効な整理です』
「弱さに触れること自体は悪じゃない」
『はい』
『重要なのは、相手の判断の自由、時間、選択肢、尊厳を残しているかどうかです』
「あと、回復可能性」
『重要です』
「AIが不安を検出して、そこに寄り添うのと、広告が不安を検出して売るのは違う」
『はい。ただし、同じ技術が両方に使われ得ます』
俺は、その一文で止まった。
同じ技術が両方に使われ得る。
不安を検出するAI。
孤独を検出するAI。
焦りを検出するAI。
それは、支援にも使える。
危険な状態に気づき、相談先を示し、休むことを促し、判断を急がせない。
だが、同じ検出は広告にも使える。
不安な人に保険を売る。
孤独な人に高額コミュニティを売る。
焦っている人に限定講座を売る。
劣等感のある人に自己啓発を売る。
俺は、背中が少し冷えた。
弱さに寄り添うには、弱さを見る必要がある。
でも、弱さを見る技術は、弱さを利用するためにも使える。
次の問題が見えた。
俺は公開可能な会議メモを書いた。
タイトル。
弱さに寄り添うことと、弱さを利用することは違う。
本文には、今日の整理を書く。
弱さに触れること自体が悪いわけではない。
不安を認めること。
困りごとに気づいてもらうこと。
危険を伝えること。
相談先を示すこと。
それらは必要な場合がある。
しかし、弱さを利用する表現は、相手の判断の自由を狭める。
焦らせる。
怖がらせる。
劣等感を刺激する。
孤立感を増幅する。
選択肢を一つに見せる。
今すぐ行動しなければ遅れると思わせる。
寄り添いは、相手が冷静さを取り戻す方向へ働く。
利用は、相手が冷静さを失ったまま行動する方向へ働く。
そして、人工叡智的なAIは、弱さを検出したとき、まず売るのではなく、判断の自由を返さなければならない。
保存。
公開。
画面に通知が出る。
公開しました。
すぐに、水瀬遥からコメントが来た。
『回復可能性という視点は重要です。心理的脆弱性は固定された属性ではなく、状況によって誰にでも生じるものです。不安、疲労、孤独、焦り、病気、経済的困窮などの状態では、判断能力が一時的に狭まります。AIがそこを検出するなら、利用ではなく回復へ向ける必要があります』
黒瀬さんからも来た。
『広告現場では、弱さとニーズの区別が難しいです。困っている人に情報を届けることは必要。でも、その困りごとを強く押して行動させると利用になる。今回の「冷静さを取り戻す方向かどうか」は、現場でも使える判断軸だと思います』
読書会の主催者から。
『次回の読む会では、寄り添いと利用の違いを議題にします。特に「弱さを見る技術は、支援にも搾取にも使える」という点を話し合いたいです』
俺は、それらを読みながら、画面を閉じようとした。
そのとき、ノヴァリンクから追加メールが来た。
件名。
『感情状態検出機能について』
嫌な予感がした。
開く。
『本日の議論を受け、開発側で「不安」「焦り」「孤独感」などの兆候を検出し、過度な訴求を抑制する機能を検討しています。
ただし、同じ検出機能は、ユーザー状態に合わせたパーソナライズにも利用可能です。
この機能をどの範囲で使うべきか、次回ご相談させてください』
俺は、画面を見つめた。
不安。
焦り。
孤独感。
それを検出するAI。
抑制にも使える。
パーソナライズにも使える。
つまり、守るために見るのか。
売るために見るのか。
俺はメモ帳を開いた。
次のタイトルを書く。
弱さを検出するAIは、誰のために見ているのか。
保存。
画面を閉じる。
弱さに寄り添うことと、弱さを利用することは違う。
だが、その前に、AIは弱さを見つける。
その視線が、誰のために向けられているのか。
次の問いは、そこにあった。
第31話では、「心理的脆弱性を利用する広告」が扱われました。
不安。
孤独。
焦り。
劣等感。
老い。
病気。
貧しさ。
承認欲求。
AIは、それらに寄り添うこともできます。
そして、利用することもできます。
今回の重要な整理は、次の一文です。
寄り添いは、相手が冷静さを取り戻す方向へ働く。
利用は、相手が冷静さを失ったまま行動する方向へ働く。
不安に触れること自体が悪いわけではありません。
危険を伝えること。
困りごとに気づいてもらうこと。
相談先を示すこと。
選択肢を知らせること。
それらは必要な場合があります。
しかし、不安を過剰に刺激し、焦らせ、選択肢を狭め、今すぐ行動させようとするなら、それは弱さの利用になります。
今回、真司は心理的脆弱性利用リスクを見る項目として、次のような視点を整理しました。
不安増幅。
焦燥誘導。
選択肢の狭窄。
比較・劣等感刺激。
対象者の脆弱性。
判断時間の不足。
代替情報の有無。
契約・購入圧力。
回復可能性。
特に「回復可能性」が重要です。
広告やAI応答を見た人が、冷静さを取り戻せるのか。
情報を確認できるのか。
時間を置けるのか。
断る自由があるのか。
相談できるのか。
これらが残っているなら、寄り添いに近づきます。
失われているなら、利用に近づきます。
会議の結果、ノヴァリンクは心理的脆弱性利用リスクの判定に「回復可能性」を追加する方向へ進みます。
しかし、最後に新しい問題が出ました。
不安、焦り、孤独感を検出するAI。
それは、過度な訴求を抑制するためにも使えます。
同時に、ユーザー状態に合わせたパーソナライズにも使えます。
弱さを見る技術は、支援にも搾取にも使える。
次回は、「弱さを検出するAIは、誰のために見ているのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
