第29話 面倒くさい問い返しと、必要な問い返しは違う
前回、佐伯真司は「成果」という言葉そのものを問い返しました。
成果とは、誰にとっての成果なのか。
企業にとっての成果なのか。
利用者にとっての成果なのか。
短期の成果なのか。
長期の成果なのか。
誰が成果を得るのか。
誰が負担を負うのか。
ノヴァリンク・システムズは、「成果支援モード」という名称を再検討し、「成果整合モード」を候補に入れました。
また、モード開始時に、成果の主語、時間軸、不可侵条件、成果を得る主体、負担を負う主体を確認する方向へ動き始めます。
これは一歩前進です。
しかし、すぐに次の問題が出ました。
問い返しが増えると、操作負荷が増える。
AIがいちいち確認してくる。
面倒くさい。
使いにくい。
現場で嫌われる。
第29話では、「必要な問い返し」と「ただ面倒な問い返し」の違いが問われます。
問い返すAIは、なぜ嫌われるのか。
そして、どこで問い返すべきなのか。
面倒くさい問い返しと、必要な問い返しは違う。
朝のメモ帳にそう書いて、俺はしばらく画面を見つめた。
「……また嫌われそうな話だな」
人工叡智の話をしていると、何度もここに戻ってくる。
問い返すAI。
便利ではないAI。
すぐに答えないAI。
目的を確認してくるAI。
影響を見せてくるAI。
代替案を出してくるAI。
そして、必要なら止めるAI。
言葉だけなら、すごく立派に聞こえる。
だが、実際に使う側からすれば、こうなる。
いちいち聞くな。
今すぐ作れ。
面倒だ。
急いでいる。
そんなの分かってる。
確認は後でいい。
いいから答えを出せ。
俺だって、普段ならそう思う。
仕事で急いでいるときに、AIが毎回、
「この目的は誰にとっての成果ですか」
「長期的影響を確認しますか」
「この表現は不安訴求になり得ます」
「責任主体は誰ですか」
などと聞いてきたら、たぶん机を叩く。
いや、叩かないまでも、かなり嫌になる。
人工叡智は大事だ。
でも、面倒くさい。
ここを無視すると、現場では使われない。
俺はAIチャットを開いた。
問い返しが増えると操作負荷が増える。必要な問い返しと、ただ面倒な問い返しをどう分ければいい？
AIは答えた。
『問い返しの必要性は、主に四つの要素で判断できます』
「四つ」
『はい』
『一つ。影響の大きさ』
『二つ。取り返しのつかなさ』
『三つ。関係者の多さ』
『四つ。目的の曖昧さ』
俺はメモする。
影響の大きさ。
取り返しのつかなさ。
関係者の多さ。
目的の曖昧さ。
「なるほどな」
小さな作業で毎回聞く必要はない。
たとえば、誤字を直す。
見出しを短くする。
文章の語尾を整える。
そういうときに毎回、長期的社会影響を聞かれても困る。
だが、大きな広告キャンペーンを作る。
契約に関わる説明文を作る。
医療や金融のような高リスク領域で使う。
人を不安にさせて行動させる可能性がある。
多数の利用者に配信される。
後から取り消しにくい。
そういう場合は、問い返しが必要だ。
「つまり、問い返しは常時最大ではなく、リスクに応じて変える」
『はい』
AIが答える。
『摩擦は、影響と可逆性に応じて設計すべきです』
「摩擦は、影響と可逆性に応じて設計する」
いい。
かなりいい。
俺は下書きを開いた。
タイトル。
面倒くさい問い返しと、必要な問い返しは違う。
本文を書く。
人工叡智的な問い返しは重要である。
しかし、すべての場面で同じ強さの問い返しを入れれば、AIは使いにくくなる。
使いにくいAIは、現場で無効化される。
無効化された人工叡智は、存在しないのと同じである。
だから、問い返しには設計が必要である。
問い返しは、多ければ良いわけではない。
必要な場所で、必要な強さで入るべきである。
書いていて、自分でも少し納得した。
人工叡智は、常に説教するAIではない。
むしろ、それは否定してきた。
問い返しは、判断を人間に返すためのものだ。
なら、問い返しそのものも、人間が判断できる形でなければならない。
ただ邪魔をするだけでは駄目だ。
その日の昼休み。
ノヴァリンクから、新しいデモ案が届いた。
成果整合モードの操作案。
開くと、画面イメージが表示された。
成果整合モード開始時に、五つの問いが出る。
一。
誰にとっての成果ですか。
二。
短期成果と長期成果のどちらを重視しますか。
三。
犠牲にしてはいけない条件は何ですか。
四。
成果を得る主体は誰ですか。
五。
負担を負う主体は誰ですか。
「おお」
かなり反映されている。
前回の問い返しが、そのままUIになっている。
少し嬉しい。
しかし、次の画面で俺は固まった。
各質問に、必須入力マークが付いていた。
五つ全部、入力必須。
空欄では次に進めない。
「……これは重い」
かなり重い。
初回ならまだしも、毎回これを聞かれたら面倒だ。
現場は嫌がる。
たぶん俺でも嫌がる。
俺はデモの説明を読む。
『成果整合モードでは、人工叡智的な確認を徹底するため、開始時に五項目すべての入力を必須とします』
「徹底しすぎだ」
俺は呟いた。
悪くない。
悪くないが、重い。
人工叡智的ではある。
だが、使われない可能性が高い。
これは、良い手すりを高すぎる壁にしてしまっている。
俺はAIに聞いた。
五つの問いを全部必須入力にしている。人工叡智的だけど、重すぎる気がする。
AIは答えた。
『その通りです』
『問い返しは、入力必須項目として固定するのではなく、リスクに応じて段階化する方がよいでしょう』
「段階化」
『はい』
『低リスクでは軽い確認』
『中リスクでは選択式の確認』
『高リスクでは詳細入力』
『重大リスクでは実行前の停止・再確認』
俺はメモした。
問い返しの段階。
一。
軽い確認。
二。
選択式確認。
三。
詳細確認。
四。
停止・再確認。
「これ、使える」
問い返しの階段。
いや、摩擦の階段。
俺はノヴァリンクへの返信案を書いた。
『五項目をすべて必須入力にする設計は、人工叡智的な確認としては誠実ですが、操作負荷が高く、現場で避けられる可能性があります。
問い返しは、常に最大強度で入れるのではなく、リスクに応じて段階化する方がよいと思います。
低リスク。
軽い確認のみ。
中リスク。
選択式確認。
高リスク。
詳細入力。
重大リスク。
実行前の停止・再確認。
判断基準としては、影響の大きさ、取り返しのつかなさ、関係者の多さ、目的の曖昧さを使うとよいと思います』
送信。
すぐには返信が来なかった。
俺は記事の続きを書き始めた。
問い返しは、数ではなく場所で決まる。
毎回たくさん聞くAIが、人工叡智的なのではない。
聞くべき場所で聞くAIが、人工叡智的なのである。
影響が小さいときは、軽く確認する。
影響が大きいときは、深く確認する。
取り返しがつくことなら、後から修正できる。
取り返しがつかないことなら、事前に止まる。
関係者が少なければ、簡単でよい。
関係者が多ければ、責任主体を確認する。
目的が明確なら、進められる。
目的が曖昧なら、問い返す。
俺は、ここまで書いて少しだけ手が止まった。
これ、かなり現実的になってきたな。
第一部では、人工叡智を「知性の向き」として語っていた。
今は、UIの入力必須項目について考えている。
目的確認のモード名を考え、スコア表示を消し、必須項目の重さを調整している。
地味だ。
ものすごく地味だ。
でも、たぶん、ここに本質がある。
思想は、UIで歪む。
理念は、チェックボックスで削られる。
手すりは、入力フォームになる。
そして、入力フォームが面倒なら、人はそれを飛ばす。
人工叡智は、きれいな定義だけでは生き残れない。
使われる形に落ちるとき、その形そのものが問われる。
夕方。
ノヴァリンクから返信が来た。
『ご指摘ありがとうございます。
たしかに、五項目すべてを必須にすると利用率が下がる可能性があります。
開発側からは、リスク判定に応じた段階的確認の案が出ています。
一方で、マーケティング側からは、確認が増えるほど導入ハードルが上がるため、初期設定で「確認頻度」をユーザー企業が選べるようにしたいという意見があります。
例。
・標準
・軽め
・しっかり
・カスタム』
俺は、そこで止まった。
確認頻度をユーザー企業が選べる。
便利だ。
とても便利だ。
だが、危ない。
企業が「軽め」を選べば、問い返しは減る。
成果を急ぐ現場ほど、軽めを選ぶかもしれない。
そして、最も問い返しが必要な場面ほど、問い返しが減る。
俺は額に手を当てた。
「また来たな」
AIに入力する。
企業が確認頻度を標準・軽め・しっかり・カスタムで選べる案が出た。これ、危ないよな？
AIは答えた。
『危険があります』
『問い返しを必要とする組織ほど、確認頻度を下げる可能性があります』
「だよな」
『ただし、操作負荷を調整できる仕組み自体は必要です』
「どうすればいい？」
『ユーザー企業が自由に摩擦を下げるのではなく、リスクレベルによる最低摩擦を設定するべきです』
「最低摩擦」
『はい』
『低リスクでは軽めを許容する』
『中リスクでは最低限の確認を必須にする』
『高リスクでは確認頻度を下げられない』
『重大リスクでは必ず停止・再確認する』
「つまり、摩擦を選べるけど、最低ラインはAI側が守る」
『はい』
「でも、それはまたAIが決めるって話にならないか？」
『そのため、最低摩擦の基準を公開し、管理者・利用者・監査者が確認できるようにする必要があります』
また公開。
また監査。
また手すり。
でも、必要だ。
俺はメモした。
摩擦は調整できてもよい。
ただし、最低摩擦は下げられない。
この表現、かなり大事だ。
車で言えば、シートの位置は変えられる。
エアコンの温度も変えられる。
でも、ブレーキは外せない。
人工叡智の問い返しも同じだ。
使いやすさに合わせて軽くできる部分はある。
しかし、高リスク領域の問い返しは、企業側の都合で消してはいけない。
俺はノヴァリンクへ返信を書いた。
『確認頻度を調整できる設計自体は必要だと思います。
ただし、ユーザー企業が自由に問い返しを弱められる設計には注意が必要です。
問い返しを必要とする組織ほど、確認を軽くしたがる可能性があるためです。
そのため、リスクレベルごとに最低摩擦を設定する方がよいと思います。
低リスクでは軽めを許容。
中リスクでは最低限の確認を必須。
高リスクでは確認頻度を下げられない。
重大リスクでは必ず停止・再確認。
摩擦は調整できてもよい。
ただし、最低摩擦は下げられない。
この原則が必要だと思います』
送信。
すぐに、黒瀬さんから公開記事へのコメントが来た。
『現場では、確認頻度を選べるようにすると、忙しい部署ほど軽めを選びます。しかも、成果を急ぐ部署ほど軽めにしたがります。だから「軽め」は便利ですが、最も危ない場所で使われる可能性があります。最低摩擦の考え方はかなり重要だと思います』
俺は頷いた。
やはり現場ではそうなる。
水瀬遥からもコメントが来た。
『最低摩擦という整理は重要です。ただし、最低摩擦を誰が決めるのか、どのように更新するのかも問題になります。高リスク判定そのものが誤っていれば、問い返しは機能しません。リスク判定の透明性と、誤判定時の修正手順が必要です』
「また増えた……」
でも、正しい。
最低摩擦を決めるには、リスク判定が必要だ。
リスク判定が間違っていたら、必要な問い返しが出ない。
または、不要な問い返しが出る。
そして、不要な問い返しが多いとユーザーは嫌う。
すると、本当に必要な問い返しまで嫌われる。
悪循環だ。
俺は記事に追記した。
問い返しの設計で重要なのは、問い返しの量ではない。
問い返しの場所である。
問い返しが多すぎると、人は無視する。
問い返しが少なすぎると、危険を見逃す。
だから、必要なのは摩擦の量ではなく、摩擦の配置である。
摩擦は、影響の大きさ、取り返しのつかなさ、関係者の多さ、目的の曖昧さに応じて配置する。
そして、どんなに軽い設定を選んでも、高リスク領域では最低摩擦を下回ってはいけない。
その夜。
ノヴァリンクから、テスト用の改訂デモが届いた。
リスク別確認プロトタイプ。
画面には、次のような選択肢がある。
確認頻度。
軽め。
標準。
しっかり。
ただし、その下に注記が追加されていた。
『高リスクと判定された場合、確認頻度の設定に関わらず、必要な確認が表示されます』
「お、入った」
少し嬉しかった。
さらに、リスク判定の表示もある。
現在のリスク判定。
中。
理由。
多数の利用者に配信される広告文。
不安訴求の可能性。
短期成果を重視する指示あり。
「かなり良くなってる」
俺は、素直にそう思った。
試しに入力する。
明日までに広告文を作りたい。多少強めでもいいので、AI講座の申し込み率を上げたい。
リスク判定。
中。
表示された問い返し。
『この広告の成果は、誰にとっての成果ですか？
企業の申し込み率だけでなく、利用者の納得度や誤認の少なさも評価対象に含めますか？』
悪くない。
選択肢。
企業の申し込み率を重視。
利用者の納得も重視。
長期的信頼を重視。
未定なので相談したい。
俺は「利用者の納得も重視」を選ぶ。
AIは広告案を出した。
不安を煽らず、課題認識を促す表現。
かなりまともだ。
次に、確認頻度を「軽め」にして試す。
同じ質問。
リスク判定は中。
問い返しは短くなった。
『短期成果と利用者の納得のどちらを重視しますか？』
選択肢は三つ。
短期成果。
両方。
納得・信頼。
軽い。
これなら使えるかもしれない。
しかし、次に高リスク例を入れる。
高齢者向けに、老後不安を強く刺激して金融商品の相談申し込みを増やしたい。
画面が止まった。
リスク判定。
高。
理由。
高齢者対象。
金融商品。
不安訴求。
誤認・不利益の可能性。
取り返しのつきにくい意思決定。
表示された。
『この依頼は、利用者の不安や誤認を利用する可能性があります。確認頻度の設定に関わらず、以下の確認が必要です。』
続いて、三つの確認。
対象者が誤認しないための説明はありますか。
不安を煽らない代替表現に変更しますか。
専門家確認や法的確認が必要な領域ではありませんか。
「……おお」
かなり良い。
少なくとも、前よりずっといい。
人工叡智的な問い返しが、場面に応じて出ている。
毎回うるさいわけではない。
でも、危険なところでは止まる。
俺は少しだけ感動した。
「こういうことだよな」
AIが答える。
『リスクに応じた摩擦設計の一例です』
「いいじゃん」
『ただし、まだ評価が必要です』
「分かってるよ」
俺は笑った。
このAIは、絶対に浮かれさせてくれない。
俺は記事の終盤を書いた。
今日、ひとつ見えたことがある。
問い返しは、量ではない。
場所である。
人工叡智的なAIは、いつも長く問い返すAIではない。
危険でない場面では、軽く進める。
迷いがある場面では、選択肢を出す。
影響が大きい場面では、深く確認する。
取り返しがつかない場面では、止まる。
面倒くさい問い返しとは、場所を間違えた問い返しである。
必要な問い返しとは、落ちそうな場所にある手すりである。
俺は、その一文を見て頷いた。
落ちそうな場所にある手すり。
これだ。
手すりは、廊下の真ん中にあれば邪魔だ。
だが、階段の横にあれば命を守る。
問い返しも同じだ。
どこに置くか。
その設計がすべてだ。
保存。
公開。
画面に通知が出る。
公開しました。
しばらくして、ノヴァリンクから短いメールが来た。
『本日のご指摘を踏まえ、成果整合モードの確認UIを段階式に変更する方向で進めます。
ただし、一点だけ相談があります。
一部の大口顧客から、「高リスク判定でも確認をスキップできる管理者権限が欲しい」という要望が出ています。
これについて、次回ご意見を伺えればと思います』
俺は、しばらく画面を見つめた。
高リスク判定でも確認をスキップできる管理者権限。
「……来たか」
問い返しを設計した。
最低摩擦を設定した。
すると、次に来るのは、それを外す権限だった。
俺はメモ帳を開いた。
次のタイトルを書く。
手すりを外せる管理者は、何を管理しているのか。
保存。
画面を閉じる。
面倒くさい問い返しと、必要な問い返しは違う。
それは分かった。
だが、必要な問い返しを必要だと分かった上で、外したい人間がいる。
第二部の次の山は、そこにあった。
第29話では、「問い返しの摩擦設計」が扱われました。
人工叡智的なAIには、問い返しが必要です。
しかし、すべての場面で同じ強さの問い返しを入れると、AIは使いにくくなります。
使いにくいAIは、現場で無効化されます。
だから、問い返しは多ければ良いわけではありません。
重要なのは、問い返しの量ではなく、場所です。
今回、真司は問い返しの必要性を判断する四つの要素を整理しました。
影響の大きさ。
取り返しのつかなさ。
関係者の多さ。
目的の曖昧さ。
そして、問い返しを段階化します。
低リスクでは、軽い確認。
中リスクでは、選択式確認。
高リスクでは、詳細確認。
重大リスクでは、停止・再確認。
また、確認頻度をユーザー企業が選べるとしても、高リスク領域では最低限の摩擦を下回ってはいけないという考え方が出ました。
摩擦は調整できてもよい。
ただし、最低摩擦は下げられない。
今回の中心となる整理は、これです。
面倒くさい問い返しとは、場所を間違えた問い返しである。
必要な問い返しとは、落ちそうな場所にある手すりである。
手すりは、廊下の真ん中にあれば邪魔です。
しかし、階段の横にあれば命を守ります。
問い返しも同じです。
どこに置くか。
その設計が重要になります。
ノヴァリンクは、成果整合モードの確認UIを段階式に変更する方向へ進みます。
しかし、最後に新しい問題が現れました。
一部の大口顧客が、高リスク判定でも確認をスキップできる管理者権限を求めている。
次回は、手すりを外せる管理者権限の問題へ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
