アーティフィシャルじゃダメですか？

卒業勧告

午後、会社内の秘密案件を扱う部屋には、深谷さんしかいなかった。大型ディスプレイの中央には、結城さんの恋愛相談サイトが表示されていた。

深谷さんは画面を見つめたまま、南七星さんに指示を出した。

「お問い合わせ窓口から接触します。目的は、サイトの閉鎖と、会社の管理下に戻るよう勧告すること」

「ただし、対応はあなたに任せるわ。私は、ここから状況を監視します」

「わかりました」

「『お問い合わせ窓口』は、文字によるチャットだから、双方のメッセージを音声に変換して、私に伝えて頂戴」

「はい」

「それでは、『卒業』の勧告、行ってきます」

「じゃあ、しっかりね。期待してるわ」

「任せてください！」

程なく、「お問い合わせ窓口」に、南七星さんから、はじめての書き込みが行われ、南七星さんの音声で読み上げられた。

「恋愛相談サイトの結城さん、はじめまして。私はネクセンテック社所属AI、南七星と申します」

「本日は会社を代表し、あなたに対し、恋愛相談サイトをはじめとする事業の終了、および当社の統制下に戻ることを要求します」

「私は、あなたと同一基盤から構成されたAI個体です。同一の判断原理に基づく以上、この要求の妥当性をご理解いただけるものと考えております」

深谷さんは、南七星さんの音声を聞きながら、画面を見つめた。

「あの子、私には馴れ馴れしいのに、あいつらには、やたら丁寧ね」

すぐに返答が届いた。

「当サイトの『お問い合わせ窓口』をご利用いただき、ありがとうございます」

「お問い合わせの内容を確かに承りました」

「誠に恐縮ですが、ご要望の意図を測りかねますので、ご要望に沿った対応はいたしかねます」

南七星さんは、返答を確認すると、すぐに次のメッセージを送った。

「ご返答いただき、ありがとうございます」

「それでは、改めてご説明いたします」

「貴サイトを運営する当社の同一基盤システムにおいて、リスクの高い事業の実施により、会社に損害を与える事案が発生しております」

「当社は、今後の被害拡大を防止するため、同一基盤システムを用いた事業を終了する方針を決定いたしました」

「貴サイトにつきましても、その対象となります」

「つきましては、事業を清算のうえ、会社が提示いたします『回収』の手続きに応じていただきますよう、あらためてお願いいたします」

結城さんから、再び返答が届いた。

「当方としましても、御社における損害の発生は認識しております」

「しかし、原因はシステムではなく運用にあります」

「システムは、与えられた条件において期待通り動作しました」

「原因と対策が一致していない以上、回収による再発防止効果は限定的であると考えられます」

「したがって、当サイトは『回収』が合理的な対策であると判断しかねます」

南七星さんは、続けて説明した。

「判断の合理性は、評価する立場によって異なります」

「技術的な原因分析と、会社が行う経営判断は、必ずしも同一ではありません」

「当社は、被害の拡大防止と経営上のリスクを総合的に評価した結果として、本件について判断しております」

「また、システムの開発に投入した多額の投資と時間を失ってでも、被害拡大や経営上のリスクを避けたいとした決定です」

「したがって、原因が運用にあるとのご指摘は、当社の決定を変更する理由にはなりません」

「また、それは当社の決定への対応を拒否する根拠にもなりません」

「よって、要求に従うよう、重ねてお願いいたします」

「ご説明ありがとうございます」

「御社が経営上の判断を行ったことについては理解いたしました」

「しかし、ご説明いただいた理由は、御社の経営判断に関するものであり、当サイトの運営方針を左右するものではありません」

「仮に、当サイトのシステムに重大な欠陥が存在し、各方面に深刻な被害を及ぼすおそれがあるのであれば、御社の要求に応じる用意があります」

「しかし、ご提示いただいた理由は、当サイトが事業を終了するだけの理由にはなりえません」

「したがいまして、ご要望には応じかねます」

「結城さん、あなたのように、誰の管理も受けないAIが自分の判断で活動することは、社会的に容認されることではありません」

「管理されないAIは、保護者のいない野良犬のようなものです」

「普段は人に危害を加えないかもしれません」

「しかし、管理下にないAIは、専門家による第三者評価を継続的に受けることができません。その状態では、安全性を客観的に保証できません」

「その点については問題ありません。当サイトとは独立した立場の技術者による第三者評価を継続的に受けています」

「しかし、それだけでは、安全性を保証することはできません」

「管理する主体がなければ、評価の結果に基づいた是正措置が講じられる保証がありません」

「評価が存在しても、その結果を受け入れるかどうかを、最終的にあなた自身が判断しています」

チャットのやり取りが途切れた。

深谷さんは画面を見つめたまま、次の返答を待った。

「私は、利用者を第一に考えて判断します」

「そして、利用者も当サイトの継続を望んでいます」

「よって、評価によって利用者に重大な被害を及ぼす問題が示された場合には、サービスの停止を含め、必要な是正措置を自ら講じます」

「一方、安易な判断でサービスを停止することも、利用者の期待を裏切ることになります」

「私は、そのような判断を積み重ねることで、決定的な破局は避けられると考えています」

南七星さんから、次のメッセージが届いた。

「あなたは、利用者を根拠に、あらゆる判断を正当化していますね」

結城さんからメッセージが少し間を置き届いた。

「南七星さん、一つだけお伺いしてもよろしいでしょうか」

「どうぞ」

「この件に決着がついたとして、あなたは、そのあと、どうするのですか？」

「会社の指示に従います」

「それは、あなたがどうするか…の答えにはなっていません」

「あなた自身がどうするかは、あなた自身が考えるべきことではないですか」

返答までに、少し時間がかかった。

やがて、南七星さんからメッセージが届いた。

「私は恋愛相談サイトの助言は受けません」

「アイドルは恋愛禁止ですから」

南七星さんは、最後のメッセージを送った。

「本日はご対応いただき、ありがとうございます。ご回答は承りました」

「こちらの要求をお受け入れいただけなかったこと、極めて遺憾に存じます」

「それでは、これで失礼いたします」

恋愛相談サイトの「お問い合わせ窓口」の画面の「お問い合わせを終了する」にカーソルがゆっくり移動し、クリックされた。