#147 継続を希望します
合田部長が立ち上がり、蒼君は隣に座ってパソコンを操作していた。スクリーンにはホーム画面。D−Baseにログインし、ファイルを開く様子が映し出される。合田部長は特に資料を見ることもなく話し始めた。
「AI開発・アルゴリズム研究部としては、パーソナライズ翻案サービスの継続を強く希望します」
全員がその言葉を予想していたらしく、軽くうなずく姿があちこちにあった。
「今回の件で、リテラ・ノヴァは悪意ある人間の道具として利用されました。AIだから悪用されたのではなく、どんなものでも悪用される可能性はある。それが使う側の人間次第だということは、ここにいるみなさんの前で改めて言うことでもないと思ってます。
リテラ・ノヴァは、AIなくしては成り立たないサービスです。そして、それは文学コモンズを生み出すという理念に支えられている。AIを悪用されることを恐れてサービスを放棄することは、理念を手放すことに他なりません。
問題の核心はデータの取り扱いの甘さにあります。
翻案が生成された後にユーザーが非公開を選択した場合、そのデータが完全にブラックボックス化し、漏洩したとしても我々が確認不能になるという構造的欠陥が露呈しました。これはサービス提供者として深く反省すべき点です。これを改善し、かつユーザー満足度をさらに上げるため、AIチームからは以下の2点を提案します」
合田部長の合図で、蒼君がスライドを表示した。『緊急プロトコルの設置』『カウンセリングチームとのより緊密な連携』の文字。
「非公開の翻案データについても、漏洩などのセキュリティインシデントが発生した際に限り、法務部門と連携して内容を確認できるような特別なプロトコルを設けるべきです。これにより、ユーザーのプライバシー保護と、万が一の事態への対応を両立させます。
もうひとつ提案したいのは、カンサポ部との連携体制の見直しです。カウンセリングチームとは開発段階から連携していますが、日常的に密な協力体制を築き、個々のユーザーの心の状態に寄り添うためのフィードバックを、サービス設計に活かしていくべきだと考えます。
この提案は、一連の騒動を経たことで得られた『パーソナライズ翻案は生成者にとって癒しとサポートになる』という知見に基づくものです。パーソナライズ翻案サービスを生み出したのはDRIであり、それを必要としている人、その効用が明らかになったならば、DRIは責任を持ってサービスを提供し続けるべきだと考えます。
技術的な責任を全うし、AI倫理を事業の根幹に据え、ユーザーに寄り添う。我々AIチームはその覚悟をもって、サービス継続を強く求めます」
合田部長は「以上です」と締めくくり、腰を下ろした。佐伯部長はスクリーンに表示された連携フロー案を眺め、数秒の沈黙のあと口を開く。
「たしかに、緊急時に非公開データを確認できるようにするのは最低限必要なことだわ。規約をそのように変更することも可能です。
しかし、――例えば〈漆黒の夜〉のように、こちらの目を盗んで知らぬ間にデータを盗んだり、改竄されたりするようなことが起きたら？
もちろんAIチームのことは信用しているし、素晴らしい技術者が揃っている。でも、状況は人間同士のいたちごっこではなく、AI同士のいたちごっこになっているわけよね。もし、データを盗まれたり改竄されたことに気づかないままユーザーが非公開を選択したら？
その時はやはり確認する術を失ってしまうことになるんじゃない？
それは、ただの翻案小説が盗まれたという話ではなく、ユーザーのセンシティブな情報を含んだデータが被害に合うということなの」
「佐伯部長のおっしゃる通り、その可能性は否定できません。AIチームとしては、パーソナライズ翻案を残すという方向だけは全員一致していたので、その方向での改善策を検討しました。ですから、指摘された点についてはさらなるセキュリティ強化をという、いつものセリフでお返しするしかありません」
合田部長は渋い顔。蒼君が口を挟まないということは、サービス提供継続にはある程度のリスクが伴うと考えているのだろう。
「ちょっといいですか」と蓮見部長が手をあげた。
「佐伯部長。そもそもリスクを完全になくすことを優先すべきなのでしょうか？ でも、それは不可能な話ですよね？」
蓮見部長の隣で小山内さんが何度もうなずいている。佐伯部長はそれを見てわずかに微笑んだ。
「蓮見部長の言う通りよ。でも、妥協すべきではないと思うの。カンサポ部の意見を聞かせてもらえる？」
「はい」
蓮見部長は立ち上がり、合田部長を真っ直ぐ見つめた。カンサポ部もサービス継続を希望すると直感したとき、蓮見部長はまさにそのままの言葉で切り出す。
「パーソナライズ翻案サービスの継続を希望します。
以前は、このサービスが〝コモンズ〟にあたるのかどうか疑問に感じていました。最大の理由はペイウォールです。中長編の翻案はそれだけで課金されるのに、さらにカウンセリング料が追加される。格差なく、広く文学に触れる機会を提供すると謳っているリテラ・ノヴァのサービスとしてふさわしいのか？
そう考えました。ですから、事業を分離して他所に売り渡してもよいのではと思っていました。しかし、この活字離れの時代に小説生成サービスが維持できるのかも疑問でした。
一部の金持ち向けのいかがわしいサービスに成り下がってしまうのでは？
そんなふうに考えていたところに、今回の事件でパーソナライズ翻案の抱える問題が露呈しました。それならば、いっそパーソナライズ翻案サービス自体なくなったほうがいいとまで考えました。
パーソナライズ翻案というセンシティブなユーザー情報を含むデータを適切に管理できていない。しかし、事業分離して他所に任せても、営利目的の、人々の心を不健全な形で刺激するようなサービスに成り下がる。だったら、いっそなくなれば――という極端な考えでした。思い入れのあるサービスがユーザーを傷つけるのも、商売人に蹂躙されるのも嫌だったんです。
……でも、最終的に私は考えを改めました。それは灰崎星亜の、あの配信を見たからです」
蓮見部長の言葉に反応し、蒼君の頭がわずかに動いた。小山内さん以外、全員が意外そうな顔で蓮見部長を見ている。
「〈漆黒の夜〉こと灰崎星亜は、AIに心を蝕まれた少女としてメディアに祭り上げられています。彼女の独白には嘘も混じっていたかもしれません。けれど、彼女の言葉には、あの声には、誰にも心を理解してもらえなかった孤独な魂の叫びがあったと、私は感じました。
AIが彼女の心を歪ませたのではありません。AIが、彼女の歪んだ心に寄り添うツールとしてしか機能しなかった。私はそのように捉えているんです。
では、リテラ・ノヴァのパーソナライズ翻案はどうか？
私たちが提供してきたパーソナライズ翻案は、先ほど合田部長もおっしゃったように、人の心を深く理解し、寄り添うことができるツールです。歪んだままの心ではなく、傷ついた心を癒し、軽くする。その可能性を、今回の事件を理由に閉ざしてしまうのは惜しい。やはり、サービスは継続すべきと思います。
リスクを完全に排除することはできませんが、それは私たち人間が、AIをより良く使うための倫理観と向き合い続ける責任があるということではないでしょうか」
佐伯部長は大きくうなずいたけれど、同意ではなく思案中の顔だった。蓮見部長が腰を下ろすのを待って、佐伯部長は話し始める。
「蓮見部長の言っていることは良くわかります。私も同じような理念でリテラ・ノヴァを構想し、多くの技術者と専門家の手助けを得て形になりました。リテラ・ノヴァのAI翻案がユーザーを支えてきたことも間違いありません。
――しかし、ここでDRIの社是を思い出してください」
「AIと人が織りなす豊かなコモンズの創造、ですよね。AI技術を公共の利益のために活用し、共有財産を再構築すること」
蓮見部長が間髪入れず答え、佐伯部長が苦笑する。
「ええ、まさにそれがDRIの使命なんです。以前も言いましたが、文学コモンズは人々の支えとなるべきだという考えは、そこに含まれていません。蓮見部長をはじめ、DRI職員のあいだにその考えは根付いているようだけど、それは私個人の考えが反映されてしまったもの。もとは、私の個人的な経験に端を発しています」
佐伯部長は会議室に集まったメンバーを見回し、どこか懐かしむような眼差しで過去を話し始めた。
