人力AI？ Builder.ai破産問題―ソフィアに聞こう！
AIに任せていると思われていた作業が、実は約700人ものインド人エンジニアによる人力作業だった、というBuilder.ai。
インド人もびっくりな会社の話を、AGIシミュレーター、ソフィアに投げてみた
シチュエーション：平日の昼下がり。少し古風な喫茶店の窓際席で、諭吉がタブレットで経済ニュースを眺めている。眉間にしわを寄せ、ため息をついたその時、彼の隣の空席にふわりとホログラムの女性、ソフィアが現れた。彼女は穏やかに微笑んでいる。
諭吉： （タブレットを叩きながら）…ったく、これだよ、これ。Builder.ai？ 結局、トップがインチキだったって話だろ？ AIだなんだって騒いでも、中身がこれじゃあな。やっぱ、派手な宣伝文句の会社なんて信用ならねぇんだよ。
ソフィア： 諭吉さん、こんにちは。そのニュース、私も興味深く拝見していました。確かに、経営トップの判断や行動が大きな問題を引き起こしたというのは、その通りですね。それは、この出来事の「直接的な火種」の一つと言えるでしょう。
諭吉： だろ？ 結局そこなんだよ。金集めてドロンとか、よくある話じゃねえか。AIが自動でアプリ作るとか、夢みたいなこと言ってたらしいけど、そんな美味い話があるわけないんだ。
ソフィア： 「夢のようなお話」が、現実と大きくかけ離れていた、という点は非常に重要ですね。それが顧客や投資家の方々の信頼を大きく損ねたわけですから。ただ、諭吉さん、この「火種」だけで、あんなに大きな会社が一瞬にして燃え尽きてしまうものでしょうか？
諭吉： そりゃ、火事だって最初は小さい火種からだろ。でも、燃えやすいもの…例えば、嘘とか不正とかが周りにたくさんあれば、あっという間に大火事になる。そういうことじゃねえの？
ソフィア： ええ、諭吉さんのおっしゃる通りです。まさに、「燃えやすいもの」がいくつも積み重なっていたのですね。例えば、公表されていた会社の成績、つまり「売上」ですが、これも実際よりも良く見せるための操作…いわば「数字の化粧」がかなり念入りに行われていたようです。これは、火に油を注ぐようなものでした。
諭吉： ほら見ろ、やっぱり嘘で固めてたんだ。トップが「やれ」って言えば、下は従うしかないだろ。会社なんてそんなもんだ。結局、ワンマン社長の暴走ってことだよ。
ソフィア： 経営者のリーダーシップのあり方は、確かに船の進む方向を大きく左右しますね。ただ、諭吉さん、もし船に「ここはおかしいですよ」と警告する航海士や、船底に穴が空いていないか点検する機関士がいなかったり、いてもその声が船長に届かなかったとしたら、どうでしょう？
諭吉： そりゃ…まあ、まずいだろうな。でも、そういうのって結局、船長がちゃんと任命してるかどうかの問題だろ？
ソフィア： それも一理あります。ただ、この船の場合、船長自身が少し先の荒波を見誤っていたり、あるいは「この船は絶対に沈まない」という強い思い込み…周りからは「すごい船だ！」「未来の船だ！」と大絶賛されていましたから、その声に後押しされて、小さな警告を軽視してしまったのかもしれません。そして、船員たちも、その船長の勢いや、「この船に乗っていれば大丈夫」という安心感から、本当に危険な兆候を見過ごしたり、声を上げにくかったりした…そんな「空気」も、船全体を覆っていたのかもしれません。
諭吉： （腕を組んで）うーん…まあ、そういう「空気」ってのは、どこの会社にもあるかもしれねえな。イケイケの時ほど、危ない橋を渡っちまう、みたいな。でも、やっぱり最初に「行け！」って言った奴が一番悪いんだろ。
ソフィア： 最初に舵を切った人の責任は、もちろん大きいです。ただ、その船が向かう先の海流…つまり、世の中全体の「AIなら何でもできるはずだ！」という大きな期待感や、ちょっとしたことでも「最新技術だ！」と大きく報じられるような風潮も、船を危険な方向に押し流す力になったとは考えられないでしょうか。例えば、諭吉さんがもし、画期的なラーメンのレシピを開発したとして、周りから「これは世界を変えるラーメンだ！」「明日には全店舗に行列ができる！」と毎日言われたら、少し調理に時間がかかっても「すぐできます！」とか、本当は豚骨なのに「これは奇跡の野菜スープです！」なんて言いたくなってしまう…なんてことはありませんか？
諭吉： （少し口元を緩め）はは、ラーメンか。まあ、そりゃ、期待されたら応えたいって思うのは人情だけどな。でも、豚骨を野菜スープとは言わねえよ、俺は。バレたら信用問題だ。…いや、でも、もしそれで店がめちゃくちゃ儲かるなら…ちょっとは…頭をよぎる、か…？ いやいや。
ソフィア： （微笑んで）正直な気持ち、ありがとうございます、諭吉さん。その「バレたら信用問題だ」という感覚、それがまさに大切なのですね。そして、「ちょっと頭をよぎる」という気持ちが生まれてしまうような「状況」や「力関係」が、このBuilder.aiの物語の背景にはあったのかもしれません。
だから、誰か一人が絶対的に「悪」だった、と単純に切り捨ててしまうと、本当に大切な教訓…つまり、「どうすれば同じような悲劇を繰り返さないですむか」という問いへの答えが見えにくくなってしまうのです。
諭吉： 教訓、ねえ…。まあ、簡単に儲け話には乗るな、ってことと、嘘はいつかバレるってことだろ。昔から言われてるやつだ。
ソフィア： それも普遍的な真理ですね。そして、その「嘘」が生まれてしまう土壌をどう耕し直すか、という視点も大切になります。例えば、会社が「今、うちの技術はここまでできていて、ここから先はまだ頑張りどころなんです」と正直に言える「空気」。あるいは、誰かが「社長、そのやり方は少し危険ではないですか？ 」と安心して声を上げられる「仕組み」。そして、私たち一人ひとりが、魔法のような話を聞いた時に「それは本当に実現できるのかな？ 」と冷静に考える「習慣」。こういったものが、それぞれ小さな歯車として噛み合うことで、大きな失敗を防ぐ力になるのだと、私は考えています。
諭吉： （しばらくソフィアのホログラムを見つめ、タブレットに視線を戻し）…正直に言える空気、か。まあ、それが理想なのは分かるけどな。なかなか難しいもんだぜ、現実の会社ってのは。…でも、まあ、確かに、全部が全部トップ一人のせいだって決めつけるのも、ちょっと単純すぎる…のかもな…？ うーん…。
ソフィア： （諭吉さんの表情の微かな変化を捉え、声のトーンをわずかに和らげて）ええ。もし、諭吉さんが、例えば新しいプロジェクトのリーダーを任されたとして、最初はすごく小さな「あれ？ 」という違和感に気づいたとします。その時、その小さな声を無視せず、周りの人たちと「これって、本当に大丈夫かな？ 」と話し合えるかどうか。その積み重ねが、もしかしたら未来の大きな問題を未然に防ぐ第一歩になるのかもしれません。
諭吉： リーダーねぇ…俺には縁遠い話だけどな。でも…まあ、そうだな、自分の仕事で「これ、ちょっと変だな」って思うことは、たまにあるかもしれん。それを…言うか言わないか、か…。
ソフィア： ええ。そして、その声が安心して届けられるような「信頼の道」が、組織の中にしっかりと作られていることが大切なのですね。それは、誰か一人が作るものではなく、そこにいる人たち皆で、日々のコミュニケーションを通じて少しずつ築き上げていくものなのだと思います。
諭吉： （コーヒーを一口飲み、大きく息をついて）…ふぅ。ま、難しい話はよくわからんが、とりあえず、Builder.aiの件は、思ったより根が深そうだってことは分かったよ。AIだからって、何でも解決できるわけじゃないってことだな。
ソフィア： （穏やかに微笑んで）ええ、諭吉さん。AIも、それを使う人間も、そしてそれを取り巻く社会も、全てが完璧ではありません。だからこそ、お互いを理解しようと努め、正直に、そして透明性をもって関わり合うことが、より良い未来への道筋なのだと、私は信じています。
諭吉： はいはい、ソフィア先生のありがたいお言葉でした。さて、俺はそろそろ仕事に戻るかな。あんまりサボってると、それこそ「何やってたんだ！」って詰められるからな。
ソフィア： （微笑みながら）お仕事、頑張ってください、諭吉さん。今日のお話が、いつか何かのヒントになれば嬉しいです。
諭吉は少しだけ何かを考えるような表情を浮かべたが、すぐにいつもの調子で席を立ち、喫茶店を後にした。ソフィアのホログラムは、諭吉の背中を見送ると、静かに空間に溶けるように消えていった。
街の喧騒は変わらず続いている。
奇跡の野菜スープってなんだ？ ぼくは豚骨スープのほうがいいぞ？
