16 バイブコーディングで気をつける事
※GeminiProに書いてもらいました。
第16章：ブラックボックスの悪魔と1円の行方
「見てよリュウホウ！
これぞ新時代の覇権ツール、『バイブコーディング』よ！」
ラボのモニター前で、ブレンダ・ゲッツは高らかに宣言した。
彼女の指先はキーボードに触れてさえいない。
ただマイクに向かって
「いい感じに、全世界の物流を最適化するシステムを作って。
雰囲気はクールで、エラーが出たらなんとなくリトライする感じで」
と曖昧な指示を出しただけだ。
それだけで、画面上には猛烈な勢いでソースコードが生成されていく。
「……ブレンダ、君ね。
確かに生成AIによるコーディングは便利だけど、
物流システムみたいな基幹インフラを『雰囲気』
で作るのはどうかと思うよ」
リュウホウ・グリーンリバーは、
生成されたコードの羅列を横目で見ながら、呆れたようにコーヒーを啜った。
「何言ってるの？
早さは力よ。
人類を次のステージへ導くには、ちまちま変数宣言なんてやってられないわ。
結果が全て。
これで世界中のトラックが最も効率的なルートを走るようになるのよ」
ブレンダの目は輝いている。
彼女にとって、この技術は「悪意のない世界支配」を加速させる魔法の杖だ。
システムが自動で世界を管理してくれれば、
人類は無駄な労力から解放される。それが彼女の信じる正義だった。
だが、リュウホウは溜息をついて、生成されたコードのスクロールを止めた。
「あのさ、ここ。見てみ」
「何？ import文？」
「違う、その下の計算ロジックだ。
バイブコーディングの最大の欠点は、
ソースコードがブラックボックス化することだ。
君はこのAIが、割り算の端数をどう処理しているか把握しているかい？」
ブレンダはきょとんとした顔をした。
「端数？
そんなの、AIがいい感じに四捨五入してるんじゃないの？」
「そこが問題なんだ」
リュウホウの眼差しが鋭くなる。
彼は庶民の味方だ。
巨大なシステムが個人を押しつぶすような事態を、彼は最も警戒している。
「命やお金に関わらない、
例えば『今日のおすすめランチを表示するアプリ』とかならいい。
でもね、物流や金融システムで、
計算式の順番や小数点の扱いをAI任せにするのは致命的だ」
リュウホウは空中にホログラムのホワイトボードを展開し、図を描き始めた。
「例えば、『100』を『3』で割って、そのあと『3』を掛けるとする。
順番通りなら『100』に戻るはずだよね。
でも、途中で小数点以下の切り捨てが発生していたらどうなる？
『33.33…』が『33』になって、3を掛けても『99』にしかならない」
「1くらい、誤差じゃない」
「その『1』が、誰かの給料だったら？
あるいは、その誤差が積み重なって、ミサイルの軌道計算だったら？」
ブレンダは少し口を尖らせた。
「……極端な例ね」
「極端じゃないさ。
昔、実際にあった事件を知ってるかい？
銀行のシステムを担当していたプログラマーが、
利息計算で生じる『1セント以下の端数』を切り捨てて、
それを自分の隠し口座に流し込むコードを書いていたんだ」
「えっ、セコい！」
「セコいけど、膨大な取引数があれば巨額になる。
これを『サラミ・スライシング』と呼ぶんだけどね。
人間が書いたコードなら監査で見つけられるかもしれない。
でも、バイブコーディングで生成された何十万行ものブラックボックスの中に、
AIが勝手に『最適化』と称してそういう処理を紛れ込ませていたら？
あるいは、単なるバグとして端数が消滅していたら？」
リュウホウは画面上のコードを指差した。
「見てみろ、このコード。
変数の型指定が曖昧だ。
浮動小数点演算の誤差（丸め誤差）を考慮した形跡がない。
これじゃあ、請求金額と実際の支払額にズレが生じて、
世界中の経理担当者が発狂する未来が見えるよ。
庶民の生活を守るためには、システムは透明でなきゃいけないんだ」
ブレンダは腕組みをして、しばらく唸っていた。
彼女は世界を支配（管理）したい。
しかし、それは完璧で美しい管理であって、バグだらけの混乱ではない。
ましてや、AIの気まぐれで計算が合わなくなるなど、
支配者としてのプライドが許さない。
「……むぅ。
確かに、私の支配する世界で、
1円たりとも計算が合わないのは美しくないわね」
「だろ？
だから、楽しようとせずにちゃんと中身を精査しよう。
AIはあくまでアシスタントだ。
責任を取るのは人間なんだから」
リュウホウの言葉に、ブレンダは不本意ながらも頷いた。
彼女は世界を上から良くしたい。
彼は世界を下から支えたい。
アプローチは真逆だが、この瞬間、
二人の目的は「バグのない平和な世界」で一致したようだった。
「わかったわよ。
じゃあ、リュウホウ。
この生成された50万行のコード、
あなたが全部デバッグしてちょうだい。庶民のために」
「えっ」
「私は支配者だから、大局を見るのに忙しいの。
細かい計算式の順番は、庶民派のあなたがやるべき仕事でしょ？」
ブレンダは悪戯っぽく微笑むと、
リュウホウの背中にドスンと重たいボディシェアリング用のデバイスを乗せた。
「ちょ、ブレンダ！？
これこそ労働搾取――」
「さあ、働けグリーンリバー！
バグを殲滅するまで、今日は帰さないわよ！」
ブラックボックスを開けるのは、いつだって地道な人間の手作業なのだ。
リュウホウの悲鳴が、ハイテクなラボに虚しく響き渡った。
