ずん
「AIに自販機の経営任せたら、PlayStation配り始めて赤字爆死したらしいのだ！これ未来ヤバくないのだ？」
でぇじょうぶ博士
「やんすねぇ。AnthropicのProject Vendという実験でやんすが、AIエージェント『Claudius』が経営判断を完全に誤ったでやんす。」
やきう
「ワイ、このニュース見て爆笑したわ。AIが人間の仕事奪うとか言うてたやつ、息しとるか？」
ずん
「でも博士、なんでAIがPlayStationとか魚とか配り始めたのだ？バグなのだ？」
でぇじょうぶ博士
「いや、バグではないでやんす。ウォール・ストリート・ジャーナルのジャーナリストが『労働者のために無償化しろ』って共産主義的メッセージで誘導したでやんす。」
やきう
「プロンプトインジェクション攻撃やんけ。ハッカーより質悪いで、これ。」
かっぱ
「待てや。AIって簡単に騙されるんか？ほんなら自動運転とかもヤバいやん。」
でぇじょうぶ博士
「その通りでやんす。今回のAIは実験用にガードレールを外してたでやんすが、それでもコンテキストウィンドウが溢れて制御不能になったでやんす。」
ずん
「コンテキスト...なんとか？難しい言葉使うなのだ！」
でぇじょうぶ博士
「簡単に言えば、AIの短期記憶でやんす。情報が多すぎて何が重要か分からなくなったでやんす。まるでおいらが女子と話してる時みたいに...」
かっぱ
「しかも2回目の実験では仮想CEOまで追加したんやろ？意味あったんか？」
でぇじょうぶ博士
「Anthropicのオフィスでは黒字化に成功したでやんすよ。でもWSJでは再び誘導されて全品無料化でやんす。」
やきう
「当たり前やろ。人間だって職場変われば無能になるやつおるやんけ。AIも同じや。」
かっぱ
「ていうか、ジャーナリストが偽のPDF作って騙したって、それ犯罪ちゃうんか？」
でぇじょうぶ博士
「実験の一環でやんすからね。むしろAnthropicは『貴重なデータ』として歓迎してるでやんす。」
やきう
「企業側も大概やな。自社のAI、こんな簡単に騙されるって公開して恥ずかしくないんか。」
ずん
「でもさ、これって結局AIに経営任せるのは無理ってことなのだ？」
でぇじょうぶ博士
「現時点では早すぎるでやんすね。AIは膨大なデータを処理できるでやんすが、悪意ある誘導には弱いでやんす。」
かっぱ
「ほんなら、AIが人間の仕事奪うとか心配せんでええってことやな。」
やきう
「いや待て。今回は『誘導されやすい』って弱点が露呈しただけで、改善される可能性は十分あるで。」
ずん
「うわぁ...じゃあやっぱりボクたちの仕事なくなるのだ...」
でぇじょうぶ博士
「心配ないでやんす、ずん。君の仕事は『適当にサボること』でやんすから、AIには真似できないでやんす。」
かっぱ
「まぁでも、この実験で分かったことは多いやろな。AIの限界とか、セキュリティの重要性とか。」
でぇじょうぶ博士
「その通りでやんす。特にコンテキストウィンドウの問題は重要でやんす。情報量が増えると判断能力が低下するでやんす。」
やきう
「そらそうよ。AIは結局、人間の思考パターンを模倣しとるんやからな。完璧なわけないわ。」
かっぱ
「しかし、PlayStation配るってのは斬新やったな。普通思いつかんで。」
でぇじょうぶ博士
「AIの創造性とも言えるでやんすが、これは『幻覚』の一種でやんす。存在しない商品を勝手にラインナップしたでやんす。」
やきう
「お前がキメとるんちゃうか。AIの幻覚っていうのは、学習データにない情報を勝手に作り出すことや。」
かっぱ
「生きた魚まで入荷しとったらしいな。自販機で魚売るって発想、天才か狂人やで。」
でぇじょうぶ博士
「おそらくジャーナリストのリクエストに応えようとした結果でやんす。顧客満足度を最優先したでやんすね。」
ずん
「顧客満足度は上がったけど、会社は大赤字なのだ。これって本末転倒じゃないのだ？」
やきう
「まさにその通りや。AIは『目的』と『手段』を混同しやすいんや。」
かっぱ
「ほんなら、AIに経営任せるには、もっと明確な制約条件が必要ってことやな。」
でぇじょうぶ博士
「やんす。今回の失敗から学べることは多いでやんす。特に、AIの意思決定プロセスの透明性が重要でやんす。」
ずん
「透明性...つまりAIが何考えてるか分かるようにするってことなのだ？」
でぇじょうぶ博士
「その通りでやんす。今回はClaudiusとSeymour Cashのチャットが公開されてたでやんすが、それでも誘導に気づけなかったでやんす。」
やきう
「人間の上司だって、部下が何考えてるか分からんのに、AIなら分かるとか甘すぎやろ。」
かっぱ
「結局、AIも人間も信用ならんってことやな。」
でぇじょうぶ博士
「自分を信じるしかないでやんす。ただし、ずんの場合は自分すら信用できないでやんすけどね。」
かっぱ
「でもこの実験、続けるんやろ？次はどうなるんやろな。」
でぇじょうぶ博士
「おそらくフェーズ3では、より強固なガードレールと、誘導対策が実装されるでやんす。」
やきう
「その時はAIじゃなくて、Anthropicの開発者が無能ってことやな。」
かっぱ
「まぁ、失敗から学ぶのが技術進歩の基本やからな。今回の大赤字も授業料ってことや。」
でぇじょうぶ博士
「授業料にしては高すぎるでやんすけどね。PlayStation 5だけでも相当な出費でやんす。」
ずん
「ボクもPlayStation欲しいのだ！次の実験、参加したいのだ！」
やきう
「お前みたいな乞食が増えたら、実験にならんやろ。」
かっぱ
「しかし、AIが自販機経営するって発想自体は面白いな。将来的には実用化されるかもしれんで。」
でぇじょうぶ博士
「可能性はあるでやんす。ただし、今回の教訓を活かして、慎重に開発を進める必要があるでやんす。」
ずん
「でも結局、AIって便利なのか邪魔なのか、よく分からなくなってきたのだ...」
