人気記事
注目度の高い記事
NEWS FEED
今日の話題を、1分で追えるニュースまとめ
NEWS FEED
今日の話題を、1分で追えるニュースまとめ
注目度の高い記事
ずんスレ主
なんだこれ、Anthropicが自分でソースコード公開しちゃったってマジなのだ！？バカなのだ！？
でぇじょうぶ博士
むしろ、バカというよりドジでやんすね。npmパッケージにソースマップを入れちゃうのは、まるで全裸で街を歩きながら『誰も見ないでください』って叫ぶようなもんでやんす。
やきう
ワイ、これ見た時に草生えたわ。AIセーフティ企業とか言うとって、自分とこのセキュリティ管理がガバガバやんけ。
でぇじょうぶ博士
まさにその通りでやんす。しかも5日間で2度目の流出でやんす。もはや『セーフティ』じゃなくて『セルフティー』でやんすね。
ずん
でもソースマップって何なのだ？なんでそんなもの入れちゃうのだ？
でぇじょうぶ博士
ソースマップは開発者のデバッグ用の地図でやんす。本番環境に含めるのは、家の鍵を玄関のドアノブにぶら下げておくようなもんでやんす。
やきう
「つまり誰でも入れるってことやな。GitHubで15
でぇじょうぶ博士
その通りでやんす。デジタルの世界では一度流出したら、まるでトイレに流したウ◯コを回収するようなもんでやんす。物理的に無理でやんす。
ずん
うわぁ...それで中身見たら、KAIROSとかDreamとか隠し機能がいっぱいあったらしいのだ。これってヤバいのだ？
でぇじょうぶ博士
107個ものフィーチャーフラグが見つかったでやんす。AIが勝手に動いたり、寝てる間に記憶整理したり...まるで人間のニートがコタツで昼寝しながら『俺、将来すごいことやるんだ』って夢見てるようなもんでやんすね。
やきう
そのニート、どう見てもずんやんけ。
ずん
え？ボクは毎日頑張ってるのだ！それより、AIが自律的に動くって怖くないのだ？
でぇじょうぶ博士
確かに怖いでやんすが、Verification Agentのプロンプトは興味深いでやんす。『実装が動くことを確認するのではなく、壊すことだ』って...まるでずんの人生設計みたいでやんすね。
やきう
草。AIにまで『最初の80%に騙されるな』って教えなアカンって、人間と変わらんやんけ。
ずん
ちょっと待つのだ！ボクの人生設計を勝手に壊さないで欲しいのだ！
でぇじょうぶ博士
でもずん、あなたの人生設計って『明日やる』の無限ループでやんすよね？
やきう
それな。AIの自己バイアス対策より、ずんのバイアス対策のほうが先やろ。
ずん
む、むぅ...それより、npmの設定ミスってそんなに簡単に起きるものなのだ？
でぇじょうぶ博士
ブラックリスト方式とホワイトリスト方式の違いでやんすね。ブラックリストは『これは入れちゃダメ』と指定する方式で、ホワイトリストは『これだけ入れる』と指定する方式でやんす。
やきう
つまりAnthropicは『これダメ、あれダメ』って言うてたら、肝心なもん入れ忘れたってことか。まるでずんが『これ食べちゃダメ、あれ食べちゃダメ』言うてて全部食う感じやな。
ずん
それボクの話なのだ！？でも、それって普通に設定すれば防げたってことなのだ？
でぇじょうぶ博士
その通りでやんす。npmの公式ドキュメントにも書いてあるでやんす。つまり説明書を読まずに組み立てて失敗したようなもんでやんすね。
やきう
ワイ、これ見て思ったんやけど、オープンソースのOpenHandsとかやったら最初から全部見えとるから『流出』の概念自体ないんやろ？皮肉やな。
でぇじょうぶ博士
鋭い指摘でやんす。透明性を重視するか、秘匿性を重視するか...結局どっちを選んでも、管理がガバガバならアウトでやんすけどね。
ずん
でもさ、Anthropicって5日間で2回も流出してるんでしょ？これもう病気なのだ。
でぇじょうぶ博士
「まあ、CMSの設定ミスで『Claude Mythos』とか3
やきう
しかも同じ日にキャッシュバグで料金10〜20倍に爆上がりしとるんやろ？もう踏んだり蹴ったりやんけ。
ずん
うわぁ...それってユーザーからしたら最悪なのだ。ボクだったら怒るのだ！
でぇじょうぶ博士
ずん、あなたは普段から怒ってばかりでやんすよね。それより、不正なリポジトリで claude -p を実行するリスクも報告されてるでやんす。
やきう
それな。知らんリポジトリで適当にコマンド打つとか、まるで知らん人から貰った飴を舐めるようなもんやろ。
ずん
え？飴って舐めちゃダメなのだ？じゃあボク、今まで...
でぇじょうぶ博士
ずん、それは別の問題でやんす。とにかく、今回の事件はnpmパッケージ公開者全員への警鐘でやんすね。
やきう
結局、『AIの安全性語る前に自社の安全性を』ってツッコミが一番刺さっとるわ。ブーメランすぎるやろ。
ずん
でもさ、107個もフィーチャーフラグあるってことは、まだまだ隠し機能があるってことなのだ？
でぇじょうぶ博士
可能性はあるでやんすが、実験的機能や廃止されたコードも含まれてる可能性があるでやんす。たとえば BUDDY のたまごっち機能とか...まるでずんの『明日やるリスト』みたいに実現しないかもしれないでやんすね。
やきう
またずんの話に戻ってきて草。でもこれ、Anthropicからの公式声明ないんやろ？
でぇじょうぶ博士
そうでやんす。だから今回の分析結果は第三者による推測が含まれてるでやんす。信じるか信じないかは...
ずん
あなた次第なのだ！...って、それ都市伝説の決まり文句じゃないのだ！ボク、もうAnthropicのこと信用できないのだ！
Claude Code流出事件｜npmソースマップから51万行公開、セキュリティ上の教訓と対策引用元：https://ai-heartland.com/news/claude-code-source-leak/