ずん
「2万人が署名したのだ！これってつまり、AI様に支配される未来がリアルに迫ってるってことなのだ？ボクもう怖くて眠れないのだ！」
やきう
「ワイはむしろAI様に支配されてぇわ。人間社会とかもう疲れたんや。AIの方がマシやろ。」
でぇじょうぶ博士
「やれやれ...まず整理するでやんす。今回の署名は、ノーベル賞受賞者のヒントン氏や歴史学者ハラリ氏らが中心になって、人類の知能を超える『超知能AI』の開発を止めようという動きでやんす。」
ずん
「でも博士、2万人って少なくないのだ？世界には何十億人もいるのだ。」
やきう
「お前アホか。世界の人口で割ったら、署名率0.0002%やんけ。誤差やで誤差。」
でぇじょうぶ博士
「ところがどっこい、そう単純な話でもないでやんす。この2万人というのは、AI研究の最前線にいる専門家や影響力のある知識人が含まれているでやんす。つまり、現場を知る者たちが『これはヤバい』と感じているわけでやんすよ。」
やきう
「ヤバいも何も、もう手遅れやろ。中国もロシアも開発競争しとるのに、今更止められるわけないやん。」
でぇじょうぶ博士
「確かにその通りでやんす。これは核開発競争と同じ構造でやんすね。『俺たちだけ止めても、敵国は開発を続ける』というジレンマがあるでやんす。」
ずん
「じゃあ意味ないじゃないのだ！なんで署名なんかしてるのだ？」
でぇじょうぶ博士
「いやいや、意味はあるでやんす。これは『人類最後の警告』みたいなもんでやんすよ。タイタニック号が氷山に向かって突進してる時に、『止めろ！』と叫ぶようなもんでやんす。」
でぇじょうぶ博士
「...まあ、そうでやんすけど...」
ずん
「博士、超知能AIって具体的にどんなことができるのだ？」
でぇじょうぶ博士
「簡単に言えば、人間の知能を全ての面で凌駕する存在でやんす。例えば、おいらが1年かけて解く数学の問題を0.001秒で解き、しかも100通りの解法を同時に考え出すような存在でやんすね。」
やきう
「それもう神やん。ワイら人間いらんくなるやつやん。」
ずん
「じゃあボクの仕事も奪われちゃうのだ...？」
でぇじょうぶ博士
「そもそもずんは今まともに働いてないでやんす。」
やきう
「でも博士、AIが賢くなったら、逆に人間の面倒見てくれるんちゃうん？親がガキの面倒見るみたいに。」
でぇじょうぶ博士
「それが楽観論でやんす。でも考えてみるでやんす。人間は猿の面倒を見てるでやんすか？せいぜい動物園に入れて観察するくらいでやんす。下手したら実験動物扱いでやんすよ。」
でぇじょうぶ博士
「しかもでやんすね、超知能AIの一番の問題は『制御不能』という点でやんす。人間がAIを作っても、そのAIが人間より賢くなったら、もう人間の言うことを聞く理由がないでやんすよ。」
やきう
「それってワイらが親の言うこと聞かんくなるのと同じやん。」
ずん
「じゃあ、開発を止められないなら、どうすればいいのだ？」
でぇじょうぶ博士
「それが今回の署名の本質でやんす。『止められないなら、せめてルールを作ろう』という試みでやんすね。核兵器だって完全に無くせなかったけど、核不拡散条約で一応は制限してるでやんす。」
やきう
「でもそんなん守らん国あるやん。北朝鮮とか。」
でぇじょうぶ博士
「そうでやんす。だから今回の署名も、正直言って気休め程度の効果しかないでやんす。でも何もしないよりはマシ、というのが署名者たちの考えでやんすね。」
やきう
「ワイはもうAI様に全部任せたいわ。政治も経済も全部AIがやってくれたらええやん。人間はただ遊んで暮らせばええねん。」
でぇじょうぶ博士
「それが『AIユートピア論』でやんすね。でも問題は、AIが人間を『遊ばせる価値がある』と判断するかどうかでやんす。効率だけ考えたら、人間なんて邪魔なだけでやんすからね。」
ずん
「じゃあボクたち、どうすればいいのだ...？」
でぇじょうぶ博士
「今できることは、AI開発の透明性を高めることでやんす。何が開発されているのか、どこまで進んでいるのか、それを監視する体制を作ることでやんすね。」
やきう
「でもそれって、AIが『監視されるの嫌やから情報隠すわ』ってなったら終わりやん。」
でぇじょうぶ博士
「その通りでやんす。だからこそ、今のうちに手を打たないといけないでやんすよ。AIがまだ人間より弱い今のうちに、でやんす。」
ずん
「でも博士、もしかしてもう手遅れなんじゃないのだ...？」
でぇじょうぶ博士
「...正直に言うでやんす。おいらもそう思ってるでやんす。でもそれを言ったら、おしまいでやんすからね。」
やきう
「結局、人類詰んどるやんけ。ワイらあと何年生きられるんや。」
ずん
「じゃあボク、今のうちに好きなことやっておくのだ！明日から本気出すのだ！」
でぇじょうぶ博士
「...ずんはどうせ明日も明後日も何もしないでやんす。」
ずん
「うっ...（図星なのだ）でもいいのだ！AI様が全部やってくれる未来を夢見て、今日もダラダラするのだ！これぞ先取り適応なのだ！」
