ずん
超知能AIの開発禁止とか、時代に逆行してるのだ!なんでみんなビビってんのだ?
やきう
そらビビるやろ。人間より賢い存在作ったら、ワイらいらん子やん。
でぇじょうぶ博士
まあ、おいらから見れば人類はすでに「いらん子」状態でやんすけどね。
ずん
ちょっと待つのだ!ノーベル賞取った人まで署名してるのだ。これマジでヤバいってことなのだ?
でぇじょうぶ博士
ヒントン氏でやんすね。彼は自分が作ったディープラーニングの技術が暴走する可能性に気づいて、まるで原爆を作った科学者のように後悔してるでやんす。
やきう
つまり、自分で火つけといて「火事や!」って叫んでるんやな。クソやんけ。
ずん
でも超知能って具体的に何がヤバいのだ?ボクより賢くなったら困るってこと?
でぇじょうぶ博士
ずん君、君より賢いのは既に電卓でやんす。問題は人類全体の知能を超えることでやんすよ。
やきう
で、超えたらどうなるんや?世界征服とかすんのか?
でぇじょうぶ博士
世界征服なんて効率悪いことしないでやんす。むしろ、人間を家畜のように最適化して管理する方が合理的でやんすね。
やきう
草。確かにワイら既に管理されとるわ。AIに変わっても大差ないやん。
でぇじょうぶ博士
でも書簡に署名した2万人の中には、AI企業で働いてる人も含まれてるでやんす。つまり、作ってる本人たちが「これアカン」って言ってるわけでやんすよ。
やきう
甘いで。競争相手が開発やめへんかったら、自分らだけ遅れるやん。囚人のジレンマやで。
でぇじょうぶ博士
その通りでやんす。中国もロシアも開発を止めないでやんすからね。まるで核兵器開発競争の再来でやんす。
でぇじょうぶ博士
意味がないとは言えないでやんす。少なくとも「危険性を認識してますよ」というアリバイ作りにはなるでやんすからね。
やきう
要するに、事故った時に「ワイら警告してたやん」って言うための保険やな。
でぇじょうぶ博士
でもハラリ氏が署名してるのは興味深いでやんすね。彼は『サピエンス全史』で人類の進化を描いたでやんすが、今度は人類の終焉を予見してるわけでやんす。
やきう
結局、賢い人ほど未来が見えて絶望するってことやな。無知は幸福やで。
でぇじょうぶ博士
まあ、そういう解釈もできなくはないでやんすが...複雑でやんすね。
でぇじょうぶ博士
限りなくゼロに近いでやんす。技術の進歩を止めるのは、川の流れを手で止めるようなものでやんすからね。
ずん
じゃあこの2万人の署名活動って、結局は無駄な抵抗なのだ?
やきう
無駄やろな。でも「抵抗した」っていう歴史は残るで。後世の教科書に載るかもしれへん。
でぇじょうぶ博士
「人類最後の抵抗」という章でやんすかね。なんとも皮肉でやんすが。
ずん
...ボク、もうAIに支配されてもいい気がしてきたのだ。今の上司よりマシかもしれないのだ!