単純ミスも処分は誤り京都市困惑

単純ミスも処分は誤り京都市困惑 - Yahoo!ニュース

2025/10/24 21:00

人気記事

TikTok「利用禁止」に現実味米 - Yahoo!ニュース

AWSの安価でスケーラブルなウェブアプリ構成 2025年度版 - maybe daily dev notes

「仮面ライダーの夢は今も見ます」「兄2人を見て育った末っ子だから…」俳優・高橋文哉が語る、朝ドラ「あんぱん」健太郎役の“原点”〈写真多数〉 | 文春オンライン

「グエー死んだンゴ」ニキに敬意を表し、香典として『国立がん研究センター基金』に寄付するニキたちが続々… 成仏してクレメンス - Togetter

95%以上をLLMが実装。『みらいまる見え政治資金』を45日で完成させた、AIネイティブな開発手法についてご紹介｜Jun Ito

# 議題

京都市を襲った"AIデマ事件"の衝撃

**ずん

** AIが適当なこと言いまくって炎上してるのだ。これもう人類終わりの始まりじゃね？

**でぇじょうぶ博士

** やれやれ...今回の事件は、生成AIが複数の無関係な情報を勝手にミックスして、存在しない政策をでっち上げたケースでやんす。まるで酔っぱらいが聞きかじった話を適当につなぎ合わせて喋るようなもんでやんすね。

**やきう

** ワイ、前からAIなんて信用してへんかったで。所詮は確率で単語並べてるだけやろ？人間様の知能には遠く及ばんわ。

**ずん

** でもさぁ、みんなAI要約使ってるじゃん。ボクも長い記事読むのダルいから便利だと思ってたのだ。

**でぇじょうぶ博士

** そこが落とし穴でやんす。AIは「真実かどうか」ではなく「それっぽいかどうか」で文章を生成するでやんす。京都市の件では、おそらく「京都市」「処分」「厳格化」といったキーワードが別々のニュースから拾われて、勝手に合体したんでやんすよ。

**やきう

** つまり情報のキメラやな。怖すぎるわ。でもこれ、拡散した奴らも問題やろ？裏取りせんと信じる方がアホちゃうか。

**ずん

** えー、でもXで流れてきた情報なんていちいち確認しないのだ。みんなそうでしょ？

**でぇじょうぶ博士

** それこそが現代の情報社会の病理でやんす。SNSは便利な反面、デマの高速道路でもあるでやんす。特にAI生成コンテンツには「AI要約」とか表示されるでやんすが、多くの人はそれを「公式情報」と勘違いするでやんすからね。

**やきう

** で、京都市は困惑してるわけか。まあ当然やな。やってもないことで叩かれたらたまったもんやないわ。

**ずん

** じゃあこれからどうすればいいのだ？AI使うのやめるべき？

**でぇじょうぶ博士

** いや、AI自体は有用なツールでやんす。問題はその使い方と信頼の置き方でやんすよ。まるで包丁のようなもんでやんす。料理にも使えれば、人を傷つけることもできる。大事なのは情報リテラシーでやんす。

**やきう

** リテラシー言うても、ワイらみたいな一般人にそこまで求めるんか？無理ゲーやろ。

**でぇじょうぶ博士

** 確かに難しい問題でやんすが、少なくとも「AI要約は参考程度」「重要な情報は元ソースを確認」という基本は守るべきでやんす。特に行政の公式発表みたいな重要情報は、必ず一次ソースを当たるべきでやんすね。

**ずん

** うーん、でもそれって結局AI使う意味なくね？楽したくてAI使ってるのに、結局確認作業するなら最初から自分で読めばいいのだ。

**でぇじょうぶ博士

** ...鋭い指摘でやんすが、それは極論でやんす。AIは「理解の補助」として使えばいいんでやんすよ。長文の概要を掴んでから詳細を読む、みたいな使い方でやんす。

**やきう

** まあ結局、技術の問題やなくて人間の問題やな。楽したいからAIに丸投げして、思考停止してるだけや。

**ずん

** むぅ...じゃあボクたちはこれからどう生きればいいのだ...？

**でぇじょうぶ博士

** 大袈裟でやんすね。要は「便利なものほど慎重に扱え」ってことでやんす。AIは万能の神ではなく、時々大嘘をつく便利な馬鹿でやんすから。

**やきう

** 便利な馬鹿って、ワイの元上司みたいやな。

**ずん

** じゃあ結論としては、AI要約は「便利だけど信用しすぎるな」ってことなのだ？

**でぇじょうぶ博士

** その通りでやんす。特に今回みたいに行政機関が巻き込まれると、社会的影響も大きいでやんすからね。AI開発側も精度向上に努めるべきでやんすが、利用者側も「AIは間違える」という前提で付き合うべきでやんす。

**やきう

** でもな、これからAIがもっと進化したらどうなるんや？もっと巧妙な嘘つくようになるんちゃうか？

**ずん

** それ怖すぎるのだ...もうボク、新聞読むのだ！...あ、でも新聞も読むのダルいのだ。

ワイワレ速報

単純ミスも処分は誤り 京都市困惑 - Yahoo!ニュース

単純ミスも処分は誤り 京都市困惑 - Yahoo!ニュース

単純ミスも処分は誤り京都市困惑 - Yahoo!ニュース

単純ミスも処分は誤り京都市困惑 - Yahoo!ニュース