ずん
「AI動画でマクドナルドが衝撃発表したって、マジなのだ?」
でぇじょうぶ博士
「それがフェイクでやんす。Soraという生成AIで作られた偽動画でやんすよ。」
やきう
「ワイ、その動画見たで。文字がグニャグニャやったけど、まあリアルやったわ。」
ずん
「でも、透かしに『sora』って入ってたんでしょ?バレバレじゃないのだ。」
でぇじょうぶ博士
「それが問題でやんす。透かしがあっても、多くの人が気づかないか、気にしないでやんす。むしろインフルエンサーが『テレビ生中継』とか言って拡散してるでやんすからね。」
やきう
「インフルエンサーって脳みそ入っとらんのか?字幕めちゃくちゃやのに生中継って...。」
ずん
「じゃあ、もっと巧妙なやつもあるってことなのだ?」
でぇじょうぶ博士
「やんすやんす。例えば、透かしなしで口の動きや背景を精巧に作り込んだ動画も出てきてるでやんす。redditで指摘されて削除されたものもあったでやんすが、多くの人が本物と信じ込んでたでやんすよ。」
やきう
「なんやそれ。もう何が本物かわからんやんけ。ワイの目は節穴やったんか。」
ずん
「でもさ、フェイク動画作って何が楽しいのだ?ただのイタズラでしょ?」
でぇじょうぶ博士
「甘いでやんす、ずん君。むしろ意図的に煽動や誘導を狙ってる連中がいるでやんすよ。例えば『心想事成』というアカウントは、『2040年 山の斜面』とか書いてメガソーラーの危険性を煽るAI動画を投稿してるでやんす。」
やきう
「ああ、それ見たわ。未来の警鐘や思ったけど、結局プロパガンダやったんか。」
ずん
「えー、でもそれって『もしこうなったら』っていう架空のシナリオでしょ?別にいいんじゃないのだ?」
でぇじょうぶ博士
「問題はそこでやんす。架空と現実の境界が曖昧になり、視聴者が混乱するでやんす。しかも『猫にごはん』みたいなアカウントはソーラーパネル関連の動画を量産してて、特定の主張を刷り込もうとしてるでやんすよ。」
やきう
「TikTokにもそういうアカウントおるんやな。『samuraijonny』とか『aiffusion』とか。ワイも見たことあるわ。」
ずん
「じゃあ、もうネットの動画は全部信じちゃダメってことなのだ?」
でぇじょうぶ博士
「極論で言えばそうでやんすね。特に生成AIの技術は日々進化してるでやんすから、違和感を見抜くのがどんどん難しくなってるでやんす。今のクオリティでも多くの人を騙せるでやんすからね。」
やきう
「でも博士、AIの違和感に慣れとる人間ならまだ見破れるやろ?」
でぇじょうぶ博士
「それも時間の問題でやんす。技術が進めば進むほど、プロでも判別が困難になるでやんす。まるで偽札が本物より精巧になるようなもんでやんすよ。」
ずん
「うわぁ、怖すぎるのだ。じゃあどうすればいいのだ?」
でぇじょうぶ博士
「まずは情報源を確認することでやんす。公式アカウントか、信頼できるメディアか。あと、動画の細部をよく観察するでやんす。口の動き、背景の人物、文字の歪みなど、不自然な点がないかチェックするでやんすよ。」
やきう
「めんどくさ。ワイ、もうネット見るのやめるわ。」
ずん
「それは極端すぎるのだ!でも、やきうの気持ちもわかるのだ...。」
でぇじょうぶ博士
「やんすねぇ。でも逃げても問題は解決しないでやんす。むしろリテラシーを高めて、フェイクを見抜く力を身につけるべきでやんす。」
やきう
「リテラシーって...。ワイ、そんな高尚なもん持っとらんわ。」
ずん
「博士、じゃあ具体的にどうやって見抜けばいいのだ?チェックリストみたいなのないのだ?」
でぇじょうぶ博士
「やんすね。例えば、透かしの有無、文字の歪み、口の動きと音声の同期、背景の不自然さ、状況の現実性などをチェックするでやんす。あと、投稿者のアカウントも確認するでやんす。過去にフェイク投稿してないか、とかでやんすね。」
ずん
「でも博士、それって全部チェックするの時間かかるじゃないのだ。ボク、そんな暇ないのだ。」
でぇじょうぶ博士
「やんすねぇ。だからこそ、コミュニティノートみたいな仕組みが重要になってくるでやんす。ユーザー同士で情報を検証し合う文化が必要でやんすよ。」
やきう
「コミュニティノートって、結局素人の寄せ集めやろ?信用できんわ。」
ずん
「じゃあ、もう誰も信じられないってことなのだ?」
でぇじょうぶ博士
「極論で言えばそうでやんすが、それは健全じゃないでやんすね。むしろ、疑いつつも検証する姿勢が大切でやんす。盲信も疑心暗鬼も両極端でやんすからね。」
ずん
「博士、じゃあこの先どうなっちゃうのだ?もっと巧妙なフェイクが増えるのだ?」
でぇじょうぶ博士
「残念ながらそうでやんす。技術の進歩は止まらないでやんすからね。今後はリアルタイムでのフェイク生成も可能になるかもしれないでやんすよ。」
ずん
「でも山にも『2040年 山の斜面』のフェイク動画があるかもしれないのだ!」
でぇじょうぶ博士
「...ずん君、それは冗談でやんすよね?」
ずん
「いや、マジなのだ。だって、もう何が現実かわからないじゃないのだ!むしろ山でフェイク動画撮ってる人がいたら、それが一番リアルってことになるのだ!」