これはスタエフの文字起こしをブログ化したものです
最近、日本各地で出没が相次いでいる「クマ」に関する、ちょっと怖いニュースがありました。SNSで拡散された「クマの出没画像」が、実はAIによって作られたフェイク画像だった、というものです。
昔も、地震の時に「動物園からライオンが逃げた！」みたいなデマが流れることはありました。でも、あれは海外の全然関係ない写真をいたずらで流用したものがほとんど。
でも、今は違います。AIの技術がとんでもなく進化して、ゼロから本物そっくりの画像を、誰でも簡単に作れてしまう時代になったんです。
なぜAIフェイクは増える？「クオリティ」と「お金」の甘い罠
なぜ、こんなことが起きてしまうのか。理由は大きく2つあると僕は思っています。
1つ目は、AIが生成する画像のクオリティが、とんでもなく上がっていること。
昔のAI画像って、どこか違和感があって「あ、これAIだな」って一目でわかりましたよね。でも、今のAI画像は、もはや「サイゼリヤの間違い探し」レベル。めちゃくちゃ目を凝らして、「この影の付き方はおかしい」とか「この草の生え方は不自然だ」とか、重箱の隅をつつくように探さないと、フェイクだと見抜けなくなっています。
そして2つ目の理由が、「バズるとお金になる」という仕組みができたこと。
昔のネットのいたずらって、ほとんどが「自己顕示欲を満たしたい」っていう動機でした。でも今は、X（旧Twitter）のインプレッション収益のように、バズることが直接お金に繋がります。そうなると、「バズるためには何をすればいいか？」を考える人が増えるのは当然の流れですよね。
衝撃的な事故の瞬間とか、今回のような「街中にクマが出た！」みたいなセンセーショナルな画像は、やっぱりバズりやすい。お金のために、意図的にフェイク画像が大量生産される土壌が、もう完全に出来上がってしまっているんです。
もう誰も信じられない？僕らが「AI時代」を生き抜くために
この問題がさらに深刻なのは、今回のように、自治体までもがそのフェイク画像に騙されて、公式に注意喚起をしてしまったという点です。それくらい、今のAIフェイクは見抜くのが難しいということ。
これからAIのクオリティは、動画も含めてもっともっと上がっていきます。じゃあ、どうすればいいのか。「この画像はAIで作られました」っていうラベルを自動で付ける、なんて対策も検討されていますが、スクリーンショットを撮られたらそのラベルは消えちゃうわけで、根本的な解決にはならない気がします。
結局、僕ら一人ひとりが、「SNSに流れてくる画像や情報は、まず疑ってかかる」というスタンスを持つしかないのかもしれません。
スマホで撮った写真だって、今や加工するのが当たり前。「フォトショ加工と何が違うの？」と言われると難しい問題ですが、社会に混乱を引き起こすような「悪意のあるフェイク」とは、明確に線を引いて考える必要がありますよね。
僕だって、タイムラインを流し見している時に今回のクマの画像が紛れていたら、「うわ、大変だ！」って普通に信じちゃうかもしれない。それくらい、今のフェイクは巧妙です。
改めて、気をつけないといけないなと、身が引き締まる思いです。AI時代の情報リテラシー、僕らも本気でアップデートしていかないとですね。