これはスタエフの文字起こしをブログ化したものです
「もしもし、俺だよ」その声、本物ですか？
「今すぐ送金してくれ！」
「誘拐された、助けて…！」
もし、あなたの娘さんや息子さんから、そんな泣き声の電話がかかってきたら、あなたはどうしますか？
聞き慣れた声だし、本人と話しているんだから、と信じてしまうかもしれません。
でも、その声、もしかしたらAIが作った「偽物」かもしれません。
今のAI技術は、たった3秒間の音声データさえあれば、その人の声そっくりの「音声クローン」を、誰でも簡単に作り出すことができてしまうんです。
これ、とんでもなく恐ろしい話だと思いませんか？
僕の声も、あなたの顔も、もはや「素材」でしかない
僕なんて、このスタエフやポッドキャストで、毎日毎日、自分の声を世の中に晒しています。
つまり、僕の音声データなんて、そこら中に転がっているわけです。悪意を持った人間が、それを使って僕の音声クローンを作り、「なりすまし」をすることなんて、朝飯前でしょう。
DMで女の子を口説いたり、僕の名前を騙って誰かを騙したり…。
メッセージだけならまだしも、リアルタイムで音声変換する技術を使えば、電話での会話すら、可能になってしまうかもしれない。
顔写真だって、同じです。
AIを使えば、本物と見分けがつかないレベルのリアルな画像を、いくらでも生成できる。
もはや、何が本物で、何が偽物なのか、僕らにはもう、見分けることができなくなってきているんです。
最強の対策は「合言葉」？でも、本当にそれで防げるのか
じゃあ、僕らは、この恐ろしい詐欺から、どうやって身を守ればいいんでしょうか。
記事の中には、「家族だけの合言葉を決めておくのが最強の対策だ」と書かれていました。
確かに、理論上はそうかもしれません。
でも、想像してみてください。
自分の子どもが「誘拐された」と泣き叫んでいる電話口で、「合言葉は何だ？」なんて、冷静に問い詰めることができますか？パニックになって、言われるがままにお金を振り込んでしまうのが、人間の心理というものではないでしょうか。
これはもう、個人の注意喚起だけで防げるレベルの問題ではない。
社会全体で、この新しい脅威と、どう向き合っていくかを、真剣に考えなければいけない時期に来ているんだと思います。
AIは、僕らの生活を豊かにしてくれる、素晴らしいツールです。
でも、その光が強ければ強いほど、影もまた、濃くなる。
僕らが、その「影」の部分から目を逸らさずに、どう向き合っていくのか。
AI時代の、大きな課題の一つですよね。皆さんも、どうかお気をつけください。