これはスタエフの文字起こしをブログ化したものです
人気漫画『Dr.STONE』の科学監修を務める、くられ先生。その彼が、自身のChatGPTアカウントを突然停止させられた、というニュースが話題になっています。
くられ先生によると、フィクション作品のための調べ物をしていたところ、突然「武器製造関連のガイドライン違反」という警告が表示され、アカウントが停止されてしまったそう。
おそらく、作品のリアリティを追求するために、武器に関する様々な質問をAIに投げかけていたんでしょうね。その結果、ChatGPTのシステムが「このユーザーはテロリストかもしれない」と判断してしまった…。
その後、無事にアカウントは復活したようですが、この一件は、僕らにAIとの付き合い方を考えさせる、いくつかの重要な示唆を与えてくれます。
AIの「監視」は、ちゃんと機能している
まず、僕がこのニュースを見て最初に思ったのは、「あ、ChatGPTの監視システムって、ちゃんと機能してるんだな」ということです。
AIが悪用されるリスクって、常に議論になりますよね。
テロリストが爆弾の作り方をAIに聞いたり、ハッカーがウイルス作成にAIを悪用したり…。
もちろん、AIに直接「ハッキングの方法を教えて」と聞いても、答えてはくれません。でも、聞き方を変えれば、いくらでも悪用できてしまう。そんな危険性を、AIは常にはらんでいます。
だからこそ、今回のように、システムが不適切な利用を検知し、アカウントを停止する、という措置が取られた。これは、AIが悪用されるのを防ぐための「安全装置」が、きちんと作動している証拠だと言えます。
くられ先生のようなクリエイターにとっては、たまったもんじゃない話かもしれません。でも、社会全体の安全を考えれば、ある程度厳しくチェックするのは、仕方のないことなのかもしれませんね。
（ちなみに、くられ先生のYouTubeチャンネル、めちゃくちゃ面白いのでおすすめです。科学の話はもちろん、歴史の裏話とか、すごく勉強になりますよ！）