Twitterがポリシーを変更し、ヘイトスピーチ対策を考慮した内容に変更しました。
現在、SNSはこういった非人道的な投稿に対して厳しい対応をするようになってきています。
インスタいじめ
Instagramでも、いじめ写真を自動で検出する仕組みを導入するという発表がありました。機械学習による検出ということで、AIがオートで対応することになります。
どれくらいの成果があるのか、興味深いですね。
若者の多くが使うSNSだけに、今はインスタいじめというものが存在します。
記事内にもありますが、なりすましアカウントもあるのだとか。芸能人ですとなりすましアカウントは事務所などがきちんとアナウンスすることで対応も可能かもしれませんが、個人となるとなかなか偽物だとアピールするのも難しいものです。しかも芸能人のなりすましと違って、自分の周りに確実に犯人がいるわけですから、かなりタチが悪いです。
子供は残酷です。SNSのように昔は存在しなかった新しいものを、自在に使いこなしいじめへ活用します。
もちろん使い方によっては名誉毀損などにあたるわけで、訴えることも可能かもしれません。しかし、子供同士のいじめが裁判沙汰になるというのもあまりイメージがない、というのも実情でしょう。資金面や労力、周りの目もあります。
こういった技術面で少しでも被害を抑えることができればと思いますね。
判断するのは人
今回のInstagramのいじめ投稿検出ですが、最終的にそればいじめかどうか判断するのは人になるそうです。
いじめの写真をAIで検知! インスタ、新機能を数週間以内に展開へ | Techable(テッカブル)
どれだけスピーディに、正確にできるのかというところに注目が集まるでしょうが、いじめ投稿なのかどうかしっかりと判別できるのでしょうか。
検出の精度も含めて気になるところではあります。
今回は子供同士のいじめだけではなく、職場でのハラスメントなどにも対応かと上記の記事内にはあります。SNSの健全化はウェルカムですが、それは同時に投稿の監視でもあるわけで、実装後どういった変化があるのかも含めて興味深く見守っていきたいところです。