Facebookはヌードを見つけることはできるが、ヘイトスピーチは見つけられない

Facebook は、この透明性に関する協定全体について、まだ取り組みを進めているところだ。昨日、このソーシャル ネットワークは、コミュニティ基準をどのように実施するかについて史上初の公開四半期報告書を発表しましたが、そのモデレーションの取り組みはかなり効果的だったようです。しかし、ソーシャル ネットワークは 2018 年の最初の 3 か月間で 5 億 8,300 万件の偽アカウントを排除することに成功したように見えましたが、レポートには明らかな詳細が 1 つありました。

同社の自動フラグAIは、偽アカウント、スパム、さらにはヌードの検出にはうまく機能しているようだが、プラットフォーム上のヘイトスピーチの検出にはかなり苦労しているようだ。

Facebookは報告書の中で、同社のAIベースのツールにより、ユーザーがコンテンツを報告することなく、偽アカウントの98.5％とスパムのほぼ100％を削除することができたと述べた。 AI は、テロリストのプロパガンダの 99.5%、成人のヌードと性的行為の 95.8% にフラグを立てることにも成功しました。グラフィック暴力の検出にはあまり成功していないように見え、コンテンツの 85.6% しか検出できませんでしたが、この数字は AI が検出したヘイトスピーチの量と比較すると膨大です。報告書によると、AI はヘイトスピーチの 38% のみにフラグを立てることができました。

「ヘイトスピーチに関しては、当社のテクノロジーはまだそれほどうまく機能していません」と、製品管理担当副社長のガイ ローゼン氏は Facebook ブログで認めています。

「コンテキストが非常に重要であるため、人工知能のようなテクノロジーは有望ではあるものの、ほとんどの悪質なコンテンツに対して効果を発揮するにはまだ何年もかかるということも一因です」と彼は付け加えた。 「人工知能は、誰かが憎しみを押しつけているのか、それとも自分の身に起こった出来事を説明しているのかを判断して、問題への意識を高めるにはまだ十分ではありません。」

言語は非常に微妙なニュアンスを持っているため、さまざまな形で現れるヘイトスピーチのような複雑なものを認識できるように AI をトレーニングすることは、人間によるモデレーションなしでは困難な作業となるでしょう。スパムや偽のアカウント、さらには画像認識によって検出できるヌードやテロリストのプロパガンダとは異なり、ヘイトスピーチを取り締まるのははるかに困難です。

ノートルダム大学の講師ティモシー・カロネ氏はAP通信に次のように語った。

「それは、『火事だ！』と叫ぶのと同じことを考えようとしているようなものです。何もないのに混雑した劇場で、不快ではあるが言論の自由に値する何かを言うのと同じことだ。」

解決策の 1 つは、投稿がヘイトスピーチに分類できるかどうかを判断するために人間にもっと依存することですが、ソーシャル ネットワークの規模が非常に大きいことを考えると、ある程度の自動化がなければコンテンツをチェックできる可能性はほとんどありません。

少なくとも今回の場合、AIによる自動検出は29億人のユーザーに対して十分な機能を発揮しておらず、ソーシャルネットワークはプラットフォーム上のユーザーを保護するより良い方法を見つける必要がある。ケンブリッジ・アナリティカ後の傷はまだ生々しいので、より大きな魚を最初に揚げるべきかもしれない。