Googleは、「ホロコーストは本当ですか？」などの質問を確実に受けられるようにするため、約1万の独立系契約に対し、不安を抱かせるコンテンツや不快なコンテンツを報告するよう依頼した。ユーザーにプロパガンダや誤った情報を提供するような結果を表示しないでください。
Search Engine Land によると、これらの請負業者は「品質評価者」と呼ばれ、Google によって検索結果を評価するために使用されます。どの結果が表示されるか、どの順序で表示されるかを直接変更する機能はありませんが、生成されたデータは検索エンジンのアルゴリズムと AI システムを改善するために使用されます。
品質評価者が使用するガイドブックは最近更新され、「不快感を与える」コンテンツのセクションが追加され、この指定の下でどのような種類のコンテンツにフラグを立てるべきかが通知されました。
「あらゆる年齢、性別、人種、宗教のユーザーがさまざまなニーズに応じて検索エンジンを使用していることを忘れないでください」とガイドには、不快感を与える攻撃的なコンテンツのフラグの必要性が記されています。
ガイドによると、宗教、国籍、民族、市民権に基づく憎しみや暴力を助長するコンテンツは報告の対象となるという。これにより、評価者はホロコースト否定や反ユダヤ主義などの問題を中心とした特定の結果にフラグを立てることができます。
これらの取り組みは、「ホロコーストは本当に起こったのか?」の検索結果が 1 位となった 2016 年の事件を受けて行われたものです。衝撃的な反応が返されました – いいえ、そうではありませんでした。その結果、ユーザーは白人至上主義者でネオナチのフォーラムであるストームフロントにも誘導されました。最初のページに表示される他のいくつかの結果でも同様の回答が得られました。
ガーディアン紙がこの問題を取り上げた後の激しい反発を受けて、Google は、誤った情報やプロパガンダに加え、不快で不快なコンテンツが特定のクエリで結果ページのトップに表示されないように検索エンジンを改善する方法に取り組んできました。
現在、Google の検索結果には攻撃的または気分を害するものとしてフラグが付けられるようになりましたが、Google はこのコンテンツを検索エンジンから完全に削除するわけではありません。それは、検索結果を求めていない人にこれらの結果が表示されないようにしているだけです。
たとえば、「ホロコーストは起こりましたか?」と検索した人がいるとします。そうでなかったと主張する結果は表示されません。一方、ネオナチの Web サイトを名前で検索すると、その Web サイトにアクセスできるようになります。
「 Google、ホロコースト否定の結果を制限するために10,000の請負業者を利用」に関するベスト動画選定！
【JNS2023 産学連携シンポジウム：信頼される脳科学技術による社会への貢献を考える】「イントロダクション」松元健二（玉川大学・教授）
Google Cloud の内製化支援プログラム TAP を活用した人財育成：無人店舗環境での AI 精度可視化アプリの開発