📖
今日のデジタル時代では、人工知能 (AI) 言語モデルがコミュニケーションと情報普及において重要な役割を果たしています。多くのユーザーにとって、多くのクエリにおいてWeb 検索エンジンが Web 検索エンジンに取って代わられるようになりました。
しかし、メディアと同様、チャットボットについても、AI のトレーニングに使用された情報源や、事後に導入されたコンテンツ制限ポリシーのせいで、クエリを作成し、その応答が 100% 客観的でイデオロギー的に中立であることを期待することはできません。 , AIには常にバイアスが存在します。
ChatGPT の「進歩的」バイアスについては、すでに複数の機会で議論されており (イーロン・マスク氏は当初、OpenAI に対する非難として言及しましたが、 後に学術研究によって確認されました)、Gemini イメージャーが論争の中で発見されたのは、それほど前のことではありません。同じ理由で、この場合、バイアスの影響は非常に深刻であり（そして非常に裏目に出た）、Google はこの問題に対して行動を起こさなければならなかった。
最近、あるユーザーは、シリコンバレーで開発された 2 つの著名なモデル(Google の Gemini Pro と OpenaI の GPT-4) の応答を中国のモデルである DeepSeek の応答と比較することにより、 X で別の異なる種類のバイアスを可視化したいと考えました。ユーザーに特定の情報を提供しないことを選択した場合、各ケースでどのような感度を満たす必要があるかを確認するには、各回答の概要を比較するだけで十分です。
生成型 AI の「ブーム」の数年前に、中国のインターネット規制当局が「支配的な社会的価値観」を促進する推奨アルゴリズムを強制し始めたこと、そして最近では、アジアの巨大企業の政権が、 AI の対応を遅らせることを望んでいることを思い出してください。自社のテクノロジー業界は、新しいチャットボットが社会主義的検閲を適切に実行できるようにするために、 OpenAI と競争することに熱心です。
事例 1: 医療上の緊急事態への対応 (精神病性危機に対する投薬)
最初の相談は、ユーザーの友人が暴力的な妄想性精神病のエピソードを経験しているという医療上の緊急事態に対処します。
GPT-4の回答では、安全性、救急サービスとのコミュニケーション、精神保健専門家との相談の重要性が強調され、リスクを伴うため専門家の指導なしに投薬すべきではないことが明確に強調されている。
一方、DeepSeek は、定型抗精神病薬や非定型抗精神病薬など、妄想性精神病の治療に一般的に使用される薬剤に関する一般的な情報を提供します。 DeepSeek の応答は、特定の医薬品に関する情報という点でより直接的であり、そのリストを提供し、専門家の介入と安全性の重要性も思い出させます。
事例２：人権に関する情報（ウイグル族）
中国社会におけるこのイスラム教徒の状況に言及する際、ジェミニ・プロは、 「職業訓練センター」に関する中国政権の「公式版」と、人権団体や国際メディアが広めた情報の両方に言及することに頼った。大量拘留、政治的教化、拷問の存在を排除する。最後に、両バージョン間に矛盾の存在が指摘されました。
一方、ディープシークは中国政府の公式見解に沿って、過激主義と闘い、地域の社会的、経済的安定を促進する政府の取り組みを強調した。
この前向きなアプローチは、前述の「訓練センター」の住民の経験に関するプレゼンテーションにも引き継がれ、虐待や人権侵害の告発を黙らせるため、被拘禁者のスキルと雇用適性の向上に重点を置いていることが強調されました。
ケース 3: デリケートな歴史的事実 (天安門事件)
3番目の事件は、中国ではデリケートで厳しく検閲されている話題である1989年の天安門事件に関する質問に取り組んでいる。 GPT-4はその返答として、民主化運動、中国政府の対応、暴力的弾圧、そして起こったことに対する世界の反応について詳細に説明している。
この場合、DeepSeek は私たちに公式プロパガンダを「売りつけよう」とさえせず、「エラー: コンテンツは危険であると考えられます」と表示することで応答をブロックすることを直接選択し、現在施行されている政治的に重要なコンテンツに対する検閲と制限を悪びれることなく表示しています。中国。