TwitchストリーマーのSweet AnitaがPornHubなどのポータルのポルノビデオに出演したのは、誰かが彼女の画像を撮影し、人工知能のおかげで彼女がポルノをしているかのようにディープフェイクを作成したためである。彼女は彼を公に非難した。その訴訟がすでに審理されていたとしても、今年は有名な歌手テイラー・スウィフトが同じ立場にあったことはさらにそうでした。
そして、しばらく議論されてきたように、人工知能技術は巨大な革新とともに急速に登場しましたが、多くの場合、規制は作成されていません。実際、 ChatGPT の背後にある偉大な頭脳の 1 人であるミラ ムラティ氏は、テレビのインタビューで、AI の規制を担当するのは企業ではなく政府や規制当局であるべきであるとさえ宣言しました。
有名なストリーマーが、同僚のポルノディープフェイクを見ているのが捕まり、明らかに大きなスキャンダルになったときのことを覚えておく必要があります。ポルノ コンテンツを含むストリーマーの人工知能によって作成された有料モンタージュを提供するページが見られました。 Kotakuによると、この Web サイトはOnlyFansと構造が似ており、コンテンツにアクセスするにはユーザーが購読する必要があります。
この不正行為から利益を得ている人々
そして、ポルノビデオで自分の盗まれた画像を見るのは女性にとってどれほど恐ろしいことであり、多くの人がそれが本物であると信じていることに加えて、 これで大金を稼いでいる人々がいます。これらのポルノ ビデオを作成した人は、自分のチャンネルでサブスクリプション サービスや有料サービスを提供しています。
利益を得るもう 1 つの方法は、人々がお金を支払えば、人物の画像を含むこれらのポルノ ビデオのパーソナライズされた作品を提供することです。たとえば、Discordを通じて、Instagramのフォロワー数が200万人未満の「個人的な女の子」（女性に対して行うと具体的に言及している）を主役にした5分間のディープフェイクを作成することを申し出た人がいる。そして、彼はビデオごとに 65 ドルを請求しました。
Discordのコミュニティガイドラインは、 「望まない性的対象化」を含む「セクハラの調整、関与、または奨励」を禁止している。それでも、NBC ニュースは、 安定拡散人工知能手法による性的に露骨なディープフェイク画像の作成に特化した Discord コミュニティをいくつか見つけました。
Scams.info によると、英国では先月、「ディープフェイク ポルノ」の Google 検索が 1,000% 急増し、多くの国民が関心を持っていることがわかりました。
そしてそれから数週間で、スウィート・アニタに加えて、TwitchのスターQTCinderella（28歳）（ ビデオのアシスタントを探している）を含む他のソーシャルメディアの著名人も、自分たちがディープフェイクポルノのターゲットになっていたことを発見した。
私生活に影響が出るのではないかという不安
前述のアニタはビデオの中で、「（ディープフェイクを）現実と区別するのは簡単ではない」と回想し、「 10年か20年後にこのビデオを見たら、私がセックスワーカーだったかどうかは誰も分からなくなるだろう」と語った。ディープフェイクだった。」
Twitchの被害者は続けて、「セックスワークをしたと思われれば、将来仕事をクビになる可能性がある。あなたの安全や人々の扱いに影響を与える。あなたに汚名を着せられる」と語った。
この記事の前のバージョンは 2023 年に公開されました。