過去数年にわたって、生成人工知能はさまざまな分野で大きな可能性を秘めた分野であることが証明されてきました。 ChatGPT 、 Midjourneyのようなツール、 イレブンラボのようなプラットフォーム、さらにはリアルなビデオを生成する強力な OpenAI ツールでさえも実行できるすべてのことのほんの一部をすでに見てきましたが、これらのタイプのテクノロジーは、次のような理由により論争にも巻き込まれています。今日、個人や組織を欺くのは簡単です。
最新の例の 1 つは、世界最大の広告会社に関係しています。そして、WPP CEOのマーク・リード氏が新たなディープフェイク詐欺の被害者となった 彼らは人工知能を使って彼の声を複製した。 ガーディアン紙で述べたように、リード氏は同社に宛てた電子メールで詐欺未遂の詳細を明らかにし、同様に詐欺である可能性のある重要な請求を求める電話が他にもある危険性について他の会員に警告した。
AIを利用した詐欺の波が拡大
この詐欺の犯人は、Read の公開イメージを使用して WhatsApp アカウントを作成し、それを使用して Microsoft Teams で会議を開始しましたが、その会議は他の会社幹部との通話になったことが判明しました。通話中、詐欺師らは同社CEOの声を複製した音声と、CEOが出演するYouTubeビデオを公開した。
この詐欺は失敗に終わりましたが、金銭と個人データを要求する目的で代理店マネージャーに新しい会社を設立するよう依頼するというものでした。 「幸いなことに、攻撃者は成功しませんでした」とリード氏は電子メールに書いた。 「私たちは皆、電子メールを超えて仮想会議、AI、ディープフェイクを利用する技術に目を光らせる必要があります」とリード氏は続けた。
WPPの広報担当者は公式声明を通じてこの詐欺行為を認め、「影響を受けた幹部を含む従業員の警戒のおかげで、事件は回避された」と述べた。 WPPは攻撃がいつ発生したのか、リード氏以外のどの幹部が関与したのかについては明らかにしていない。
近年、サイバー犯罪者が生成型人工知能に基づくさまざまなツールを使用してディープフェイクを作成したり、オンライン詐欺などの望ましくない用途に使用したりする例を数多く見てきました。顔や声を複製するツールは誰でも利用でき、特定の目的では便利なプラットフォームになる可能性もありますが、誰でもなりすますことができるという深刻な問題になる可能性もあります。
WPPでの詐欺未遂は、CEOのマーク・リード氏の音声を複製するツールなどを使ったものとみられる。リード氏が電子メールで認めているように、他の同様の企業を狙ったサイバー攻撃ではますます高度化した手法が検出され、同様に高い地位にある幹部になりすまそうとしている。
この種の攻撃を確実に最小限に抑えるために、リード氏は電子メールの中に、パスワードや送金、その他誰も知らない取引の要求を「危険信号」としてマークすることなど、一連の重要なポイントを記した。 「アカウントに私の写真があるからといって、それが私であるとは限りません」とリード氏はメールで述べた。
すでに述べたように、WPP は株式市場資本が 113 億ドルを超える世界最大の広告会社です。彼らが Web サイトで述べているところによると、最近、彼らは自分たちの画像と名前を利用してクローン Web ページを作成するあらゆる種類の詐欺に対処しているとのことです。