私たちは心配していましたが、それが現実になってしまいました。詐欺師はすでに AI によって複製された音声による電話に頼って、私たちからお金をだまし取ろうとしています。

人工知能を利用した音声なりすましは、詐欺の手口として増加しており、従来の本人確認対策への挑戦となっています。今回、INCIBE は、家族の声になりすますために AI が使用されたとされる詐欺事件を報告する 017 ( サイバーセキュリティ ヘルプ ライン) に電話したユーザーの事例を取り上げています。

何が起こったのでしょうか？

家族の安否を心配した女性が、携帯電話に不審な電話がかかってきたため、017に連絡した。電話は未知の番号からかかってきましたが、応答すると、すぐにそれが彼女の夫だとわかる声が聞こえました。夫は彼女にこう言いました。

「こんにちは！ 電話ができないので、この番号 ______ にメッセージを送ってください。」

何か問題があったのではないかと考えたユーザーは、指定された番号にはメッセージを送信せず、パートナーのいつもの電話番号に電話することにしました。彼と話をしたところ、そのような電話はしていないと認めた。混乱し不安を感じた夫婦は、この電話は人工知能によって生成された可能性があると結論づけた。

ユーザーが不審な電話の指示に従わなかったおかげで、彼女は罠に陥る可能性を回避できました。もし彼女が提供された番号にメッセージを送っていたら、犯罪者らは彼女の夫を装って会話を始め、 「困っている息子」の姿や肖像を使って、説得力のある口実で個人情報や銀行口座の詳細を要求したり、送金を要求したりする可能性がある。 ‘ 詐欺 ‘ 。

サイバー犯罪者はどのようにして音声を偽装することができたのでしょうか?

ユーザーの夫のビデオがウェブやソーシャルネットワーク上に公開されているという証拠はないが（そこから彼の声の音声が抽出され、合成された可能性がある）、彼らは、彼が以前に数回奇妙な電話を受けていたことを覚えていた。

これらの電話では誰も応答しなかったり、ビープ音が聞こえたり、個人情報を要求されたりすることさえありました。これらの不審なやり取りは犯罪者によって録音され、後に不正な音声の作成に使用された可能性があります。

現象の説明。 AIの進歩により、わずか数秒の録音で人の声を再現した説得力のある音声を作成できるようになりました。 「ビッシング」 （音声フィッシング）として知られるこのタイプの詐欺は、音声クローン技術を使用して被害者を騙し、愛する人や信頼できる人物と話していると信じ込ませます。

このような場合はどうすればよいでしょうか?

すでに被害に遭っている場合の対策：

1. 他の連絡先に通知する: 友人や家族に何が起こったのかを知らせ、同様の電話の可能性に注意してもらいます。
2. 番号をブロックする: 不審な番号からの今後の電話を防ぎます。
3. 報告: 詐欺番号について国家警察または国家警備隊に通報してください。

取るべき予防策:

1. 情報確認：不審な電話を受けた場合は、必ず電話をかけてきたと思われる相手に情報を確認してください。
2. 個人情報や銀行情報は提供しないでください。
3. 不審な指示には従わないでください。リンクを入力したり、不明なアプリケーションをダウンロードしたりしないでください。
4. キーワードの使用: 不審な通信で身元を確認するために、家族や友人の間で「キーワード」について合意します。

経由 | インシブ