トロント大学の工学研究者チームは、顔認識システムを動的に破壊するアルゴリズムを作成しました。
Parham Aarabi 教授と大学院生の Avishek Bose が率いるこのチームは、2 つの人工知能アルゴリズムを互いに戦わせる「敵対的トレーニング」と呼ばれる深層学習技術を使用しました。
次を読む: AI と機械学習: 違いは何ですか?
Aarabi と Bose は 2 つのニューラル ネットワークのセットを設計しました。最初のネットワークは顔を識別し、もう 1 つは最初のネットワークの顔認識タスクを妨害します。この 2 つは常に戦い、互いに学び合い、AI 軍備競争が続いています。
「破壊的なAIは、顔検出用のニューラルネットが探しているものを『攻撃』する可能性がある」とボーズ氏はインタビューで語った。
「たとえば、検出 AI が目尻を探している場合、目じりが目立たなくなるように調整します。写真には非常に微妙な乱れが生じますが、検出器にとってはシステムを騙すのに十分なほど重要です。」
結果は、プライバシーを保護するために写真に適用できる Instagram フィルターに似ています。このアルゴリズムは画像内の非常に特定のピクセルをターゲットにし、人間の目にはほとんど知覚できない微妙な変化を加えます。
「ここで重要なのは、2 つのニューラル ネットワークを相互にトレーニングし、1 つはますます堅牢な顔検出システムを作成し、もう 1 つは顔検出を無効にするさらに強力なツールを作成することでした」とボーズ氏は付け加えました。
プライバシーとデータセキュリティに対する懸念は高く、顔認識技術を実装および提供しているグーグル、アマゾン、ロンドン警視庁などに疑問が投げかけられている。
グーグルは顔認識カメラを使ったドアホンを発表し、英国郊外で発売される予定で、プライバシー侵害への懸念が高まっている。
アマゾンは、米警察に顔認識ソフトを提供したとして、アメリカ自由人権協会（ACLU）などから非難を浴びている。
ロンドンのメトロポリタン警察は、失敗率が98%と言われている「危険なほど不正確な」顔認識技術を使用していると言われている。
アラビ氏は、ニューラルネットがますます進歩するにつれ、「反」顔認識システムは個人のプライバシーに利益をもたらす可能性があると信じている。
「顔認識がますます良くなるにつれ、個人のプライバシーは深刻な問題になっています」とアラビ氏は付け加えた。 「これは、有益な顔認識防止システムがその能力に対抗できる 1 つの方法です。」
「10 年前、これらのアルゴリズムは人間が定義する必要がありましたが、現在ではニューラル ネットが自ら学習するため、トレーニング データ以外は何も提供する必要がありません。
「最終的に、彼らは本当に素晴らしいことを成し遂げることができるのです。この分野では今が魅力的な時期であり、大きな可能性が秘められています。」
「 AI は顔認識ソフトウェアを阻止し、あなたを「見えなくする」ことができると主張しています」に関するベスト動画選定！
#12 私たちはAIとどう付き合えばいいの？？
【顔認証のしくみ】AIはどうやって顔を判別しているのか？