AIの成長によりセキュリティ上の脅威が増大する可能性があると報告書が警告

人工知能の前例のない発展により、今後 5 年以内に既存のセキュリティ上の脅威が拡大し、サイバー犯罪、物理的攻撃、政治的混乱など全く新たな危険がもたらされる可能性があります。これは、世界中から集まった26人の専門家からなる広範な報告書によるもので、彼らはAIの野放しな成長が安全保障の状況を変える可能性があると警告している。

学術界、産業界、慈善団体にまたがる著者によって書かれたこのMalicious AIレポートは、AI研究者に責任と透明性の文化を求め、さらにはAIと機械学習が公共の利益のために開発されることを保証するための政策介入の拡大の余地さえも求めている。これらの措置を講じなければ、AI によって悪意のある行為者と治安部隊の間の均衡が変化する可能性が高いと警告しています。

「AI機能がより強力かつ広範囲に普及するにつれ、AIシステムの利用が拡大し、既存の脅威の拡大、新たな脅威の導入、そして脅威の典型的な性質の変化につながることが予想される」と報告書は概説している。

デジタル セキュリティの観点では、AI を使用してタスクを自動化する可能性により、スピア フィッシングなどの労働集約的なサイバー攻撃に関連する脅威が増大すると予想されます。専門家らはまた、AIなりすましツールを使って人の音声を合成するなど、「人間の脆弱性」を悪用する攻撃が増加すると予測している。

続きを読む: 殺人ロボットは私たちの安全を高めてくれるのか?

物理的脅威に関連して報告書で検討されているシナリオの 1 つは、テロリストがドローンや自動運転車などの商用 AI システムを再利用して爆発物を届けたり、衝突を引き起こしたりする能力である。より一般的な意味では、AI 自動化は、以前は高度なスキルを必要としたタスクを実行するのがはるかに簡単になる可能性があることを意味します。専門家らは、自動照準の長距離狙撃銃の例を挙げているが、これはAI画像認識を利用することで、その使用に必要な専門知識を軽減できる可能性がある。

政治の領域もAIによる脅威の変化の影響を受けやすく、報告書ではAIと機械学習が監視、的を絞ったプロパガンダ、誤った情報の拡散に影響を与える能力について取り上げている。これらの脅威の主な理由として社会的操作が挙げられており、収集されたデータから人間の行動、気分、信念を分析する能力が向上しています。 「これらの懸念は権威主義国家の状況において最も重要であるが、真実の公的な議論を維持する民主主義の能力を損なう可能性もある」と報告書は指摘している。

この論文は、政府のデータ倫理イノベーションセンターとナフィールド財団のデータ倫理条約など、英国で多くのデジタル倫理イニシアチブが発表されてから数カ月後に発行された。これらの機関は、AIなどの急速に出現するテクノロジーの倫理的枠組みを調整するために設立されているが、開発のペースに追いつくことができるかどうかについて懸念があった。

オックスフォード大学の哲学と情報倫理の教授であるルチアーノ・フロリディ氏は、昨年私が彼と話したときにこう言いました。 「どうやってそれに追いつきますか？あなたは行くところへ行きます。あなたはそれに従おうとしないのです。出発する電車を追いかけて乗るのは愚かなことでしょう。電車が来る駅にいるほうがいいです。

「先を戦略的に考えていれば、物事が起こるところに着いて、適切な列車に乗ることができます。しかし、これは誰も聞きたくないことです。ビジネスマンはそうではありません。四半期報告書の先を見据えることになるからです。政治家ではない、次の選挙を超える可能性があるからだ。」

この報告書は、政策立案者とAI研究者との間のさらなるオープン化を求めている。また、悪意のある AI に対抗するために AI セキュリティ システムが最も期待されているものの 1 つであることも認めていますが、「AI ベースの防御は、特にデジタル ドメイン以外に目を向けた場合、万能薬ではない」と付け加えています。

「AIのオープン性の適切なバランスを理解し、システムの堅牢性を正式に検証するための改善された技術的手段を開発し、AIがあまり導入されていない世界で開発された政策枠組みが私たちが創造しようとしている新しい世界に確実に適応するようにするために、さらに多くの作業を行う必要があります。 」

画像: ロシアのネレタ戦車、手榴弾発射装置や機関銃を搭載できる無人地上車両