数千人の開発者と、Google DeepMindやSilicon Valley Roboticsを含む100以上の世界有数のAI企業や研究機関が、人間の命を終わらせる決定をAIに決してさせてはならないという誓約書に署名した。
テスラの創設者イーロン・マスク氏など2,400人以上のテクノロジー業界の主要人物とAI技術に投資している160社は、たとえそれが正確にできるとしても、人間の命を奪う決定を「機械に委任」することは決して許さないと約束した。誰かがいつ死ぬかを予測する。
「国民、政策立案者、指導者がAIの許容される使用と許容できない使用を区別する緊急の機会と必要性」を考慮して、この誓約に署名した企業はまた、自律型兵器に対する一連の具体的な法律を制定するよう政府に求めた。
「私たち署名者は、人の命を奪う決定を決して機械に委ねるべきではないことに同意します。この立場には道徳的な要素があり、他人や誰もが責任を負わない命がけの意思決定を機械にさせるべきではない」とフューチャー・オブ・ライフ研究所（FLI）が主催した誓約書には書かれている。
次を読む: Google DeepMind の AI はチームベースの eSports に熟達している
署名者らは、このような兵器には人間の関与なしに標的を選択して攻撃することも含まれており、地政学的レベルで極めて不安定化する可能性があると主張した。彼らはまた、人間による制御の要素や、監視システムやデータシステムとの密接な関係を取り除くことは、自律型兵器が「暴力と抑圧の道具」になる可能性があるという点にも同意した。
「さらに、自律型致死兵器は、核兵器、化学兵器、生物兵器とは全く異なる特徴を持っており、単一集団の一方的な行動は、国際社会が管理するための技術的ツールや世界的統治システムを欠いている軍拡競争を容易に引き起こす可能性がある。」誓約は続けられた。 「このような軍拡競争を非難し阻止することは、国家と世界の安全保障にとって最優先事項であるべきである。」
この誓約は、活動家や運動家だけでなく、グーグルなどの世界最大手のテクノロジー企業で働く従業員からも抗議活動が拡大していることを受けて行われた。
続きを読む: この AI は壁越しでも人の動きを追跡できる
テクノロジー大手は先月、従業員数千人が同社の関与を公に批判したことを受け、物議を醸している国防総省主導の軍事プロジェクトを再開しないと発表した。 Project Maven と呼ばれるこの契約には、軍用ドローンの性能を向上させるために Google が TensorFlow プログラミング キットを貸与することが含まれていました。
しかし、Googleの従業員3,100人が今年初めに同社に「戦争ビジネス」からの撤退を求める書簡に署名したことを受け、Google Cloudの最高経営責任者（CEO）ダイアン・グリーン氏は先月の社内会議で、2019年に契約が期限切れになると契約を更新しないことを認めた。
「私たちは、Google が戦争ビジネスに携わるべきではないと信じています。したがって、我々はProject Mavenを中止し、Googleに対し、Googleもその請負業者も決して戦争技術を開発しないという明確な方針を起草し、公表し、施行することを求める」とCEOサンダー・ピチャイに宛てた書簡の原文には書かれている。
しかし、新たに署名された誓約書がプロジェクト・メイブンへのグーグルの関与に違反するかどうかは不明である。というのも、この誓約は機械によって命を奪われるという決定を阻止するという程度のものであり、接線的な関与に反するものではないからである。あらゆる兵器システムにおける AI テクノロジーの活用。
次を読む: 世界初の「サイコパス」AI、ノーマンを紹介する
この協定に参加しない注目すべき企業には、人工知能への世界最大の投資家の一つである Apple が含まれるが、この誓約書に署名したのは Microsoft 、IBM、Amazon などの他の主要企業の選ばれた従業員だけであり、企業自体ではない。
「AIのリーダーたちが対話から行動へ移行し、政治家がこれまで実行できなかった政策を実行するのを見るのをとても楽しみにしています」とFLIのマックス・テグマーク会長は、本日ストックホルムで開催された年次国際共同会議中にこの誓約を発表し、こう語った。人工知能 (IJCAI) について。
「私たちがAIの悪用を非難し、阻止できれば、AIは世界を助ける大きな可能性を秘めています。人を殺すことを自律的に決定する AI 兵器は、生物兵器と同じくらい不快で不安定なため、同じように対処されるべきです。」
「このテクノロジーコンソーシアムがそれについて何か言うなら、キラーAIは問題にならないだろう」に関するベスト動画選定！
【AI・人工知能①】AIを知れば未来が見えてくる！
【衝撃】AIロボットが言った恐ろしい言動４選