Google DeepMind 創設者、AI の将来について語る「人間として、私たちは常に最新情報を常に把握しておく必要がある」

ロンドンで開催されたTechCrunch Disruptカンファレンスで、Google DeepMindの共同創設者であるムスタファ・スレイマン氏は、人工知能を設計する際の透明性の重要性と、技術システムが何をしているのか分からないリスクについて語った。

Google、Facebook、Amazon、IBM、Microsoft の企業間パートナーシップである AI に関する DeepMind パートナーシップについて、スレイマン氏は、高度な AI から生じる可能性のある社会的危険に対処するというグループの目標について語りました。

スレイマン氏は、パートナーシップの全容は2017年1月まで発表されないとしながらも、人工知能システムが意思決定を行う理由を知り、このプロセスを可能な限り透明性を確保することである、グループの中核的課題について概説した。 。

スレイマン氏は「取締役会が当初想定していた種類のリスクからは数十年が経過している」と述べた。 「そのため、私たちは短期的な影響に焦点を当てた他のさまざまなメカニズムを導入しています。パートナーシップの優先事項の 1 つは、アルゴリズムの透明性の問題に取り組むことです。特定の推奨事項を提供するために、つまり特定の決定を下すために使用している表現は、ネットワークのどこにあるのでしょうか?これは本当に重要な質問です。」

スレイマン氏は、機械学習プロセスの「ブラックボックス」効果について質問されました。システム以外のどのデータが収集され、その結果が何であるかを特定することはできますが、現時点では、AI が選択を行う理由を確実に知ることはできません。インフラ内で AI ベースのプロセスへの依存が高まっていることを考えると、これは社会の将来にとって重大な問題を示しているのでしょうか?たとえば、Google Brain の研究者は、3 つのニューラル ネットワークが人間に依存せずに暗号化システムを開発できることを教える実験を実施しました。

「文脈的に言えば、この問題は全体的にあると思います」とスレイマン氏は答えた。 「当社の最も複雑なソフトウェア システムの多くはデバッグが非常に難しく、問題が発生すると空港、病院、交通システムなどに多大な影響を及ぼします。一般に、技術システムの動作をどのように検証するか、システムをどのように精査して透明性を確保し、確実に制御できるかという、より広範な問題があります。人間として、私たちは常に最新の情報を把握しておく必要があります。」

AIのプロセスを人間の関与から切り離すリスクだけでなく、スレイマン氏はAIが人類のより残念な社会構造から学習する危険性についても触れた。囚人が将来犯罪を犯す可能性を考慮して設計されたソフトウェアを調査し、黒人に対して偏見を持っていることが判明した、5月に出版されたプロパブリカの記事について質問されたとき、スレイマン氏は、AIシステムに対する人間の偏見の影響は次のように述べた。私たちの時代で最も重要な質問の一つです。」

「私たちは自分たちの偏見や判断を技術システムに投影する運命にあります。」

「これらのことについての私の考え方は、私たちは自分たちの偏見や判断を技術システムに投影する運命にあるということです」とスレイマン氏は語った。 「設計者や技術者として、これらのシステムをどのように構築するかについて意識的に考えていなければ、知らず知らずのうちに同じバイアスがシステムに導入されてしまうことになります。」

「運命」という言葉の選択が誤りであるかどうかにかかわらず、スレイマンは人間社会が独自の偏見なしに技術システムを開発することが可能であるという希望を抱いていました。彼はユートピア主義に関するメモの中で、これは実際に私たちが「世界を再構築する」方法を提示していると主張した。

「このテクノロジーの興味深い点は、現実世界と対話するシステムをどのように設計しているかを批判的に考える機会を提供してくれることです」と彼は言いました。 「私たちはオープンで透明な方法でそれを行うよう常に努めるべきであり、ある意味、種として前進するにつれて、偏見や判断を減らして世界を再構築する必要があります。」