Google は、ほとんど知られていなかった競合企業である OpenAI が強力な人工知能を開発し、それを誰もが手にできるようになるとは思っていないようでした。特にChatGPTについて話します。
マウンテンビュー社は長年にわたってAIソフトウェアを開発してきたが、その提案を世界市場に投入するには「行動をまとめる」必要があった。多くの場合、その急ぎが誤った製品を生み出しました( Gemini の歴史を歪曲する画像など)。
1年前、Googleの幹部3名が同社の人工知能BardについてCBSのインタビューに応じた。 GoogleとAlphabetのCEO、サンダー・ピチャイの発言で最も驚くべきこと。シシー・シャオ、Google副社長。そして上級副社長のジェームス・マニカ氏は、この AI や社内のその他の機能の一部を理解していないことを認めたということです。
Google がインターネット検索の 90% を処理していたことを覚えておく必要がありますが、2023 年 2 月に Microsoft が新しいチャットボットを発表したときにそのドメインが攻撃され、 ChatGPT を Bing 検索エンジンに統合してエクスペリエンスが大幅に向上しました。一方、Google の Bard は特定の問題を抱えてやって来ました。
Googleの副社長であるシシー・シャオと上級副社長のジェームス・マニカは、「私たちが最初に学んだことは、バードはGoogle検索のようにインターネット上で答えを探していないということだった」と述べ、 Googleの人工知能の答えは自律的なものから来ていると述べた。プログラムの大部分は独学であり、マネージャー自身も、この AI を使用した経験は「不安だった」と断言しています。
AIは言語を学習したが、その方法は分からなかった
Google の専門家が語った AI のトピックの中で、最も謎に満ちているのは創発特性と呼ばれるものです。同社の人工知能ツールは、期待されていなかったスキルを学習していたようだ。
「これがどのようにして起こるのかはあまり知られていません。たとえば、Google AI プログラムは、知る訓練を受けていないバングラデシュ語で質問された後、独自に適応しました」と Google は述べています。
ジェームズ・マニカ氏は、ベンガル語のプロンプトがほとんどなくても、この人工知能がすべてのベンガル語を翻訳できることを発見したと主張している。そこでGoogle は、どのようにしてこれが可能なのかを調査し、同じことを「1,000 の言語」で実現するために努力する必要がありました。
これに対してCBSのインタビュアーは、「あなたはそれがどのように機能するのか完全には理解していないのに、それを社会に提供したことがありますか？」と彼らに質問した。ピチャイ氏は、これは深刻なものではないとし、「人間の心の仕組みも完全には理解していないと思う」と主張した。
ブラックボックスとは
アルファベットのリーダーは、技術研究で使用される用語「ブラックボックス」について語ります。バードのベンガル語学習に関する問題は、Google エンジニアの「ブラック ボックス」内にあり、それらは説明できない AI の出来事であると考えられています。
ピチャイ氏が説明したように、「この分野の私たちは皆、何かが完全に理解されていないことを『ブラックボックス』と呼んでいます。」つまり、なぜ彼が何かをしたのか、なぜ間違いがあったのかをうまく言えないのです。 「私たちにはいくつかのアイデアがあり、それを理解する能力は時間の経過とともに向上します。」
Scientific American が 2023 年末に発表したように、AI ブラック ボックスとは、ユーザーには見えない内部機能を持つ人工知能システムを指します。 「情報を提供して結果を取得することはできますが、結果を生成したシステム コードやロジックを調べることはできません。」
この記事の前のバージョンは 2023 年に公開されました。