📖
OpenAIのCEOであるサム・アルトマン氏と同社の製品ディレクターであり、以前はInstagramの成功を担ったケビン・ワイル氏との間の最近の対談コロキウムでは、人工知能業界の両人物が人工知能の将来に関する最も関連性の高いトピックのいくつかを取り上げました。 …
…AGI (汎用人工知能) の概念の定義から自律型エージェントの開発まで、どちらも 2025 年に何が起こるかについて自信を示しています。以下では、この会話の重要なポイントを説明します。
2025年: 「自律エージェント」の年
会話の中で繰り返されたテーマは、自律エージェントの役割と、自律エージェントが社会やテクノロジーに与える影響でした。 Altman 氏によると、2025 年までに、「o1」のようなモデルが最終的にエージェントを効果的に機能させるようになるでしょう。これらのエージェントは、人間では数週間から数か月かかるタスクを数時間で実行できるようになり、生産性とワークフローに革命をもたらすと同氏は説明した。
エージェントの開発は差し迫っているが、ワイル氏とアルトマン氏は、セキュリティと調整が依然として最大の障害であることを強調した。これらの障壁を解決すると、エージェントはシステムを監視するだけでなく、効率的かつ安全に監視できるようになります。
さらに、AI の現在の課題の 1 つは、 AI が現在実行できることと、まだ手の届かないことの限界を判断することです。この「スイート スポット」を見つけることが、新モデルのリリース時に先を行く鍵となります。
セキュリティの向上を目指して
アルトマン氏はまた、エージェントにコンピュータシステム全体を制御させる鍵となるのは、エージェントのセキュリティと「調整」（つまり、エージェントが人間の利益に従うこと）を確保することであると強調した。
アルトマン氏にとって、「反復実装」（AI システムの進歩的なバージョンを開発してリリースし、継続的に評価して微調整する）というよく知られたアプローチが、彼の最良のセキュリティ方法であると考えられています。
まだ「SF」と見なされる可能性のある危険性さえも考慮に入れなければなりません。アルトマン氏によると、未来の予測は突飛なように思えるかもしれないが、技術の進歩が人類を危険にさらさないようにするには、こうしたシナリオについて心配することが不可欠だという。
AI モデルのパフォーマンス革命
会話のもう 1 つの魅力的な側面は、AI モデルが加速度的にインテリジェントになってきているという考えでした。アルトマン氏は、OpenAI はモデルを次のレベルに引き上げる方法をすでに知っており、短期的にはこれらのシステムのパフォーマンスの加速的な向上が期待されるはずだと強調しました。学期。
OpenAI がその進歩を評価する方法の 1 つは、社内での使用、つまり企業の従業員が日常業務で AI モデルを使用してその有効性を測定する「ドッグフーディング」を通じて行われます。
この意味で、仮想エージェントも関心が高まっている分野です。 OpenAI は「仮想従業員」の導入を計画しています。これは、より複雑なタスクを自動化し、より堅牢な方法で作業環境に AI を実装するための重要な一歩となります。
モデルの未来: コンテキストとトークン。 OpenAI モデルの技術的能力に関しては、2024 年末までに「o1」モデルが関数呼び出し機能をサポートする予定であることが述べられ、これによりエージェントに割り当てられたタスクの対話性と能力が向上します。さらに、アルトマン氏は、今後 10 年間で、大量の情報を処理する際の重要な機能である無限長のコンテキストが現実になるだろうと予測しました。
定義が難しいものを探すという挑戦
汎用人工知能 (AGI) も会話の中心を占めたトピックでした。アルトマンとワイルは、人工知能システムがますます複雑なレベルに近づくにつれて、AGI の定義がますます曖昧になっていると指摘しました。
「私たちは、すべてが曖昧に見える段階にいます」とアルトマン氏は、 AI システムがこのレベルの機能にいつ到達するかを定義することの難しさに言及して説明しました。実際、システムの開発が完了するたびに、彼らは「どの観点から見て、これは AGI ではないのか?」と自問しました。
アルトマン氏の AGI に対する主な目的の 1 つは、科学的発見の率を高め、これらの技術の開発を導くことができる一種の「北極星」を構成することです。
アルトマン氏はまた、OpenAI の使命は安全な AGI を構築することであり、この探求への答えにはさらなる研究開発が必要か、それとも単により多くのコンピューティング能力が必要かにかかわらず、彼らはどちらの道を進んで進むつもりであることも明らかにしました。
OpenAIとオープンソース
講演では、オープンソースに対するOpenAIのスタンスについても議論された。アルトマン氏はこの理念に関心を示したものの、現在同社にはこの分野での前進を妨げる「他の優先事項」があると述べた。しかし同氏は、OpenAIが「最終的には」オープンソースで「何か」をリリースできるとの期待を表明した。
実際には、真実は、彼らがすでにオープンソースで「何か」を持っているということです（ウィスパー）…そして彼らは、オープンソースの GPT-6 を確認するには長い時間がかかることを過去にすでに明らかにしました。