📖
現在、パリでは VivaTech テクノロジー カンファレンスが開催されており、参加者の 1 人であるヤン ルカン(Meta の AI 責任者、ニューヨーク大学教授) は、次世代の開発者に次のことをアドバイスすることで、そこで激しい議論を始めたところです。 GPT-4 などの大規模言語モデル (LLM) の開発に労力を費やしていない。
「これは大企業の手に委ねられており、大企業が貢献できることは何もない」とルカン氏は述べ、LLMの限界を克服する次世代AIシステムに注力するよう開発者に促した。
「私自身は、LLM ではなく、次世代 AI システムに取り組んでいます。ですから、技術的には、『私と競争しなさい』、あるいはむしろ『私と同じことに取り組んでください、それが進むべき道だから』と言っているのです。そして、私たちが多ければ多いほど、より良くなります。」
LLM の制限
ルカン氏は、LLM が人間と同等の知能レベルを達成する能力を評価する際に重要視してきました。実際、彼はフィナンシャル・タイムズへの最近の声明で、これらのモデルは
「彼らは物理世界を理解せず、永続的な記憶を持たず、論理的に推論することができず、階層的な計画を立てることができません。」
同氏によれば、これらすべての制限により、LLM は高度な人工知能を実現するという目標には不十分なものになります。代わりに、Meta は、オブジェクトの相互作用を詳細に検出して理解することを約束するV-JEPA (ビデオ ジョイント挿入予測アーキテクチャ) と呼ばれるテクノロジーに取り組んでいます。
意見が分かれる
ルカン氏の発言はあらゆる種類の反応を引き起こした。一部の開発者やデータ サイエンティストは、プロンプト生成、 脱獄、アクセシビリティなどの分野で LLM には未開発の可能性があるため、逆に今が LLM に取り組むのに最適な時期であると考えています。
もう一人の AI パイオニアであるジェフリー ヒントン ( ルカンとともに 2018 年チューリング賞受賞者) は、同僚に反対の意見を表明し、人工脳は人間の脳に非常に近いと主張し、LLM への投資拡大を主張しました。疑いもなく、2 つの AI 巨人の間には根本的な矛盾があります。
しかし、この分野の他の専門家はルカンと並んで、LMMに対するテクノロジー業界の「明白な執着」を非難している。LMMは実際には「真の進歩を達成するための行き止まり」を構成しており、「システム」を迅速かつ効率的にグループ化する結合組織に過ぎない。しかし、AI の真の例ではありません。
さらに、少数の大企業への権力の集中は有害であると示唆する声もあり、 オープンで分散型システムの必要性に関するルカン氏の立場を支持している。
実際、少数の主体が AI の開発と展開をコントロールしているという事実は「思想の多様性にとって、民主主義にとって、そしてほとんどすべてにとって非常に危険である」と彼は主張し、「最終的には、私たちのデジタル世界とのやり取りはすべて、AI アシスタントによって仲介されることになります。」
LLM の代替手段
LLM の代替案についての議論が繰り返し行われています。 LeCun と他の専門家は、次のようなアプローチを提案しています。
- マルチモーダル AI:複数の形式のデータ (テキスト、画像、ビデオ) を統合して、より全体的な理解を実現します。
- 一般的な AI: AGI は、人間と同様の推論および適応能力をマシンに提供することを目指しています。
- 教師なし学習:ラベル付きデータに依存せずに、モデルが独自にパターンを発見できるようにします。
Devika の作成者である Mufeed VH は、 トランスフォーマー ベースのモデル(現世代の LLM など) からの脱却を主張し、無制限のコンテキスト ウィンドウとより効率的な推論を提供する RWKV などの新しいアーキテクチャを大胆に模索することを提唱して議論に参加しました。 。
経由 | ×