人工知能分野は間違いなくフルスピードで進化しています。今度は Meta が最新の AI モデルであるLlama 3を発表する番です。Llama 3 は、パフォーマンスとマルチモダリティの両方で以前のモデルをはるかに上回る、有名なオープンソース モデルの新バージョンです。テキストに加えて画像やビデオも理解できます。
Llama 3 の進歩の鍵の 1 つは、トレーニング データ セットが大幅に拡張され、 15 兆トークンに達したことです。この量は、Llama 2 モデルで使用される量の約7 倍であり、英語以外の言語のコードとデータの割合が多くなり、全体的なパフォーマンスが向上します。
Llama 3 には 2 つの主要な構成があります。
- 80億個のパラメータを持つモデル(8B)
- もう 1 つは70,000 万個のパラメータ(70B) です。
どちらもすでに、Claude Sonnet、Mistral Medium、GPT-3.5 などの競合他社を上回っています…しかし、Meta は、 400,000 万パラメータ (400B) を備えた、さらに強力な別の構成を将来発売することも発表しました。
いずれにせよ、Llama 3 を特別なものにしているのは、その計算能力だけではなく、その可用性です。モデルはすでに Meta AI に統合されており、今後同社のソーシャル プラットフォーム (Facebook、Instagram など) で利用できるようになります。新しいMeta.ai Web サイトに加えて WhatsApp)、同社はこのモデルを AWS、Google Cloud、Microsoft Azure などの主要なクラウド プラットフォームで簡単に利用できるようにしました。
Meta AI にとって Llama 3 は、ChatGPT にとって GPT-4.5 に相当するものになります。
同社の CEO、マーク・ザッカーバーグ氏によると、目標は、Meta AI が「世界中のどこでも人々が無料で使用できる、最もインテリジェントな AI アシスタント」として登場することです。Llama 3 と [統合することにより、私たちは基本的に、達成しました」。
真実は、ザッカーバーグ氏が鐘を鳴らすのが早すぎるということだ。真実は、メタ AI が「世界中のどこでも」利用できるわけではないからである。これまでのところ、メタ AI は米国でのみ利用可能であり、同社はチャットボットの導入を開始している。現在、オーストラリア、カナダ、ガーナ、ジャマイカ、マラウイ、ニュージーランド、ナイジェリア、パキスタン、シンガポール、南アフリカ、ウガンダ、ザンビア、ジンバブエなどの国々で (英語のみ) 公開されています。
最新の設定
彼らが新しいモデルで克服しようとしていた（そして彼らがそれを達成したとしている）Llama 2の側面の1つは、誤った拒否、つまり実際には答えられない質問にモデルが答える回数を大幅に減らすことでした。無害です。
この重要な点は、実世界のアプリケーションで信頼性の高いパフォーマンスを実現するために不可欠な、モデル応答の精度とユーザーの意図との整合性を微調整する命令調整方法の改善です。