「人工知能は飛躍的に進歩しています。」これをいつ読むかは問題ではありません、それは本当です。そして、結果の品質だけでなく、アクセシビリティも向上しています。そして、すべてがクラウド内の大規模な商用プラットフォームに依存しているわけではありません…
…今では、強力なオープンソース AI モデルを自分の PC で実行できるように、「安価」ではないにしても適度に手頃なハードウェア構成があれば十分です。
ここ数カ月で、これにより、チャットボットや仮想アシスタントから音声転写装置や画像生成装置に至るまで、幅広いアプリケーションが世界中の企業、開発者、ユーザーにとってよりアクセスしやすくなりました。
今週は、「ヨーロッパの OpenAI」になることを目指しているフランスの会社、 Mistral AI についてお話しました。月曜日に発表された最新の発売は、調整可能なモデルであるMixtral 8x7Bで、同社の主任科学者によれば、
「ほとんどのベンチマークで LlaMa 2 70B および GPT3.5 に匹敵または上回っており、[…] 32,000 トークンのコンテキスト長をサポートしています。」
Mixtral は、( 多かれ少なかれ) LLaMa 2 と似ていますが、GPT-3.5 とは異なり、オープンソースモデルでもあります。これは、無料で誰でもダウンロードできるということだけでなく、誰でも変更できるため、セキュリティ保護が欠如しているか、十分な知識を持った人なら誰でもその保護を解除できるよう公開されているということを意味します。
ペンシルベニア大学教授で著名な AI 専門家であるイーサン・モリック氏は次のように述べています。
「このリリースには良い面もありますが、[…] 利点を指摘しても害が否定されるわけではありません。[…] 規制当局やコンピュータ セキュリティの専門家は、「魔神は世界の外にいる」ということも心に留めておかなければなりません。ボトル。’
「良くも悪くも、人々が認識すべき直接的な影響が数多くあります。たとえば、GPT-3.5 はスピア フィッシングに非常に優れています。[…] そして、このオープンソース モデルは GPT-3.5 よりも優れています。」
AIフィッシングの危険性
フィッシングは、攻撃者が信頼できる機関 (行政機関、金融機関など) を装い、パスワードや財務データなどの機密情報を盗むことで被害者を操作しようとするサイバー犯罪手法です。
高性能 AI モデルを自由に使えるようにすることで、攻撃者は電子メールやテキスト メッセージのより説得力のあるコピーを作成でき、攻撃が成功する確率が高まります。
「スピア フィッシング」は、通常、それに関する事前情報の知識に基づいて、特定のターゲットを欺くことを目的とするフィッシングの一種であることを思い出してください。
また、同じ年の 5 月に発表された学術論文 ( PDF ) では、ChatGPT の無料版のベースとなっている言語モデルが、非常に低コストでパーソナライズされた現実的なフィッシング メッセージを生成するのに非常に効果的であることがすでに強調されています。
特定のリソースを民主化することの危険性と、そうしないことの危険性
あらゆるリソースへのアクセスが民主化されると、そのリソースが悪意のある目的で使用される可能性が必然的に拡大します。高度な AI モデルもその例外ではありません。そして、他のリソースと同様に、これは民主化を避ける議論にはなりません。
クローズドおよび商用モデルは、特定のタイプのコンテンツをフィルタリングする保護手段を実装しています。確かに…しかし、 多くの場合、優れた「 迅速なエンジニアリング」がそれらを回避するのに十分であることが証明されています。
そして、いずれにせよ、たとえこれらの安全装置が一般の人間に提供されているバージョンでは信頼できるものであったとしても、そのテクノロジーの所有者が自分の利益のためにそのテクノロジーの無制限バージョンを使用することを妨げるものは何もありません。