【海外の反応】「中国軍がメタのラマ2 AIモデルをフル活用する中、オープンソースが反撃」メタのオープン・ツールの誤用への懸念

中国軍がメタのラマ2 AIモデルをフル活用する中、オープンソースが反撃

秘伝のソースはありません。 Facebook が公開する重みは、ほとんどの研究者が計算するためのリソースを持っていないため、貴重です。それでおしまい。

中国軍とつながりのある中国の研究機関は、Meta のオープンソース Llama モデルを使用して AI システムを開発しました。 AI モデルについて論じた論文は明白です。ボットには軍事用途があるということです。

ロイター通信の報道によると、人民解放軍（PLA）とつながりのある3つの異なる機関の6人の中国人研究者が6月にAIに関する論文を発表した。研究者らは、Meta のオープンソース大規模言語モデルの初期バージョンである Llama 13B を入手し、情報を収集して処理し、意思決定を支援できるツールを作成することを目的として軍事データでトレーニングしました。

彼らはそれをChatBITと呼びました。ロイターの翻訳によると、同紙は「将来、技術の改良により、ChatBITは諜報分析に適用されるだけでなく、戦略計画、シミュレーション訓練、指揮の意思決定にも応用されるだろう」と述べている。

ChatBIT は 100,000 件の軍事対話記録を使用してトレーニングされました。同時期の別の論文では、Llama ベースの LLM が国内警察にどのようにすでに導入されているかについて説明しています。 ChatBIT と同様に、国内版は警察が大量のデータを収集して処理し、意思決定を支援するのに役立ちます。

ロイターが明らかにした3つ目の論文では、人民解放軍と関係のある航空会社の研究者2名がラマ2を戦争に使用していると明らかにした。ロイター通信によると、このボットは「空中電子戦妨害戦略の訓練」のためのものだという。

私たちは AI のゴールドラッシュの時代を生きています。 OpenAI や Microsoft などの企業は、月を約束する独自の AI システムから何百万ドルも儲けようとしています。それらのシステムの多くは閉じられており、入力とトレーニング データがエンドユーザーにはほとんど理解されないブラック ボックスです。

マーク・ザッカーバーグはメタを別の方法で捉えた。 Unix や Linux などのオープンソースのゴールドスタンダード システムを引用した 7 月のエッセイの中で、ザッカーバーグ氏は「オープンソース AI が前進する道である」と宣言しました。

「オープンソース AI モデルの安全性については議論が続いており、オープンソース AI は代替モデルよりも安全であるというのが私の見解です」とエッセイでは述べられている。 「各国政府は、世界をより豊かで安全なものにするため、オープンソースを支援することが自分たちの利益になると結論付けると思います。」

当時、ザッカーバーグ氏は中国がラマに手を入れるのではないかという懸念も払拭した。同氏は利益がリスクを上回っていると主張した。 「中国がモデルにアクセスするのを防ぐためにモデルを閉鎖しなければならないと主張する人もいるが、私の考えでは、これは機能せず、米国とその同盟国に不利益をもたらすだけだ」と述べた。 「私たちの敵はスパイ活動に長けており、サムドライブに収まるモデルを盗むのは比較的簡単ですが、ほとんどのテクノロジー企業はこれをさらに困難にするような方法で事業を行っているわけではありません。クローズドモデルのみの世界では、少数の大企業と地政学的敵対者が主要なモデルにアクセスできる一方、新興企業、大学、中小企業は機会を逃すことになる可能性が最も高いと思われます。」

Meta は、オープンソース LLM を使用する際の許容可能な慣行について概説しています。この意見には、「軍事、戦争、原子力産業や用途、スパイ活動、資材や活動への使用」、および「暴力、虐待、または個人への身体的危害を扇動または促進することを意図したコンテンツ」の禁止が含まれています。

もちろん、それらは軍隊が行うようなものです。彼らの仕事はすべて、個人に身体的危害を与えることです。 「人民解放軍による当社のモデルの使用はいかなるものであっても無許可であり、当社の利用規定に反している」とメタ社の公共政策部長モリー・モンゴメリー氏はロイターに語った。

Metaの広報担当者は電子メールによる声明で米Gizmodoに次のように語った。

米国はオープンイノベーションを受け入れなければならず、さもなければAIの主導権を中国に譲り、経済に悪影響を及ぼし、国家安全保障を危険にさらす可能性がある。 AI に関する世界的な競争において、米国のオープンソース モデルの単一の時代遅れのバージョンが役割を果たしたとされることは、中国が米国を技術的に追い越すためにすでに 1 兆ドル以上を投資しており、中国のテクノロジー企業が独自のオープン AI モデルを米国の企業と同じくらい、またはそれよりも早くリリースしています。

しかし、ここでメタに頼る手段はありません。ラマがそこにいる。中国はそれを使っている。ザッカーバーグ氏の会社にはそれを止める術がない。オープンソース革命は続いています。

待って、ラマ 13B の微調整が怖いですか?笑

「私たちの敵はスパイ活動に長けており、サムドライブに収まるモデルを盗むのは比較的簡単ですが、ほとんどのテクノロジー企業はこれをさらに困難にするような方法で事業を行っているわけではありません。クローズドモデルのみの世界では、少数の大企業と地政学的敵対者が主要なモデルにアクセスできる一方、新興企業、大学、中小企業は機会を逃すことになる可能性が最も高いと思われます。」

確かにザック。 Facebookは、「主要なモデルにアクセスできる少数の大企業と地政学的敵対者」には含まれていない。

この文のより重要な部分は後半だったと思います

これは奇妙な見方です。 Meta は、大企業や政府だけがクローズド ソース モデルを持っているのではなく、小規模企業も使用できるようにモデルをオープンソース化しています。

私はニックの指摘に同意します。中国がスパイ活動による OpenAI モデルをすでにいくつか持っていたとしても、私は驚かないでしょう。

ラマ13B?本当に？敵があまりにもひどいので、13B パラメータを備えたオープンソース LLM が彼らにとって印象的で役立つように思えたら、私は本当に有頂天になるでしょう。

この記事を書いた人は誰が何を言っているのかわかりません（またはクリックベイト目的で愚かなふりをしているか、あるいはその両方）。実際に 13B ラマ モデルを軍事目的で使用して良い結果をもたらす人はいないでしょう。一部の研究者が論文を世に出したいと考えて、クリックや誇大宣伝の餌を記事に入れたようです。

魔神はいつも瓶から出ていました。 AI に対するこうした約束や規制はすべて単なる熱気の塊にすぎません。

これは衝撃的な出来事のように思えますが、中国自体は、同じくオープンソースであるアリババが公開したラマ 2 よりもはるかに優れたモデルを持っています。反オープンソースにならないようにしましょう