米中AI戦争は新局面へ　米国製AIを安価に複製する「蒸留」攻撃の脅威

stock.adobe.com

米国で最も強力なAIモデルは今や国家安全保障上の戦略資産と見なされており、中国が「蒸留」として知られる高度な手法を通じてそれを盗み取ろうとしているとされる。

6月、ChatGPTの開発元であるOpenAIは、トランプ政権が承認した少数の企業にのみ、同社のGPT-5.6モデルシリーズへのアクセスを制限すると発表した。

一方、現地時間6月10日、Anthropicはひそかに議会に書簡を送り、中国有数のAI研究機関であるアリババのQwen AIラボが、同社のClaudeモデルに対して、これまでで最大規模として把握されている「蒸留」攻撃を実行したと非難している。

すでに米国政府は、中国やその他の外国勢力がモデルにアクセスするのを防ぐため、AnthropicのMythos 5とFable 5に輸出規制を課している。Mythos 5とFable 5は、ハッカーが重要インフラ（電力網、通信ネットワーク、グローバル決済を支える基盤システム）に侵入する際の支援に使用される可能性があるほど高性能だと考えられている。

蒸留による窃取を止めるため、Anthropicは議員に対し、こうした攻撃の背後にいる主体への罰則を科すこと、そして輸出規制と法的保護を強化し、外国の敵対者が米国のフロンティアAI能力をひそかに収集して再パッケージ化できないようにすることを求めている。同社は、これは利用規約違反や民間の商取引上の争いではなく、政府が連携して執行すべき国家安全保障上の問題だと主張する。

蒸留とは、AIモデルから質問と回答のペアを収集し、それを用いて、元のモデルの能力に低コストで肉薄させた新たなモデルを構築・訓練するプロセスのことだ。Anthropicによれば、中国は6週間にわたり2万5000件の不正なClaudeアカウントを運用し、Anthropicのモデルとのやり取り2880万件を収集したという。

同社は、こうした攻撃によって中国のモデルが、同等の訓練コストを負担することなく米国のフロンティアシステムとの差を縮め得ると警告した。

Anthropicがこの主張を行うのは初めてではない。2月、同社はDeepSeek、Moonshot AI、MiniMaxを含む中国のAIラボを非難し、数万件の偽アカウントを駆使して数百万件に及ぶ「Claude」との対話データを抽出し、自らの開発を加速させているとした。Anthropicは当時、蒸留は中国モデルが急速に改善している理由の1つになっていると述べ、この問題を単なるプラットフォーム悪用の問題として扱うのをやめるよう米国の政策立案者に求めた。

4月には、ホワイトハウス科学技術政策局が、中国に拠点を置く主体が代理アカウントや脱獄プロンプトを用いて米国のフロンティアモデルに対する産業規模の蒸留キャンペーンを実施していると公に非難し、その行為を米国の人工知能の知的財産の侵害だと明確に位置づけた。

論点は今や、AnthropicがAPIから悪意ある主体を排除できるかどうかを超えている。ワシントンは、蒸留に関与する企業を制裁対象とするか、蒸留を支えるチップやクラウド基盤を制限するか、そして米国のAIラボが違反者に関する脅威インテリジェンスを共有できるよう法的セーフハーバーを設けるか、といった決断を迫られている。

中国企業が大量の問い合わせによって米国の高性能モデルの振る舞いを安価に再現できるなら、フロンティアの経済性は変わり始める。蒸留は、米国の開発元が優位性を保つための「堀」──巨額の訓練費用、入手困難な最先端半導体、希少なAI人材、そして積み重ねられた安全性の研究──を一瞬で迂回する近道を与えてしまう。Anthropicには守るべき商業的な利幅があるが、同時により広い業界としての主張もしている。すなわち、モデル出力それ自体が戦略資産になっており、それを大規模に複製する行為は通常の競争というより産業スパイに近いものとして扱うべきだ、という主張である。

アリババはコメント要請に応じなかった。

蒸留は、法律と政策において未確定の領域を占めている。営業秘密法理、コンピューター詐欺に関する規則、契約条項のいずれもがこの問題に関わるが、数千万回のAPIコールや合成された推論トレースを想定して書かれたものではない。アリババとの争いは一つの戦線にすぎない。Anthropicのより大きなプロジェクトは、モデル抽出を制裁対象となる違反行為としてワシントンに定義させ、フロンティアのルールを形作ることである。

政策用語を取り払えば、求めていることは単純だ。Anthropicは、米国にとって最も重要な知的財産の執行機関として、米国政府が動くことを望んでいる。

参照元:https://forbesjapan.com/

ステレッパツ

芸能　スポーツ　その他

米中AI戦争は新局面へ　米国製AIを安価に複製する「蒸留」攻撃の脅威