新闻汇 >国际观察

Anthropic祭新防護擋模型蒸餾 點名中國「智譜」警告

Anthropic祭新防護擋模型蒸餾 點名中國「智譜」警告
来源:自由时报 - 国际查看原文
Anthropic公司官網和其AI模型Claude標誌。(美聯社檔案照)

Anthropic公司官網和其AI模型Claude標誌。(美聯社檔案照)

美國人工智慧(AI)公司Anthropic 12日表示,為了防範競爭對手透過「模型蒸餾」技術,複製其AI模型Claude能力,已祭出新措施,使「蒸餾」能夠擷取的資料量大幅減少90%到99%。Anthropic並點名中國AI新創公司「智譜」,指其曾試圖以「蒸餾」方式開發自家模型。

路透12日報導,Anthropic指出,新防護措施限制外界取得Claude的推理內容,大幅減少資料遭擷取,蒸餾者能擷取的推理詞元(reasoning tokens)數量,現在「已降低到之前的10分之1到100分之1」。該公司也提高利用「代理網路」反覆探查Claude受保護推理內容的難度,阻擋資料擷取行為,並使大規模模型蒸餾更難以進行。

請繼續往下閱讀...

隨著美中AI競爭加劇,「模型蒸餾」已成為領先AI業者一大關切問題。Anthropic、OpenAI及Google等公司認為,競爭對手可利用這種做法以更低成本、更快速度,複製先進AI模型的能力。

Anthropic表示,這套防護機制的安全程度,大約相當於「防止Claude被用於協助製造生物武器的安全系統」,並且「誤判率低於0.1%」。

該公司已封鎖數萬個與模型蒸餾活動有關的帳號,並點名中國AI新創公司「智譜」(Z.ai),指其在開發GLM-5.3模型期間,曾試圖從Claude「蒸餾」取得相關能力。Anthropic警告,這類行為可能帶來安全和國安風險。智譜尚未回應此事。

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法