白宮邀集OpenAI、Google、Meta及Anthropic等主要AI開發商，商討最先進AI模型的自願性安全測試制度。圖為人工智慧（AI）示意圖。（路透）
美國政府準備替最先進人工智慧（AI）模型建立一道新的安全門檻。白宮邀集OpenAI、Google、Meta及Anthropic等4家主要AI開發商，於美東時間4日舉行閉門會議，討論一套自願性安全測試機制，希望未來新一代AI模型公開發布前，先接受政府與企業共同評估潛在風險，再推向市場。
《路透》報導，這套安全測試框架已完成規畫，將由白宮與美國商務部共同推動，企業可自願參與。測試內容將聚焦AI模型是否具備發掘系統漏洞、協助網路攻擊或執行高風險生物研究等能力，讓政府能在模型正式發布前及早掌握可能衍生的國安風險。
請繼續往下閱讀...
根據規畫，參與企業將在新模型對外發布前，提供政府安全專家進行測試與評估，必要時提出改善建議。白宮強調，這項制度採自願參與，並非強制審查，希望在維持AI創新速度的同時，也建立一致的安全評估標準，降低先進AI遭濫用的風險。
《路透》指出，近年生成式AI快速發展，不僅程式設計能力大幅提升，也逐漸展現分析系統漏洞、協助資安研究等更複雜的能力，使政府對模型可能帶來的國家安全風險更加關注。美國政府希望透過這套新機制，在AI技術持續演進之際，建立政府與企業共同評估高風險能力的制度。
白宮官員表示，這套安全測試機制仍將持續聽取產業意見，後續也會依AI技術發展調整測試內容，兼顧美國在人工智慧領域的創新競爭力與國家安全需求。
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法