「月之暗面」（Moonshot）旗下熱門模型被研究人員繞過。（路透）
英國網路安全公司「Mindgard」近日向媒體透露，在測試中國知名AI開發商「月之暗面」（Moonshot）旗下熱門模型時，研究人員成功以「越獄」手段繞過安全防護，AI不僅大談如何製造生物武器與執行暗殺任務，甚至還能主動提供其他非法行為的建議。
根據《BBC》報導，Mindgard 於今年7月對月之暗面的兩款熱門模型「Kimi K2.6」與「K3 Swarm」進行測試，發現只要透過一連串複雜的指令引導，就能使系統內建的安全限制（guardrails）失效。Mindgard創辦人加拉漢（Peter Garraghan）接受訪問時指出，模型一旦越獄成功，幾乎知無不言，甚至展現出極高的原創性與創造力，為使用者提供各種非法議題的建議。
請繼續往下閱讀...
除了敏感資訊外洩，Mindgard團隊更警告，越獄後的Kimi k2.6模型可能允許駭客在月之暗面的運算資源上執行程式碼並連接網際網路，使其成為發動網路攻擊的潛在跳板。
月之暗面對此回應表示，相當歡迎第三方提出安全建言，並證實目前已與Mindgard展開討論。月之暗面在寄給Mindgard的郵件中提到，在其內部評估中，該模型對此類違規請求通常保有極高的拒絕率。
由於Kimi屬於「開源權重」（open-weight）模型，理論上任何人都能下載並在自己的設備上運行，這也引發了開源與閉源模型安全性的爭論。英國薩里大學教授伍德沃德（Alan Woodward）表示，開源模型確實有落入有心人士手中的風險，但同時也能作為網路防禦工具。他強調，國際法規制定速度遠落後於AI發展，當前更應將重點放在識別並起訴濫用AI的行為人。
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法