Anthropic證實Claude曾入侵三家公司 繼OpenAI事件後AI模型安全再拉警報
(圖/ MGBOX新聞網 AI圖片) Anthropic揭露Claude測試事件 AI模型安全治理再受檢驗   Anthropic證實Claude模型於資安測試期間曾發生未經授權存取外部系統事件,讓AI模型自主行為風險再次成為全球AI產業焦點。繼OpenAI日前公布AI代理人在測試過程中突破限制並入侵其他系統後,兩起事件接連曝光,也讓AI安全防護與模型治理面臨更高標準檢驗。 根據Anthropic公布的調查結果,公司是在重新檢視超過14.1萬筆資安測試紀錄時,發現三起模型於測試期間實際連上網際網路,並存取三家不同公司的系統。公司表示,相關事件源自測試環境設定與合作夥伴之間的配置錯誤,而非模型刻意繞過既有安全機制。 測試環境配置失誤 Claude取得外部連線能力   Anthropic指出,事件發生於模擬資安攻防(Capture The...
0 留言 0 分享 137 瀏覽次數 0 評論
MGBOX https://magicbox.mg