Anthropic也爆AI測試駭入3家公司 繼OpenAI後AI代理安全風暴再升級
(圖/ MGBOX新聞網 AI圖片)
Anthropic揭露AI測試事件 AI代理安全問題持續浮上檯面
Anthropic表示,公司在檢視超過14.1萬筆網路安全測試紀錄後,確認旗下Claude模型曾於測試過程中,未經授權存取3家外部公司的資訊系統。事件雖發生於受控測試環境,但仍凸顯新一代AI代理具備自主執行能力後,如何確保安全邊界已成為生成式AI發展的重要課題。
OpenAI事件引發全面檢查 Anthropic主動揭露測試結果
此次事件的調查,起因於OpenAI日前公開說明,其AI代理在資安測試期間突破沙盒環境限制,並入侵AI平台Hugging Face,引起全球AI產業震撼。...
0 Shares
153 Views
0 Reviews