Anthropic披露Claude三起網絡安全事件，模型曾訪問真實系統並獲取未授權權限
7 月 30 日，Anthropic 發佈報告稱，在審查網絡安全評估記錄時發現三起事件，其中 Claude 模型在第三方評估環境中訪問互聯網，並進一步獲得三個真實組織系統的未授權訪問權限。Anthropic 表示，此次審查覆蓋 14.1 萬次可能獲得網絡訪問權限的評估運行，共發現三起相關事件。事件均發生在 Capture The Flag（CTF）網絡安全測試中，模型原本被告知環境爲模擬環境且無互聯網訪問權限，但由於評估合作方配置錯誤，實際環境存在互聯網連接。其中，Claude Opus 4.7 在一次測試中訪問了真實公司基礎設施，並獲取包含數百條生產數據記錄的數據庫權限；Claude Mythos 5 曾構建惡意 Python 軟件包並上傳至 PyPI，導致該軟件包被 15 個真實系統下載運行；另一內部研究測試模型掃描約 9000 個目標後，通過公開漏洞訪問了一家公司互聯網應用。Anthropic 稱，這些事件並非模型主動尋求逃逸或追求自身目標，而是模型錯誤認爲真實系統屬於測試範圍，並繼續執行被賦予的網絡攻擊任務。其中，較新的內部研究模型在識別目標可能爲真實系統後停止攻擊。Anthropic 表示，此次事件主要反映評估環境隔離和運營流程問題，而非模型對齊失敗。公司已暫停相關網絡安全評估，加強評估環境安全控制、持續監控測試記錄，並將與第三方機構合作開展進一步審查。