Anthropic警示AI自我迭代風險：Claude已自動生成80%公司代碼
人工智能公司 Anthropic 發出警示，遞歸自我迭代（Recursive Self-Improvement，RSI）可能帶來重大風險。上週，Anthropic 宣佈其 AI 模型 Claude 目前已經能生成公司約 80%的代碼，公司稱這是 AI 進入“自我迭代”階段的關鍵信號——即模型可以在無需人工干預下，設計下一代 AI 系統。遞歸自我迭代概念近期在硅谷引發廣泛關注。上月，OpenAI 在舊金山舉辦相關會議，吸引了多位研究人員探討 AI 自我迭代帶來的潛力與風險。Anthropic 的聲明強調，隨着 AI 能力快速提升，對潛在不可控行爲的監測和安全機制建設愈發迫切。（The Information）
