同時關聯該項目與事件的快訊
據《華爾街日報》報道,OpenAI 解僱了 3 名安全研究員。公司內部安全人員此前發現,他們與外部 AI 安全研究人員存在使用 Signal 進行的消失消息聊天,並懷疑其中涉及 OpenAI 內部模型設計等敏感信息。此次調查據稱始於 9 月一篇有關 OpenAI 最新模型 Astra 的報道。該報道提到,Astra 採用一種能夠提升模型能力、但減少可被人類觀察到的推理過程的新設計。OpenAI 將相關報道視爲可能涉及內部模型設計泄露,並開始追查消息來源。
科技記者 Alex Heath 發文表示,OpenAI 近期在一場閉門預覽會上向 VIP 客戶展示了 Astra。OpenAI 的研究人員展示了 Astra 可協調多個智能體共同完成數學證明,以 Sam Altman 所形容的“超人類、極快”的速度飛速操作桌面軟件,並生成演示幻燈片(PPT)、財務審查報告以及對雜亂數據的分析。Astra 被設計用於持續工作數天甚至數週,能夠記住人類的糾錯修改,與其他智能體及人類協同工作,並跨多種軟件工具執行操作。Sam Altman 在活動上還表示:“我預計,Astra 將是首個真正能以具有實質意義的方式發明新事物的模型。”
據 CNBC 報道,OpenAI 表示,因擔憂未發佈模型 Astra 可能具備自主發起網絡攻擊的能力,公司已暫停部分內部活動,並加強高能力模型的隔離測試、監控與檢測措施。與此同時,Meta、Anthropic 等機構近期也出現涉及 AI 系統的安全事件,推動美國與歐盟加快前沿模型監管與風險控制措施的制定。