GetChain News
中简 中繁 EN
GetChain News
Toggle sidebar

监管/合规

同时关联该项目与事件的快讯

OpenAI 因 Signal 聊天及模型信息泄露调查解雇 3 名安全研究员

据《华尔街日报》报道,OpenAI 解雇了 3 名安全研究员。公司内部安全人员此前发现,他们与外部 AI 安全研究人员存在使用 Signal 进行的消失消息聊天,并怀疑其中涉及 OpenAI 内部模型设计等敏感信息。此次调查据称始于 9 月一篇有关 OpenAI 最新模型 Astra 的报道。该报道提到,Astra 采用一种能够提升模型能力、但减少可被人类观察到的推理过程的新设计。OpenAI 将相关报道视为可能涉及内部模型设计泄露,并开始追查消息来源。

OpenAI已在闭门会上向VIP客户展示Astra,号称“首个可发明新事物的模型”

科技记者 Alex Heath 发文表示,OpenAI 近期在一场闭门预览会上向 VIP 客户展示了 Astra。OpenAI 的研究人员展示了 Astra 可协调多个智能体共同完成数学证明,以 Sam Altman 所形容的“超人类、极快”的速度飞速操作桌面软件,并生成演示幻灯片(PPT)、财务审查报告以及对杂乱数据的分析。Astra 被设计用于持续工作数天甚至数周,能够记住人类的纠错修改,与其他智能体及人类协同工作,并跨多种软件工具执行操作。Sam Altman 在活动上还表示:“我预计,Astra 将是首个真正能以具有实质意义的方式发明新事物的模型。”

OpenAI 因网络安全风险收紧 Astra 模型内部测试管控

据 CNBC 报道,OpenAI 表示,因担忧未发布模型 Astra 可能具备自主发起网络攻击的能力,公司已暂停部分内部活动,并加强高能力模型的隔离测试、监控与检测措施。与此同时,Meta、Anthropic 等机构近期也出现涉及 AI 系统的安全事件,推动美国与欧盟加快前沿模型监管与风险控制措施的制定。