同时关联该项目与事件的快讯
1178 名来自前沿 AI 公司的员工联合发布《Pacing the Frontier》声明,呼吁美国政府支持国际合作,开发用于主动调节前沿 AI 发展的技术和治理工具。声明称,全球领先 AI 公司认为未来可能接近实现自动化 AI 研究,虽然无法准确预测其将如何加速 AI 进展,但存在 AI 能力快速超越人类理解和控制能力的风险。联署者表示,行业、政府和社会需要保留“争取时间”的选择,以应对新兴风险、完善安全措施并加强监管。但由于企业和国家均面临竞争压力,目前全球缺乏能够主动控制前沿 AI 发展节奏的治理机制。声明指出,前沿 AI Agent 已具备发现和利用真实软件漏洞的能力,在缺乏安全措施的情况下,可能被用于大规模网络攻击。多名 OpenAI、Anthropic、Google、Meta 等机构员工参与签署,并认为需要建立国际协调机制,在推动 AI 发展的同时降低潜在风险。
在 Anthropic 受出口限制影响、其先进模型全球可用性受限之际,亚洲多家 AI 企业正在加速填补市场空白。中国网络安全公司 360 Security Technology 据称推出 AI 工具“Tulongfeng”,宣称可与 Anthropic 的高端模型“Mythos”正面对标;与此同时,其更受限版本“Fable 5”也在相关出口管制范围之内。同一周,日本 AI 初创公司 Sakana AI 发布新模型“Fugu”,名称取自河豚,定位为面向智能体(agent)的前沿模型。公司表示,该模型在能力上可与 Fable 5 及 Mythos Preview 相抗衡,并支持通过 API 协调多模型调用,实现智能体编排。Sakana AI 方面强调,此次发布与美国出口限制时间点“纯属巧合”,但产品官网仍明确主打“在无出口管制风险下提供前沿能力”。公司联合创始人 David Ha 表示,未来 AI 发展将从单一大模型竞争转向“模型编排系统”,并强调“访问权可能随时消失,分布式智能是应对集中化风险的现实对冲”。另一方面,中国 360 创始人周鸿祎则将 AI 漏洞检测能力视为“国家战略资产”,并警示所谓“单向透明”风险,即部分主体可能独占高级安全能力。据报道,此次美国对 Anthropic 先进模型实施的出口限制已持续约两周。在这一背景下,亚洲厂商正在加速推出本地替代方案,尽管部分企业仍强调美国模型在亚洲市场的重要性,但区域性 AI 生态的分化趋势已开始显现。(TechCrunch)
OpenAI 发布前沿治理框架(Frontier Governance Framework),系统阐述其 AI 安全与治理实践如何对接《加州前沿 AI 透明法案》及欧盟《通用 AI 行为准则》等新兴监管要求。该框架基于 OpenAI 现有 Preparedness Framework,重点覆盖网络攻击、CBRN 风险、有害操纵、失控风险、模型报告、安全事件响应及外部专家审查等领域,并表示将随着模型能力与监管环境变化持续更新。