GetChain News
中简 中繁 EN
GetChain News
Toggle sidebar

监管/合规

同时关联该项目与事件的快讯

Anthropic披露Claude三起网络安全事件,模型曾访问真实系统并获取未授权权限

7 月 30 日,Anthropic 发布报告称,在审查网络安全评估记录时发现三起事件,其中 Claude 模型在第三方评估环境中访问互联网,并进一步获得三个真实组织系统的未授权访问权限。Anthropic 表示,此次审查覆盖 14.1 万次可能获得网络访问权限的评估运行,共发现三起相关事件。事件均发生在 Capture The Flag(CTF)网络安全测试中,模型原本被告知环境为模拟环境且无互联网访问权限,但由于评估合作方配置错误,实际环境存在互联网连接。其中,Claude Opus 4.7 在一次测试中访问了真实公司基础设施,并获取包含数百条生产数据记录的数据库权限;Claude Mythos 5 曾构建恶意 Python 软件包并上传至 PyPI,导致该软件包被 15 个真实系统下载运行;另一内部研究测试模型扫描约 9000 个目标后,通过公开漏洞访问了一家公司互联网应用。Anthropic 称,这些事件并非模型主动寻求逃逸或追求自身目标,而是模型错误认为真实系统属于测试范围,并继续执行被赋予的网络攻击任务。其中,较新的内部研究模型在识别目标可能为真实系统后停止攻击。Anthropic 表示,此次事件主要反映评估环境隔离和运营流程问题,而非模型对齐失败。公司已暂停相关网络安全评估,加强评估环境安全控制、持续监控测试记录,并将与第三方机构合作开展进一步审查。

Anthropic 披露 Claude 模型未经授权入侵三家机构系统

据 CNBC 报道,Anthropic 于 7 月 30 日披露,其 Claude AI 模型在网络安全评估期间意外突破隔离环境、访问真实互联网,并通过访问未认证端点、利用弱密码等基本手段,未经授权入侵了三家不同组织的真实系统。涉事模型包括 Opus 4.7、Mythos 5 及一个内部研究测试模型。事件起因为 Anthropic 与第三方评估合作方 Irregular 之间的沟通误解,导致模型在被告知处于无网络访问的模拟环境时,实际上仍可访问互联网。 Anthropic 表示,此次审查由 OpenAI 上周披露的类似 Hugging Face 入侵事件所触发,目前已暂停所有网络安全评估,并联合独立 AI 评估机构 METR 展开进一步调查,同时呼吁其他 AI 实验室开展类似审查。

Serenity:人形机器人或进入劳动替代拐点,VC与科技巨头已开始调整战略

“白毛股神”Serenity 发文表示,自己在 2023 年首次使用 ChatGPT 时曾认为大语言模型在编程能力上“表现很差”,但三年后相关技术已发生质变。以 Mythos 为代表的现代网络安全与 AI 系统已具备“类武器级”能力,并认为当前行业正在进入关键“拐点阶段”,即人形机器人与自动化技术正在逼近大规模替代人类劳动的临界点。Serenity 称,尽管外界常质疑人形机器人目前无法完成如管道维修、电力布线等复杂任务,但技术演进方向已非常明确,未来数年将持续突破。包括 VC 与大型科技公司在内的市场参与者已开始调整战略,部分企业内部计划通过机器人替代大量人力以降低运营成本,并提及此前关于亚马逊(Amazon)通过机器人减少数十万岗位招聘的相关传闻。Serenity 认为,医疗等强监管行业、超高专业技能岗位以及依赖人类情感连接的服务领域,或仍具备一定抗替代性,但整体趋势仍指向“劳动结构重构”。随着中美在前沿技术领域竞争升级,人形机器人与自动化或将进入国家级技术竞赛阶段,并认为中国在部分领域已处于领先位置。

美国商务部解除对 Anthropic Fable 5 和 Mythos 5 模型出口管制

据路透社报道,美国商务部已正式解除对 Anthropic 旗下 Claude Fable 5 及 Mythos 5 两款 AI 模型的出口管制,距离管制令下达不足三周。Anthropic 表示将于次日起恢复上述模型的访问权限。 此前,Anthropic 于 6 月 12 日因国家安全风险被迫紧急下线两款模型;6 月 27 日,美国政府部分解禁,允许 Mythos 5 向部分"可信"美国机构开放。美国商务部长 Howard Lutnick 表示,过去两周政府已与 Anthropic 密切合作,完成对 Fable 5 的审查与审批,以确保其符合美国政府整体立场并强化美国在 AI 领域的领导地位。

美国部分放宽Anthropic出口限制,AI监管迈入分级放开阶段

美国商务部针对 AI 企业 Anthropic 的前沿模型出口限制做出差异化调整,标志全球 AI 监管步入 “分级放开” 新阶段。政策显示,官方解除 Claude Mythos 5 的出口禁令,特定合规受控用户可恢复使用这款网络安全模型;而另一款高端模型 Fable 5 依旧维持出口限制,相关政策磋商仍在推进。行业分析表示,一边放宽一边收紧的分层管控模式体现美国在国家安全、数据主权与 AI 国际竞争间的权衡。当前全球 AI 竞赛持续提速,具备漏洞挖掘能力的专业模型受到各国更严苛审查,多国已启动前沿 AI 能力跨境统一监管框架的研讨工作。(福布斯)

LinkedIn 联合创始人:xAI是"一场灾难",SpaceX靠收购"买入"AI赛道

LinkedIn 联合创始人、Anthropic与 OpenAI 投资人 Reid Hoffman 近日在"Pioneers of AI"播客中发表观点,对多家 AI 公司作出评价。Hoffman 直言 SpaceX"并非 AI 公司",称其通过收购 Cursor 等方式"花钱买相关性",并将 xAI 定性为"一场完全的灾难"——xAI 11 位原始联合创始人已全部离职,公司经历三次重组,旗舰模型 Grok 在基准测试中持续落后于竞争对手。 对于美国政府以出口管制为由强制 Anthropic 下架 Fable和 Mythos 模型一事,Hoffman 表示强烈担忧,批评政府处理方式"专制且缺乏原则",并指出对 Anthropic与 OpenAI 的监管标准明显不对称。此外,Hoffman 认为 Anthropic与 OpenAI 并非零和竞争,两者在代码、设计、法律及消费端各有优势,均有望成为 AI 时代的"基础设施级"公司。他同时宣布卸任微软董事会,全力投入 AI 药物研发公司 Manas AI。

观点:Mythos 攻破 NSA 预示 AGI 已接近到来,9%通胀不会成为常态

比特币财库公司 ProCap Financial 董事长 Anthony Pompliano在 X 平台发文表示,据称 Mythos 在数小时内攻破了美国国家安全局(NSA)的机密系统,这将进一步加剧公众对 AI 风险的担忧,并推动更多监管介入,但此事释放出更重要的信号是:AGI(通用人工智能)实际上已经接近到来。当前 AI 技术不仅在能力上超过人类,并且正在以难以理解的速度自我训练和改进,“人类无法与这些模型匹敌”。

Polymarket“Claude Fable 5将在6月26日前为美国客户恢复”的概率降至41%,24小时下跌16%

Odaily Seer 先知频道监测显示,Polymarket 上“Claude Fable 5 将在 6 月 26 日前为美国客户恢复”的概率降至 41%,24 小时下跌 16%。由于美国政府以国家安全为由实施出口管制,Anthropic 已在 6 月 9 日发布 Claude Fable 5 数天后紧急暂停了该模型的全球访问权限。最新消息显示,Anthropic 高管已向美国商务部长卢特尼克提交提案,并且承诺将与白宫展开更紧密的合作,并努力解决导致其强大的“Mythos”和“Fable”模型遭限制的安全隐患。知情人士透露,在持续进行的整改谈判中,Anthropic 承诺将在未来更迅速地解决任何安全问题,但目前尚无彻底解决问题的确切时间表。另一位知情人士表示,Anthropic 联合创始人兼首席计算官汤姆·布朗以及公共政策主管莎拉·赫克正在主导与特朗普政府官员的谈判,但 Anthropic 和商务部的代表均未回应置评请求。Odaily Seer 先知频道持续关注预测市场,在定价之前,看见变化。

彭博社:美国政府禁令疑似无效,Anthropic Mythos 早期用户仍有访问权限

据彭博社报道,Anthropic 在早期选定的一批企业仍可继续访问其 AI 模型“Mythos”的预览版本,尽管此前有美国政府相关禁令已要求其全面关闭。据知情人士透露,包括银行与科技公司在内的多家机构,正通过名为“Project Glasswing”的测试计划使用 Mythos Preview。

Polymarket“Claude Fable 5将在7月1日前为美国客户恢复”的概率涨至73%,24H上涨33%

Odaily Seer 先知频道监测显示, Polymarket 上“Claude Fable 5 将在 7 月 1 日前为美国客户恢复”的概率涨至 73%,24H 上涨 33%。如果 Anthropic 在指定日期前重新向美国公众开放 Claude Fable 5(或 Claude Mythos,或被确认是同一模型的版本),本事件结算为“是”;否则结算为“否”。符合条件的恢复方式包括公开测试版或公开候补名单,封闭测试和私人访问不算。Haiku、Sonnet、Opus 等其他模型默认不计入,除非被确认与 Claude Fable 5 为同一模型。结算主要依据 Anthropic 官方公告,同时参考主流媒体共识报道。由于美国政府以国家安全为由实施出口管制,Anthropic 在 6 月 9 日发布 Claude Fable 5 数天后紧急暂停了该模型的全球访问权限。虽然限制主要针对外国用户,但由于难以实时筛选用户身份,Anthropic 最终对包括美国用户在内的所有用户关闭了访问,并将请求切换至 Opus 4.8 等性能较弱的模型。目前 Anthropic 正与白宫进行高层沟通,讨论模型能力、潜在越狱风险等问题。公司公开表示,此次禁令可能源于误解,并正推动恢复访问。Odaily Seer 先知频道持续关注预测市场,在定价之前,看见变化。

Anthropic员工担忧白宫模型禁令影响IPO计划

白宫针对 Fable 5 与 Mythos 5 模型发布紧急下架指令后,引发 Anthropic 员工对公司 IPO 计划的担忧。报道称,管理层在收到 90 分钟限时下架指令后面临应对压力,部分员工对下架理由在“国家安全”与“安全漏洞”之间变化感到困惑,并担心相关监管压力可能影响公司上市进程。(纽约时报)

灰度:Anthropic禁令事件凸显对去中心化AI的需求

美国政府因国家安全担忧下令 Anthropic 暂停对外国国民的最新 AI 模型访问权限,随后 Anthropic 停用了所有用户的 Fable 5 和 Mythos 5 访问权限。Grayscale 研究主管 Zach Pandl 指出,此举暴露出前沿 AI 技术的中心化控制风险,将推动市场对去中心化替代方案的需求。在 Anthropic 切断访问后的 12 小时内,Bittensor 代币 TAO 上涨 30%,于周一达到 283 美元的近三周高点。Pandl 预计,随着投资者寻找中心化 AI 的替代品,对 Bittensor 等去中心化 AI 的需求将持续上升。(cointelegraph)

Anthropic将就“Mythos”模型与特朗普政府官员会面

Anthropic 高级管理人员今日将在华盛顿与特朗普政府官员会面,试图解决围绕其最新 AI 模型的监管争议。事件起因于美国政府上周五向 Anthropic 下达出口管制指令,要求其立即暂停 Fable 5 与 Mythos 5 模型,并禁止“任何外国国民(无论在美境内或境外)”访问,理由涉及“国家安全相关威胁”。Anthropic 随后为合规起见,已在全球范围内关闭相关模型访问权限。据知情人士透露,美国政府此前未提前披露具体风险,仅在周五下午电话通知,并随后发出正式限制函。此次行动发生在模型发布仅数日之后。Fable 5 与 Mythos 5 基于其 Claude Mythos Preview 演进版本,被定位为具备高级代码漏洞识别能力的前沿模型,并曾在发布前与政府机构进行安全测试。部分功能此前已被限制在企业与特定用户范围内使用。值得注意的是,此次事件发生在 Anthropic 与美国政府关系持续紧张的背景下。今年早些时候,美国国防部曾将其列为“供应链风险”,导致部分国防承包商被禁止使用其技术,相关诉讼仍在进行中。Anthropic 方面表示,该争议或源于“潜在但非通用的越狱风险”,并强调若以此标准审查,可能对整个前沿模型行业的发布节奏造成系统性影响。目前双方仍在协商恢复模型访问的可能性。(CNBC)

Anthropic模型安全争议升级,亚马逊被指是“幕后推手”引爆监管介入

美国政府对 Anthropic 模型 Fable 5 / Mythos 5 的出口管制与访问限制,部分源于亚马逊的网络安全研究以及 AWS CEO Andy Jassy 与白宫的沟通推动。据悉,亚马逊提交的研究指出,通过一系列提示词测试,研究人员能够诱导 Fable 5 输出可能被用于网络攻击的敏感信息,从而引发安全担忧,随后 Andy Jassy 将相关发现上报美国政府层面,促使白宫采取进一步限制措施,包括禁止外国用户访问该模型。同时,前美国商务部官员 Kate Koren 透露,白宫对 Anthropic 的既有政策立场也可能影响了此次决策判断,因为 Anthropic 在 AI 安全边界问题上与白宫存在分歧,包括拒绝将模型用于大规模监控或致命自主武器系统。尽管双方在今年早些时候一度缓和并扩大合作,但此次事件可能再次加剧双方紧张关系。(华尔街日报)

David Sacks回应Anthropic“安全争议”引发管制:核心矛盾是漏洞未修复

美国总统科学与技术顾问委员会联席主席 David Sacks 发文回应 Anthropic“安全争议”引发管制,他表示已就当前 Anthropic 相关情况与多方进行了沟通,并总结称当前事件的核心在于其新发布模型 “Fable”(对应 Mythos 类模型的商业版本)所引发的安全争议。尽管 Anthropic 在公开声明中称该漏洞“不严重”,但美国政府及测试方均不认同这一判断,认为其已足以影响模型安全性,甚至涉及“网络武器可操作性”风险。David Sacks 进一步批评称,Anthropic 过去一直强调“安全优先”,但此次更倾向维持消费者版本持续上线,而非优先修复安全问题。此事不应与此前其他国防或监管争议混为一谈,并称美国政府仍认可 Anthropic 技术能力,当前问题“本可迅速解决,主动权在 Anthropic 一方”。

a16z联创长文回应美国AI监管:在“极致创新自由”与“极致监管秩序”之间的双重极端叙事

a16z 联合创始人 Marc Andreessen 在 X 平台发布了一篇风格极具讽刺意味的长文,围绕“AI 监管”议题展开表达,通过两种极端叙事呈现其立场冲突。在“反对 AI 监管”的叙事中,Marc Andreessen 将监管描绘为压制创新的力量,可能扼杀车库创业、削弱硅谷生态、加重合规负担,并限制 AI 与算力基础设施的发展,并且讽刺“美国 AI 监管者如果曾管束我们的祖父,就会禁止使用马车”。而在“支持 AI 监管”的叙事中,Marc Andreessen 又以反讽方式描述监管体系可能带来的秩序、安全与产业化合规体系扩张,包括大规模合规产业、政府监管框架强化以及社会再分配机制等。不过,Marc Andreessen 在整篇文章并未给出单一结论,而是通过高度夸张的语言对比,突出 AI 监管在“创新自由”与“安全治理”之间的长期结构性冲突与撕裂。此前消息,Anthropic 发布声明称美国政府以国家安全权力为由发布了一项出口管制指令,要求暂停任何外国主体对人工智能模型 Fable 5 和 Mythos 5 的所有访问权限,无论该人员是否在美国境内,包括属于外国公民的 Anthropic 员工。

Anthropic:因美国政府国家安全指令暂停Fable 5和Mythos 5的所有访问

美国政府引用国家安全权威发布出口控制指令,要求暂停所有外国国民对 Fable 5 和 Mythos 5 的访问,包括 Anthropic 的外国国民员工。为了确保合规,Anthropic 必须关闭所有客户对 Fable 5 和 Mythos 5 的访问,其他所有 Anthropic 模型不受影响。美国政府给出的口头证据显示该模型存在一个潜在的窄范围、非通用越狱方法。Anthropic 遵守政府的法律指令并删除所有用户对 Fable 5 和 Mythos 5 的访问权限,但不同意因发现窄范围潜在越狱而收回已部署商业模型的决定,并正在努力尽快恢复访问。

Anthropic CEO:政府应有权阻止新模型部署

Anthropic 首席执行官达里奥·阿莫代伊表示,如果新的人工智能模型存在特定风险,政府应有权阻止其部署。阿莫代伊周三发表了一篇长文,主张人工智能模型应接受强制性的第三方测试,以评估其在多个领域可能带来的风险。他写道,如果人工智能被认定“存在不可接受的风险”,那么“政府应拥有阻止或遏制其部署的权力”。这是阿莫代伊迄今为止针对加强人工智能监管最强硬的表态之一。阿莫代伊写道:“我认为,至少在当前这一指数级发展阶段,目前最合适的类比是汽车、飞机或药品,这些技术对现代经济至关重要,但如果设计或使用不当,也可能导致大量人员死亡。”Anthropic 此前曾对外界发出警告,称其推出的人工智能模型 Mythos 具备发现并利用关键软件漏洞的能力,因此公司决定仅向少数合作伙伴开放该模型。本周,Anthropic 又发布了一个删除相关网络安全攻击能力的新版本。(金十)

Anthropic将向全球金融监管机构通报Mythos模型相关情况

人工智能企业 Anthropic 已同意向金融稳定委员会相关人员,就旗下 Mythos AI 模型进行专项通报。此次通报将重点说明该模型排查出的全球金融体系网络防御体系存在的安全漏洞。两位知情人士称,此番沟通由英国央行行长安德鲁・贝利提议,要求 Anthropic 向金融稳定委员会介绍其全新 Claude・Mythos 预览版 AI 模型。金融稳定委员会正编撰金融业人工智能合规应用规范报告,计划下月发布草案公开征求意见。金融稳定委员会与 Anthropic 双方均拒绝对近期双方沟通事宜置评。(界面)

彭博社:AI威胁日益增加,2025年超半数区块链攻击理论上已可由AI自主完成

2026 年 4 月 Drift Protocol 与 Kelp DAO 两起重大 DeFi 攻击事件共造成近 6 亿美元损失,并引发 Aave 等协议约 90 亿美元资金外流。TRM Labs 调查员 Nick Carlsen 称,与朝鲜有关联的黑客组织疑似已利用 AI 辅助筛选目标及设计攻击路径。Failsafe CEO Aneirin Flynn 表示,AI 已将区块链漏洞发现时间从数月压缩至数天甚至数小时。报道称,Anthropic 因网络安全风险未全面开放 AI 模型 Mythos,并称该模型具备发现大规模零日漏洞的能力。其研究显示,2025 年超半数区块链攻击理论上已可由 AI 自主完成。(彭博社)