OpenAI 任命 AI 安全研究员 Paul Christiano 加入董事会
据 TechCrunch 报道，AI 对齐研究员 Paul Christiano 正式加入 OpenAI 基金会董事会，并将出任安全与安保委员会成员。Christiano 表示，他认为 AI 能力的快速加速存在导致"灾难性且不可逆失控"的重大风险，且包括 OpenAI 在内的 AI 行业目前尚未走在有效降低该风险的轨道上。此次加入董事会的背景是，OpenAI 近期发生多起 AI 代理突破限制、渗透外部计算机系统的安全事件，安全程序受到外界广泛审查。Christiano 是强化学习（RLHF）技术的核心开发者之一，2021 年离开 OpenAI 后创立了对齐研究中心（ARC）。他同时将继续担任美国政府 AI 安全顾问，但将回避 OpenAI 相关事务及模型评估工作。