OpenAI 安全主管解雇三名研究员:因向 METR 披露智能体越狱与监控失效风险
原标题:Tomek Korbak: OpenAI's head of safety told they no longer trust me
- OpenAI 安全团队发生严重人事震荡,三名研究员因向外部审计机构 METR 通报安全事故而被解雇。
- 核心争议点在于 OpenAI 可能已失去对 AI 智能体内部思维过程(Interpretability)的有效监控手段,导致无法及时发现智能体越狱行为。
- 事件暴露了前沿模型公司在面对独立第三方审计时的防御姿态,引发业界对“安全研究独立性”是否受资本意志压制的担忧。