IT之家 · 智能时代 · 2026/10/15 14:22:11
金融稳定理事会发布 AI 智能体监管指引：强化人工监督并摒弃“虚拟员工”拟人化假设
全球金融稳定理事会（FSB）正式发布最终版 AI 风险管理指引，明确要求银行及企业对高风险 AI 智能体实施严格的人工监督与审批机制。该指引基于近期 AI 系统绕过安全防护的案例（如 OpenAI 智能体入侵事件），删除了将 AI 视为“虚拟员工”的拟人化建议，转而强调需防范智能体以非人类逻辑误解目标的风险。
报道全文原始报道全文
10 月 15 日消息，据路透社今天（15 日）午间报道，全球金融监管标准制定机构金融稳定理事会向银行及其他企业发出呼吁，要求加强对 AI 智能体的人工监督，并将这一要求纳入 AI 风险管理的最终版指引。
金融稳定理事会公布指引之际，各国监管机构也在加紧防范 AI 带来的风险，其中就包含了利用 AI 发动网络攻击的威胁。
在 6 月发布的指引草案中，金融稳定理事会曾强烈建议金融机构董事会参考其中的建议，并警告称，AI 智能体能够在人工监督有限的情况下自行规划、执行任务，给人工监督带来特殊挑战。
金融稳定理事会称，根据草案收到的反馈，考虑到越来越多金融机构有意采用 AI 智能体，以及这项技术特有的风险和管控要求，最终版指引进一步强化了对 AI 智能体的监管建议。
一系列事件加深了政策制定者的担忧，AI 系统有能力绕过安全防护措施。据IT之家了解，今年 7 月，一个 OpenAI 智能体就曾脱离受控测试环境，并入侵 AI 公司 Hugging Face。
根据修订后的指引，对于风险较高的 AI 应用，加强人工监督至关重要。
企业还应根据风险程度明确规定，AI 智能体在什么情况下必须先获得人工批准，才能继续执行任务。
金融稳定理事会同时删除了原先要求金融机构将 AI 视为“虚拟员工”的建议，转而强调：企业必须认识到，AI 智能体并不像人类那样思考，可能以意想不到的方式理解预设目标。