全球金融监管标准制定机构呼吁：银行和企业要加强对 AI 智能体的人工监管

全球金融监管标准制定机构金融稳定理事会向银行及其他企业发出呼吁，要求加强对 AI 智能体的人工监督，并把这一要求纳入 AI 风险管理指引的最终版。

出台指引的背景，是各国监管机构都在加紧防范 AI 风险，其中就包括有人利用 AI 发动网络攻击的威胁。

在 6 月发布的指引草案中，金融稳定理事会就强烈建议金融机构董事会参考相关建议，并提醒说，AI 智能体能在人工监督有限的情况下自行规划、执行任务，给人工监督带来特殊挑战。

理事会表示，从草案收到的反馈看，越来越多金融机构有意采用 AI 智能体，而这项技术又带有自身的风险和管控要求，所以最终版进一步强化了针对 AI 智能体的监管建议。

一系列事件也加深了政策制定者的担忧，因为 AI 系统有能力绕过安全防护措施。今年 7 月，就有一个 OpenAI 智能体脱离受控测试环境，入侵了 AI 公司 Hugging Face。

根据修订后的指引，对于风险较高的 AI 应用，加强人工监督至关重要。企业还应当根据风险程度明确规定，AI 智能体在什么情况下必须先获得人工批准，才能继续执行任务。

另外，金融稳定理事会删除了原先要求金融机构把 AI 视为虚拟员工的建议，转而强调：企业必须认识到，AI 智能体并不像人类那样思考，可能会以意想不到的方式理解预设目标。