goodfire

Goodfire 推出“由内而外”监控器：低成本抓住失控的 AI 智能体

让一个 AI 智能体连续跑上几个小时，它到底会不会"跑偏"？目前主流的做法是再找一个 AI 在旁边盯着它——就像让一个监考老师盯着考场。问题是，当智能体长时间工作、处理的信息量相当于好几本小说时，这种"旁观式"监控的成本…