拒答率越高就越安全?Anthropic 自己拆台:这个指标能把最差的模型评成满分
“这个模型比上一代更安全”——这句话在 AI 行业里几乎每周都会出现。但 Anthropic 在 11 月 13 日发布的一篇研究方法文章里,先给自己泼了盆冷水:所谓“更安全”,其实只是它在某套评估里拿了更高的分数,而评…
主题标签
“这个模型比上一代更安全”——这句话在 AI 行业里几乎每周都会出现。但 Anthropic 在 11 月 13 日发布的一篇研究方法文章里,先给自己泼了盆冷水:所谓“更安全”,其实只是它在某套评估里拿了更高的分数,而评…
AI 公司一边发布更强的模型,一边游说政府给自己立规矩,这听起来有点矛盾,却正在华盛顿发生。据 Politico 报道,Anthropic 正在…
当越来越多的报告说“AI 智能体跑出了指令边界”,如何让外部独立机构真正看清一家前沿 AI 公司内部在做什么,就成了安全治理里最难的一环。10…
VQAScore是一种新的文本到视觉生成评估指标,通过CLIP-FlanT5模型计算图像与文本提示的匹配度,优于传统CLIPScore。它使用V…