0.1% 的预训练数据投毒，就能给 Agent 装一个远程后门
我们习惯把模型安全理解为“对齐问题”：模型会不会说错话、会不会被提示词绕过、会不会拒绝不当请求。但一篇新论文把视角往前推了一大步——问题可能不在后训练，也不在提示词，而在预训练语料本身。研究者证明，只要在预训练数据里掺入…
主题标签
投毒
关于该主题的全部内容，按发布时间持续更新。
1
篇内容
主题标签
我们习惯把模型安全理解为“对齐问题”：模型会不会说错话、会不会被提示词绕过、会不会拒绝不当请求。但一篇新论文把视角往前推了一大步——问题可能不在后训练，也不在提示词，而在预训练语料本身。研究者证明，只要在预训练数据里掺入…