跳到文章正文
行业/好文 编辑推荐

华科与阿里共建 AI 安全研究中心:首批 9 个课题,管大模型攻防和隐私保护

9 个课题分四个方向,从智能体操作手机的伪造风险,到跨应用数据“可用不可见”。

华科与阿里共建 AI 安全研究中心:首批 9 个课题,管大模型攻防和隐私保护

11 月 18 日,华中科技大学与阿里巴巴集团签署合作协议,共同建设“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。

这 9 个课题分布在四个方向:大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护。

官方公开了两个例子。一个是 AI 智能体替用户操作手机、完成复杂任务时,屏幕画面可能被伪造,操作过程也可能受到恶意诱导。为此,中心设立了“图像对抗样本与终端威胁研判”课题,研究这类安全风险的识别与防护技术。

另一个是跨应用的数据互通。用户在购物、地图、外卖等应用之间切换,既想享受数据打通带来的便利,又担心个人信息在协同过程中泄露。“隐私保护关系图谱”课题打算通过密态计算等技术,做到数据“可用不可见、协同不透传”,让便利和隐私不再是一道单选题。

高校与企业联手做 AI 安全,这两年明显多了起来。模型能力涨得快,攻击面也跟着扩大,从提示注入到终端伪造,单靠一方很难覆盖全链条。这次合作能否拿出可落地的防护方案,还要看后续课题的进展。

本文地址:https://www.163264.com/22363