索尼想让 AI 抢在 GPU 前面画下一帧:专利曝光,帧生成不必再等两帧
玩游戏时最怕的不是帧率低,而是帧率突然掉一下:画面卡顿、操作延迟、镜头一甩就糊。传统的帧生成技术…
文章目录
玩游戏时最怕的不是帧率低,而是帧率突然掉一下:画面卡顿、操作延迟、镜头一甩就糊。传统的帧生成技术要在两帧渲染完成后再插一帧,虽然能把帧数做高,却也带来了额外延迟。索尼最近曝光的一项专利,换了个思路:让 AI 在 GPU 渲染完成之前,先预测出下一帧。
一分钟速览
- 专利描述的系统让 AI 与图形渲染管线并行工作,在 GPU 渲染下一帧时处理上一帧。
- 预测画面会提前送入显示缓冲区,不必等两帧都渲染完成再插值。
- 系统使用联合训练的编解码器,把渲染画面转成紧凑的嵌入表示,再由解码器生成预测帧。
- 预测时会参考运动矢量和玩家近期的手柄操作,把操作历史作为下一帧动作的依据。
- 训练数据是连续视频帧:输入一帧、预测下一帧,再与真实画面比较并计算损失。
- 能否落地,取决于 AI 生成画面是否足够快、足够准,能在渲染掉速时补上缺口。
它解决的是帧生成的“时间差”
现在的帧生成,本质上是在两帧真实画面之间“猜”一帧。问题是,它必须等前后两帧都渲染出来,才能计算中间帧,这就引入了延迟。对于竞技游戏和 VR,这种延迟往往比低帧率更难受:画面看着更顺,手感却更钝。
索尼的方案把“猜”提前了。系统与渲染管线并行运行:GPU 正在渲染下一帧时,AI 已经在处理上一帧,并把预测结果送往显示缓冲区。于是,在下一帧完成之前,预测画面就有可能先显示出来。它不是在两帧之间插入,而是在帧与帧之间“抢跑”。
为了让预测更准,系统用了联合训练的编解码器。编码器把渲染完成的画面转换成嵌入表示,也就是对图像做紧凑的数值化表达;解码器再利用这些提示生成预测帧。训练时,网络从随机权重开始,输入一帧,尝试预测下一帧,然后把预测结果和真实后续画面比较,计算损失并更新权重。这个过程用的是连续视频帧,学的不是单张图,而是画面如何随时间变化。
手柄操作也被纳入预测
专利里还有一个细节值得注意:系统会利用运动矢量和玩家近期的手柄操作。运动矢量描述画面中物体移动的方向和速度,手柄操作则反映玩家接下来可能做什么。把两者结合起来,AI 不只是在“猜画面”,而是在“猜玩家”。
这听起来很聪明,也很危险。预测越依赖玩家输入,越可能在快速转向、急停、连招等场景下出错;一旦预测帧和真实帧差距太大,画面就会撕裂或抖动。所以这项技术的关键不是模型有多大,而是推理速度有多快、错误有多可控。专利本身也承认,能否发挥作用,取决于 AI 能否迅速生成准确画面,在渲染速度下降时填补帧输出间隙。
为什么主机厂商都在盯“AI 补帧”
过去几年,GPU 的渲染提升越来越依赖专用单元和软件技巧。英伟达有 DLSS,AMD 有 FSR,索尼则在 PS5 Pro 上引入了 PSSR。大家的目标一致:用更少的渲染算力,换更高的画面质量或帧率。索尼这项专利,是把战场从“超分辨率”推进到“帧预测”。
对主机来说,这尤其有吸引力。主机硬件固定,生命周期长达数年,靠软件和 AI 把老硬件榨出更多性能,是最现实的升级路径。如果这项技术成熟,未来的 PlayStation 可能在不大幅增加 GPU 算力的情况下,把 30 帧的游戏补到 60 帧,同时把延迟压到可接受范围。
趋势洞察:AI 正在进入渲染管线内部
这项专利最值得关注的,不是“AI 画帧”这个噱头,而是 AI 开始进入渲染管线的核心流程。过去,AI 更多是渲染完成后的后处理;现在,它要在渲染进行时并行工作,甚至直接影响显示缓冲区。这意味着 AI 推理的延迟、稳定性和画质一致性,会成为游戏体验的一部分。
当然,专利不等于产品。索尼可能只是储备技术,也可能在下一代主机上落地。真正决定成败的,是开发者能不能控制预测误差,以及玩家能不能接受“有些帧是算出来的”。但方向已经很清晰:未来的游戏画面,不会每一帧都由 GPU 从零画出来,而是由渲染和 AI 共同完成。谁能把这两条流水线配合得更好,谁就能在同样的硬件上,给玩家更顺的画面。
本文地址:https://www.163264.com/17345