谷歌把端侧推理的「发动机」开源了:ML Drift 想让每块手机 GPU 都跑得动大模型
你手机里其实一直藏着一台小型 AI 计算机:拍照时的背景虚化、相册里的人脸分类、视频通话时的画质增强,都靠 GPU 在本地完成。可一旦要在手机上跑生成式模型,开发者立刻会撞上同一堵墙——GPU 型号太多,驱动和底层接口各…
主题标签
你手机里其实一直藏着一台小型 AI 计算机:拍照时的背景虚化、相册里的人脸分类、视频通话时的画质增强,都靠 GPU 在本地完成。可一旦要在手机上跑生成式模型,开发者立刻会撞上同一堵墙——GPU 型号太多,驱动和底层接口各…