跳到主要内容

主题标签

Phi-3 WebGPU

关于该主题的全部内容,按发布时间持续更新。
1 篇内容

Phi-3 WebGPU: 在浏览器中本地运行Phi-3

您即将加载Phi-3-mini-4k-instruct,这是一个38.2亿参数的LLM,专为在网络上进行推断而进行优化。一旦下载完成,该模型(2.3 GB)将被缓存并在您重新访问页面时被重用。 一切都直接在您的浏览器中运…