MLC Chat app 已经在苹果的 App Store 上线 在 iPad 和 iPhone 上与开放语言模型进行本地聊天的应用

这个项目名叫 MLC-LLM，能让你「在任何设备上编译运行大语言模型」，包括移动端（例如 iPhone）、消费级电脑端（例如 Mac）和 Web 浏览器

https://apps.apple.com/us/app/mlc-chat/id6448482937

在您的设备上离线本地运行开放式语言模型进行聊天。

MLC Chat允许用户在iPad和iPhone上本地与开放式语言模型进行聊天。在模型下载到应用程序后，一切都在本地运行，无需服务器支持，并且它可以在没有互联网连接的情况下工作，不记录任何信息。

由于模型在本地运行，因此仅适用于具有足够VRAM（可视化随机存取存储器）的设备，具体取决于所使用的模型。

MLC Chat是开放源代码项目MLC LLM的一部分，该项目允许在各种硬件后端和本地应用程序上部署任何语言模型。MLC Chat是一种在手机上运行不同开放式模型体系结构的运行时。该应用程序的目的是非商业用途。它允许您运行从互联网上下载的开放语言模型。每个模型可以受到其各自许可证的限制。