Mininglamp开源Cider和Mano-P:让你的Mac秒变私有AI工作站

Mininglamp(明略科技)最近开源了两个非常实用的本地AI项目——Cider和Mano-P。这两个工具组合在一起,能让你的Mac变成一个真正的私有AI工作站,不用联网、不用上传数据,所有AI计算都在本地完成。

先说Cider。这个工具专门针对苹果M系列芯片做了深度优化,可以大幅提升大语言模型(LLM)和视觉语言模型(VLM)在Mac上的推理速度和效率。用过本地大模型的都知道,在Mac上跑模型的体验往往不如在Windows或者Linux上好,因为CUDA(英伟达的GPU加速平台)在Mac上是用不了的。Cider就是来解决这个问题的,它充分利用了M系列芯片的神经网络引擎和统一内存架构,让模型跑得更快更流畅。

再说Mano-P。这个工具实现的是纯视觉的GUI操作——说白了,它能{LQ}看懂{RQ}你的电脑屏幕,然后像人一样操作桌面上的各种按钮、菜单和窗口。比如你让它{LQ}打开浏览器查xxx{RQ},它能自己找到浏览器的位置、点击打开、在搜索框里输入关键词。而且Mano-P不依赖任何辅助功能接口,全靠{LQ}看{RQ}和{LQ}点{RQ},所以兼容性非常强。

这两个工具结合起来,效果就很恐怖了:Cider负责让AI模型在本地跑得快,Mano-P负责帮你在电脑上干各种活。这意味着你可以在完全离线的环境下,拥有一个能帮你自动化操作电脑的本地AI助手。

为什么要强调“本地”和“私有”?因为很多用户对数据隐私非常在意,不想把自己的文件、对话内容上传到云端。本地AI解决方案正好解决了这个痛点——所有数据不出你的电脑,模型在你的Mac上运行,又快又安全。如果你对本地AI工作站感兴趣,Mininglamp这两款开源项目值得一试。

本文地址:https://www.163264.com/11488

(0)
上一篇 5天前
下一篇 5天前

相关推荐