(AI 资源之家讯)5 月 7 日,明略科技开源了两个本地 AI 项目——Cider 和 Mano-P。Cider 专注于挖掘苹果 M 系列芯片的 INT8 TensorOps 能力,显著提升大语言模型和视觉语言模型的本地推理速度,同时大幅降低内存消耗。Mano- P 则是一款面向端侧设备的纯视觉 GUI 智能体,支持在 Mac 上本地推理并直接操控桌面软件,两者结合形成完整的本地私有 AI 解决方案。
## Cider:释放 M 芯片的 AI 潜力
Cider 针对苹果 M 系列芯片的 INT8 TensorOps 能力进行了深度优化,特别是在最新的 M5 芯片上表现出色。实测数据显示,使用 Cider 加速后,70 亿参数的大语言模型在 MacBook 上的推理速度提升约 2 倍,内存占用降低 40% 以上。这意味着开发者无需昂贵的云端 GPU,即可在 MacBook 上流畅运行中大型 AI 模型。Cider 的优化不仅限于语言模型,视觉语言模型同样受益,为端侧多模态 AI 应用奠定了基础。
## Mano-P:纯视觉 GUI 操控智能体
Mano- P 是一款革命性的纯视觉 GUI 智能体。与传统基于 API 或 DOM 树操作的自动化工具不同,Mano- P 完全通过视觉理解来操控计算机界面——就像人类看着屏幕点击一样。它支持 Mac mini 和 MacBook 上的本地推理,能直接操控桌面软件、网页界面及专业工具,具备复杂 GUI 自动化操作、跨系统数据整合、长任务规划与执行等能力。更关键的是,所有数据都在本地处理,不出设备,完全保障隐私安全。
## 本地私有 AI 解决方案
Cider 加 Mano- P 的组合,提供了一套完整的本地私有 AI 解决方案。Cider 解决算力问题,让大模型在 Mac 上流畅运行;Mano- P 解决交互问题,让 AI 能像人一样操控计算机。这一组合特别适合对数据隐私有严格要求的金融、医疗和法律等行业,企业可以在完全不联网的环境下部署 AI 智能体,实现自动化办公。开源策略也将加速端侧 AI 生态的成熟。