寻找最新最佳的端侧人工智能。浏览最全面的AI数据库,每日持续更新。
最新
Muse Glimmer 是 Meta 的开放式 300 亿参数模型,适用于始终在线的本地代理。它针对工具使用、本地编码、多模式理解、长上下文记忆以及可在消费者 Mac 或 PC 上运行的代理工作流程进行了优化。
Meta 通过来自更大教师的蒸馏、更长的代理重数据、监督微调、策略蒸馏和强化学习来训练模型。量化可将模型压缩至 20
Needle 2 是一种紧凑的代理语言模型,用于微型设备上的工具调用、设备使用和结构化提取。完整的模型是一个 14 MB 的二进制文件,在大约 28 MB 的 RAM 中运行。
它建立在简单注意力网络的基础上,使用 Cactus Quants 压缩为 CQ2 位,并打包在 Cactus 自己的引擎中。浏览器演示在 WebAssem