AI Search LogoAI Search
/ 端侧

端侧 AI

寻找最新最佳的端侧人工智能。浏览最全面的AI数据库,每日持续更新。

最新

Muse Glimmer

NewFree大语言模型端侧

Muse Glimmer 是 Meta 的开放式 300 亿参数模型,适用于始终在线的本地代理。它针对工具使用、本地编码、多模式理解、长上下文记忆以及可在消费者 Mac 或 PC 上运行的代理工作流程进行了优化。

Meta 通过来自更大教师的蒸馏、更长的代理重数据、监督微调、策略蒸馏和强化学习来训练模型。量化可将模型压缩至 20

Needle 2

NewFree智能体端侧

Needle 2 是一种紧凑的代理语言模型,用于微型设备上的工具调用、设备使用和结构化提取。完整的模型是一个 14 MB 的二进制文件,在大约 28 MB 的 RAM 中运行。

它建立在简单注意力网络的基础上,使用 Cactus Quants 压缩为 CQ2 位,并打包在 Cactus 自己的引擎中。浏览器演示在 WebAssem

写作图像生成艺术聊天机器人语音音乐视频客户服务约会社交媒体营销编程投资旅行学习自动化健康动漫生产力电子商务语言AI检测研究金融播客摘要生成教育工作角色扮演免费

Check out our YouTube for AI news & in-depth tutorials!