数码 · 新闻详情
Show HN：Needle2：14MB 代理法学硕士，适用于手机、可穿戴设备、智能家居和机器人
真正值得关注的不是这条新闻本身，而是它可能把「手机」的竞争焦点推向更大范围的连锁反应。
发生了什么：嘿 HN，来自 Cactus 的 Henry！
为什么重要：它提示了一个值得继续跟踪的变化方向。
观察窗口：接下来观察它是否会引发更多同类动作，以及影响范围能否扩大。
正文来源：非原文：源网页正文只有单句或图片说明，以下为已有摘要与自动整理内容
原文链接：https://cactuscompute.com/needle
原文链接：https://cactuscompute.com/needle
嘿 HN，来自 Cactus 的 Henry！我们之前发布了 Cactus Needle，这是一个 14MB 的代理法学硕士，用于手机、可穿戴设备、智能家居、小型机器人和微控制器的工具调用、设备使用和结构化提取。我们在这里得到了非常好的反馈，现在已经采纳了发布 Needle 2 的建议。整个模型是一个 14MB 的二进制文件，在 28MB RAM 中运行一个完整的会话； 2 位压缩时 45m 参数。
Needle 在 Raspberry Pi 5 上达到 500 个令牌/秒的解码速度，位于 4 之间 这条新闻目前更适合作为线索阅读：先看事实本身，再观察它是否会被更多来源验证并扩散到相关行业。
机器翻译/自动整理可能存在误差，请以原文为准。
继续阅读
正在加载推荐…