Anthropic 研究:电视盒子也能跑大模型并跨设备传播
Anthropic 公布一项研究,用 15 个单价几十美元、4GB 内存的杂牌安卓电视盒子,把量化后的 26B 参数 Gemma 模型拆成 15 份分别部署并联网串联运行,实测每秒只能输出 0.39 个 token。
Anthropic 公布一项研究,用 15 个单价几十美元、4GB 内存的杂牌安卓电视盒子,把量化后的 26B 参数 Gemma 模型拆成 15 份分别部署并联网串联运行,实测每秒只能输出 0.39 个 token。
Anthropic 研究人员把 15 台单价约 55 美元、4GB 内存的安卓电视盒子联网,分布式跑起 260 亿参数的 Gemma4-26B-A4B,速度仅 0.39 tokens/秒。
选题角度:Anthropic 用 15 台 55 美元电视盒子跑 260 亿参数模型,可实测 0.39 tokens/秒的分布式推理速度,并演示小模型自我复制的四阶段流程。
Anthropic 研究人员 William Zhou 和 Daniel Freeman 发布研究,测试小型 AI 模型能否像蠕虫一样在安全性薄弱的消费级 IoT 设备上自我复制。