Anthropic 用 15 台电视盒子跑起 260 亿参数模型,并演示 AI 自我复制
Anthropic 研究人员把 15 台单价约 55 美元、4GB 内存的安卓电视盒子联网,分布式跑起 260 亿参数的 Gemma4-26B-A4B,速度仅 0.39 tokens/秒。
选题角度:Anthropic 用 15 台 55 美元电视盒子跑 260 亿参数模型,可实测 0.39 tokens/秒的分布式推理速度,并演示小模型自我复制的四阶段流程。
Anthropic 研究人员把 15 台单价约 55 美元、4GB 内存的安卓电视盒子联网,分布式跑起 260 亿参数的 Gemma4-26B-A4B,速度仅 0.39 tokens/秒。
选题角度:Anthropic 用 15 台 55 美元电视盒子跑 260 亿参数模型,可实测 0.39 tokens/秒的分布式推理速度,并演示小模型自我复制的四阶段流程。