跳到正文
量子位· henry·· 26 天前AI 评分58

中国电信开源Xing4.0-29B-A4B,一张3090即可本地运行

一张3090就能跑!全栈国产模型,把AI办公搬到企业本地

AI 导读

中国电信AI开源Xing4.0-29B-A4B,这是一款全栈国产化的轻量级代码智能体大模型,采用MoE架构,290亿总参数、每次推理激活约40亿参数,4-bit量化后显存占用从约60GB压缩至约15GB,一张RTX 3090即可运行。

来源:量子位 · qbitai.com