斑马智能发布全模态端侧大模型 AutoOmni 2.0-23B-A3B

斑马智能在云栖大会发布全模态端侧大模型 AutoOmni 2.0-23B-A3B，采用 MoE 架构，普通任务能力堪比 10 倍参数量云模型，复杂任务处理能力达其 80%-90%。该模型已合作国内外 10 家芯片企业，支持 8 路以上多任务并发，大模型推理加速 5-6 倍，量化保真度超 99%，运行内存占用减少 50% 以上。