跳到正文
抖音 · 杨博士说AI· 杨博士说AI·· 23 天前精选AI 评分58

小米 MiMo v2.6 演示与 Code Midas 论文:用 GitHub 源码造 RL 训练环境

小米和谷歌大模型的点金手 #ai #mimo #模型训练

AI 导读

杨博士说AI 解读小米 MiMo v2.6 的 demo,覆盖 3D 开放世界搭建、Blender 文字生成汽车 3D 资产、仿真环境交互、computer use 做 PCB 电路板设计、金属有机框架材料设计与形式化数学证明等场景。

打开原文douyin.com
选题角度

博主逐条拆解小米 MiMo v2.6 的 demo 场景,并对照 Code Midas 与 Google Dream 两篇论文讲清不靠蒸馏的 RL 自进化思路,适合做技术解读。

博主
杨博士说AI@43806858570

Agnes 创始人|全球 Autonomous Intelligence 倡导者 毕业于 Berkeley(数学 × CS,最高荣誉),HEC Paris 创新创业硕士,NUS Computing 博士研究者。 曾打造千万级全球产品,现带领 Agnes 构建世界领先的 Agent-native Foundation Models 与 Harness 系统,重新定义 AI 如何理解世界、调用工具、执

互动数据
点赞
139
评论
13
分享
10
收藏
34

数字来自平台,为最近一次抓取时的数据。

正文

以下是视频口播的自动转写,可能有错字。

从这波 mimov 2.6的 demo 中呢,可以看出来国产模型在匹配海外的新的榜单的一些技能了。比如说3d的开放世界游戏,通过智能体搭建3d的场景、交互逻辑,包括视觉验证。其次呢是 blender 3d建模,那 mimov 2.6呢是可以通过文字直接生成汽车的3d资产,小米的造车的定位也是比较一致的。

巨神智能在仿真环境下, mimov 2.6呢直接去与 frank panda 的 g b 进行交互,这个呢并不是真实的物理世界 g b,但是在模拟环境中呢,几乎是1比1还原。computer use agent mimov 2.6呢,通过多模态感知和原生训练的行动能力结合,在电脑上呢做了 pcat 电路板设计的交互。

与此同时呢,在前沿科技领域,比如说金属有机框架材料的设计,以及形式化数学证明,在令上面证明了利奥经典论文。再加上前端的审美的表现,比如说网页设计、视频创作,甚至音乐创作。音乐创作呢,其实并不是真的做个音乐模型,而是通过十多种乐器。的软件的管理去产生交响乐作品。

可以看出啊,小米的模型代表国产模型的最前沿的开源模型,现在已经在全面的对标海外的榜单了。这个我之前也分享过,无论是 astral 还是 fable 还是网传的 gemini 4 pro 呢,都融入了各个垂类,domain experts 从数学到科学到商业到医疗,clinical 再到3d 再到法律,harvey agent 应该说呢,通用模型正在吃掉所有的垂类。

那小米的模型,mimo v2.6之所以能取得这么强的成绩呢,是跟它的强化学习相关。那他们最近也发表了一篇名为 code midas 的论文,阐述了背后的一些逻辑。一句话把逻辑讲清楚了,就是他们把 github 上的源码点石成金,成为了 rl 强化学习的训练环境,为编码 agent 造题。

那原来呢,很多模型公司去学习长城的 coding 呢,其实是依赖了 trace 数据,就是人类和 coding agent 在交互过程中不断提出的需求,包括提出的一些 issue 跟 commit 的这种交互的长城的流程,而模型呢逐渐学会人类的反馈。

那其实前段时间大家讨论基于 trace 数据实现的 opd 蒸馏呢,就是。这个逻辑。为了摆脱对于蒸馏的依赖呢,小米呢其实想到了一个很巧妙的方法,就是直接基于 github 上的原生的代码,3185个开源的项目,在过程中呢去模拟代码形成中的部分的过程。

比如说一个代码库中删除部分的源码,让 ai agent 尝试去还原。还原过程中呢,如果遇到卡点,可以参考源码,原先的被删除代码中的方法,再通过单元测试用例等方式呢去验证最终的结果是否满足了原先的要求,是否有提升。这样的话其实原先的用户手写代码呢,就变成了一个 baseline。

每一次新增的尝试呢,变成一个 rollout。通过不断的探索代码的生成,基于原先的代码构造可执行的测试,再通过多次 server rollout 验证筛选最优的新建立代码,形成了一个强化学习 rl 的闭环。那从李某论文中发布的关键指标来看呢,他们是通过3185个开源的项目,产出了5545个经过验证的 rl 训练任务。

就是每一个开源项目至少会有一到两个任务,覆盖了23种不同的语言,15个技术领域,通过 gr. Ipo 训练 mimo v2.5后,多基准性能呢是实现了提升。github 是一个非常好的开源的一个生态,其中也覆盖了多种不同的场景。而 coding 呢其实是驱动很多分类能力的一个很核心的一个基础能力。

就像我前面说的,无论是3d还是数学编程,包括 computer use,还是 ai for science,ai for math,以及呢基于线上的交互,比如说 computer use 中的基于乐器的软件作曲,其实都可以最终归纳成源码。而这部分的源码呢,大多呢是在 github 上是有代表的项目。

基于这些项目作为起点,进行新的探索,并形成闭环,超越现有的已经开源内容,就是小米演示沉浸的背后的逻辑。其实呢,就在前几天,google 呢也推过一篇类似的文章,叫做 dream isi。它的所谓的背后的强化学习的逻辑呢,不是基于 github 上的源码,但是呢是基于自己大规模的用户的长城的 trace 数据的历史数据。

这也是为什么他们的一言以蔽之呢,叫做让 agent 在梦里回放历史搜索,优化探索策略。大逻辑呢其实跟小米的。Code meta 很像,都是在基于一个 baseline 上面去产生新的 rollout,再通过新的 eval 筛选出最强的答案,变成新的基准。

那为什么说是 dream 呢?因为它这里面的 baseline 呢,都是 gemini 用户自己生成的长城的内容,而不是在实验场景中呢重新合成的新的数据。所以呢,因为合长城搜索的数据太贵,不如从线上每天数以亿次的调用中呢,寻找重复失败的轨迹,从过程中呢探索新的路径。

那 dream isi 呢,其实就是把过去的搜索轨迹存成数,在梦境里演化测试。所谓梦境就是在历史数据里演化并测试新的策略,基于原先的 baseline 去探索,寻找出最优的策略,并带回真实的运行。那最终结果呢,是通过这样的历史数据的主动进化,isi 了51200代之后,实现了 gpu 内核优化,同等性能生成次数降低了2.43倍。

discovery agent 调用削减最高162倍。这个其实也是谷歌的一种方式去实现自我进化。那无论是小米的 code meta,还是 google 的 dream isi。现在其实给出了一个不依赖于蒸馏的,一个相对来说比较省力的,从开源代码库和历史数据里面寻找多样性问题,并通过 raw 探索自我进化的一个方案。

来源:抖音 · 杨博士说AI · douyin.com