AI 可解释性接近突破了吗?一篇新文章让研究者意见分裂
前 OpenAI 研究员 Cammarata 提出,可解释性领域最著名的"猫-车神经元"等案例可能被误读,实为 V 形检测器,而非 superposition 的证据,他称之为"递归泛化"。
前 OpenAI 研究员 Cammarata 提出,可解释性领域最著名的"猫-车神经元"等案例可能被误读,实为 V 形检测器,而非 superposition 的证据,他称之为"递归泛化"。
Wes Roth 实测 Google 的 Gemini 4 Argon,体验了官方演示并自己动手做了游戏,认为这是一个能力强大但有些奇怪习惯的模型。他还探讨了该模型在机器人方面的能力,以及 Google 安全报告揭示的、模型推理中不再出现的捷径问题。
选题角度:作者亲测 Gemini 4 Argon 官方 demo 并自建游戏,可对比官方演示与自建效果,顺带聊机器人和安全发现。
菲尔兹奖得主陶哲轩在加州理工学院发表题为《数学2.0》的演讲,提出数学已从「证明稀缺」的数学1.0时代进入「证明过剩」时代。
选题角度:陶哲轩把数学从证明稀缺推向证明过剩,用抗癌药思想实验讲清AI给出答案却无人能懂的风险,适合做一期观点解读。
Justine Moore 表示,如今单个 LLM 提示词就能完成大量研究工作,并称 Gemini 4 尤其擅长分析海量数据并综合成洞察。她表示会在下方附上演示链接。
Kevin Kelly 在 2016 年《必然》中预测,到 2026 年 Google 的主要产品将不再是搜索而是 AI,AI 未来会像 Amazon Web Services 一样成为廉价、可靠、工业级的通用智能。他还判断 AI 将由两三家大型通用云端商业智能形成寡头格局,且绝大部分 AI 是专用软件大脑,99% 的交互对象将是狭窄领域的专家型 AI。
苹果将于10月13日举办“欢迎回家”新品活动,预计推出首款智能家居中枢、新款HomePod mini和Apple TV 4K,并已曝与LG合作开发门铃、门锁、恒温器等配件。新任CEO特努斯上任后密集扩充硬件矩阵,但新版Siri仍依赖谷歌Gemini托底,Apple Intelligence发布两年承诺未完整兑现,家居中枢也因Siri进度从2025年推迟。
苹果发布会正失去“科技春晚”光环,AI 开发者大会成为新的流量中心,但 OpenAI 2026 年 9 月的 DevDay 已显露新品增量有限、信息提前泄露等成熟发布会问题。文章认为,看懂 AI 进步应跳出发布会,关注 token 价格、任务综合成本、Agent 自主试错与边用边学等指标。
Google Research 负责人 Yossi Matias 探讨 AI 下一次突破的方向,涵盖超越 Scaling Law 的架构创新(如投机解码提升效率)、环境智能与 Generative UI 交互范式、AI Co-Scientist 加速科学发现,以及洪水预测、Google Earth AI 行星级智能、医疗 AI 开放生态与量子计算进展。
开发者吐槽Claude、GPT等模型在Coding场景下输出"15/15全绿""单腿哑火"等黑话,被指是Coding过拟合与CoT压缩Token所致,穴居人式思维链可省70% Token消耗。GitHub上教AI说黑话的CaveMan Skill已获104K星星,2019年的文言编程语言wenyan-lang也已有20K星。Gemini因排版清晰、语言自然成为少数仍能正常沟通的模型。
特朗普本周召集扎克伯格、贝索斯、马斯克、Dario Amodei 等科技巨头,宣布美国政府不再称"人工智能"而改称"超级智能",并签署"Joint Commitment on Frontier Responsibilities"。
OpenAI 就模型失控风险发出安全警告,称控制模型如今已“难如地狱”。视频还提及 Gemini 4 Argon、GPT-6.1 Sol 系统卡、GPT-6.1 Astra 被搁置,以及一篇由多位 AI 知名人士合著的 RSI 论文。
量子位梳理了近期多位一线AI研究员的离职声明与风险警告。从Google DeepMind离职的AI安全研究员Bilal Chughtai称AI有可能终结所有人,留给人类阻止的时间或许不多;27岁的Jacob Coxon宣布从Anthropic离职,点名OpenAI和Anthropic都没有负责任地行事,该帖已有1.71亿次浏览。
本周 AI 圈围绕"是否应放缓 AI 发展"展开争论:Musk 支持 Dario 的前沿节奏主张,Altman 表示认同,Hassabis 为 Dario 的文章背书,而 Zuckerberg 明确反对 AI 放缓。
Anthropic CEO Dario Amodei 发近 4000 字长文呼吁放缓 AI 开发、建立国际协同的安全部署机制,OpenAI 的 Sam Altman 与 xAI 的 Elon Musk 表示支持。Meta CEO Mark Zuckerberg 则称信任与对齐正成为区分模型与智能体的最重要能力,并透露 Meta 因安全考量将 Muse 的发布推迟了数月,暗示政府监管并非必要。
AI Explained 梳理了研究者呼吁"放慢"前沿 AI 背后的六大观察维度,涉及事故报告与趋势,以及 Amodei、Demis Hassabis、Noam Brown、Jakub Pachocki 等人的相关表态。视频还讨论了 AI 是否正变得更难控制、多智能体系统中的模式与问题,以及从 AI 能力到现实危害的路径。