Google、Nvidia 与 Anthropic 联合 Emerald AI 成立 AI 能源管理联盟,为数据中心争取电网空间
Emerald AI 与 Google、Nvidia 成立 AI Energy Management Alliance(AEMA),Anthropic 及 AES、Constellation、National Grid、NRG Energy 等公用事业公司加入,通过需求响应让数据中心暂停非关键任务或转移算力负载,据称可为电网额外接入 100 吉瓦数据中心容量。
Emerald AI 与 Google、Nvidia 成立 AI Energy Management Alliance(AEMA),Anthropic 及 AES、Constellation、National Grid、NRG Energy 等公用事业公司加入,通过需求响应让数据中心暂停非关键任务或转移算力负载,据称可为电网额外接入 100 吉瓦数据中心容量。
Google 研究人员提出 Dream-RSI,把已记录的发现转化为可重放的世界,让智能体在跑新实验前先测试更优的研究策略。该工作探索"学会选择正确实验"能否成为递归自我改进的关键组件,相关项目附有交互式解释与论文。
Anthropic CEO Dario Amodei 在周末发表的长文中提议,在所有前沿 AI 公司内部常驻第三方评估员,赋予其报告安全事件、评估模型是否真正对齐并公开原始发现的权利,Anthropic 承诺向 METR、Redwood Research 等独立评估方开放前所未有的系统访问权限,Sam Altman 表示 OpenAI 也将作出同样承诺。
AI Explained 梳理了研究者呼吁"放慢"前沿 AI 背后的六大观察维度,涉及事故报告与趋势,以及 Amodei、Demis Hassabis、Noam Brown、Jakub Pachocki 等人的相关表态。视频还讨论了 AI 是否正变得更难控制、多智能体系统中的模式与问题,以及从 AI 能力到现实危害的路径。
Anthropic CEO Dario Amodei 提出由外部机构审计 AI 安全实践,OpenAI、Google 和 SpaceXAI 高管已表态支持。但多位安全专家认为,前沿实验室应先做好日志、权限和沙箱隔离等网络安全基本功,并对智能体会话实施限时与实时监控。OpenAI 已开始以"显著算力成本"监控 Astra 模型所有使用工具的推理,Anthropic 也在扩大模型可观测性。
Google DeepMind 成立 DeepMind Institute(DMI),联合 Google 与全球科学界,围绕 AGI 的安全、治理及网络攻击、失控等风险展开跨学科研究与讨论。
Google 为 Google Home 生态推出 MCP 服务器早期访问,支持 MCP 的 AI 智能体(如 Claude、ChatGPT 等)可安全操控智能家居设备并访问事件历史。
Emerald AI、Google 和 NVIDIA 宣布成立 AI Energy Management Alliance(AEMA),推动数据中心根据电网状况动态管理用电。该联盟采用技术中立、基于性能的要求,聚焦响应速度、持续时长、可预测性和紧急情况行为等可衡量指标。NVIDIA 与 Emerald AI 已在与能源和基础设施厂商合作建设可实时响应电网状况的 AI factory。
AI Impacts 对 1500 多名顶尖 AI 研究者的长期调查显示,2024 年研究者平均认为 AI 导致人类灭绝或"永久失能"的概率约为 18%,中位数较此前翻倍至 10%,部分人给出 100%。