跳到正文
9月17日周四
  1. TechCrunch · AI58

    Anthropic 与 OpenAI 拟引入常驻安全评估员,独立性遭质疑

    Anthropic CEO Dario Amodei 在周末发表的长文中提议,在所有前沿 AI 公司内部常驻第三方评估员,赋予其报告安全事件、评估模型是否真正对齐并公开原始发现的权利,Anthropic 承诺向 METR、Redwood Research 等独立评估方开放前所未有的系统访问权限,Sam Altman 表示 OpenAI 也将作出同样承诺。

  2. TechCrunch · AI48

    AI 实验室想要内部审计,但安全专家建议先关好前门

    Anthropic CEO Dario Amodei 提出由外部机构审计 AI 安全实践,OpenAI、Google 和 SpaceXAI 高管已表态支持。但多位安全专家认为,前沿实验室应先做好日志、权限和沙箱隔离等网络安全基本功,并对智能体会话实施限时与实时监控。OpenAI 已开始以"显著算力成本"监控 Astra 模型所有使用工具的推理,Anthropic 也在扩大模型可观测性。

9月16日周三
9月4日周五