跳到正文
热点事件持续更新

Anthropic向METR六名研究员开放员工级权限

3 篇报道3 个报道来源11 小时前更新

先了解这件事

AI 综述

Anthropic 已向非营利机构 METR 的六名研究员开放员工级访问权限,提供公司笔记本电脑、办公空间和内部工具,允许其独立评估 Anthropic 的模型、安全实践与风险管理。Anthropic 称,METR 可自行发布评估结果,公司无权否决,但可要求对客户数据、律师-客户特权信息及模型架构等预设类别内容进行脱敏;METR 可公开说明脱敏情况并评价其是否合理,前提是不泄露被脱敏信息。 该安排是 Anthropic 三层评估体系中的最高层级,目前仅 METR 一家。较低层级中,中间层可获得更多信息且无需批准即可发布,底层评估者(如生物安全非营利机构 SecureBio)只做范围较窄的审查,发布需经 Anthropic 批准。Anthropic 表示正与多家机构洽谈类似合作。

AI 根据报道生成 · 11 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. The Decoder
    Anthropic 向 METR 开放内部权限,允许其独立审计 AI 模型与安全实践

    Anthropic 向非营利机构 METR 的六名员工开放公司硬件、办公空间和内部工具权限,使其审计权限大致与自家风险团队相当。客户数据、律师-客户特权信息及模型架构细节不在开放范围内,METR 将独立发布审计结果,Anthropic 可要求对预设类别内容做删减,但 METR 有权公开评价删减是否合理。

  2. TechCrunch · AI
    Anthropic 向 METR 研究员开放员工级权限,独立评估其模型与安全实践

    Anthropic 向 METR 的六名研究员开放员工级访问权限,提供公司笔记本电脑、办公空间和内部工具,允许其独立评估 Anthropic 的模型、安全实践与风险管理。METR 可自行发布评估结果,Anthropic 无权否决,但可要求对客户数据、律师-客户特权信息及模型架构等预设类别内容进行脱敏。该安排是 Anthropic 三层评估体系中的最高层级,目前仅 METR 一家。

  3. X · Anthropic
    Anthropic 向 METR Evals 团队开放员工级访问权限,评估其安全实践

    Anthropic 已向 METR Evals 团队开放员工级访问权限,用于第三方评估其安全实践,并正与多家机构洽谈。Anthropic 表示已承诺由外部评估者审查其安全实践,此次发帖介绍了与第三方评估者的合作方式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。