跳到正文
TechCrunch · AI· Aditya Mehta·· 29 天前AI 评分39

用 AI 监管失控 AI 智能体:Watcher、Silico 等监控工具兴起

The fix for rogue AI agents could be more AI

AI 导读

面对 AI 智能体行动速度与规模远超人类审核能力的问题,AI 实验室与初创公司正转向"用另一个 AI 来监管 AI"。Apollo Research 今年 2 月推出监控工具 Watcher,接入 Claude Code、Codex 等智能体工具,在动作执行前检查泄露隐私数据、擅自删文件等风险;Goodfire 的 Silico 则用激活探针检测模型内部状态。

来源:TechCrunch · AI · techcrunch.com