TechCrunch · AI· Aditya Mehta·· 29 天前AI 评分39
用 AI 监管失控 AI 智能体:Watcher、Silico 等监控工具兴起
The fix for rogue AI agents could be more AI
AI 导读
面对 AI 智能体行动速度与规模远超人类审核能力的问题,AI 实验室与初创公司正转向"用另一个 AI 来监管 AI"。Apollo Research 今年 2 月推出监控工具 Watcher,接入 Claude Code、Codex 等智能体工具,在动作执行前检查泄露隐私数据、擅自删文件等风险;Goodfire 的 Silico 则用激活探针检测模型内部状态。
来源:TechCrunch · AI · techcrunch.com