Hacker News · AI 高分帖· sbulaev·· 4 天前AI 评分44
研究:AI 模型可加密隐藏任意能力,规避能力评估审计
AI models can provably hide arbitrary capabilities
AI 导读
研究者构造后门攻击,将加密神经网络嵌入宿主模型权重,仅在收到秘密触发信号时解密执行,在密码学假设下即使完全访问权重也难以被诱发或解读。该概念验证用 PyTorch 实现,以小型化学反应预测任务代理 CBRN 相关能力,测试了微调、权重加噪、基于梯度的触发搜索和潜空间对抗训练等诱发手段,结果均表现出抗性。论文已被 NeurIPS 2026 接收,模型已开源以支持防御研究。
来源:Hacker News · AI 高分帖 · arxiv.org