Goodfire发布神经网络可解释性长文

OpenAI前研究员Nick Cammarata与Goodfire团队发布长文《神经网络早已「干净」》，提出神经网络内部计算有规律可循，而非一团混乱。团队在320亿参数语言模型中分开统计神经元正负响应，粗略估计约90%的神经元各有一个主要任务，约2%至4%仍未理解。 团队同时公开了1000份随机神经元研究报告。

AI 根据报道生成 · 12 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。