OpenAI前研究员Nick Cammarata发布长文：约90%神经元各有一个主要任务

OpenAI前研究员Nick Cammarata与Goodfire团队发布长文《神经网络早已「干净」》，提出神经网络内部计算有规律可循，而非一团混乱。团队在320亿参数语言模型中分开统计神经元正负响应，粗略估计约90%各有一个主要任务，约2%至4%仍未理解，并公开了1000份随机神经元研究报告。