Goodfire 研究员称神经网络比想象中更易理解，为何引发争议？

Goodfire 研究员 Nick Cammarata 提出，神经网络可能比此前认为的更容易理解，但多位可解释性研究者质疑这一主张的意义。他重新研究 Inception v1 后认为，同时响应猫与汽车的神经元可能识别的是共同的 V 形特征，而非将无关概念混杂存储。相关现代 LLM 技术结果尚未公布，质疑者强调，理解单个神经元不等于理解其组成的回路，相关观察也不能替代严格评估。