AI 可解释性接近突破了吗？一篇新文章让研究人员产生分歧

Nick Cammarata 的一篇新文章重新审视了 AI 模型中的神经元多义性和叠加理论，认为许多早期经典案例被误读，神经网络实际上更具可解释性，引发了研究界的不同评价。OpenAI 员工 Roon 对此高度赞赏，而 Google DeepMind 的 Neel Nanda 则认为该工作虽有实用价值但并非重大突破，并坚持认为叠加现象依然存在。