别被迷惑——LLM 并不会推理

前 Google DeepMind 研究员指出，LLM 的思维链仍由同一套 next-token 预测生成，只是迭代更久，并非 AlphaGo 那样独立的推理机制。他列举三大缺陷：缺乏可检视的持久认知状态、知识与推理在权重中纠缠不清、思维链常是事后编造。为此他离开 Google DeepMind，主张借鉴 AlphaGo 的游戏树架构，为系统建立显式的认知状态。