Denny Zhou 主讲嘉宾，Google DeepMind 首席科学家及研究总监，在 Naik 教授的课程 CIS 7000：大型语言模型（2024 秋季）

00:00 揭秘：大型语言模型的推理与思考机制本次深度解读探讨了人工智能，尤其是大型语言模型（如GPT）如何进行思考和推理的问题。基于Google DeepMind科学家Danny Joe及其团队的研究，讨论了这些模型处理复杂问题的关键方法，以及它们在推理能力上的局限性。研究强调了思维链和自洽性概念的重要性，并分析了如何使模型的推理结果更可靠和可信。同时，也提醒用户在使用和理解AI时需注意的局限性和潜在问题。

02:19 从传统机器学习到基于大型模型的推理能力转变对话探讨了从传统机器学习到基于大型模型的推理能力的转变，强调了传统机器学习依赖大量标注数据的局限性，尤其是在处理需要少量样本或依赖逻辑和规则的任务时。通过姓氏首字母拼接的例子，展示了传统机器学习在理解和应用抽象规则方面的挑战，凸显了引入推理能力的必要性。

05:45 大型语言模型的思维链方法提升推理能力对话讨论了使用大型语言模型（LLM）在推理任务上的挑战与突破。

最初，通过少样本提示（few shot prompting）方法，即给模型提供几个示例以期望其能推理出新的答案，但在某些需要精确步骤推理的任务上，这种方法几乎无效。

这促使研究者寻找新方法来激发模型的推理能力，从而引入了思维链（chain of thought，COT）的概念。COT的核心是引导模型在给出最终答案之前，先详细写出中间的思考步骤和推理过程。通过在提示中包含完整的带有思考过程的例子，可以显著提升模型在推理任务上的表现，无需重新训练模型。

这种方法是对早期尝试让模型输出中间计算步骤的工作的重要发展和应用，显示了在不改变模型结构的情况下，通过提示策略提升模型推理能力的潜力。

09:29 大型语言模型的推理能力激发对话讨论了如何通过添加思考步骤的提示（即扣T提示）来显著提升大型语言模型（LLM）在推理任务中的表现。即使在顶会拒绝后，一篇开创性的论文证明了这种方法的有效性，展示了从接近零的准确率飙升至88%以上的惊人效果。

进一步的研究发现了更简便的方法，如零样本QT，仅需一句简单的指令如“让我们一步步思考”，就能引导模型自动生成推理步骤，这标志着与LLM沟通推理任务的新途径，无需为每个任务精心设计例子。

11:45 类比推理在LLM中的应用利用数学家波利亚的类比推理思想，研究者们在LLM（大型语言模型）上尝试先解决一个相关的或类似的问题，再利用这个类比来辅助解决当前问题。这种方法更灵活，更接近人类解决陌生问题的思考方式，在某些任务上效果优于提供固定示例的少样本课题。

12:48 通过解读策略提升语言模型推理能力对话探讨了如何通过调整语言模型的解读策略来引导其生成推理步骤，而不是直接给出答案。这种方法，如QOT解读，无需特殊提示，而是利用模型自身对生成内容的自信度，鼓励先生成推理步骤再给出最终答案，从而在生成层面融入逐步思考的倾向。

然而，这引发了另一个关键问题：如何确保生成的推理步骤和最终答案的可靠性，避免模型生成看似合理但实际错误的推理路径。

语言模型在训练时主要优化预测下一个词的准确性，而非最终答案的正确性，因此需要进一步的研究和方法来确保其推理的可靠性。

15:32 自洽性方法提升大型语言模型推理能力对话深入探讨了自洽性方法在提升大型语言模型（LLM）推理能力方面的重要贡献。该方法基于第一性原理，通过让模型对同一问题生成多个不同的推理路径和答案，然后统计出现频率最高的答案作为最终结果。

这种方法类似于集思广益，利用了条条大路通罗马的思想，认为正确的答案更可能被多次通过不同路径达到。在实践中，自洽性方法在多个推理任务上显著提高了准确率，但其有效性依赖于模型能生成有意义的中间推理步骤。

此外，尽管自洽性方法与链式思考（COO t）结合使用能显著提升推理能力，当前的LLM推理问题仍未完全解决，存在不容忽视的局限性。

19:49 大型语言模型推理能力的三大局限性对话讨论了大型语言模型（LLM）在推理能力上的三个主要局限性：

易受无关信息干扰、自我修正能力弱以及对信息呈现顺序高度敏感。

即使模型被提示忽略无关信息，仍可能因干扰而给出错误答案，显示出其信息筛选和聚焦能力的不足。

自我修正尝试虽好，但模型往往把正确的答案修正为错误，缺乏客观标准或外部反馈指导其修正过程。

此外，模型在处理多步逻辑推理问题时，对信息顺序有高度依赖，当条件信息顺序被打乱时，其推理能力显著下降，表明其在处理无序信息进行复杂推理时较为脆弱。这些局限性提醒我们，尽管有强大的技术如cot和自洽性，但仍需谨慎对待AI的推理结果。

24:21 大型语言模型的推理潜力与局限性讨论集中于通过引导大型语言模型生成思考过程（思维链COT）以解锁其推理潜力，并通过自洽性原理提升推理结果的可靠性。

研究者提出，通过多次采样生成不同的推理路径并投票选择最一致的答案，可以显著提高正确率。

然而，当前的大型语言模型仍存在易受无关信息干扰、难以自我纠错以及对信息组织方式敏感等局限性。

这些发现为普通用户提供了一个分析AI行为的框架，帮助用户更理性、有效地使用AI工具，理解其在特定情境下的可靠性和局限性。

26:27 未来AI推理：

从复杂到简单的探索对话深入探讨了未来AI推理的发展方向，特别是如何让模型自主学习推理技巧，而不是仅仅通过提示工程来教模型如何推理。

讨论指出，AI研究的终极目标是开发能够自主发现新推理方法、克服现有局限性的模型，从而朝着通用人工智能迈进。

同时，引用物理学家理查德费曼的话，提出真理往往在简单中找到，引发了对于AI推理未来是走向复杂还是回归简单的思考。

演讲文稿地址：

https://llm-class.github.io/slides/Denny_Zhou.pdf