什么是思维树（ToT）
前言
思维树 (ToT) 是一个开创性的框架，旨在增强大型语言模型 (LLM) 的推理能力。这种方法模拟了人类解决问题的认知策略，使 LLM 能够以结构化的方式探索多种可能的解决方案，类似于树状分支路径。
思维树 (ToT) 框架
ToT 是一个复杂的框架，旨在通过以类似于人类认知过程的方式构建其推理，来增强 LLM 解决问题的能力。该框架由四个关键部分组成：
思想分解：ToT 框架明确地将问题分解为更小的、且易于管理的步骤，称为思维，这些步骤组合在一起构成解决方案。每个思维的大小都应适当，不能太大以至于难以处理，也不能太小而无用。例如，如果您在计划旅行，则可能需要先决定旅行目的地，然后选择最佳交通方式，最后选择住宿地点。在数学问题中，思维可能是一条方程式或简洁的概念解释。通过这种方式，问题可以分解为易于处理和单独评估的关键步骤。分解过程取决于问题的性质，确保每个思维步骤对评估既重要又可行。
思维生成：定义思维构成后，确定如何生成这些思维。该框架提出了两种主要技术。
采样：这种技术通过使用相同的提示独立地生成多个思维。当思维空间丰富且多样时，该方法的效果最好，因为独立生成的思维不太可能被复制。例如，在创意写作中，可能会生成多个独立的情节想法。
提议：这种技术使用"提出提示"依次生成思维。每个思维都基于前一个思维，从而在更受限的思维空间中避免重复。例如，在逻辑问题解决中，每一步都建立在前一步的基础上，以确保一致性和进度。
状态评估：一旦生成思维，就必须对期进行评估，以确保朝着解决问题的方向推进。该框架采用两种策略来实现这一目标：
值：此策略为每个状态分配一个标量值（例如，从 1 到 10 的评级）或一个分类（例如，确定、可能或不可能）。这有助于指示该状态的质量或其导向解决方案的可能性。这种方法允许对每个思维的潜力进行定量评估。
投票：该策略比较不同的解决方案并选择最有前途的一个。投票对于解决方案的质量具有主观性或难以量化的任务特别有用，例如创意写作或战略规划。通过多次评估结合以确定最佳的前进路径。
搜索算法：最后一个组成部分涉及用于在解决方案空间中导航的搜索算法。该框架通常采用两种基本算法：
广度优先搜索 (BFS)：这种算法会先深入了解每一级的所有可能分支，然后再向树的更深处移动。它确保所有潜在的解决方案都得到同等考虑，使其适用于首选最短路径或最浅解决方案的问题。例如，在益智游戏中，BFS 会检查所有立即可行的动作，然后再考虑后续动作。
深度优先搜索 (DFS)：这种算法先深入了解一个分支，然后再回溯探索其他分支。它允许对每个潜在的解决方案进行深入检查，适用于需要详细探索每个选项的问题。例如，在解决复杂的逻辑问题时，DFS 会深入跟踪单个假设，检查其有效性，然后再考虑其他替代方案。
通过整合这些组件，ToT 框架可以通过系统地考虑多种解决方案并排除错误的方案，以模仿人类解决问题的过程。
参考资料：
什么是思维树？ https://www.ibm.com/cn-zh/topics/tree-of-thoughts