Graph of Thoughts (GoT)

Nikola Balic (@nibzard)· emerging

问题

像思维链（CoT）这类线性推理方法，甚至像思维树（ToT）这类基于树的方法，在处理需要推理步骤间存在复杂相互依赖关系的问题时存在局限性。许多现实场景中的问题涉及的推理路径会以融合、拆分与重组的方式展开，而这些方式无法很好地适配线性或树形结构。这类问题需要一种更具灵活性的方法，能够表征思维之间的任意关系。

方案

思维图（GoT）通过将思考过程建模为有向图来扩展推理框架，该有向图具备以下核心特性：

  • 节点：代表单个思维单元或推理状态
  • 边：代表思维间的转换关系或推理步骤
  • 多路径：每个节点可接入多条入路径和出路径
  • 聚合操作：能够合并多个思维单元
  • 回溯：允许重新审视并优化先前的思维

这一框架可实现以下操作：

  1. 分支：从单个思维单元生成多个衍生思维
  2. 聚合：整合多条推理路径的见解
  3. 优化：基于后续形成的见解改进现有思维
  4. 循环：迭代地重新审视并优化思维

权衡

优点：

  • 能够处理涉及相互依赖推理步骤的复杂问题
  • 可发现观点之间非显而易见的关联
  • 支持迭代优化与回溯操作
  • 相比线性或基于树的方法，具备更强的表达能力

缺点：

  • 计算成本显著更高
  • 实现与调试难度较大
  • 可能生成大量冗余想法
  • 需要复杂的评分与路径查找算法
  • 对于简单问题来说可能大材小用

参考文献

关键词：

AAAI 2024收录论文《思维图：用大语言模型解决复杂问题》，附对应温哥华会议演讲及代码实现资源

直译：
  • 《思维图：利用大语言模型解决复杂问题》（AAAI 2024） [链接]：https://arxiv.org/abs/2308.09687
  • AAAI '24 温哥华会议演讲 [链接]：https://aaai.org/aaai-conference/
  • 代码实现 [链接]：https://github.com/spcl/graph-of-thoughts

来源摘要

正在获取来源并生成中文摘要…

来源: https://arxiv.org/abs/2308.09687

← 返回社区