模型与使用
思维链
Chain of Thought
在答案前生成中间推导步骤的一类方法;这些步骤可以帮助解题和检查逻辑,但不能保证完整、忠实地揭示模型内部计算。
更新于
它是什么
思维链常缩写为 CoT,指生成一系列中间推导步骤,再给出答案。早期相关论文通过在提示中提供带推导的示例,研究这种方法对算术、常识等任务的帮助。“思维”是方法的名称,并不能据此把生成文字等同于人类的心理过程。
一个日常例子
你要比较两种活动票价:一种固定收取场地费再按人数收费,另一种只按人数收费。AI 先写出两个总价表达式,再计算人数达到多少时更划算。这些中间步骤可以帮助你检查有没有漏掉固定费用,也比只收到一个人数更容易核验。
展示的解释是否等于内部计算
不能直接画等号。关于解释忠实性的实验发现,模型可能受到某些输入线索影响,却在输出推导时没有如实说明这些影响。因而一段连贯解释既不能证明它完整披露了答案的成因,也不能仅凭措辞确定内部机制。
评测时怎么使用
可以检查推导中的条件、运算和结论是否成立,并观察修改条件后答案能否相应更新。解释顺序和展开风格则可以留给读者比较。更长的推导不自动代表更强能力;答案正确、论证有效和解释忠实,是需要区分的问题,不能只凭“它写了很多步骤”一并认定。