Internal Consistency and Self-Feedback in Large Language Models: A Survey
本文是LLM系列文章，针对《Internal Consistency and Self-Feedback in Large Language Models: A Survey》的翻译。
大型语言模型的内部一致性和自我反馈：综述
- 摘要
- 1 引言
- 2 内部一致性
- 3 自反馈框架
- 4 任务：一致性信号采集
- 5 任务：推理评估
- 6 任务：减轻缓解
- 7 任务：其他
- 8 评估
- 9 自我反馈真的有用吗？
- 10 未来的方向和挑战
- 11 结论
摘要
大型语言模型（LLM）经常表现出推理缺陷或产生幻觉。为了解决这些问题，人们开始发起以“自我”为前缀的研究，例如自我一致性、自我改进和自我完善。他们有一个共同点：LLM需要自我评估和更新。尽管如此，这些努力缺乏统一的总结视角，因为现有的调查主要集中在分类上。在本文中，我们总结了一个理论框架“内部一致性”，为推理缺陷和幻觉提供了解释。内部一致性是指LLM的潜在层、解码层或响应层之间基于采样方法的表达的一致性。然后，我们引入了另一个能够挖掘内部一致性的有效理论框架，称为自我反馈。该框架由两个模块组成：自我评估和自我更新。前者捕获内部一致性信号，而后者利用信号来增强模型的响应或模型本身。该框架已被用于许多研究中。
我们按照任务和工作范围对这些研究进行系统分类；总结相关评价方法和基准；并深入研究“自我反馈真的有用吗？”我们还提出了几个批判性的观点，包括“内部一致性的沙漏演化”、“一致性（几乎）正确性”假设以及“潜在推理与显性推理的悖论”。相关资源开源于https://github.com/IAAR-Shanghai/ICSFSurvey。
1 引言
2 内部一致性
3 自反馈框架
4 任务：一致性信号采集
5 任务：推理评估
6 任务：减轻缓解
7 任务：其他
8 评估
9 自我反馈真的有用吗？
10 未来的方向和挑战
11 结论
本文提出用内部一致性的视角来观察LLM领域最突出的现象：缺乏推理和存在幻觉。文章从多个方面阐述了内部一致性的建模、沙漏演化模式、现状、来源和意义，并提出了内部一致性挖掘的SelfFeedback框架。我们总结了自我反馈框架中涉及的各种任务和独特的工作线。这些工作可以帮助研究人员在一个庞大的系统中找到他们的工作位置，并促进合理的实验比较。最后，我们包括三个关键主题：相关评估方法和基准、探索自我反馈是否真正有效以及未来的研究方向。综上所述，本文试图用更深入的研究视角（内部一致性）和更通用的框架（自我反馈）来总结一系列关于推理提升和幻觉缓解的重要工作。