A Survey of Large Language Models Attribution
本文属于LLM系列文章，其内容是对《A Survey of Large Language Models Attribution》的翻译。
大型语言模型归因研究综述
- 摘要
- 1 引言
- 2 任务说明
- 3 归因来源分析
- 4 归因数据源
- 5 归因方法论
- 6 归因评估机制
- 7 讨论部分
-
- 7.1 归因错误分析
- 7.2 归因局限性
- 7.3 归因挑战性
- 7.4 归因未来方向
摘要
开放域生成系统在会话人工智能领域（例如，生成搜索引擎）受到了广泛关注。本文系统性地探讨了这些系统所采用的归因机制，尤其是大型语言模型的应用。尽管归因机制或引用方式虽然提升了事实性和可验证性，但模糊的知识库、固有的偏见以及过度归因等缺点可能会影响系统的有效性。本研究旨在为研究人员提供有价值的研究见解，以改进归因方法，从而提升开放领域生成系统输出响应的可靠性和准确性。我们普遍认为，这一领域仍处于初期发展阶段。为了跟踪和评估正在进行的研究项目，我们维护了一个GitHub存储库，链接如下：https://github.com/hitsz-tmg/awesome-llm-attributions。
1 引言
2 任务定义
3 归因的来源
4 归因数据集
5 归因方法
6 归因评估
7 讨论
7.1 归因错误分析
7.2 归因的局限性
7.3 归因的挑战性
7.4 归因的未来方向
LLM的持续更新 。一个有潜力的方向是通过创建一个持续刷新LLM信息的系统，类似于搜索引擎更新数据库的方式。这种方法不仅确保了LLM内容的最新性，还提供了一个持续学习和适应的平台。
增强LLM输出的可靠性 。另一个关键方向是通过引入严格评估信息来源可靠性和准确性的系统，来提高LLM输出的可信度。这些系统将确保生成内容既保持可信又植根于事实基础，从而增强用户对所生成内容的信心。随着LLM在各领域中的广泛应用，其输出的可靠性对于不同部门的决策至关重要。
平衡创造力与适当信用归因 。此外，LLM因其创新内容生成而备受关注。在实现创造性能力的同时，确保适当归因是一项需要深入研究的行为。虽然LLM的创造力是其显著优势之一，但必须确保生成内容既保持可信又植根于事实基础。其目标是确保在不抑制创作潜力的情况下，模型能够承认其来源。通过平衡这两个方面，可以创造一个用户既能受益于模型又对其输出充满信任的环境。