A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications
本文属于LLM系列文章，是针对《A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications》的翻译工作。
大型语言模型中提示工程的系统综述：技术与应用
- 摘要
- 1 引言
- 2 提示工程
- 3 结论
摘要
提示工程被用作扩展大型语言模型（LLM）和视觉语言模型（VLM）功能的关键技术手段。该方法通过特定任务的指令，即提示，在不修改核心模型参数的情况下显著提升模型效能。提示并非更新模型参数，而是通过仅基于给定提示引发所需的模型行为，将预先训练的模型无缝集成到下游任务中。提示可以是提供上下文以指导模型的自然语言指令，也可以是激活相关知识的学习向量表示。这一新兴领域已在问答、常识推理等多种应用场景中取得了成功。然而，针对快速工程方法和技术的系统性组织和理解仍存在不足。这篇综述论文通过按应用领域分类，对提示工程的最新进展进行系统性概述，以填补这一空白。对于每种提示方法，我们将提供一份摘要，详细阐述提示方法、应用场景、所涉及的模型及所使用的数据集。我们还深入探讨了每种方法的优势与局限性，并附上了分类图和表格，系统总结了每种提示技术涉及的数据集、模型及关键点。这种全面的分析有助于更好地理解这一快速发展的领域，并通过揭示提示工程的公开挑战与机遇，为未来研究提供重要参考。
1 引言
2 提示工程
3 结论
在人工智能领域，提示工程作为一种变革力量，展现出LLM的巨大潜力。这篇调查论文旨在作为基础资源，基于29种不同的提示工程技术的目标功能进行系统分类，以推动进一步研究，并在发展中的提示工程领域赋予创新者主动权。该分析系统性地涵盖了应用程序、模型和数据集，深入探讨了每种方法的优势与局限性。此外，我们特意增加了图表和表格，以突出关键点。尽管取得了显著成效，但挑战依然存在，包括偏见、事实准确性及可解释性等显著差距，需要通过进一步研究和策略缓解来应对。提示工程的未来发展潜力巨大，元学习与混合提示架构等新兴趋势有望进一步增强其功能。然而，伦理考量至关重要，强调负责任的开发与部署，以确保其能够积极融入我们的日常生活。