A SURVEY OF PROMPT ENGINEERING METHODS IN LARGE LANGUAGE MODELS FOR DIFFERENT NLP TASKS
本文是LLM系列文章，针对《A SURVEY OF PROMPT ENGINEERING METHODS IN LARGE LANGUAGE MODELS FOR DIFFERENT NLP TASKS》的翻译。
针对不同 NLP 任务的大型语言模型中的提示工程方法的调查
- 摘要
- 1 引言
- 2 提示工程技术
- 3 不同NLP任务的提示工程
- 4 结论
摘要
大型语言模型 （LLM） 在许多不同的自然语言处理 （NLP） 任务中表现出卓越的性能。提示工程在增加 LLM 的现有功能以在各种 NLP 任务上实现显着的性能提升方面发挥着关键作用。提示工程需要编写称为提示的自然语言指令，以结构化的方式从 LLM 中获取知识。与以前最先进的 （SoTA） 模型不同，提示工程不需要根据给定的 NLP 任务进行广泛的参数重新训练或微调，因此仅根据 LLM 的嵌入式知识进行操作。此外，LLM 爱好者可以通过基本的自然语言对话交换或提示工程智能地提取 LLM 的知识，让越来越多的人即使没有深厚的数学机器学习背景也可以尝试使用 LLM。随着提示工程在过去两年中越来越受欢迎，研究人员提出了许多围绕设计提示的工程技术，以提高从 LLM 中提取信息的准确性。在本文中，我们总结了不同的提示技术，并根据它们用于的不同 NLP 任务将它们组合在一起。我们进一步详细地强调了这些提示策略在属于该 NLP 任务的各种数据集上的性能，讨论了使用的相应 LLM，提出了分类图，并讨论了特定数据集可能的 SoTA。我们总共阅读并展示了 44 篇研究论文的调查，这些论文讨论了 39 个不同 NLP 任务的 29 种不同的提示方法，其中大多数是在过去两年内发表的。
1 引言
2 提示工程技术
3 不同NLP任务的提示工程
4 结论
在当今LLM领域，提示工程已经变得不可或缺。它通过各种措施在实现LLM的全部潜力方面发挥着至关重要的作用。在这项工作中，我们对44篇研究论文进行了深入调查，这些论文涉及29个不同NLP任务中的39种提示策略。我们通过分类图形象地展示了这一点。我们试图将不同数据集的分类标准化为29个NLP任务，并讨论最新提示技术在这些任务中的总体效果，同时列出每个数据集的潜在SoTA提示方法。