Recommender Systems in the Era of Large Language Models (LLMs)

本文属于LLM系列文章，针对《Recommender Systems in the Era of Large Language Models (LLMs)》的版本。

大语言模型时代的推荐系统

摘要

• 1 引言

• 2 相关工作综述

• 3 基于深度表示学习的LLM推荐系统研究

• 4 LLM在推荐系统中的预训练与微调

• 5 引导LLM进行推荐系统相关任务

• 6 解决幻觉问题的LLM推荐系统研究

• 6.1 降低幻觉影响的LLM推荐系统

• 6.2 受信赖的大语言模型在推荐系统中的应用

• 6.3 专业领域特定的大语言模型研究

• 6.4 基于检索的推荐系统优化

• 6.5 微调过程中的效率提升

• 6.6 增强数据处理能力的LLM研究

  • 7 结论

摘要

在电子商务和网络应用的蓬勃发展背景下，推荐系统（RecSys）已成为我们日常生活不可或缺的一部分，为用户提供符合个人偏好的个性化推荐。尽管深度神经网络（DNN）通过建模用户-项目交互并结合其文本辅助信息，显著提升了推荐系统的性能，但这些基于DNN的方法仍存在明显局限性，例如难以有效理解用户的兴趣偏好以及捕获文本辅助信息的能力不足，这在推广到可见和不可见推荐场景以及预测推理能力方面表现欠佳。与此同时，大型语言模型（LLM）的出现，如ChatGPT和GPT4，已彻底改变了自然语言处理（NLP）和人工智能（AI）领域，凭借其在语言理解和生成方面的卓越能力，以及令人瞩目的泛化和推理能力，它们已引起了广泛关注。因此，近期研究致力于利用LLM的力量来增强推荐系统。鉴于这一研究方向在推荐系统领域正快速推进，迫切需要对现有的LLM授权推荐系统进行全面概述，以便为相关领域的研究人员和从业者提供深入的了解。为此，在本次研究中，我们从预训练、微调和提示等多个角度对LLM授权推荐系统进行了系统性分析。具体而言，我们首先介绍了利用LLM（作为特征编码器）来学习用户和项目表示的代表性方法。接着，我们从预训练、微调和提示三个范式回顾了LLM在增强推荐系统中应用的最新技术。最后，我们全面探讨了这一新兴领域的发展前景。

1 引言

2 相关工作

3 基于LLM推荐系统的深度表示学习

4 预训练和微调LLM用于推荐系统

5 提示LLM用于推荐系统

6 未来方向

6.1 幻觉缓解

6.2 推荐系统重值得信赖的大语言模型

6.3 推荐系统垂直领域特定LLM

6.4 用户和项目检索

6.5 微调效率

6.6 数据增强

7 结论

LLM作为一种领先的通用人工智能技术，凭借卓越的语言理解和生成能力、强大的泛化与推理能力，以及对新任务和不同领域的快速适应能力，在分子发现和金融等多个应用领域取得了显著成就。同样，LLM在推荐系统领域也面临着持续的变革，致力于提供高质量且个性化的建议服务。鉴于推荐系统领域的快速发展趋势，迫切需要对现有的LLM赋能推荐系统进行系统综述。为了填补这一研究空白，在本次研究中，我们从预训练、微调和提示范式的角度全面概述了LLM赋能推荐系统（RecSys）的最新进展，以期为相关领域的研究人员和从业者提供全面的了解。然而，目前对推荐系统领域LLM的研究仍处于起步阶段，需要对这一领域进行更系统、更全面的研究。因此，我们还探讨了该领域未来可能的发展方向和潜在研究方向。