Large Language Models on Graphs: A Comprehensive Survey
发布时间
阅读量:
阅读量
本文属于LLM系列文章综述,基于《Large Language Models on Graphs: A Comprehensive Survey》的翻译工作。
图上的大型语言模型综述
- 摘要部分
- 引言部分
- 定义与背景分析
- 分类框架设计
- 纯图分析
- 基于文本的图
- 文本配对图
- 应用分析
- 未来研究方向
- 结论部分
摘要
大型语言模型(LLM),如ChatGPT和LLaMA,凭借强大的文本编码/解码能力以及新兴的涌现能力(如推理),在自然语言处理领域取得了显著进展。尽管LLM主要设计用于处理纯文本数据,但在现实世界中,文本数据常以图形形式(如学术网络和电子商务网络)与丰富的结构信息相结合,或者与具有描述的分子等场景相关联。尽管LLM在纯文本领域展现出显著的推理能力,但将其推理能力推广至图场景(基于图的推理)仍需进一步探索。本文旨在系统回顾图上大型语言模型的相关场景和技术。首先,我们将LLM在图上的潜在应用场景归纳为三类:纯图场景、富含文本的图场景以及文本配对图场景。其次,我们将探讨在图上应用LLM的具体技术,包括LLM作为预测器、LLM作为编码器以及LLM作为对齐器。此外,我们将比较不同模型流派的优劣。最后,我们将讨论这些方法在实际应用中的表现,并总结相关的开源代码和基准数据集。最后,我们将展望这一领域未来的研究方向。相关来源可在https://github.com/PeterGriffinJin/Awesome-Language-Model-on-Graphs上获取。
1 引言
2 定义和背景
3 分类和框架
4 纯图
5 富含文本的图
6 文本成对图
7 应用
8 未来方向
9 结论
本文旨在对图上大型语言模型进行系统性综述。首先,本文对可采用大型语言模型(LMs)的图场景进行了分类,并综述了相关图技术的大型语言模型。接着,我们对每个场景中的方法进行了全面的审查、分析和比较。此外,我们总结了可获得的数据集、开源代码库以及多种应用场景。最后,我们提出了图上大型语言模型未来的发展方向。
全部评论 (0)
还没有任何评论哟~
