Large Language Models(LLMs) on Tabular Data: Prediction, Generation, and Understanding - A Survey

本文属于LLM系列文章的翻译部分

表格数据的大型语言模型（LLM）：预测、生成和理解—综述

• 摘要
• 1 Introduction
• 2 Key technologies of LLM in table data application
• 3 Application of LLM in prediction tasks
• 4 Generation based on LLM for table data
• 5 Understanding through LLM in structured data
• 6 Model limitations and improvement directions
• 7 Research summary and future prospects

摘要

近年来，在大型语言模型领域的重大进展推动了对其在表格数据建模相关任务中的应用进行系统性探索。这些任务包括表格数据合成、预测以及问答等多方面内容。然而目前该研究领域缺乏对关键技术、指标体系以及相关评估方法的全面综述性研究。为此本研究旨在通过整合各领域最新成果来系统性地弥补这一不足。本研究通过对现有文献进行系统梳理明确了其优势特点、存在的局限性以及尚未被深入探索的领域，并明确当前研究中存在的主要差距。同时本研究还试图为这一重要且快速发展的研究方向提供一些指导性的思路与建议，并通过附录形式提供了相应的代码资源和数据集链接等参考资料。希望本综述能够为研究人员提供有价值的参考材料，并帮助他们更好地理解和应对该领域面临的各项挑战

1 引言

2 LLM在表格数据中应用的关键技术

3 LLM用于预测

4 LLM用于表格数据生成

5 LLM用于表格理解

6 局限性和未来方向

7 结论

本研究旨在系统性地评估LLM在多种任务中的表现及其在处理异构数据时的能力。研究重点包括LLM处理表格数据所需的关键步骤：序列化、表格操作与提示工程等环节的深入剖析。通过全面比较各任务的数据集构建方法、采用的技术手段及评估指标等要素间的差异性分析,我们着重揭示了模型理解和推理能力方面的主要挑战与最新进展方向。基于此,我们提出了针对不同应用场景的具体选择建议,以期为LLM在表格数据分析领域的实践提供切实指导。此外,我们也对现有技术体系存在的局限性进行了深入探讨,包括模型易受幻觉影响、公平性保障不足以及复杂的数据预处理等问题,并在此基础上提出了未来研究值得深入探索的方向