A Survey on LoRA of Large Language Models
本文属于LLM系列文章，在对《A Survey on LoRA of Large Language Models》进行译文时。
大型语言模型的LoRA研究综述
- 摘要
- 1 引言
- 2 Low-Rank Adaptation (LoRA)
- 3 下游自适应改进
- 4 跨任务泛化
- 5 效率提升
- 6 在联邦学习中的LoRA应用
- 7 LoRA的应用场景
- 8 结论与未来研究方向
-
- 8.1 在GaaS场景中的LoRA应用
-
- 8.2 用于持续预训练的LoRA应用
-
- 8.3 自主代理场景中的LoRA
摘要
在参数高效微调方面表现出色的自适应低秩（LoRA）方案通过可更换的低秩矩阵实现密集神经网络层的有效更新，并展现出显著的优势特别是在跨任务泛化与隐私保护方面。值得全面回顾当前研究进展本研究从以下五个关键维度进行了系统梳理与分析：（1）针对提升下游任务性能优化策略的研究；（2）基于多组LoRA组件构建跨任务泛化的相关方法；（3）致力于提高计算效率的技术改进途径；（4）在联邦学习场景中保障数据隐私的方法创新；以及（5）实际应用场景中的具体应用案例研究。此外本研究还深入探讨了未来发展方向并附有一个GitHub仓库链接供研究人员参考和讨论
1 引言
2 低秩自适应 （LoRA）
3 下游自适应改进
4 跨任务泛化
5 效率提升
6 用于联邦学习的LoRA
7 LoRA的应用
8 结论和未来方向
在本次调查中
通过分析这篇综述
最近的研究进一步提升了LoRa的表现并扩大了其适用范围这不仅有助于推动现有技术的发展也为未来的应用场景提供了更多可能性在此基础上提出了三个关键发展方向
在这一部分我们将重点探讨这三个未来方向分别是哪些以及它们各自的核心要点是什么这些问题将在后续的内容中逐一展开讨论
8.1 适用于 GaaS 的 LoRA
在生成即服务 （GaaS） 中，基于云的平台为用户提供生成式人工智能 （AGI） 服务。GaaS 使用户无需部署本地计算资源即可享受 AGI。由于用户的需求多种多样，因此需要为 GaaS 提供各种功能。 为了实现各种功能，我们可以为每个功能构建一个 LoRA 模块。LoRA 的 pramameter 效率和可插拔性可以促进函数的高效构建和执行。此外，GaaS 平台上的服务会随着时间的推移而迅速变化。为了跟踪这些变化，我们可以训练通过组合以前的 LoRA 模块初始化的新 LoRA 模块。LoRA 的跨任务泛化能力可以促进对服务更新的快速适配。
8.2 用于持续预训练的 LoRA
在长时间的非标注数据预训练过程中
8.3 自主代理的LoRA
在基于LLM的自主代理系统中,代理被赋予了特定的角色.根据角色设定及环境条件,代理将根据指示或请求执行相应的操作.这些操作可依据自我认知或专为特定领域任务设计的工具执行.操作结果及相关信息将存档于内存中,以便支持未来的需求.
在现有体系下,角色通常由提示指令指定;然而,当涉及复杂多变的角色且数据量较大时,仅靠提示指令难以全面描述角色特征.采用LoRA模块结合相关数据进行训练来明确角色设定可能是一种更为高效的方法.值得注意的是,代理系统的工具资源也可选用LoRA模块进行构建.尽管基于检索增强生成（RAG）的方法能有效提升性能,但受输入token数量限制以及上下文学习能力的局限性,其效果未必理想.相比之下,采用基于LoRA机制的设计能够持续优化内存功能,从而克服RAG方法中的不足之处.因此,探索LoRA驱动型代理系统具有重要的理论价值与实践意义.