400-8166108
行业动态
在这里,聆听大咖的声音
RAG和微调的区别
由 辰智信息 发布于2025-02-25
RAG:没有改变大模型,在大模型原有的基础上加入了一些知识,用来回答用户的问题。

微调:原有大模型的基础上加上新的知识改造大模型,是一个新的模型。

场景:

1.动态数据:经常变化的数据, 一些业务数据经常变化,适用于RAG,因为微调的成本太高。

2.模型能力的定制:微调

3.幻觉:降低模型的幻觉,RAG对模型的效果大于微调

4.可解释性:RAG优于为微调,微调类似一种于端到端的,黑盒,不可解释性

5.成本:在成本方面,RAG也是首选,因为不需要训练模型,只需要像搭建一个工程一样把RAG搭建起来。

6.依赖通用能力:RAG也是首选,微调会导致原有模型的一些能力减低,模型的遗忘

7.低延迟的场景:微调,RAG流程多。

8.智能设备:选择使用小模型,小模型需要的通用能力没那么强,亦或者需要某些方面的能力,使用微调。

             
请提供真实信息以便我们与您联系
公司信息
联系人信息
留言及疑问