工业领域如何解决“大模型幻觉”？鼎捷软件执行副总裁刘波：检索增强生成+微调

8月12日下午，鼎捷软件举办媒体开放日活动。当下，业界普遍关注的是AI大模型的成本，以及如何解决“大模型幻觉”问题。

鼎捷软件执行副总裁刘波称，鼎捷混合使用RAG（检索增强生成）和Fine-Tuning（微调）技术，即通过高质量的数据集（数据+行业经验+技术），再使用贴合制造业的RAG技术，以有效助力工业企业解决“大模型幻觉”问题。

对于是否使用微调，使得大模型更加偏向于垂直专业领域，再使用RAG技术，限定大模型回答的范围。

刘波表示认可，并表示：“检索增强生成的关键，在于领域知识的掌握。通用大模型很难掌握这种深度的行业知识，这些知识怎么解释、怎么理解、怎么设定，其实需要很多技术+行业的经验。简单说，我们天生懂客户这些‘行业黑话’，这是40余年的深耕经营积累下来的沉淀，它会大量降低训练成本和缩短训练时间。”

其补充表示：“鼎捷早在2015年便提出了‘智能+’战略，借助算法驱动帮助客户实现降本增效。然而鼎捷认为这种优势并不能持久，因此我们不断探索让人工智能进入到‘辅助驾驶’阶段，不再是嵌入式应用，而是主动思考辅助决策，以重构客户作业流程。”

鼎捷软件执行副总裁、财务长张苑逸表示：“企业主在意的是效率跟成本匹不匹配，而鼎捷过往在给客户展开数智化服务的时候，非常注重价值交付，理解业务，同时能够把握关键点。因此我们在给（大模型）喂数据的时候，数据是已经整理过的，更有指向性，而非简单用数学方式暴力运算，犹如大海捞针。同时，我们的顾问都是老师傅、行业专家，所以我们在训练中更容易明白‘行业黑话’，也更知道行业数据对应的特征值，保障结果的可用。”

刘波总结称：“在帮助企业客户进行数智化转型的过程中，鼎捷凭借多年的经验积累，可以快速判断如何进行有效的数据转化和知识封装，从而快速提升AI应用的成熟度。”