恒生电子刘曙峰:大模型技术的突破或将带来金融体系化重构

http://ddx.gubit.cn  2023-10-19 21:33  恒生电子(600570)公司分析

经济观察网 记者 胡群 10月19日,恒生电子董事长刘曙峰在2023恒生金融技术大会上表示,“超过70%的金融机构处于大模型调研阶段,8%是在立项阶段,17%在测试阶段,还有少量客户已经在实际落地应用过程中。”

刘曙峰透露,过去几个月恒生电子对金融行业进行了相对比较广泛的调研,结果表明整个行业对大模型的关注和参与程度还是比较高,几乎所有的金融机构都已经启动了对大模型的探索。

“大模型的应用,不仅仅是一个技术能力的问题,长期发展来看,可能大家的技术能力会趋向一致性,差不多都能到达比较高的突破位置,再往下可能需要下一轮新的技术突破。”刘曙峰表示,当技术能力相对普惠化、相对一致的时候,应用新技术的速度、在新技术场景的建设和客户运营能力的建设就成为了关键,可以构成业务闭环,带来业务增长。因此,科技公司不仅仅要关注基础的技术能力、场景的应用开发能力,更需要关注闭环形成的运营能力和持续的运营增长能力。

“判断一个创新技术是否实现有效落地,可以从是否实质性改善用户体验、是否数量级提高业务效率,以及是否追求盈利而非追求流量三个角度来判断。”刘曙峰说,大模型技术的突破,未来在金融领域很可能会带来体系化的重构,重新定义人机交互方式和专业应用程序,重构金融机构原有的基础设施以及管理体系。随着“数据+算法+算力”大模型新范式三大基本要素的不断提升,大模型作为一种创新技术,非常有可能完成对于财富资管领域业务形态和逻辑范式的革新。

不过,刘曙峰亦指出,当前金融行业对于大模型技术的关注度和参与度很高,但在大模型实际落地过程中主要存在模型选择难、算力供应不足、应用成熟度不足等问题。

今年6月28日,恒生电子金融行业大模型LightGPT首次对外亮相,并发布了基于大语言模型技术打造的数智金融新品——金融智能助手光子和全新升级的智能投研平台Warren Q。

据恒生电子首席科学家、大模型产品总监白硕介绍,自6月底发布以来,LightGPT在整体模型效果上提升15%,安全合规性上提升13%,推理速度上提升50%,并面向金融机构实现LightGPT-7B的开源,推理和训练全面适配华为昇腾系列。

在2023恒生金融技术大会上,恒生电子发布金融大模型LightGPT最新的能力升级成果,以及基于LightGPT打造的多款光子系列大模型应用产品,并宣布正式开放产品公测。

作为一款专为金融领域打造的大语言模型,LightGPT如何确保对金融相关问题的理解和金融任务的处理,比通用大模型更有优势?据恒生电子方面透露,针对生成内容的可控问题,LightGPT构建了包括语料安全、模型安全、模型评估等在内完善的安全机制,从八大评价维度确保大模型生成内容的安全合规,符合中国金融市场的监管要求。

白硕以投顾、投研两大核心金融场景为例,具体阐释了LightGPT在金融专业领域的能力优势。在投顾场景中,LightGPT通过增加1200多万tokens专业投顾语料,减少财经大V版权语料和日常语料以及12类任务指令微调,应对金融术语口语众多、知识幻觉、监管严格等挑战,在安抚话术生成、客户意图识别、实体识别、Json识别能力等方面平均超出国内通用大模型13%。

在投研场景中,白硕介绍,LightGPT通过使用基于位置编码改进的transformer模型,超200亿tokens的金融信息语料和8类任务指令微调,解决超长文本处理、图表文字混合排布、投研术语众多等问题,在研报观点抽取、舆情事件识别和抽取、资讯摘要、表格处理、公司实体识别等方面平均超出国内通用大模型12%。