恒生电子推出多款大模型应用产品 券商技术官更“焦虑了”
“IT组织结构AI化后,我们能看到金融行业十年后一定会有个非常巨大的变化,可能十年后有一些岗位就没了。但是,今天参加会议之后,我感觉用不了十年,感觉五年差不多就可以达到这个目标进度,甚至更快”,10月19日,某券商首席信息官在2023恒生电子(600570)金融技术大会上如是说。
到底是什么引发了上述券商的焦虑?在今天召开的2023恒生电子金融技术大会上,恒生电子发布了金融大模型LightGPT最新的能力升级成果,以及基于LightGPT打造的多款光子系列大模型应用产品,并宣布正式开放产品公测。
此次发布会上,恒生电子董事长刘曙峰直言,过去几个月,我们对金融行业进行了比较广泛的调研,调研结果表明,整个行业对大模型的关注和参与程度比较高,几乎所有的金融机构都已经启动了对大模型的探索。但是,真正落地的应用还比较少,8%处于立项阶段,17%处于测试阶段,超过70%的金融机构对大模型还处于调研阶段。“所以,大家也不要那么焦虑,毕竟大部分都还在调研,还不知道怎么应用到业务场景中去”。
本次发布会上,恒生电子在揭晓LightGP的升级成果同时,也就产品的安全合规、投顾服务等场景进行了现场演示。
据恒生电子首席科学家、大模型产品总监白硕介绍,目前,LightGPT在整体模型效果上提升15%,安全合规性上提升13%,推理速度上提升50%,并面向金融机构实现LightGPT-7B的开源,推理和训练全面适配华为昇腾系列。
以投研场景为例,LightGPT通过使用基于位置编码改进的transformer模型,超200亿tokens的金融信息语料和8类任务指令微调,解决超长文本处理、图表文字混合排布、投研术语众多等问题,在研报观点抽取、舆情事件识别和抽取、资讯摘要、表格处理、公司实体识别等方面平均超出国内通用大模型12%。
基于金融行业的大模型应用需求,恒生电子曾于今年6月底推出金融智能助手光子,定位金融应用对接大模型的“中控”部位,旨在解决大模型和实际应用之间的连接问题,打通金融领域AI应用的“最后一公里”。
此次会上,恒生电子发布了基于光子打造的多款大模型应用产品,分别为光子·文曲、光子·方圆、光子·善策和光子·慧营。
白硕表示,目前,光子赋能下的智能产品可以分为重塑和嵌入两种模式。重塑是指基于大模型能力重构应用,重塑业务流程和服务模式;嵌入是指通过光子将数据、应用、知识库等资源组装成各类插件,将大模型能力无缝集成到原有程序和应用中,为业务系统注入AI力量。
另外,恒生电子旗下子公司恒生聚源也带来了智能投研平台WarrenQ最新的产品升级以及落地实践分享。
恒生聚源副总经理、WarrenQ产品经理白雪表示,恒生聚源参与共建了工银瑞信最新大模型创新成果FundGPT,为项目提供并部署了WarrenQ-Chat和Chatminer产品。还服务于数家证券公司,覆盖券商投研、财富、投行、固收等业务系统,为业务人员提供智能化的数据分析和交互技术,提升业务人员工作效率。
接下来,WarrenQ将持续探索更多深度场景化、大模型真正嵌入到日常工作流程中的应用案例,同时结合Data Science的数据分布算法推荐,持续加强大模型加持下的金融垂域“搜读算写”能力,成为投研人员的AI小助理。
据悉,“百模大战”的过程中,当前金融行业对于大模型技术的关注度和参与度很高,但在大模型实际落地过程中,主要存在模型选择难、算力供应不足、应用成熟度不足等问题。
对此,刘曙峰建议,机构可以通过选择合适的金融大模型,采用大模型“私有化+MaaS服务”混合部署,基于场景驱动的金融垂直应用开发和积累数据资产、构建数据飞轮、提升应用成熟度等工作,实现金融行业大模型更好地应用落地。
“判断一个创新技术是否实现有效落地,可以从是否实质性改善用户体验、是否数量级提高业务效率,以及是否追求盈利而非追求流量三个角度来判断。”刘曙峰在发布会上表示,相信随着“数据+算法+算力”大模型新范式三大基本要素的不断提升,大模型作为一种创新技术,也将完成对于财富资管领域业务形态和逻辑范式的革新。