优刻得副总裁刘杰:国产大模型存在六大挑战
每经记者 朱成祥每经编辑 董兴生
2023 INCLUSION外滩大会即将召开,8月29日,在外滩大会科创企业探访活动中,《每日经济新闻》记者走访了科创板上市中立的云计算服务商优刻得(SH688158,股价15.89元,市值72亿元)。
关于大模型相关问题,优刻得副总裁刘杰对记者表示:“我们接触了大概一百多家大模型公司,发现国产大模型存在六大挑战,分别为算力、数据、算法、系统工程、安全和场景应用。”
刘杰 图片来源:企业供图
算力方面,刘杰称:“英伟达A800(芯片)的供货并不稳定。而国产芯片,由于研发周期较长,能够支撑大模型训练所需要的能力,短时间还是蛮难的。”
不过,大模型除了训练侧,未来推理侧也有广泛的应用空间。刘杰说:“我觉得国产芯片绝对有机会。大家现在讨论的是训练,但等大模型真正(成熟),推理(侧)需要更多专业的要求。”
据了解,目前,优刻得的客户,训练和推理GPU数量比例为3:7。