UCloud优刻得全栈私有云解决方案 打造AIGC强大智算底座

http://ddx.gubit.cn  2023-05-11 09:48  优刻得(688158)公司分析

中国经济新闻网讯(记者姜业庆)面对AIGC大模型落地的私有化场景,UCloud优刻得日前推出全栈私有云解决方案,提供构建大模型算力底座的计算资源、网络连接、数据存储和模型管理等能力,一站式解决私有化场景下的大模型托管、存储、部署、运行等,帮助用户在安全合规的保障下,快速创建和部署模型。

  据悉,UCloud优刻得全栈私有云解决方案,基于 UCloudStack私有云、UCloudStor分布式存储及USDP智能大数据平台等,构建安全稳定的AIGC基础设施,让用户专注业务创新,从而保证大模型的进一步应用和推广。

  UCloud优刻得全栈私有云解决方案具有性能卓越的计算资源、稳定可靠的数据存储、高性能分布式网络、全方位的安全保障、全托管式模型管理等特点。大模型在运行过程中对算力要求较高,需要稳定、可靠且强大的计算资源。UCloudStack私有云平台可基于通用服务器和专属硬件,统一提供 CPU、GPU等多种异构计算资源的调度及管理,通过强大的虚拟化管理能力,一键部署底层计算资源并运行模型,充分利用不同异构资源的硬件加速能力,加速模型的运行及生成速度。

  UCloudStack私有云平台一方面基于智能的资源感知和调度机制,进行自动调度和资源优化,在提高资源利用率的同时,进一步提升推理效率。另一方面采用内存优化和自适应技术,能够根据当前异构资源的使用情况以及推理实例的策略配置,动态改变影响显存消耗的推理配置。

  同时,大模型在推理运行过程中会采用和生成大量数据,需要高可靠、高可用的数据存储和备份机制。UCloudStor分布式存储,支持多存储类型协议,提供稳定可靠、开放兼容、弹性扩展的块、文件和对象存储服务,将存储资源池化,使得模型和生成数据可以自由流通,提升数据利用率。同时结合多副本、多级故障域、故障自恢复等数据保护机制,保证模型和数据安全稳定运行。

  另外,UCloud优刻得全栈私有云解决方案具有安全可靠、高效易用、灵活定制、降低成本等四大优势。UCloudStack私有云平台和UCloudStor分布式存储采用严格的数据隔离和访问控制措施,还支持多种安全防护技术,包括数据加密、防火墙、认证授权、日志审计等,保障用户数据和模型的安全。该方案支持用户自定义模型的上传、下载、分发部署、运行及权限控制等,同时还提供多种模型管理和调度的功能,方便用户灵活定制和管理AI模型。

  与此同时,该方案可以充分利用企业现有的IT基础设施,降低企业的用云成本。同时,也可以结合优刻得低成本自建数据中心和全面公有云服务,构建混合云架构,进一步优化AI基础设施的总投入成本。

  UCloud优刻得全栈私有云解决方案,可以为企业和机构提供安全、可控、高效的AI模型管理和治理服务,有效保护数据隐私和模型安全,保障在安全的算力环境下进行AI创新。未来,UCloud优刻得将继续通过打造安全稳定的智算底座,并通过“大模型+大算力”的融合,探索AI算力创新,与用户和合作伙伴共同构建AI生态。