网宿科技推出边缘AI网关 助力开发者的AI构建之旅

转自：证券日报网

本报讯 （记者谢岚）7月11日，网宿科技宣布推出一项全新的AI服务——边缘AI网关，为企业用户提供安全、可靠、高性能、易观察的一体化模型服务管理方案，助力开发者的AI构建之旅。

据悉，网宿边缘AI网关旨在为企业在模型服务与AI应用之间搭建桥梁，无论是个人开发者还是企业，都可以借助网宿边缘AI网关，更加简易地管理和集成模型服务，从而更好地开展AI应用创新。

近年来，GPT大模型的横空出世，在全球掀起了大模型竞赛，随之而来的，AI在各行各业的应用加速涌现。在这种背景下，业界诞生了一种新的服务模式，即MaaS（Model as a Service，模型即服务）。模型提供商通过API接口，将大模型能力出租给第三方企业使用，允许企业通过HTTP请求或其他方式与之交互。服务提供商负责模型的更新和维护，企业可以直接享受到最新的模型改进。

不过，当企业使用多个模型或提供商时，面临着高昂的AI应用成本。而为了以最优成本利用各个AI服务商的模型服务，企业又面临着管理、运维难题。另外，在使用模型服务的过程中，企业还面临着敏感数据泄露、内容不合规等风险。

“针对以上种种挑战，业界需要一种可以降低管理和扩展模型服务难度、提升AI可用性和安全性的方案。网宿边缘AI网关可以解决这一需求，让企业和开发人员专注于构建AI应用程序，而不是管理复杂的集成。”网宿科技CDN产品研发总监曾智全表示。

具体来看，在一般情况下，企业管理其所接入的多个大模型，需要提前做一些集成开发。网宿边缘AI网关则提供了一个通用、一体化的解决方案。企业可通过统一的控制平台，创建边缘AI网关，添加通道，实现与多AI服务商模型对接，并且平台支持多模型服务的可管、可控、可观察。

曾智全进一步介绍，在实现多模型服务的高效接入与管理的同时，网宿边缘AI网关的核心价值，还在于确保模型服务的安全性、高性能以及可定制化。

据悉，目前，网宿边缘AI网关已开放限时免费测试，以支撑用户的AI体验。此外，网宿科技还深入企业应用，聚焦特定的AI场景，打造了边缘向量数据库、边缘模型推理服务等，计划下一步面向公众开放。

伴随AI技术的发展，网宿科技在AI领域的布局将不断深化。曾智全表示，网宿科技将持续构建更加敏捷、适应性更强、更安全的AI生态系统，让更多企业都能拥抱AI，从AI中获得创新与增长。

（编辑 汪世军）