东方通正式推出大模型中间件TongLMM

5月31日，据东方通微信公众号消息，5月30日，东方通在2024大模型生态创新发展大会上正式推出并展示了大模型相关创新成果——大模型中间件TongLMM。

东方通介绍，大模型中间件TongLMM延续了传统中间件层的基础支撑优势，能够在AI系统架构下，利用向量数据库给大模型增加外部知识库，同时在中文嵌入（Embedding）方面做优化处理，针对应用开发，TongLMM能够提供大模型应用编排功能，包括大模型应用开发、运维一体化服务，为企业客户提供大模型专属能力。

东方通还表示，TongLMM支持私有化模型方式部署，作为应用与大模型之间的桥梁，TongLMM融入消息中间件、缓存中间件、数据交换、自然语言处理等现有组件，能解决大模型落地过程中数据集成、应用集成、知识库与大模型融合、数据不精准、安全隐患等问题。