中孚信息探索新型知识安全隔离机制

转自：新华财经

随着大语言模型在各行业智能化转型中的广泛应用，私有化部署因其在成本效益、领域适配和数据安全方面的优势，成为越来越多组织的首选。然而，如何在复杂的业务面和管理层级中实现有效的知识隔离，确保数据安全，成为组织面临的主要挑战。

近日，中孚信息公司深入研究并发表了一项关于大语言模型在私有化部署中的知识安全隔离机制的创新探索，为解决这一难题提供了新的思路。

在当前的组织实践中，大语言模型通常通过微调阶段参数调整，或基于RAG（Retrieval-Augmented Generation）外挂知识库，实现自有知识输入。然而，这些方法面临着复杂的角色知识隔离需求。例如，技术人员不宜获取高级管理层的战略信息，管理人员也不应接触核心技术数据。尽管组织已尝试基于RAG构建多知识库体系进行隔离，但仍然存在知识隔离粒度粗放、效果僵化、模型参数记忆的自有知识无法隔离以及同角色人员获取知识无法隔离等问题，导致无法实现动态、精确、可控的知识隔离效果。

为解决这些难题，中孚信息提出了一种新型的知识安全隔离方法，通过知识输入与输出双向限制，实现更加动态和精细的控制。

在知识输入侧，中孚信息创新性地设计了一种基于动态标签索引的知识隔离机制。在这一机制中，每个知识单元都被赋予多维标签，这些标签与用户访问控制关系相结合，以更精准地实现知识的访问控制。相比于传统的分知识库的方式，这一机制不仅精准度更高，而且灵活性强，能够在不改动基础知识库的情况下实现动态调整。

在知识输出侧，为了解决模型参数记忆的自有知识无法隔离、同角色同标签场景下的隔离失效等问题，中孚信息引入了一个基于角色的输出负面清单机制。该机制在大语言模型输出结果时，运用过滤器进行内容拦截和检测，识别并处理与负面清单吻合的内容特征，从而确保不应被用户可见的信息得到有效过滤。

中孚信息的这套双向机制不仅增强了多角色场景下知识隔离的安全性和控制性，还为各行业提供了一种新的知识安全隔离方法，为智能化转型中的数据保护树立了新的标杆。中孚信息提醒，组织在应用这一机制时，需要注意防范提示注入风险，通过输入内容检查等方式，防止大语言模型生成潜在的安全威胁。

未来，中孚信息计划进一步优化该机制，并开展多辅助模型协作场景的研究，以应对更复杂的信息流动需求。这一创新探索不仅展示了中孚信息在数据安全领域的技术实力，也为推动大语言模型在各行业的深入应用提供了有力支持。（王露露）

编辑：王菁