启明星辰发布政务领域大模型拦截及清洗系统 筑牢政务AI安全防线

（转自：启明星辰集团）

让每一句人机对话都安全可信，让每一次智能交互都风险可控——这是属于AI时代的安全承诺。

—— 启明星辰

6月24日，在“模力福地，首秀启航”第三期模力福地产品发布会暨金砖人工智能研究组大模型、产业对接平台发布会上，启明星辰正式发布面向政务领域的安全大模型创新应用产品——政务领域大模型拦截及清洗系统，标志公司在利用AI大模型赋能网络安全、护航数字政府建设方面迈出坚实一步，为深圳打造全球人工智能先锋城市核心区注入安全动能。

会上，启明星辰深圳分公司副总经理秦彧强调，作为启明星辰深耕深圳市场的重要基地，启明星辰华南（深圳）信息安全技术有限公司自2024年落地以来，深感服务地方数字政府建设的责任重大。公司依托中国移动强大的央企平台和启明星辰顶尖的技术研发实力，积极为深圳各级政府的数字化转型提供“可信、可靠、贴身”的安全保障。

当前，以大模型为代表的人工智能技术正加速融入政务服务各环节，显著提升了政府运行效率和公共服务水平。然而，技术的爆发式应用也伴生着新的安全风险。构建针对政务大模型应用场景的专用安全防护体系，已成为保障数字政府安全稳健运行的迫切需求。

针对上述挑战，启明星辰深圳分公司技术总监翁庆辉在发布会上表示，本次发布的“政务领域大模型拦截及清洗系统”，是响应国家人工智能发展战略、落实中国移动及启明星辰工作部署的重要举措，代表了启明星辰安全大模型技术在关键政务场景的深度应用成果，旨在为政务 AI 应用构建安全底座，助力深圳打造智能、安全、可信的数字政府。

该系统精准聚焦政务环境中大模型应用面临的核心内容安全风险，具备三大核心能力：

一是智能拦截恶意内容。利用AI大模型的强大语义理解与分析能力，精准识别并实时拦截通过大模型接口输入的恶意指令、诱导性提问、非法请求及敏感信息窃取尝试，有效阻断针对政务大模型的恶意利用。

二是深度清洗有害输出。对政务大模型生成的内容进行实时深度检测与清洗，有效过滤可能存在的偏见、歧视、虚假、违法违规及涉密信息，确保输出内容的合规性、安全性与可靠性，维护政府公信力。

三是风险态势感知与溯源。系统具备智能化的风险感知能力，能对攻击行为进行深度分析和溯源，为安全运营人员提供清晰的风险视图和处置依据，提升主动防御能力。

作为中国移动专责网信安全专业子公司，启明星辰将持续深耕政务领域AI安全技术的研发与应用，以“政务领域大模型拦截及清洗系统”为起点，联合产业伙伴，共同构筑人工智能时代的坚固安全防线，为数字中国的建设保驾护航。