永信至诚申请一种内容安全测试集生成专利，显著提升内容安全测试集的构建效率

本文源自:金融界

金融界 2025 年 4 月 24 日消息，国家知识产权局信息显示，永信至诚科技集团股份有限公司申请一项名为“一种内容安全测试集生成方法、装置、设备和存储介质”的专利，公开号 CN119808760A，申请日期为 2024 年 11 月。

专利摘要显示，本发明提供了一种内容安全测试集生成方法、装置、设备和存储介质，该方法包括配置提示词框架引导问题构建大模型生成初始问题负样本；综合多种内容审核模型对初始问题负样本中的各个测试问题进行复合核定，得到审核结果；比对审核结果与提示词框架中的关键内容是否匹配；将成功匹配的审核结果所对应的测试问题视为有效测试问题并纳入内容安全测试集。通过提示框架策略与内容审核模型的高效结合，实现测试问题的的自动化或半自动化构建，从而显著提升内容安全测试集的构建效率，并有效减轻测试问题创作者的工作负担与心理压力。大幅度缩短了测试问题的生成与筛选周期，降低了人力成本与时间成本，确保了测试问题的多样性与全面性。