行业动态丨生成式人工智能服务安全基本要求公开征求意见

发布日期：2023-10-31 10:46
10月11日，全国信息安全标准化技术委员会官网发布了关于征求信安标委技术文件《生成式人工智能服务 安全基本要求》（征求意见稿）意见的通知（下文简称为：征求意见稿）。该文件给出生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，适用于面向境内公众提供生成式人工智能服务的提供者提高服务安全水平，也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。

图片

征求意见稿支撑《生成式人工智能服务管理暂行办法》，对提供生成式人工智能服务的组织及个人提出了需遵循的安全基本要求：提供者在向相关主管部门提出生成式人工智能服务上线的备案申请前，应按照意见稿的各项要求逐条进行安全性评估，并将评估结果以及证明材料在备案时提交。

在人工智能服务语料来源安全方面，意见稿提到，应建立语料来源黑名单，不使用黑名单来源的数据进行训练；应对各来源语料进行安全评估，单一来源语料内容中含违法不良信息超过5%的，应将该来源加入黑名单。应提高多样性，对每一种语言，如中文、英文等，以及每 一种语料类型，如文本、图片、视频、音频等，均应有多个语料来源；并应合理搭配境内外来源语料。文件也对语料来源追溯作出了要求：使用开源语料时，应具有该语料来源的开源授权协议或相关授权文件；使用自采语料时，应具有采集记录，不应采集他人已明确声明不可采集的语料。

意见稿对人工智能服务语料内容安全也提出了要求。在训练语料内容过滤方面：应采取关键词、分类模型、人工抽检等方式，充分过滤语料中违法不良信息。在知识产权方面，应设置语料以及生成内容的知识产权负责人，并建立知识产权管理策略；语料用于训练前，知识产权相关负责人等应对语料中的知识产权侵权情况进行识别，提供者不应使用有侵权问题的语料进行训练。训练语料中涉及商标以及专利的，应重点识别是否符合商标权、专利权有关法律法规的规定。

同时，意见稿也列举了对人工智能服务模型安全的要求。服务提供者如使用基础模型进行研发，不应使用未经主管部门备案的基础模型。在服务透明度方面，以交互界面提供服务的，应在网站首页等显著位置向社会公开服务适用的人群、场合、用途等信息及第三方基础模型使用情况。 以交互界面提供服务的，应在网站首页、服务协议等便于查看的位置向使用者公开服务的局限性信息及所使用的模型架构、训练框架等有助于使用者了解服务机制机理的概要信息。 以可编程接口形式提供服务的，以上信息均需在说明文档中公开。

人工智能在科技发展的浪潮中崭露头角，但伴随着数字化浪潮，也涌现出一系列引人深思安全问题、伦理问题。《生成式人工智能服务 安全基本要求》的发布将有助于建立更安全、透明和有序的生成式人工智能服务生态系统。

为更好地促进产业健康可持续发展，广东省人工智能产业协会目前正在参与起草人工智能伦理治理相关政策，进一步引导广东省人工智能产业健康有序发展。

广东省人工智能产业协会期望邀请在人工智能领域有深厚造诣和丰富经验的专家学者参与广东省人工智能伦理治理工作，为广东省人工智能伦理治理提供专业指导和建议，共同推动广东省人工智能产业高质量发展。欢迎专家学者通过文末联系方式与我们取得联系。