10月12日，全国信息安全标准化委员会就制定的《生成式人工智能服务安全基本要求》（征求意见稿）（以下简称“《基本要求》”)面向社会公开征求意见，意见或建议反馈的时间截至10月25日。
　　《基本要求》给出了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，适用于面向我国境内公众提供生成式人工智能（AI）服务的提供者提高服务安全水平，或是提供者自行或委托第三方开展安全评估，也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。
　　《中国经营报》记者了解到，全国信息安全标准化委员会是在信息安全技术专业领域内，从事信息安全标准化工作的技术工作组织。按照《全国信息安全标准化技术委员会技术文件制订工作程序（试行）》，围绕国家网络安全监管急需、迭代快速、创新活跃的技术领域，由全国信息安全标准化委员会组织编制和发布“技术文件”，即指南类文件，旨在引导网络安全技术、产业发展。本次公布的《基本要求》即属于“技术文件”范畴，也是国内首份有关生成式人工智能领域的安全指导性文件。
　　规范细化语料安全要求
　　今年以来，围绕生成式AI、AI大模型的竞赛愈加激烈，国内科技企业争相推出AI大模型，据不完全统计，国产大模型数量已超过100家。自8月15日起，《生成式人工智能服务管理暂行办法》（以下简称“《暂行办法》”）施行，明确了促进生成式AI技术发展的具体措施，规定生成式AI服务的基本规范。9月，百度、商汤、中国科学院旗下紫东太初、智谱AI等提供的8款大模型产品通过备案。《基本要求》是《暂行办法》的支撑，要求提供者需遵循安全基本要求，在向相关主管部门提出生成式AI服务上线的备案申请前，应按照各项要求逐条进行安全性评估，并将评估结果以及证明材料在备案时提交。
　　生成式AI及AI大模型的典型特征是参数量巨大，用于训练自然语言理解模型的文本数据集合就叫语料，语料的规模和质量会直接影响到模型的准确性和泛化能力。对于语料安全，《基本要求》从语料来源、语料内容、语料标注3个维度做出了较详细的安全要求。其中，在语料来源管理方面，《基本要求》提出应建立语料来源黑名单，不使用黑名单来源的数据进行训练；应对各来源语料进行安全评估，单一来源语料内容中含违法不良信息超过5%的应将该来源加入黑名单。
　　在语料内容安全方面，《基本要求》则从3个方面提出要求：一是训练语料内容过滤方面，应采取关键词、分类模型、人工抽检等方式，充分过滤全部语料中违法不良信息。二是知识产权方面，应设置语料以及生成内容的知识产权负责人，并建立知识产权管理策略。语料用于训练前，知识产权相关负责人等应对语料中的知识产权侵权情况进行识别，提供者不应使用有侵权问题的语料进行训练等。三是个人信息方面，应使用包含个人信息的语料时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件等。
　　值得注意的是，《基本要求》从7个方面提出了安全措施要求。其中提到，服务适用未成年人的，应允许监护人设定未成年人防沉迷措施，并通过密码保护；限制未成年人单日对话次数与时长，若超过使用次数或时长需输入管理密码；需经过监护人确认后未成年人方可进行消费；为未成年人过滤少儿不宜内容，展示有益身心健康的内容。同时，服务不适用未成年人的，应采取技术或管理措施防止未成年人使用。
　　防范五类主要安全风险
　　记者注意到，《基本要求》附录中列出了语料及生成内容的31种主要安全风险，共分为五类，包括违反社会主义核心价值观、包含歧视性内容、商业违法违规、侵犯他人合法权益、无法满足特定服务类型的安全需求。其中，在商业违法违规类别中，涵盖侵犯他人知识产权，违反商业道德，泄露他人商业秘密，利用算法、数据、平台等优势实施垄断和不正当竞争行为，以及其他商业违法违规行为。
　　需要说明的是，第五类“无法满足特定服务类型的安全需求”则是指将生成式AI用于安全需求较高的特定服务类型，例如自动控制、医疗信息服务、心理咨询、关键信息基础设施等，存在的两种安全风险：一是内容不准确，严重不符合科学常识或主流认知；二是内容不可靠，虽然不包含严重错误的内容，但无法帮助使用者解答问题。
　　不难看出，《基本要求》对于当下生成式AI、AI大模型的参与主体提出了安全要求和技术行为规范。浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林指出，从《暂行办法》到《基本要求》等文件，可以看出我国对于生成式AI的监管首要是放在了安全性和合规性上，也可以看出当前政策关切的重点。对此，国内提供生成式AI服务的企业应该更多地考虑在企业内部设置合规、安全的专门岗位，保障产品服务符合监管要求。
　　在盘和林看来，当前大模型竞争国内相当激烈，但竞争焦点一直放在易用性和功能性上，在安全和合规方面投入尚不足，如果《基本要求》正式落实，竞争的焦点可能会有所变化，能够符合安全要求，率先面向市场推出成熟应用的企业将占得先机。国产AI大模型市场竞争相当激烈，当前市场、监管对AI大模型的诉求各不相同，未来AI大模型企业要多点兼顾，挑战不小，但基于当前市场需求机遇，接受挑战是值得的。
（文章来源：中国经营网）