4月11日，国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》(下称《管理办法》)，向社会公开征求意见。受此影响，数据安全方向午后走强，截至收盘，美亚柏科涨超18%；三未信安涨超8%，盘中一度涨超11%；任子行涨超6%。

　　近段时间，以ChatGPT为代表的生成式人工智能服务受到业界广泛关注。国内多家互联网巨头也纷纷布局生成式人工智能赛道。百度此前推出“文心一言”，阿里云也在4月11日发布了“通义千问”产品。
　　随着ChatGPT等类似应用越来越火热，未来因生成式人工智能引发的社会问题也将快速增长，由此也将带来诸多法律问题。中南财经政法大学数字经济研究院高级研究员金天认为，在越来越多的企业布局生成式人工智能业务之际，国家迅速启动相关领域政策法规制定工作，将更好促进生成式人工智能技术健康发展和规范应用。
　　此外，据华尔街日报，拜登政府也已经开始研究是否需要对ChatGPT等人工智能工具进行审查，因为人们越来越担心该技术可能会引起歧视或传播有害信息。
　　利用生成式人工智能生成的内容应当真实准确
　　《管理办法》明确，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
　　《管理办法》要求，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。
　　《管理办法》提出，利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
　　在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。
　　《管理办法》还要求，不得利用算法、数据、平台等优势实施不公平竞争。利用生成式人工智能生成的内容应当真实准确，并采取措施防止生成虚假信息。同时，禁止非法获取、披露、利用个人信息和隐私、商业秘密。
　　《管理办法》明确，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(下称“提供者”)，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任。
　　提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。
　　提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
　　生成式人工智能产品训练数据应合法合规
　　《管理办法》指出，用于生成式人工智能产品的预训练、优化训练数据，应符合《中华人民共和国网络安全法》等法律法规的要求，不含有侵犯知识产权的内容。提供者还要保证数据的真实性、准确性、客观性、多样性。
　　在个人信息保护方面，《管理办法》明确，涉及个人信息的，提供者承担个人信息处理者的法定责任，履行个人信息保护义务。训练数据包含个人信息的，应当征得个人信息主体同意。
　　同时，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。
　　《管理办法》还要求，提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。
　　“技术大厂”纷纷入局生成式人工智能赛道
　　据记者不完全梳理，当前百度、华为、腾讯、阿里、京东、360等互联网企业都开始布局生成式人工智能业务，而且部分企业已经推出相应的产品。
　　百度早在2019年3月发布预训练模型ERNIE 1.0,2023年3月推出了“文心一言”。2021年4月，华为发布盘古大模型。2022年4月，腾讯对外披露混元大模型。
　　2023年，4月11日，阿里云发布“通义千问”；阿里云智能CTO周靖人在北京云峰会现场表示，将开放通义千问的能力，帮助每家企业打造自己的专属大模型。
　　在金天看来，生成式人工智能技术富有巨大的商业化潜力。其有望成为“数据与内容生产”的强大引擎，特别是促使内容生成朝向品质更高、成本更低、更有效率的方向发展。
　　他认为，生成式人工智能是当前发展最快、最具影响力的技术之一，有望在2-5年内进入“生产成熟期”。围绕这一科技竞争的新领域、新赛道做好布局、补齐短板和塑造优势，日益成为促动传统产业升级和谋求中国经济高质量发展的题中之义。在此方面，只有立足国内需求、激发创新活力，理顺基础研究投入、技术成果转化及相关配套协同机制，才能为抢抓战略机遇、服务实体经济提供不竭动力。
　　附：《生成式人工智能服务管理办法(征求意见稿)》全文
（文章来源：证券时报）