近日，国家网信办联手国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局，共同发布《生成式人工智能服务管理暂行办法》（以下简称《办法》）。管理新规将于2023年8月15日开始执行。
　　《办法》明确了对生成式人工智能的数据安全治理规范，对预训练、优化训练阶段的数据处理活动，涉侵犯个人信息、知识产权问题，数据来源合法性，数据内容真实性、准确性等“数据源风险”提出了明确的要求。
　　在AI监管趋严的背景下，安恒信息(688023)高级副总裁、首席科学家刘博在参加2023世界人工智能大会时曾表示：“安全技术要和AI大模型自身的智能技术同步进行，才能有效保障人工智能更可靠、更安全地服务于企业”。
　　AI利刃有风险数据分类勇迎挑战
　　安恒信息是国内领先的新一代网络安全服务商，公司主营业务包括数据安全、信创安全、密码安全、MSS和终端安全等业务。公司致力于持续为AI新监管、数字经济、数字政府、数字要素创新、信创等国家战略提供强有力的支撑和保障。
　　公司在人工智能领域拥有多年的积累和丰富的实践经验，也一直致力于前沿技术的研发投入，公司所属中央研究院下设10个不同研究领域的实验室，其中启鉴实验室专注于人工智能结合网络安全的研究，深度探索“AI+安全”。
　　公司高级副总裁、中央研究院院长王欣指出，在人工智能时代下，大模型技术存在着“矛”与“盾”的两面性。
　　AI和大模型技术如“利刃”打破原有安全壁垒，安全需求与应用场景发生重大变革。在与生成式人工智能交互的过程中，用户常常无意识暴露个人信息、商业机密等隐私数据，得到的却是暗藏平台价值判断的内容反馈。个体在认知判断、行为决策以及价值取向等多个方面，很可能会受到单一算法的不良影响。如果任由生成式人工智能如脱缰野马一般肆意发展，虚假信息、偏见歧视乃至意识渗透等问题无法避免，对个人、机构乃至国家安全都存在极大的风险。
　　例如，企业用户在使用AI大模型过程中，可能会不小心造成数据泄露，或是在训练模型过程中，存在那些包含了隐私相关或是产权相关的知识归属问题。针对此类数据合规风险，公司在已有成熟的数据安全管控平台产品基础上，将大模型应用与智能数据分类分级结合，致力于解决行业的数据泄露风险。同时，公司继续对算法模型内生的可靠性与稳健性、透明性与可解释性、准确性与公平性等风险进行持续性深入研发，将来在行业能有更广泛的应用。
　　保护与挑战并存 AI赋能网络安全
　　AI和大模型技术也促进了安全产品和服务革新，有助于网络安全防护“盾”优化升级。在当今的数字化时代，网络安全已经成为了每个行业都无法避免的挑战。人工智能技术对于网络安全的赋能，能够解决一系列核心问题。人工智能时代已来，网络安全在这个时代也将发生巨变，新的攻击形式层出不穷，对检测及防护能力也必将提出新的要求。
　　AI可以对大数据进行深度分析，识别并预测潜在的安全威胁，这在一定程度上可以解决传统安全措施无法应对日益复杂的网络攻击的问题。同时，AI可以实现实时监控与自动响应，大大缩短了对网络攻击的响应时间，有效避免了因延误导致的更大损失。因此，AI的应用无疑为网络安全行业提供了新的，高效且有力的解决方案。
　　安恒信息也在利用人工智能技术赋能安全，将防御网络安全的“盾”落实。公司不断实现产品智能化、自动化，加强AI智能数据分析、AI智能自动响应、AI智能安全等前沿技术的融合。公司已经将类大模型应用于智能数据分类分级、智能生成检测规则、智能告警处置分析、安全专家问答系统、智能钓鱼邮件分析、智能加密流量检测等数十个场景，推进研究并逐步落地到产品中。
　　未来，安恒信息将牢牢把握时代发展机遇，专注于人工智能结合网络安全的研究，以创新方式拥抱AI变化，积极推动产品AI智能化，推进“服务+AI”、“治理+AI”、“产业+AI”等应用场景安全升级，为数字经济发展注入源源不断的安全动能。
（文章来源：证券时报·e公司）