近日,国家多部门公布《生成式人工智能服务管理暂行办法》(以下称《办法》),自2023年8月15日起施行。
国家有关负责人表示,出台《办法》,旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。
人工智能近两年进入全面爆发阶段,以ChatGPT为代表的大模型正在引领新一轮全球人工智能技术发展浪潮,深度改变行业生产力,也为网安行业带来了新变量。
安恒信息高级副总裁、中央研究院院长王欣指出,在人工智能时代下,大模型技术存在着“矛”与“盾”的两面性。
一方面,AI和大模型技术如“利刃”打破原有安全壁垒,安全需求与应用场景发生重大变革。
从世界范围来看,为打造一个可信的人工智能生态系统,美国、欧盟同样在探索人工智能治理之道,并通过《人工智能问责政策》《人工智能风险管理框架》《人工智能法案》等法律法规来约束人工智能发展,AI监管势在必行。
另一方面,AI和大模型技术也促进了安全产品和服务革新,有助于网络安全防护“盾”优化升级。生成式人工智能能极大提高风险识别效率,在一定程度上弥补现有网络人才缺口,让威胁分析更准确、安全运营更高效、安全防护更智能。
日前,
安恒信息高级副总裁、首席科学家刘博在参加2023世界人工智能大会时曾表示:“安全技术要和AI大模型自身的智能技术同步进行,才能有效保障人工智能更可靠、更安全地服务于企业”。
为促进生成式人工智能健康发展,规范数据处理是根本。一个稳健的大模型离不开数据、算力和算法,而在本次《办法》中,数据是第一高频词,出现次数高达18次,数据安全重要性可见一斑。
针对数据合规风险,
安恒信息已将类大模型应用与智能数据分类分级结合,并对算法模型内生的可靠性与稳健性、透明性与可解释性、准确性与公平性等风险进行持续性研究。
未来,
安恒信息将牢牢把握时代发展机遇,专注于人工智能结合网络安全的研究,以创新方式拥抱AI变化,积极推动产品AI智能化,推进“服务+AI+”“治理+AI+”“产业+AI”等应用场景安全升级,为数字经济发展注入源源不断的安全动能。(陶君)
(文章来源:上海证券报·中国证券网)