9月1日，正值我国《数据安全法》施行两周年，2023“浦江护航”上海电信和互联网数据安全论坛暨AIGC数据安全治理论坛在沪举办，本次论坛由上海市通信管理局、上海市杨浦区人民政府主办，上海赛博网络安全产业创新研究院、上海市杨浦区科学技术委员会承办。深信服科技股份有限公司、上海观安信息技术股份有限公司、上海市数字证书认证中心有限公司等协办。 深信服安全业务副总裁、工学博士訾然作《AI大模型的数据安全和实战攻防实践》主题分享。
　　今年5月，深信服正式对外披露安全大模型技术应用——深信服安全大模型（安全GPT）。訾然介绍，过去三个多月时间，安全GPT已经形成了一些比较有价值的实践。
　　他首先分析，以ChatGPT为代表的大语言模型应用，走进了千家万户，有几方面因素：一是AI的应用以及扩展到新领域的成本边际成本降低了。过去AI应用只是每个细分领域的专家模型，它做内容推荐是一个模型，做人脸识别又是一个模型，做自动驾驶则是另外一个模型，每个模型构建都需要该领域海量数据和算力，而大模型具有了生成式能力，具有跨领域的学习和生成能力。
　　其次，这些通用大模型基于海量数据，吸收了大量信息之后提炼出一定的逻辑思维、知识，形成了一定程度的通用智能。大模型具有了通用智能，不仅会写作文、做数学题，还会参加律师考试，甚至能识别网络安全里的恶意代码。
　　再次，大模型既有通用模型，也可以把参数缩小，用具体细分领域的数据训练它，得到垂直领域的模型，通用模型非常适用于每个人使用，成为工作的助手；垂直领域模型则非常适合落地于细分的To B行业，如医疗大模型、法律大模型、安全大模型等等。
　　“但是，大模型语言技术或者GPT是一个新技术，攻击者会研究相关的漏洞，大语言模型也不例外。我们已经观测到了大量的用ChatGPT、GPT4生成的钓鱼邮件进行混淆或者绕过的攻击代码，甚至有专业的黑客大模型。”訾然说。
　　他举例说，2016、2017年就已经出现的网络漏洞，主流软件可以很好防范，但是在GPT简单混淆后，20分钟就可以绕过所有安全防护设备，这就是大语言模型被攻击者使用之后的可怕之处。
　　他认为，安全GPT的落地，将在四方面产生价值：
　　一是检测能力可以大幅度提升，相比于传统的规则、语法语义等，大幅度提升检出率、准确率，过去深信服用小模型做了大量实践，但大模型重做之后，得到的效果直接碾压了过去小模型用时三、四年的效果结果。
　　二是事件分析、研判能力提升，大幅加快事件处置效率。它可以识别资产的信息、IP信息以及相关文件名是不是有异常，过去很难做到，现在可以完整解读，对攻击报文进行总体的定性总结，提供一定程度的修复建议。
　　三是可代替安全运营人员做资产、漏洞的排查和管理工作。
　　四是自动化值守、智能化值守，某种程度上不再需要和ChatGPT一样对话式地调用，它可以像虚拟专家一样，7x24小时不眠不休分析预警等等。让“虚拟专家”自主解读、自主给出建议，某种程度可以缩短到1分钟以内，追上攻击者、不让防守方跑在攻击者后面。
　　“肯定有人问，ChatGPT经常胡说八道，如何保证安全GPT不胡说八道？”訾然说，这个无法百分之百地保证，只能通过大量工作无限趋近于百分之百，尽可能让它准确，因此高质量和海量数据的投喂非常重要；结合本地数据、云端情报，甚至部分环节专家的参与，来提升整个部署推理环节的精度。最后还有一个反馈优化，安全GPT生成的每个回答都提供一个反馈框，可以点满意/不满意，如果不满意后台48小时把不满意信息生成满意的回答，周而复始从而提高准确性。
　　南方+记者郜小平
（文章来源：南方Plus）