正值我国数据安全法施行两周年，2023“浦江护航”数据安全上海论坛日前举行。记者从论坛上获悉，电信和互联网企业承载着大量用户个人信息和业务数据，占比超过全国行业机构产生数据总量的四分之一，具有极高价值，但也成为网络攻击的主要目标，勒索病毒、数据泄露等安全事件时有发生，总体形势依然严峻。其中，上海承担着护卫数据安全的重要角色。上海市政府办公厅副主任张宇祥介绍，截至去年底，上海数字核心企业已突破1200家，核心产业规模近3400亿元。
　　去年11月以来，以ChatGPT为代表的生成式人工智能等新技术、新业务的发布，引发行业变革，但也为数据安全保护和监管带来新挑战。深信服科技股份有限公司副总裁马蕴超举例，“我们公司有一个细分产品规则库，需要有4人花数年时间对其进行不断更新维护。然而，经训练的大模型只用了一周时间，就超越了规则库原先的更新维护效果。”
　　上海市数字证书认证中心有限公司总经理崔久强担忧大模型的另一面。“我看过一个诈骗短视频，其中用AIGC（生成式人工智能）生成了一个人的声音和肖像，所谓眼见为实，而今已经做不到了。人脸识别是人工智能技术应用最先取得商业化成功的领域，但AIGC如果开始做坏事，比如各种伪造、攻击等，后果是巨大的。”观安信息创始人张照龙也留意到，大模型中隐含着许多敏感数据。不久前韩国三星一技术人员因写代码受困，求助于ChatGPT，将企业生产的核心代码也上传了，使个人、企业及国家敏感数据不断处于风险之中。因此，如何做好数据的防泄密以及统一的数据管控，这非常关键。
　　“从去年ChatGPT重磅发布到今年以来国产大模型‘百模大战’，可谓热闹非凡，但从过往经验来看，我们应记住：永远不要高估一个新技术前5年的创造性，也永远不要低估它接下来5到10年的破坏性。”上海交通大学人工智能研究院副院长王延峰说。
　　国家和政府部门其实早已留意到其中的挑战。今年8月31日，国内首批8家大模型公司通过《生成式人工智能服务管理暂行办法》备案，获批面向公众开放服务，这些大模型包括上海人工智能实验室的书生通用大模型、商汤科技“商量”，以及百度“文心一言”等。这意味着，国产大模型从“出生潮”迈向“应用潮”过程中，始终面临着政府部门的审慎监管。
　　工信部网络安全管理局副局长杜广达在论坛上介绍，近期，工信部已启动2023年“数安护航”专项行动，面向重点电商平台、数据中心和云基础设施运营企业，集中开展风险排查和防范处置，及时化解电信和互联网领域数据安全的风险隐患。
（文章来源：解放日报）