奇安信集团董事长齐向东:生成式AI将影响固有的社会治理模式

最新信息

奇安信集团董事长齐向东:生成式AI将影响固有的社会治理模式
2023-07-07 16:53:00
“数智时代和传统时代相比,社会安全生产事故的诱因将完全不同,网络攻击将成为最主要的诱因。”6日,全国工商联副主席、奇安信集团董事长齐向东在2023全球数字经济大会数字安全高峰论坛暨BCS2023北京网络安全大会上表示。他说,数智时代在给人们带来便利,解决盲区问题,加速社会发展的同时,也带来了新盲区。
  齐向东表示,在传统社会,我们有很多盲区,事故都发生在盲区中。数智系统的普及,解决了很多盲区问题,加速社会发展的同时,也必将减少了事故。但是,任何事物都有两面性。数智时代解决了旧盲区,也带来了新盲区。“试想一下,如果传感器被攻击,将会用假数据产生更大盲区;如果控制器被攻击,将会因为错误的指令导致更大的事故;如果数据被删除和篡改,盲区将变得无穷大,事故的边界将不可控制,社会生产可能停摆。”
  “现在进入数智时代,数据确实发生了巨大的变化。在数智的时代,攻击数智系统就等于攻击现实社会。也就是网络空间和现实社会完全合一了。”他分析指出,所以,攻击数智系统在未来可能会是战争和犯罪的主要形式。主要有三个原因:第一,在数智时代,数据发生了三大变化;第二,在数智时代,数据安全出现了三大难题;第三,数智时代,网络安全易攻难守将常态化。
  他进一步分析指出,首先,数据发生了三个比较大的变化:第一个变化,数据从“死”到“活”,在复杂流动中产生更大风险。第二个变化,数据从虚到实,攻击暴露面越来越大。第三个变化,数据从贱到贵,价值越来越高,损失也更难承受。
  “在未来数智的时代,所有的产品,生产,我们的生活都是靠数据驱动。”齐向东举例称,无人机执行任务是靠数据导航和靠任务数据来进行驱动。如果把导航数据和任务数据改了,无人机就不知道干什么了。所以,从虚到实,也就是数据事故就等于生产事故,数据事故就等于生活中的供水、供电、交通等事故。
  在他看来,数字经济时代出现的上述变化,也为维护数据安全带来了一定困难,包括数据操作行为好坏难辨,三员(管理员、技术员、操作员)难防,软件供应链存在漏洞、后门难防等问题。
  因此,齐向东认为,数智安全要以内生为本。与传统的网络安全的内生安全相比,在数智时代的内生安全应当重点做好三件事:从关注IT转变成关注业务;从关注设备转变成关注“人”;从关注建设转变成关注运营。
  谈及生成式AI将如何影响网络安全和隐私,齐向东表示,“生成式AI给我们社会带来的影响重点还不在网络安全,而是信息技术革命之后的80年,我们形成的固有的社会治理模式也要发生变化。在网络安全人的视角里,会出现更多人工智能的黑客,或者更多的黑客用人工智能辅助来提升他们的能力。”
  他同时指出,但世界是平衡的,有攻就有防。所以网络安全公司在大模型刚刚出现时就意识到这个变化,即我们也要用这样的技术实现网络攻防的对抗。
  “网络安全防护和网络攻击始终是矛和盾的关系,我们一定能够解决大模型可能会引发的网络攻击,防止产生新的不平衡,快速进入网络攻防的平衡领域。”齐向东说。
(文章来源:中国经济周刊)
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。

奇安信集团董事长齐向东:生成式AI将影响固有的社会治理模式

sitemap.xml sitemap2.xml sitemap3.xml sitemap4.xml