11月9日，2023年世界互联网大会乌镇峰会前沿数字技术创新与安全论坛在浙江乌镇举行。论坛以“技术引领变革数字开创未来”为主题，依托前沿数字技术发展浪潮，共议数字技术创新与安全。多位学者以及产业界人士都对AI产业发表了看法，AI的安全性更是大家关注的焦点。
　　联合国教科文组织东亚地区办公室代表夏泽翰表示，安全与发展犹如鸟之两翼，缺一不可，确保网络安全是一项共同责任，需要共同努力完善全球互联网治理，构建一个和平、安全、开放、合作的网络空间，“作为联合国教科文组织的重要成员国，中国在数字技术创新和安全方面的努力值得称赞，也与联合国教科文组织的使命不谋而合。作为未来关键技术的领跑者，中国在人工智能领域取得了重大进展，人工智能市场蓬勃发展，这反映了中国与联合国教科文组织对技术进步和安全方面的共同愿望。”
　　图灵奖得主、法国科学院院士Joseph Sifakis在会上表示，人工智能在未来的重要应用将是监控器和端到端的人工智能控制器，“这些监视器将分析、感知互联网上的信息，并做出预测，诸如不良情况、流量波动或事件检测。”
　　对于人工智能安全，Joseph Sifakis认为，在缺乏足够安全保障的情况下，应该采取预防原则，还应该考虑在人工智能系统中如何通过限制训练数据集实现更好的可预测性和可控性。Joseph Sifakis提出应该推出新的基础理论，探索可解释人工智能的新途径，并开发针对人工智能监控器和端到端控制器的测试技术。
　　德国国家工程院院士张建伟指出，最新的大语言模型带来了新的赋能机会，但是未来的具身大模型还有很多挑战，比如“多模态的巨模型摆脱高计算成本，让他们可解释，在重要的应用中具有高质量、稳定可信以及安全”。
　　张建伟认为，未来的信息物理系统安全至关重要。它们具有多个挑战，比如多场景、多模态程序输入、安全性等等，“现在我们可以做出一些新的办法，比如漏洞的挖掘和攻击环节，数据应用分析，网络空间感知、防御以及震慑等等。实现安全通用的具身智能，需要产学研各界在全球范围的国际合作。”
　　参会的企业界人士，也从实践角度提出了在AI安全上的思考。阿里云智能集团首席风险官兼首席财务官郑俊芳透露，阿里云“通义千问”大模型已经向全社会开放，并且启动了“千问伙伴”计划，与行业伙伴共同创新生态。未来阿里云还将打造更多的企业专属模型，推动千行百业更快更好地分享智能化红利。
　　据了解，在今年7月，中国国家网信办等七部委联合发布了全球首部《生成式人工智能服务管理暂行办法》，中国人工智能健康发展具备了确定性的法律环境和依据。阿里巴巴也发布了《科技伦理风险审查管理制度》，提出“负责任的人工智能技术”三原则，分别是：可用、可靠、可信。
（文章来源：南方都市报）