ChatGPT迎来发布一周年，人工智能逐步从概念走向生活，成为人类伸手可以触达的现实。然而，AI广泛应用背后的安全与隐忧也愈发清晰。AI如何安全发展？高速前进的产业如何应对算力、算法、数据的供给难题？
　　2023年以来，针对新一轮AI浪潮，各个国家和地区纷纷给出解题思路，跨越国家和地区的交流与协作机制也在逐渐形成。
　　日前，美国发布了由总统拜登签署的《关于安全、可靠和可信地开发和使用人工智能的行政命令》（以下简称《行政命令》），依据八项指导原则和优先事项推进人工智能的开发和使用。
　　美国此举给全球AI治理格局带来了新的变量。“此次的行政命令要求不同的政府机构就各自管辖范围内的人工智能使用制定更严格或更具体的计划，意味着美国政府的监管策略有所转变。”耶鲁大学法学院蔡中曾中国中心研究员陆凯（Karman Lucero）指出。不过，这一行政命令在发布后也遭到了批评和反对，在监管效力、行业影响和执法权力等方面遭到质疑。
　　“‘什么是监管人工智能的最佳方法’这一问题，在不同行业、不同社会角色间仍然存在很多争论和分歧。”在Karman Lucero看来，人工智能治理要在安全和发展间寻找平衡，并非易事。
　　技术日新月异，产业方兴未艾。“当下更需要做的，是创造一个鼓励合作和实验的环境。”他说。
　　01美国发布行政命令：监管趋势收紧
　　21财经：日前白宫出台的人工智能行政命令被认为是美国迄今为止最全面、最广泛的人工智能监管原则。这则行政命令会对美国的人工智能立法进程及相关执行机构的工作产生怎样的影响？
　　Karman Lucero：首先需要明确的是，行政命令中大部分内容都是针对联邦政府机构，只有一小部分对私营公司或非政府行为者提出了具体要求。从这个角度来看，行政命令主要会提高不同政府机构关注AI的程度，并发布专门针对AI在各自管辖范围内使用的新法规。比如，交通部已经就出台了有关于自动驾驶汽车的法规。
　　行政命令的另一个关键作用，是向公众等发出信号，表明各方已经开始讨论如何应对人工智能新局面。最后，该行政命令是为了促进不同政府部门相互协调。未来，我们可能会看到在人工智能领域机构协作更简化、沟通更顺畅。
　　此外需要强调的是，该行政命令主要针对联邦政府机构。因此，他们在行政命令发布后仍然负有跟进提出更具体监管的责任。
　　21财经：美国未来会不会出台一个广泛的、全国性的人工智能法？
　　Karman Lucero：联邦政府后续可能会有更多治理举措，出台全国性人工智能法有可能性。但是，通往这个可能性的道路上还有许多问题待解。首先，目前美国国内各方尚未形成AI治理的共识。“什么是监管人工智能的最佳方法”这一问题，在不同行业、不同社会角色间仍然存在很多争论和分歧。因此，各方对人工智能领域内的一切都达成共识，进而推动并通过一个全面性立法，短时间内可能性不大。
　　我短期内不对全面AI立法持乐观态度的第二个原因，是当下人们其实尚不清楚这样的法律究竟要全面、细致到何种程度。在司法实践中存在这样一种矛盾：过于模糊的法律，在法庭上可能会频繁面临挑战；而过于具体的法律，可能会因为大多数实践超出了法条所针对的具体范围而缺乏影响力。一项广泛的人工智能立法在这对矛盾中求得平衡，并不容易。
　　总体而言，未来更有可能看到的是，美国不同政府机构在其特定管辖范围内制定有针对性的法律或规则来监管人工智能。
　　21财经：白宫此前已获得共十五家领先人工智能公司的自愿承诺，此次行政命令要求人工智能开发人员与美国政府分享安全测试结果和其他关键信息。从自愿承诺到行政命令，以后对人工智能公司的管理会持续细化和收紧吗？与之前对科技巨头的自由放任策略相比，监管方式整体上似乎有所不同，您认为这意味着监管策略的转变吗？
　　Karman Lucero：此次的行政命令确实意味着美国政府的监管策略转变，确实要求了不同的政府机构就各自管辖范围内的人工智能使用制定更严格或更具体的计划。还可以注意到，行政命令要求人工智能开发人员与美国政府分享安全测试结果和其他关键信息等举措，这是前所未见的。在此之前，美国针对人工智能的相关举措基本都是自愿性的，比如和AI公司达成的自愿承诺、较低级别的具体部门规章等。
　　虽然监管趋势收紧，但超过一定门槛的全面法规的提出和落地都需要国会批准或经过正式的立法程序。未来若想在监管上更进一步，还需要面临诸多挑战。事实上，行政命令发布后遭到了批评和反对。比如，有观点认为，监管举措效力值得商榷。比如前文提到的开发者需要向政府报告相关信息，规制主要针对的是某些特定技术，公司如果有规避监管的意图，只要更换技术路径就可达成目的。
　　还有一类批评涉及对行业未来的担忧。有观点认为行政命令带来的更严格监管可能会造成准入障碍，使较新或较小的公司更难与较大、较成熟的公司竞争。此外，有人对行政命令的合法性提出批评，质疑白宫在多大程度上有权单方面提出这些要求。
　　我认为，目前政府干预的最佳方法还不确定，当下更需要做的是创造一个鼓励合作和实验的环境，而不是着手具体的监管。
　　21财经：美国科技公司对行政命令反应如何？
　　Karman Lucero：自今年早些时候与科技公司举行国会听证会以来，一部分科技公司开始呼吁监管的重要性，提出要确保人工智能的安全、可靠和遵守人类价值观。山姆·奥特曼 (Sam Altman) 就是最直言不讳地呼吁这种监管的企业家之一。然而其他公司和个人对行政命令持批评态度。例如，Meta 首席科学家杨立昆（Yann LeCun）一直在 Twitter 上对行政命令的签署持批评态度。还有一些从业者认为，行政命令想治理的是技术而不是特定的行为，这种管制过于严格，会造成竞争壁垒。
　　02 全球合作：意义在于建立沟通基础
　　21财经：您认为全球在人工智能治理方面应该达成什么共识？
　　Karman Lucero：这个领域的一个好消息是：很多人对人工智能治理感兴趣，许多国家都在大力支持国际合作。但我认为，要达成人工智能治理的全球共识，首先面临的问题是治理技术还是治理行为？其次，规定需要多具体，才能有效付诸实践？重要的是得找到模糊性和具体性的平衡。
　　共识还关系到国际信任的建立。如果最终围绕人工智能达成的合作协议，被认为无法推动参与者的任何改变，那有可能减损对国际机构的信任。此外，各国对人工智能治理的意义有不同看法，如果联合协议在各国实践不同，也可能让不信任感日益增加。因此，制定标准的过程和实施细节非常重要，而且应该保持透明。
　　最后，我认为分歧需要被理解和接受。说到底，不同的国家和政府有不同的优先事项。如果开展国际合作，那么就会存在分歧。我们应该认识到，关于全球人工智能治理的讨论，更多的是关于培养相互沟通的能力，即使最终可能选择了不同的路径和方法。
　　21财经：多项全球调查显示美国和中国在人工智能发展上保持第一和第二位，在治理思路上，您观察到中美之间存在什么差异？两国未来有可能达成什么合作？
　　Karman Lucero：这是一个重要问题，我的简短回答是：由于制度不同，方法也不同。再次强调，白宫行政命令主要针对联邦政府机构。
　　尽管如此，我认为两国之间已经存在大量事实上的合作——特别是在技术人员之间。我知道中国人在密切关注美国发生的事情。与过去相比，现在也有更多的美国人关注在中国发生的事情。在最近的APEC上，两国总统进行了会晤，会议内容包括了关于人工智能合作的讨论。虽然没有涉及具体细节，但可以这样理解：它向全世界发送了一个信号——人工智能合作是一个优先事项，这是所有人可以做的事情。
　　这种真正合作的信号，在未来会带来更多明确规范。对于未来的合作，不仅需要政府实体，还需要政府内部的特定行为者，以及在不同公司和学术机构的从业者。可以说，需要一种合作的文化土壤，让来自社会不同领域、拥有不同专业知识的人士共同思考。
　　03 监管进行时：应尽可能谈论具体的风险
　　21财经：中国规定生成式AI产品提供服务前需要做算法备案。美国欧洲也正尝试推行算法审计。算法备案和算法审计在证明合规性上能发挥什么作用？
　　Karman Lucero：实际上，它是行政命令批评者所说的一个“适得其反”的例子。美国的行政命令并没有优先要求审计——不是公司有一个模型或算法，就必须接受某种审计——而是如果私营公司自己进行了安全测试，需要向政府报告这些结果。因此，一些批评者会说：以前更注重安全规制的公司，现在可能因为不得不向政府报告，反而失去了采取安全规制的积极性。
　　再以中国的算法备案为例，规范的目标是什么？条款到底想达到什么目的？当然，一定程度上，算法备案能够要求开发者对技术的风险更加深思熟虑。但到目前为止，我对算法备案和审计的要求能否直接转化为一个明确的目标，暂且保持疑惑。
　　我认为算法审计和备案的主要意义在于：它是一个值得参考的治理经验。中国和美国、欧盟以及其他国家一样，在人工智能治理的最佳方式方面，并不一定拥有所有的答案。因此我们将看到不同地区的不同方法和实验。我希望在这个过程中，所有参与者都愿意分享从不同方法中获得的成果和经验。 这样，我们就不会各自为政，而是能够相互学习，共同制定人工智能治理的最佳方法。
　　21财经：怎么看待大模型训练中数据稀缺这一难题？是否有必要建设国际范围的数据共享平台?
　　Karman Lucero：美国和中国都在关注数据集的重要性，以及数据集作为公共资源的价值——它在促进人工智能的发展和应用方面发挥着重要作用。但我不知道在多大程度上有必要建立这样一个全球平台。因为互联网已经是全球的了，很多数据集和软件、工具和模型实际上已经由全球共享。例如，据我了解，李开复的新业务就使用了Meta 的 Llama开源平台。
　　因此，如果我来确定优先事项的话，建立全球共享平台的优先级会靠后一点，更重要的是鼓励美国、中国，以及其他国家利用开源工具，并以更广泛的方式向公众开放数据资源。行政命令中也有相关规定，它要求、鼓励政府机构不仅在收集和使用数据的方式上，而且在为公众利益而公开数据的方式上，考虑得更加周全。
　　21财经：考虑到人工智能引起的新风潮和监管新格局，一些法规强调企业应采取适当措施，降低潜在的人工智能相关风险。企业目前可以采取哪些措施来有效监管人工智能的发展和应用？
　　Karman Lucero：首先要说，我可以理解大家对风险的普遍担忧，尤其是当人工智能已经应用得如此广泛时。但另一方面，如果一切都是风险，那么事实上就没有什么是风险了。每个人对风险和人工智能的担忧不同，人工智能就像人类过去任何的技术一样，没有办法真正预测到它的未来，它必定会带来意想不到的意外和惊喜，这是不可避免的。
　　因此，非常重要的一点是，我们在谈论风险时，应该尽可能谈论具体的风险。例如行政命令重点关注生物技术领域的人工智能使用，这就是一个更具体的使用案例，虽然它仍然有些模糊。
　　每个公司能采取的措施，我认为重要的也是关注具体风险：公司要阐明自己对风险的理解，以及预防风险的方法。我们在人工智能治理方面需要一定的透明度和外部核查手段，否则公司什么都可以说，而政府、社会、学界没有办法核实。我认为随着时间的推移，人们必须开发出更好的工具，以了解产生问题的根源，以及什么样的工具和措施更好。总之应该把重点放在特定的使用情景上，并试图在这些特定案例中减少风险。
（文章来源：21世纪经济报道）