谷歌前CEO警告:AI被滥用的风险极高 迟早会威胁人类生存

最新信息

谷歌前CEO警告:AI被滥用的风险极高 迟早会威胁人类生存
2023-05-25 01:13:00


K图 GOOGL_0


K图 GOOG_0
  当地时间周三(5月24日),谷歌前首席执行官埃里克·施密特警告称,人工智能可能带来“生存风险”,各国政府需要知道如何确保该技术不被“坏人滥用”。

  施密特在一场伦敦举行的活动中表示,他所述的“生存风险”(existential risks)是指“许多、许多、许多人会受到伤害或死亡”。
  由于聊天机器人ChatGPT的迅速走红,引发了人们对人工智能(AI)这项技术的狂热,全球许多科技公司都想推出ChatGPT的竞品,其中就包括了施密特的“老东家”谷歌公司,这些企业希望以此展示他们的AI实力。
  但施密特认为,人工智能系统迟早有一天能够找到网络的“零日漏洞”(zero-day),或者发现新的生物种类,“虽然这可能在今天还难以实现,但这将很快就会出现。”
  “零日漏洞”又叫零时差攻击,是指被发现后立即被恶意利用的安全漏洞。通俗地讲,即安全补丁与瑕疵曝光的同一日内,相关的恶意程序就出现。这种攻击往往具有很大的突发性与破坏性。
  施密特表示,“当这种情况发生时,我们希望能做好准备,知道如何确保这些东西不被邪恶的人滥用。”
  施密特于2001年至2011年担任谷歌CEO,目前他在美国人工智能国家安全委员会担任主席。该委员会在2021年发表的审查报告中警告称,美国对人工智能时代的准备不足。
  值得一提的是,施密特并不是第一个警告AI风险的技术人物。此前,ChatGPT开发商OpenAI的首席执行官山姆·阿尔特曼也承认,他对一些潜在的滥用行为“有点害怕”。
  而OpenAI创始人之一的埃隆·马斯克也表示,人工智能是未来人类文明最大的风险之一。在2018年的一次采访中,他更是强调,人工智能要比核武器危险得多。
  先前,有一些参议员主张设立一个新的监管机构,将人工智能在内的一众新兴技术纳入管辖。阿尔特曼对这一建议表达了欢迎,认为这种方式有望让美国本土的技术继续领跑。
  不过,施密特认为,美国不太可能成立一个专门监管人工智能的新机构。他说这实质上是一个“更广泛的社会问题”。
(文章来源:财联社)
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。

谷歌前CEO警告:AI被滥用的风险极高 迟早会威胁人类生存

sitemap.xml sitemap2.xml sitemap3.xml sitemap4.xml