《人工智能教父》缩短了人工智能在未来30年消灭人类的可能性

星座作者 / 花爷 / 2025-04-22 03:00
"
    这位经常被吹捧为人工智能“教父”的英裔加拿大计算机科学家缩短了人工智能在未来30年消灭人类的可能性,他警告称,技术

  ‘Godfather of AI’ shortens odds of the technology wiping out humanity over next 30 years

  这位经常被吹捧为人工智能“教父”的英裔加拿大计算机科学家缩短了人工智能在未来30年消灭人类的可能性,他警告称,技术变革的步伐“比预期快得多”。

  今年因在人工智能领域的贡献而获得诺贝尔物理学奖的杰弗里·辛顿教授表示,人工智能在未来30年内导致人类灭绝的可能性为“10%到20%”。

  此前,辛顿曾表示,这项技术有10%的可能性会给人类带来灾难性的后果。

  在BBC广播4频道的《今日》节目中,当被问及他是否改变了对潜在的人工智能末日的分析以及这种情况发生的概率是十分之一时,他说:“不是真的,10%到20%。”

  辛顿的估计促使《今日》的特约编辑、前英国财政大臣萨吉德?贾维德(Sajid Javid)说:“你在上涨”,对此辛顿回答:“如果有的话。你看,我们以前从来没有对付过比我们更聪明的东西。”

  他补充说:“你知道有多少例子表明一个更聪明的东西被一个不那么聪明的东西控制?这样的例子很少。有一个妈妈和一个婴儿。进化花了很多功夫让婴儿控制母亲,但这是我所知道的唯一例子。”

  出生于伦敦的辛顿是多伦多大学(University of Toronto)的名誉教授,他表示,与功能强大的人工智能系统相比,人类就像蹒跚学步的孩子。

  “我喜欢这样想:想象你和一个三岁的孩子。我们将是三岁的孩子,”他说。

  人工智能可以被粗略地定义为执行通常需要人类智能的任务的计算机系统。

  去年,辛顿辞去b谷歌的工作后,为了更公开地谈论不受约束的人工智能发展带来的风险,他上了头条,理由是担心“坏人”会利用这项技术伤害他人。人工智能安全活动人士的一个主要担忧是,人工通用智能或比人类更聪明的系统的创造,可能会导致该技术逃避人类的控制,从而对人类的生存构成威胁。

  当他第一次开始研究人工智能技术时,他认为人工智能的发展会达到什么程度,辛顿说:“我没有想到它会达到我们现在的水平。我想在未来的某个时候我们会达到这个目标。”

  他补充说:“因为我们现在所处的情况是,该领域的大多数专家认为,在未来20年内,我们将开发出比人类更聪明的人工智能。这是一个非常可怕的想法。”Hinton表示,发展速度“非常非常快,比我预期的要快得多”,并呼吁政府对这项技术进行监管。

  “我担心的是,看不见的手不会保证我们的安全。因此,仅仅把它留给大公司的利润动机是不足以确保它们安全开发的。”

  “唯一能迫使这些大公司在安全方面做更多研究的是政府监管。”

  辛顿是获得ACM图灵奖(计算机科学的诺贝尔奖)的三位“人工智能教父”之一。然而,三人组之一、马克·扎克伯格(Mark Zuckerberg)的meta首席人工智能科学家扬·勒昆(Yann LeCun)淡化了这种生存威胁,并表示人工智能“实际上可以拯救人类免于灭绝”。

  ——《卫报》

分享到
声明:本文为用户投稿或编译自英文资料,不代表本站观点和立场,转载时请务必注明文章作者和来源,不尊重原创的行为将受到本站的追责;转载稿件或作者投稿可能会经编辑修改或者补充,有异议可投诉至本站。

热文导读