霍金再发警告:机器人100年内将控制人类

日前在伦敦举行的2015时代精神大会上,著名科学家斯蒂芬霍金再次发出警告,未来100年,人工智能将比人类更聪明,机器人将控制人类 。

霍金宣称,现在不是担心谁控制人工智能的时候,而是担心人工智能能否被完全控制 。未来100年,人类将面临比人类更聪明的人工智能的挑战 。霍金之前也警告过,说人工智能可能会终结人类 。

霍金说:“未来100年,计算机结合人工智能将变得比人类更聪明 。那时,我们需要确保计算机符合我们的目标 。我们的未来取决于不断增长的技术力量和我们使用技术的智慧之间的竞争 。”

今年年初,霍金发表了一封与特斯拉CEO埃隆马斯克的公开信,后者认为人工智能的发展应该受到控制 。根据这封信,如果智能机器不能保证安全,人类可能会陷入黑暗的未来 。

这封信警告科学家,人工智能将杀死人类 。科学家说:“我们已经达成共识,人工智能的研究正在取得巨大进展,并将对社会产生越来越大的影响 。潜在的好处是巨大的,因为文明提供的一切都是人类智慧的产物 。但当这种智慧被放大到人工智能工具可以提供的程度时,我们就无法预测结果,消除疾病和贫困也并非不可能 。”

但科学家也提出了更严重的警告,人工智能研究必须避免潜在的威胁 。例如,在短期内,人工智能可能会导致数百万人失业 。从长远来看,人工智能在比人类聪明的时候,可能会违背自己的编程,就像科幻电影里那样 。因此,有必要确保人工智能系统按照人类的意图行事 。

【霍金再发警告:机器人100年内将控制人类】 去年11月,马斯克还警告称,智能机器可能会在至少五年内带来极端危险 。他认为人工智能就像“召唤恶魔” 。在麻省理工学院的演讲中,马斯克将人工智能描述为“人类生存的最大威胁” 。他说:“我认为我们应该对人工智能保持高度警惕 。如果我猜测对人类生存威胁最大的可能是人工智能 。”

    推荐阅读