杰弗里·辛顿 (Geoffrey Hinton) 表示对人类的恐惧和人工智能的危险

杰弗里·辛顿 (Geoffrey Hinton) 表示对人类的恐惧和人工智能的危险

加密货币行业受到人工智能技术进步的巨大影响。 更具体地说，ChatGPT 和 Google Bard 等基于人工智能的聊天机器人日益流行，催生了专门用于该领域的加密货币的一部分。

由于人们对人工智能的快速兴趣，市场上各种代币出现了指数级增长。

我们还在众多主题上使用了 ChatGPT，例如：

虽然与人工智能讨论通常与同事讨论的话题令人兴奋，但它还有另一面，杰弗里·辛顿 (Geoffrey Hinton) 大声而清晰地谈到了这一点。

人工智能教父

Geoffrey Hinton 是一位英裔加拿大人认知心理学家和计算机科学家，1947 年出生于伦敦温布尔登。

他因其在人工神经网络方面的工作而闻名，并且是谷歌的前员工。 他于 2023 年 5 月以重大公开退出方式离开公司，引发公众对人工智能 (AI) 技术风险的担忧。

技术评论来自 Linda Nylind / Eyevine Via Redux

Hinton 是 2001 年鲁梅尔哈特奖的第一位获得者，因其在人工神经网络方面的工作而享誉国际，特别是在如何设计人工神经网络以实现无需人类老师的情况下进行学习方面。 他还因其在该领域的概念和技术突破而获得了 2018 年 ACM AM 图灵奖。

他通常也被称为人工智能教父之一。 现在他有一些担忧。

我们已经发现了永生的秘密，但有一个问题

在接受采访时卫报，辛顿明确表示，他以良好的条件离开谷歌，并且他对公司正在做或已经做的事情没有异议。

在文章中，他将生物智能（人脑）与数字智能进行了比较，并概述了人类面临的低效率问题。 他说，我们的大脑在低功率下运行，但我们的方法在传输信息方面效率相当低。 另一方面，数字智能则不同。

他们付出了巨大的能源成本，但当其中一个人学到了一些东西时，每个人都知道它，你可以轻松地保存更多副本。 所以好消息是我们已经发现了永生的秘密。 坏消息是它不适合我们。

从本质上讲，辛顿得出的结论是，人类正在构建有潜力超越人类的智能。

我以为这最终会发生，但我们还有很多时间：30到50年。 我不再相信了。 我不知道有任何更聪明的东西被不太聪明的东西控制的例子。”

为了使比较更容易理解，计算机科学家将我们（人类）与青蛙进行比较，并补充道：

它（人工智能）将从互联网中学习，它将阅读所有关于如何操纵人类的书籍，并在实践中看到它。”

摘自电影《机械姬》。 电影院的回忆

对人类的恐惧

报告援引辛顿最近的一份报告，概述了所谓超级智能的潜在危险。

“人工智能教父”描述了人工智能可能试图控制其自身环境的许多方面以解决复杂问题的场景。 这些方面甚至包括人为操纵。 这位科学家认为，人工智能甚至不需要获得权力或破坏的明确目标就可以利用其模仿人类行为的能力。

然而，这并不全是厄运和悲观。 他认为有办法减轻灾难性的情况，但也认为我们已经过了不归路，停止人工智能的发展是不可能的，也不应该停止。

我认为我们应该进一步开发它，因为它可以做一些奇妙的事情。 但我们同样应该努力减轻或防止可能的可怕后果。

我们距离这些可怕的后果还有多远？ 比你想象的更近。

我现在有很多不确定性。 消耗了网络上所有文档的大型语言模型可能无法取得太大进展，除非它们也能够访问我们所有的私人数据。 我不想排除类似的情况——我认为在这种情况下有信心的人都是疯了。

考虑灾难发生可能性的正确方法是简单地抛硬币，而不是我们想要的。”

最后的想法

人工智能可能会在我们的生活中发挥越来越重要的作用。 根据 ChatGPT 本身（哦讽刺）本身，它将在未来 7 年内影响的一些领域是：

• Gesundheitspflege
• Automatisierung
• Transport
• Ausbildung
• Intelligente Häuser
• Kundendienst

自从表达了自己的担忧以来，辛顿受到了许多人的批评，因为他没有对之前辞职的一些同事采取行动。 得出这个结论很容易，但也很容易忽视问题的复杂性，它涉及多项技术、哲学和伦理原则。

我想 Hinton 只是说人工智能对人类的影响，无论好坏，可能比我们大多数人意识到的要大得多。

特色图片由 CBC 提供，由 Geoffrey Hinton 提供。

。