2024-12-08 21:08:19 科技 57623阅读
“地球上存在着一种特殊的目标，那就是自我保护。地球上的每一个生物体都试图保护自己，”米拉研究所创始人约书亚·本吉奥先生在与米拉先生的对话中说道。张嘉平12月5日在河内。 “但是如果人工智能系统有自我保护的目标怎么办？如果我们以自我保护为目标构建系统，它们会变得更强大，因为它们更聪明，这是一个问题。”
Yoshua Bengio先生，米拉研究所创始人，AI创始人之一。照片：陈欢
据这位被称为“人工智能教父”的人说，当一个系统被构建成具有自我保护能力时，当它想要关闭时，它很可能会反击。例如，机器可以复制自身或其他计算机，因此很难将其关闭。 “如果人工智能和人类之间存在平衡，那是一件好事。但如果没有平衡，特别是当这些系统比我们聪明很多倍时，人类可能会遇到“麻烦，”他解释道。
与人工智能和机器人相关的危险可能来自两个方面。第一个是鲁莽的人给机器设定了危险的目标。如果我们试图做到这一点，人类可能会这样做。
另一个问题是无意的，他认为，人类可以创造出一台机器，它无意中具有自我保护的目的。随着时间的推移，人们试图发展。像它们自己一样的系统，就像不断涌现的人形机器人浪潮一样，这是很自然的，“人类一直梦想着做像它们一样的事情。但如果我们创造出一个比我们更强大的实体，那可能标志着人类的终结。”米拉研究所的创始人认为，人类应该专注于开发智能工具。智能的，旨在帮助人类。它们只是为人类服务的物体，而不是生物，甚至不是助手的特征——一个具有连续存在状态、目标和行动的实体。实现这一目标。他建议：“我们可以创造出知道并理解很多事情但没有个人目标的人工智能。”
Bengio 还提到了控制自动化的“预防原则”，定义为当广泛的科学知识应用于自动化时不会造成伤害的创新方法。这个问题缺乏。 “问题是我们了解得不够，所以没有能力预测，”他说。 “在这种情况下，预防原则强调在采用可能带来灾难性的创新之前要谨慎、暂停和仔细考虑。”
他引用了阿兰·图灵的话，一位计算机科学的创始人和天才，他们的思想超前了时代 40 到 50 年，有一天，人类将创造出如此智能的机器，以至于他们无法控制这些系统。 Bengio 说：“不幸的是，我们越来越接近这个问题，但仍然不知道如何控制它。”
Yoshua Bengio，1964 年出生，加拿大人，灰烬ng是深度学习领域的先驱。 1993年，他创立了米拉研究所，成为科学进步的汇聚点，为使蒙特利尔（加拿大）成为全球深度学习中心做出了重要贡献。迄今为止，Mila 是全球领先的人工智能研究机构，在全球拥有 1,300 名研究人员和 140 名合作伙伴，Yoshua Bengio 先生、Geoffrey Hinton 和 Yann Lecun 三位被誉为 AI 教父（Godfather of AI）的人。 2018 年，这三人因其对神经网络（模拟人脑工作方式的机器学习软件）的研究而获得了相当于计算机科学领域诺贝尔奖的特宁奖。这项工作被认为是现代科学技术最伟大的进步之一，对人工智能的发展产生了巨大的影响。
Bao Lam“AI 怪物”Yoshua Bengio：“AI 不会抢走人们的工作”
张家平先生与“怪物天才”AI Yoshua Bengio 进行了怎样的对话？
