“AI教父”杰弗里·辛顿再次发出警告：AI可能正在“失控”！
继续放任 AI 的“野蛮”生长，可能会最终导致养虎为患的结局……
站长之家(ChinaZ.com) 4月27日 消息:被称为“AI教父”的多伦多大学名誉教授、 2018 年图灵奖得主杰弗里·辛顿（Geoffrey Hinton）在最近的预测中称，人类可能会将这个世界的“主宰权”拱手让给 AI。这位诺贝尔物理学奖得主再次针对 AI 的危险性，发出了警告：AI就像一只“虎崽”。
当地时间 26 日，辛顿教授接受了美国哥伦比亚广播公司（CBS）新闻的采访，他在采访中表达了对 AI 技术快速发展可能威胁人类的担忧。辛顿教授在开发作为 AI 学习所需核心技术的大型语言模型（LLM）方面发挥了先驱作用，他是代表性 的“AI 末日论者”（doomer，即人工智能毁灭论者），曾多次公开警告人工智能的危险性。
辛顿教授曾在谷歌担任副总裁一职，但在 2023 年离开谷歌后，便一直对 AI 可能超越人类的风险发出警告。在当天的采访中，他描述了人类如今依赖着快速发展的人工智能技术，并表示：“最能从情感上理解这种情况的方式，便是：想象我们是拥有一只非常可爱的小老虎的人。”他还说道：“如果你不能确定这只小老虎长大后会不会把你咬死，那你就应该感到担忧。”
辛顿教授还警告称，有 10% - 20% 的风险，AI 最终会从人类手中夺走控制权。他还表示：“人们还没有 get 到这一点，也不明白即将到来的会是什么。”
辛顿教授批评说，包括他曾任职的谷歌，以及埃隆・马斯克（Elon Musk）的 xAI、山姆・奥尔特曼（Sam Altman）的 OpenAI 等具有代表性的大型科技企业，虽然已经意识到了这种担忧，但这些企业将把“赚钱”摆在了第 一位 —— 置于将本该优先考虑的安全之上。
他指出，这些大企业 “正在为减少对 AI 的监管进行各方游说”，并特别提到对谷歌改变其在 AI 技术军 事应用方面的立场感到失望。辛顿教授接着强调，这些 AI 企业必须大幅增加在 AI 安全性研究方面投入的资源和力量 —— 应该将三分之一的计算能源投入到安全性研究中。