我们何时该认真对待人工智能的“灾难论者”？

这是埃隆·马斯克试图关闭OpenAI营利性人工智能业务的关键潜台词。他的律师辩称，该机构最初是作为专注于人工智能安全的慈善组织设立的，后来在追逐金钱的过程中迷失了方向。为了证明这一点，他们引用了该组织创始人的旧邮件和声明，称需要有一个致力于公共利益的机构来制衡谷歌DeepMind。

今天，他们传唤了唯一一位直接针对人工智能技术作证的专家证人：加州大学伯克利分校计算机科学教授斯图尔特·罗素，他研究人工智能已有数十年。他的任务是提供人工智能的背景信息，并证明这项技术已经危险到足以令人担忧。

罗素曾于2023年3月签署了一封公开信，呼吁暂停人工智能研究六个月。这其中的矛盾之处在于，马斯克也签署了同一封信，而当时他正在创办自己的营利性人工智能实验室xAI。

罗素向陪审团和法官伊冯·冈萨雷斯·罗杰斯表示，人工智能的发展伴随着多种风险，从网络安全威胁到对齐问题，再到开发通用人工智能（AGI）过程中“赢家通吃”的特性。他最后指出，追求AGI与安全性之间存在矛盾。

在OpenAI律师的反对导致法官限制罗素证词后，罗素关于不受约束的人工智能所带来的生存威胁的更广泛担忧未能在公开法庭上得到充分阐述。但罗素长期以来一直批评前沿实验室在全球范围内竞相率先实现AGI所引发的军备竞赛态势，并呼吁政府更严格地监管该领域。

OpenAI的律师在交叉质询中试图证明，罗素并未直接评估该组织的公司结构或其具体的安全政策。

法官和陪审团将权衡企业贪婪与人工智能安全担忧之间关系的价值。事实上，OpenAI的每一位创始人都曾极力警告人工智能的风险，同时也强调其益处，试图以最快速度构建人工智能——并谋划由他们控制、专注于人工智能的营利性企业。

从外部来看，一个明显的问题在于，OpenAI在成立后内部逐渐意识到，该组织若想成功，就需要更多的计算开支。而这些资金只能来自营利性投资者。创始团队对AGI落入单一组织手中的恐惧，促使他们寻求资本，最终导致团队分裂，造就了我们今天所知的军备竞赛——并将我们引向了这场诉讼。

同样的动态已经在国家层面显现：参议员伯尼·桑德斯推动的一项暂停数据中心建设的法律提案，引用了马斯克、萨姆·奥尔特曼、杰弗里·辛顿等人表达的人工智能恐惧。在行业组织“数据创新中心”工作的霍登·奥马尔反对桑德斯只引用他们的恐惧而忽略其希望的做法，他告诉TechCrunch，“不清楚为什么公众应该忽视科技亿万富翁所说的一切，除非当他们的话可以被用来填补一个站不住脚的论点的漏洞时。”

现在，案件双方都在要求法庭做同样的事：认真对待奥尔特曼和马斯克论点中的一部分，而忽略那些对其法律论据用处不大的部分。