2025年3月13日，《科学》（Science）发布《模型是文化和社会技术》（Large AI models are cultural and social technologies：Implications draw on the history of transformative information systems from the past），通过整合跨学科视角，系统论证了大语言模型（LLMs）应被界定为文化与社会技术，而非自主智能体。其技术本质更接近于书写、 印刷术、官僚体系等历史性信息处理系统，通过重组人类累积的文化数据进行社会协调。研究指出，将大语言模型误读为智能代理会导致公共讨论偏离实质，应转向技术社会学分析框架以准确评估其社会影响与治理路径。启元洞见编译其中的核心内容，以供参考。

一、引言

关于人工智能的争论常围绕大模型是否具有智能与自主性展开。关于大模型的文化与社会后果的讨论也集中于两点：其当前应用的直接影响，以及假想未来中这些系统转化为通用人工智能体（甚至超级通用人工智能体）的可能性。

但将大模型视为智能体的讨论存在根本性误解。结合社会科学与计算机科学的观点，有助于更准确理解人工智能系统：大模型不应被视作智能体，而是一种新型文化与社会技术，能使人类得以利用其他人类积累的信息。

二、社会与文化制度

自人类存在以来，我们便依赖文化。从语言本身开始，人类具备从他人经验中学习的独特能力，这种能力可视为人类进化成功的关键。

文化技术的重大变革导致了剧烈的社会转型：口语发展为图像、文字、印刷、电影与视频。随着信息跨越时空广泛传播，新的信息获取与组织方式（如图书馆、报纸、互联网搜索）持续发展。这些发展对人类思想与社会产生了深远影响，无论是好是坏。

自人类存在以来，我们也依赖社会制度协调个体的信息收集与决策。这些制度本身可被视为一种技术。现代社会中，市场、民主与官僚体系尤为重要：

（1）经济学家弗里德里希·哈耶克（Friedrich Hayek）指出，市场价格机制通过动态汇总极其复杂的经济关系生成简化表征。生产者与买家无需理解生产复杂性，仅需知晓价格——它将海量细节压缩为简化但可用的表征。

（2）民主政体的选举机制以类似方式将分散的舆论聚焦为集体法律与领导决策。

（3）人类学家詹姆斯·斯科特（James C. Scott）提出，所有国家（无论民主与否）均通过创建分类与系统化信息的官僚体系管理复杂社会。

市场、民主与官僚体系早在计算机出现前便依赖生成“有损”（不完整、选择性且不可逆）但有用的表征机制。这些表征既依赖又超越个体的知识与决策。

人类高度依赖这些文化与社会技术，但这些技术之所以可能，正因人类具备智能体的独特能力。人类与其他动物能够感知并作用于变化的外部世界，构建新世界模型，根据证据更新模型，并设计新目标。人类可通过语言或印刷创造并传递新信念与价值观。文化与社会技术以强大方式传递并组织这些信念与价值观，但若缺乏个体能力，这些技术将无从生效。没有创新，模仿便无意义。

部分人工智能系统（如机器人领域）确实试图实例化类似的真相发现能力。虽然原则上人工系统未来可能实现这一点，但目前所有此类系统均远未达到人类能力。我们可以讨论现在应对这些潜在未来人工智能系统的担忧程度，或如何应对其出现。但这与当前及近期大模型的影响问题截然不同。

三、大模型

与更具代理性的系统不同，大模型在过去几年取得显著且意外的进展，使其成为当前人工智能领域讨论的核心。这一进展甚至引发“扩展论”主张。然而，大模型与智能体存在本质差异，扩展无法改变这一点。

大模型并非智能体，而是以新方式结合文化与社会技术的特征。它们生成对庞杂人类生成信息的摘要，但这些系统不仅如图书馆目录、互联网搜索与维基百科般总结信息，还能以类似市场、国家与官僚体系的方式大规模重组与重构（或说“模拟”）信息表征。正如市场价格是对资源分配与使用的有损表征，政府统计与官僚分类不完美地表征人口特征，大模型亦是其训练数据集的“有损JPEG”。

但在代理式界面与拟人化伪装背后，大语言模型与大型多模态模型是统计模型：它们将人类生成的文本巨库分解为特定词汇，并估计长词序列的概率分布。这是对语言的不完美表征，但包含其摘要模式的大量信息。这使得大语言模型能够预测序列中的后续词汇，从而生成类人文本。

大模型不仅抽象化巨量人类文化，还允许对其执行多样化新操作：简单论点可被表达为华丽隐喻，繁复散文可被压缩为平实语言等等。此前因过于复杂、庞大与模糊而无法大规模操作的文化信息体已被驯化。

实践中，这些系统的最新版本不仅依赖人类生成与策划的文本与图像巨库，还依赖其他形式的人类判断与知识。特别是，系统依赖基于人类反馈的强化学习（RLHF）和提示工程。即使是最新的“思维链”模型，也通常始于与人类用户的对话。

四、挑战与机遇

1. 挑战

关于人工智能的辩论应聚焦于这些新文化与社会技术带来的挑战与机遇。我们现在拥有的这项技术，对书面与图像文化的影响堪比大规模市场对经济、大规模官僚对社会的影响，甚至可与印刷对语言的变革相提并论。那接下来将发生什么？如同过去的经济、组织与信息“通用技术”，这些系统将影响生产力，既补充人类工作，又自动化此前仅人类能完成的任务，还将影响分配，甚至改变资源获取格局。

或许它们还将产生更广泛的文化影响。我们尚不知这些影响是否会如印刷、市场或官僚体系般深远，但将其视为文化技术反而更能凸显其潜在影响。

同时，这些技术为重组信息与协调全球数百万人行动创造新可能。围绕大语言模型的经济、社会与政治后果的持续争论，延续了历史上对新文化与社科技的担忧与期待。引导这些争论需同时认识新旧论点的共性，并细致映射新技术的特殊性。

此类映射是社会科学的核心任务。社会科学对过去技术后果的研究可帮助我们思考人工智能的隐性社会影响，并探索通过重新设计人工智能系统增强积极影响、减少消极影响的路径。

但当前明显担忧是：大模型及相关技术可能取代“知识工作者”，以及“大模型将同质化还是分裂文化与社会”？在历史语境下思考这个问题极具启发性。

大模型的设计目标在于忠实复现文本、图像与视频序列的实际概率。其内在倾向是对训练数据中最常见情境最准确，对数据中罕见或全新情境最不准确，这可能导致大模型加剧这一同质化。

2. 机遇

另一方面，大模型或允许我们设计新方法，获取其总结的文化视角多样性。整合与平衡这些视角或提供解决复杂问题的更精细手段。实现此目标的一种途径是构建“类社会”生态——不同大模型编码的不同视角相互辩论，交叉融合生成混合视角，或识别出人类专业知识领域的空白。我们可能需要新系统，使大模型的反映与角色多样化，产生人类社会般的分布与多样性。

这类多样化系统对科学进步尤为重要。通过联结文本、音频与图像中的众多视角，大模型或可使我们发现其间前所未有的关联，造福科学与社会。

新文化与社会技术对经济关系的影响还存在更隐晦但有趣的路径。文化技术的发展引发信息生产者与分发系统间的根本经济张力：

（1）生产者与分发者的矛盾：分发者希望以低成本获取信息，生产者希望以低成本分发信息。

（2）数字化加剧矛盾：数字信息分发的便捷性已使此问题尖锐化。大模型处理可用信息的速度、效率与范围，使这些问题更为突出。集中权力可能使系统所有者更易通过效率攫取利益，牺牲他人权益。

3. 挑战与机遇之下的技术与政治问题

关键技术问题包括：大型模型的系统性缺陷可在多大程度上被修正？与基于人类知识工作者的系统缺陷相比，其优劣如何？

这些问题不应遮蔽关键政治问题：哪些行动者能够动员其利益？他们如何塑造技术与组织能力的混合结果？

技术界评论者常将这些问题简化为机器与人类的二元对抗：要么进步力量战胜卢德主义倾向，要么人类成功抵抗人工技术的非人侵蚀。这不仅误解了早于计算机出现的分配斗争复杂性，还忽视了未来进步可能采取的多种路径。

在早期社会与文化技术案例中，一系列规范与监管制度逐步形成以调和其影响。然而，这些制衡力量非自发形成，而是技术内外行动者协同努力的结果。

五、展望未来

通用人工智能叙事（即将大模型视为超级智能体）在科技界内外被推广，既被人工智能乐观主义者也被担忧者所采用。这一叙事误解了这些模型的本质及其与过去技术变革的关系。更重要的是，它转移了人们对这些技术真实问题与机遇的注意力，并忽视历史教训对权衡利弊的指导意义。

未来可能存在更接近智能体的假设未来人工智能系统，但大模型显然并非此类系统。大模型和图书馆卡片目录或互联网这些技术一样，属于文化与社会技术发展长河中的一环。

社会科学已详细探索这一历史，形成对过去技术动荡的独特理解。计算机科学与工程学同社会科学的紧密合作，将帮助我们理解这段历史并应用其教训：大模型将导致文化同质化还是碎片化？它们将强化还是削弱人类发现的社会制度？在此过程中谁将获益，谁将受损？

这些紧迫问题在以大模型类比人类代理的辩论中难以聚焦，改变对于人工智能的争论框架将有助于促进研究。

若计算机科学家与社会科学学者均理解大模型仅是（但也是）新文化与社会技术，双方将结合专长更易协作。计算机科学家可将其对系统机制的深度理解，与社会科学者对过去大规模系统如何重塑社会的知识结合，拓展现有研究议程并发现新方向。

此外，让争论远离“机器接管”的生存恐惧与“人人拥有完美人工助手”的乌托邦承诺，大模型的实际政策后果必将不同。

以这种思路，工程师与计算机科学家们已意识到大模型的偏见问题，并思考其与伦理正义的关系。他们需更进一步追问：这些系统将如何影响资源分配？其对社会的极化与整合有何实际后果？能否开发增强而非抑制人类创造力的大模型？

回答这些问题需兼具社会科学与工程学理解。将人工智能的辩论从代理转向文化与社会技术，是构建这种跨学科理解的关键第一步。