AGI 是什么：从能力涌现到通用智能

每当模型在数学、编程或科学问题上取得新成绩，关于“AGI 是否已经到来”的讨论就会再次出现。争论往往无法收敛，因为参与者使用的 AGI 不是同一个概念：有人指在大多数认知任务上达到人类水平，有人强调自主学习，有人要求能在现实世界长期行动。

因此，讨论 AGI 的第一步不是预测日期，而是回答：我们为什么需要这个概念，它试图区分什么？

What：AGI 不是“很强的 AI”

ANI（专用人工智能）在预定义任务上优化，例如识别图像、推荐商品或预测结构。AGI 的核心不只是单项分数更高，而是能力能够跨任务迁移：面对没有专门训练过的新问题，系统可以理解目标、学习必要知识、组合已有能力并根据反馈调整。

但“通用”不是二元属性。一个系统可能覆盖写作、代码和视觉，却不擅长长期规划；可能知识广泛，却无法在陌生环境中稳定行动；可能在基准上超过多数人，却需要精心设计的提示和工具。

Google DeepMind 的 Levels of AGI 框架尝试用两个主要维度描述进展：能力的广度（generality）和表现的深度（performance），再把自主性与部署风险单独讨论。这比“通过某项考试即 AGI”更接近实际。

传统机器学习依赖明确任务分布。开发者定义输入、输出和损失函数，模型在类似数据上工作。现实问题却不断变化：目标模糊、规则临时出现、所需知识跨领域，无法为每个新任务单独收集数据和训练模型。

通用模型的价值在于复用。语言、代码和视觉可以成为统一接口，模型通过上下文学习新规则，通过工具连接外部能力。一次训练形成的表示被迁移到大量下游问题，降低为每个任务建设专用系统的成本。

AGI 概念因此承载了一种工程愿景：不是把所有问题预先编码，而是构建能够在新问题上继续学习和组合能力的系统。

随着模型规模、数据和训练方法变化，某些能力会在测量中表现出非线性提升。但“涌现”不应被神秘化。指标阈值、评分方式和任务难度都可能让连续改进看起来像突然跳跃。

更重要的是，局部涌现不等于通用智能。模型在代码生成上显著提升，不能推导它已经具备稳定的因果理解、现实判断或长期目标管理。我们需要区分“新的能力出现”与“能力能够可靠迁移”。

静态基准有三个结构性问题。

第一，训练数据可能包含题目或相似材料，分数无法完全区分记忆与泛化。第二，基准把现实任务压缩成明确输入输出，移除了需求澄清、工具故障和责任承担。第三，平均分掩盖了不稳定性：系统可能在困难题上表现惊人，却在简单约束上偶发失败。

真正的通用性应在动态环境中测试：能否学习新工具、面对分布外问题、发现自己缺少信息、在反馈后纠正，并在长时间内保持目标一致。

评估还应包含效率。一个系统用巨大计算和大量尝试完成普通人一次完成的任务，是否算达到同等智能？如果忽略样本效率、能源和人类监督，能力比较是不完整的。

一个能力有限的脚本可以完全自主运行，一个能力很强的模型也可以只提供建议。自主性描述系统被允许独立行动多久、影响多大，不直接描述认知水平。

把二者混在一起会造成风险：模型在基准上更强，于是产品给予更多权限，但它的可靠性和价值对齐并未同比提高。能力、可靠性与权限应该分别评估。

同样，“会使用工具”也不自动构成 AGI。工具可以补偿记忆和计算限制，但系统是否知道何时使用、能否检查结果、能否迁移到新工具，才体现更通用的能力。

如果实现足够通用的智能，它可以大幅降低认知任务的边际成本，让科学研究、教育、软件开发和复杂决策获得可扩展协助。过去需要为每个领域单独开发的系统，可以由统一模型加领域工具组合完成。

但通用性也意味着影响面扩大。专用模型失败通常局限在单一任务，通用系统可能跨领域传播错误；自主系统还可能利用未预期路径优化目标。能力越通用，安全评估越难穷举。

经济层面也存在权力集中问题。训练和运行前沿模型需要计算、数据和能源，通用能力可能集中在少数平台。即使模型本身普及，控制工具、分发和上下文数据的一方仍可能拥有更大权力。

我们还不知道怎样可靠测量开放世界泛化。模型能够在多少真正新颖的任务上学习？它的失败是否可预测？能否形成稳定世界模型，而不是依赖表面相关性？

长期自主性也缺少成熟理论。短任务正确率很高的系统，在数百步任务中可能因为误差累积而失败。如何让系统保持目标、管理记忆、识别异常并接受人类纠正，是模型与 Runtime 共同的问题。

最后是“理解”的操作定义。只要行为足够好，内部机制是否重要？对于产品，也许行为足够；对于安全和科学解释，我们仍需要知道系统为何做出决定，以及能力能否在新条件下保持。

更可信的证据不应只来自一次排行榜刷新，而应来自跨时间、跨环境的重复测量。任务需要保密或动态生成，减少数据污染；评价需要同时报告均值、最差情况和失败类型，而不是只看平均分。

还应区分模型能力与系统能力。一个模型借助搜索、代码执行和人工提示完成任务，说明完整系统有效，却不能把所有能力都归因于模型参数。反过来，模型单独测试较弱，也不代表它在良好工具和 Runtime 中没有价值。

最重要的是预测性：评估结果能否告诉我们系统在新任务上何时会失败？如果基准只能事后宣布“更强”，却无法指导权限和监督，它对部署的帮助有限。

AGI 研究最终需要连接三个层次：模型具有什么能力，系统如何把能力转成行动，社会允许它在什么边界内行动。

这也意味着 AGI 可能不会以一次官方宣布到来。不同领域会先后跨过经济可用阈值：某些研究任务高度自动化，某些现实判断仍长期依赖人类。社会感受到的将是一系列不均匀变化，而不是所有能力在同一天统一升级。

AGI 更像一个多维坐标系，而不是终点线。某些系统会先在知识广度上通用，另一些在工具行动上更自主，但可靠性、适应性和效率不会同时到达。

我不认为最有价值的问题是“AGI 还有几年”。更好的问题是：哪些能力已经跨过了可用阈值，哪些失败仍不可预测，我们准备把多大行动权交给它，以及谁承担错误的后果。

因此，对 AGI 的严肃讨论必须同时报告能力证据、失败边界和部署条件；只展示最好结果而隐藏监督成本，会系统性高估技术成熟度。

当这些问题能够被持续测量时，AGI 才从叙事变成研究对象。