01 / 从 AI 到 SI
SI 是超级智能的简称。在讨论人工系统时，也常使用 ASI。它描述的是在广泛认知领域，显著超越人类能力的系统。这里既强调“强”，也强调“广”。
一个系统在棋类、数学题或某项测试上胜过人类，只能证明它在相应条件下的能力。要讨论通用超级智能，还需要检查它跨任务、跨领域的表现。
人工智能
覆盖多种实现智能任务的技术，不预设通用程度。
通用人工智能
强调广泛任务中的能力与迁移，门槛仍有不同定义。
超级智能
进一步强调广泛而显著的超人类能力。
研究者通常从能力深度、通用广度与自主程度三个维度描述智能系统。
通向 AGI 的能力分级框架（新窗口打开）02 / 智能不是一把尺子
理解一个系统，可以先拆开三个问题。把它们混在一起，很容易把一种进步误认为另一种进步。
能力深度：做得有多好？
判断任务表现，需要明确测试条件、评分方法与人类比较基线。不同难度、不同资源预算下的结果，不能直接放在一起比较。
通用广度：能做多少种事？
在熟悉题型上表现优秀，与在陌生领域中学习、迁移和解决问题，是不同的证据。通用性要求我们把视线移出单一测试。
自主程度：能独立走多远？
一个系统可以在人的密切指导下能力很强，也可能被允许自主运行很长时间。自主性、能力和安全性需要分别分析。
通向 AGI 的能力分级框架（新窗口打开）如何衡量通用认知能力（新窗口打开）03 / 如何评估智能的进展？
能力评估关注系统能完成哪些任务、表现有多稳定，以及能否把已有知识迁移到新的情境。
- 覆盖面：评估是否包含多种认知能力，而非仅选择系统最擅长的任务？
- 比较方式：是否提供清楚的人类基线、资源条件，以及未用于训练的测试材料？
- 稳定程度：是否报告重复测试、失败案例和陌生环境中的表现？
- 长任务表现：目标推进过程中，能否处理错误、保持约束，并接受监测与干预？
- 可复现性：测试方法、实验条件与结果是否足够清晰，让其他研究者可以重复实验？
04 / 潜力与风险，一起看
它为什么值得关注？
更强的人工智能有望帮助科学发现、复杂问题求解与知识工作。它也可能改变组织工作和分配资源的方式。
面向 AGI 的原则与使命（新窗口打开）能力与控制如何协同进步
系统可能误解目标、越过授权边界，或被用于有害目的。对齐研究、权限限制、监测与干预，需要在具体威胁和使用条件下接受检验。
安全研究通过能力评估、持续监测与风险缓解，将这些问题融入模型研发和部署流程。
智能体的控制与纵深防御（新窗口打开）2026 年 8 月风险报告（新窗口打开）05 / 常见问题
AGI 和 ASI 的区别是什么？
AGI 通常强调广泛任务中的通用能力；ASI 进一步强调广泛而显著的超人类能力。具体门槛仍有争议。通向 AGI 的能力分级框架（新窗口打开）
基准测试衡量什么？
基准测试衡量系统在一组明确任务上的表现。跨任务的测试、人类基线、重复实验与真实环境评估，共同帮助研究者了解系统的能力。如何衡量通用认知能力（新窗口打开）
什么是安全超级智能研究？
这类研究将能力发展与对齐、监测、权限控制结合起来，探索如何让更强的智能系统按照人类意图行动，并保持可控。长任务模型时代的安全与对齐（新窗口打开）智能体的控制与纵深防御（新窗口打开）
哪些因素影响超级智能的发展？
能力如何增长、技术路线如何演进，以及研究者如何定义和衡量进展，都会影响超级智能的发展路径。