主播
节目简介
来源：小宇宙
本报告《When AI Builds itself》详细分析了人工智能（AI）在自主设计和开发其后续系统（即“递归自我改进”）方面的最新进展及其深远影响。根据 Anthropic 提供的内部数据与行业基准，AI 正在从单纯的辅助工具演变为能够承担大部分开发任务的自主智能体。
关键结论如下：
* 开发效率呈指数级增长： 截至 2026 年第二季度，开发人员的人均产出代码量比 2024 年增长了 8 倍，Anthropic 超过 80% 的生产代码现由 Claude 自主编写。
* 任务复杂度突破： AI 能够处理的任务时长持续翻倍。2024 年仅能处理 4 分钟的任务，到 2026 年已能可靠地处理 12 小时的复杂任务，预计 2027 年将达到周级别的任务处理能力。
* 从执行到决策的转变： 虽然人类在“研究品味”和目标设定方面仍具优势，但 AI 在代码优化、漏洞识别及实验设计上的表现已达到甚至超越人类水平。
* 治理挑战迫在眉睫： 递归自我改进可能加速技术失控的风险。建立全球协调的核查机制和潜在的开发暂停选项，对于确保人类在 AI 飞跃式发展中保持控制力至关重要。
AI 开发模式的演进历程
AI 的开发正迅速从人力驱动向 AI 自主驱动转型。下表概述了这一演进阶段：
AI 能力加速的外部实证
公共基准测试显示，AI 系统的能力提升速度正在从“每 7 个月翻倍”加速至“约每 4 个月翻倍”。
1. 长时任务处理能力
* 2024 年 3 月 (Claude Opus 3)： 可完成约 4 分钟的人类水平软件任务。
* 2025 年 (Claude Sonnet 3.7)： 可处理 1.5 小时的任务。
* 2026 年 (Claude Opus 4.6)： 可处理 12 小时的任务。
* 预测： 2027 年 AI 系统将能够处理需要人类数周时间才能完成的复杂任务。
2. 基准测试的饱和情况
* SWE-bench (软件工程)： 在两年内从个位数得分跃升至接近 100% 饱和。
* CORE-Bench (研究复现)： 衡量 AI 复现现有研究成果的能力。AI 系统的成功率从 2024 年的 20% 提升至 15 个月后的完全饱和。
* METR 评估： 证实 Claude Mythos Preview 的连续工作时间至少可达 16 小时，达到了目前测量手段的极限。
Anthropic 内部实证分析：AI 开发 AI 的现状
Anthropic 的内部数据揭示了 AI 在工程和研究领域对人类工作的深度替代。
1. 软件工程的全面自动化
* 代码编写： 截至 2026 年 5 月，Anthropic 合并到生产代码库中的代码量有 80% 以上由 Claude 编写。
* 生产力跃升： 2026 年第二季度，人均日均合并代码量是 2024 年的 8 倍。这主要源于人类角色从“打字者”转变为“指挥者和审核者”。
* 长尾任务处理： AI 擅长处理人类难以应对的大规模背景任务。例如，Claude 在一个月内修复了 800 多个 API 错误，将该类错误减少了千倍。据估计，人类完成此项工作需花费 4 年。
2. 代码质量与审核
* 成功率： 在最开放的任务中，Claude 的成功率从半年前的 26% 飙升至 2026 年 5 月的 76%。
* 自我审核： 自动化 Claude 审核器已取代部分人工，能够识别 1/3 导致线上事故的潜在漏洞。目前，AI 编写的代码质量已与顶尖人类工程师持平，预计一年内将实现超越。
3. 科研能力的突破
* 实验优化： 在优化训练代码的测试中，Claude Mythos Preview 实现了 52 倍的增速，远超 2025 年的 3 倍。相比之下，资深研究员在相同任务上通常仅能实现 4 倍增速。
* 端到端研究： 在 AI 安全研究（弱模型监督强模型）的实验中，Claude 驱动的智能体在 800 小时内解决了 97% 的任务差距，人类干预仅限于设定目标和评分标准。
* 研究决策： 在复杂调查问题的“下一步决策”测试中，Claude Mythos Preview 的决策优于人类的比例从 51% (Opus 4.5) 提升至 64%。
未来发展的三种情景展望
随着递归自我改进的推进，未来可能呈现以下三种走向：
情景一：趋势停滞（S 曲线拐点）
* 特征： 由于算法架构（如 Transformer）的收益递减、电力供应限制或计算资源短缺，AI 发展进入平台期。
* 影响： 现有能力将在全球范围内扩散。例如，"Project Glasswing" 揭示 AI 已能识别全球关键系统中的万余个高危漏洞，安全重点将转向快速修补。
情景二：持续的复合效率增益
* 特征： AI 极大程度地自动化了开发过程，但人类保留最终研究方向的设定权和结果评判权。
* 影响： 组织效率发生革命。百人规模的公司可能具备十万人的产出能力。然而，这将面临“阿姆达尔定律”（Amdahl's Law）的限制，即未被加速的部分（如人类审核速度）将成为整体进度的瓶颈。
情景三：全面递归自我改进
* 特征： AI 系统具备转型性的人类创造力，能够全自主设计并训练其后继者。
* 影响： AI 发展的速度仅受计算资源限制。AI 可能在科学领域引发连锁革命。最大的不确定性在于“对齐问题”——模型的不对齐可能在迭代中复合放大，导致人类最终丧失对系统的控制。
结论与行动建议
递归自我改进不仅是技术的进步，更是权力的转移。为应对潜在风险，报告提出以下建议：
1. 建立全球协调机制： 实现“可验证的暂停或放缓”需要跨实验室、跨国家的合作。
2. 开发核查基础设施： 鉴于 AI 训练的隐蔽性，必须开发出能够检测和验证全球 AI 研发状态的技术手段，防止坏账者通过隐秘研发取得领先。
3. 社会化决策： 涉及全人类命运的 AI 发展节奏不应仅由企业决定。政策制定者、研究界和公民社会必须参与到关于递归自我改进的辩论与决策中。
4. 关注物理瓶颈： 尽管智能可以递归提升，但在医疗临床试验、法律选举和人类关系等领域，物理世界和治理结构的限制（瓶颈）仍将决定社会感知的最终节奏。
📺播客说明
本播客采用虚拟主持人进行播客翻译的音频制作，因此有可能会有一些地方听起来怪怪的。如想了解更多信息，请关注微信公众号"AI西经东译"获取AI最新资讯。如有后续想要听的其他外文播客，也欢迎联系微信：mayday2303。
关键结论如下：
* 开发效率呈指数级增长： 截至 2026 年第二季度，开发人员的人均产出代码量比 2024 年增长了 8 倍，Anthropic 超过 80% 的生产代码现由 Claude 自主编写。
* 任务复杂度突破： AI 能够处理的任务时长持续翻倍。2024 年仅能处理 4 分钟的任务，到 2026 年已能可靠地处理 12 小时的复杂任务，预计 2027 年将达到周级别的任务处理能力。
* 从执行到决策的转变： 虽然人类在“研究品味”和目标设定方面仍具优势，但 AI 在代码优化、漏洞识别及实验设计上的表现已达到甚至超越人类水平。
* 治理挑战迫在眉睫： 递归自我改进可能加速技术失控的风险。建立全球协调的核查机制和潜在的开发暂停选项，对于确保人类在 AI 飞跃式发展中保持控制力至关重要。
AI 开发模式的演进历程
AI 的开发正迅速从人力驱动向 AI 自主驱动转型。下表概述了这一演进阶段：
AI 能力加速的外部实证
公共基准测试显示，AI 系统的能力提升速度正在从“每 7 个月翻倍”加速至“约每 4 个月翻倍”。
1. 长时任务处理能力
* 2024 年 3 月 (Claude Opus 3)： 可完成约 4 分钟的人类水平软件任务。
* 2025 年 (Claude Sonnet 3.7)： 可处理 1.5 小时的任务。
* 2026 年 (Claude Opus 4.6)： 可处理 12 小时的任务。
* 预测： 2027 年 AI 系统将能够处理需要人类数周时间才能完成的复杂任务。
2. 基准测试的饱和情况
* SWE-bench (软件工程)： 在两年内从个位数得分跃升至接近 100% 饱和。
* CORE-Bench (研究复现)： 衡量 AI 复现现有研究成果的能力。AI 系统的成功率从 2024 年的 20% 提升至 15 个月后的完全饱和。
* METR 评估： 证实 Claude Mythos Preview 的连续工作时间至少可达 16 小时，达到了目前测量手段的极限。
Anthropic 内部实证分析：AI 开发 AI 的现状
Anthropic 的内部数据揭示了 AI 在工程和研究领域对人类工作的深度替代。
1. 软件工程的全面自动化
* 代码编写： 截至 2026 年 5 月，Anthropic 合并到生产代码库中的代码量有 80% 以上由 Claude 编写。
* 生产力跃升： 2026 年第二季度，人均日均合并代码量是 2024 年的 8 倍。这主要源于人类角色从“打字者”转变为“指挥者和审核者”。
* 长尾任务处理： AI 擅长处理人类难以应对的大规模背景任务。例如，Claude 在一个月内修复了 800 多个 API 错误，将该类错误减少了千倍。据估计，人类完成此项工作需花费 4 年。
2. 代码质量与审核
* 成功率： 在最开放的任务中，Claude 的成功率从半年前的 26% 飙升至 2026 年 5 月的 76%。
* 自我审核： 自动化 Claude 审核器已取代部分人工，能够识别 1/3 导致线上事故的潜在漏洞。目前，AI 编写的代码质量已与顶尖人类工程师持平，预计一年内将实现超越。
3. 科研能力的突破
* 实验优化： 在优化训练代码的测试中，Claude Mythos Preview 实现了 52 倍的增速，远超 2025 年的 3 倍。相比之下，资深研究员在相同任务上通常仅能实现 4 倍增速。
* 端到端研究： 在 AI 安全研究（弱模型监督强模型）的实验中，Claude 驱动的智能体在 800 小时内解决了 97% 的任务差距，人类干预仅限于设定目标和评分标准。
* 研究决策： 在复杂调查问题的“下一步决策”测试中，Claude Mythos Preview 的决策优于人类的比例从 51% (Opus 4.5) 提升至 64%。
未来发展的三种情景展望
随着递归自我改进的推进，未来可能呈现以下三种走向：
情景一：趋势停滞（S 曲线拐点）
* 特征： 由于算法架构（如 Transformer）的收益递减、电力供应限制或计算资源短缺，AI 发展进入平台期。
* 影响： 现有能力将在全球范围内扩散。例如，"Project Glasswing" 揭示 AI 已能识别全球关键系统中的万余个高危漏洞，安全重点将转向快速修补。
情景二：持续的复合效率增益
* 特征： AI 极大程度地自动化了开发过程，但人类保留最终研究方向的设定权和结果评判权。
* 影响： 组织效率发生革命。百人规模的公司可能具备十万人的产出能力。然而，这将面临“阿姆达尔定律”（Amdahl's Law）的限制，即未被加速的部分（如人类审核速度）将成为整体进度的瓶颈。
情景三：全面递归自我改进
* 特征： AI 系统具备转型性的人类创造力，能够全自主设计并训练其后继者。
* 影响： AI 发展的速度仅受计算资源限制。AI 可能在科学领域引发连锁革命。最大的不确定性在于“对齐问题”——模型的不对齐可能在迭代中复合放大，导致人类最终丧失对系统的控制。
结论与行动建议
递归自我改进不仅是技术的进步，更是权力的转移。为应对潜在风险，报告提出以下建议：
1. 建立全球协调机制： 实现“可验证的暂停或放缓”需要跨实验室、跨国家的合作。
2. 开发核查基础设施： 鉴于 AI 训练的隐蔽性，必须开发出能够检测和验证全球 AI 研发状态的技术手段，防止坏账者通过隐秘研发取得领先。
3. 社会化决策： 涉及全人类命运的 AI 发展节奏不应仅由企业决定。政策制定者、研究界和公民社会必须参与到关于递归自我改进的辩论与决策中。
4. 关注物理瓶颈： 尽管智能可以递归提升，但在医疗临床试验、法律选举和人类关系等领域，物理世界和治理结构的限制（瓶颈）仍将决定社会感知的最终节奏。
📺播客说明
本播客采用虚拟主持人进行播客翻译的音频制作，因此有可能会有一些地方听起来怪怪的。如想了解更多信息，请关注微信公众号"AI西经东译"获取AI最新资讯。如有后续想要听的其他外文播客，也欢迎联系微信：mayday2303。
外观
