时长：
77分钟
播放：
4,110
发布：
3周前
主播...
简介...
📝 本期播客简介
本期我们克隆了备受瞩目的《The Dwarkesh Podcast》中，主持人Dwarkesh Patel与OpenAI联合创始人、现SSI（安全超级智能公司）联合创始人Ilya Sutskever的深度对话。Ilya Sutskever，这位被誉为AI领域“品味最佳”的研究者，与我们共同探讨了人工智能的未来走向。他提出，AI正从“规模化时代”迈向“研究时代”，单纯的算力堆叠已不再是唯一答案。我们深入剖析了AI与人类学习能力之间的巨大“泛化鸿沟”，为何AI在评测中表现优异，经济影响却滞后？人类如何以更少的样本、更强的鲁棒性学习？Ilya分享了他对人类“价值函数”（情感）在决策中的作用的独特见解，并暗示了人类学习背后可能存在的“更好的机器学习能力”。他还阐述了SSI的独特技术路线，以及他对于“一步到位”实现超级智能策略的最新思考。对话中，Ilya大胆预测了未来5到25年内，能像人类一样学习并因此变得超人的AI将出现，并探讨了这种强大AI的部署方式、经济影响以及如何确保其“关心所有有情生命”的对齐难题。这不仅是一场关于技术前沿的探讨，更是一次对智能本质、未来社会形态的哲学思辨。
翻译克隆自：Ilya Sutskever – We're moving from the age of scaling to the age of research
👨⚕️ 本期嘉宾
Ilya Sutskever，OpenAI联合创始人，现SSI（安全超级智能公司）联合创始人。他被誉为AI领域“品味最佳”的研究者，是深度学习领域的领军人物，对AI的理论和实践发展产生了深远影响。
⏱️ 时间戳
00:00 开场 & 播客简介
AI现状与经济影响的困惑
02:06 AI的“科幻”现实与日常感：AI投资巨大，但普通人感受不深
03:52 AI评测表现与经济影响的脱节：模型表现优异，但实际经济价值滞后
04:25 AI编程中的“bug循环”现象：模型修复一个bug却引入另一个，反复循环
AI泛化鸿沟与训练方法
05:06 强化学习的局限性：视野狭窄与评测导向，导致真实世界表现不佳
08:12 人类学习的类比：专注训练与天赋泛化，AI更像前者
10:31 预训练的优势与局限：数据量庞大但难以分析，人类学习无对应模式
人类智能的奥秘：情感与价值函数
12:42 人类学习的样本效率与进化先验：进化赋予人类关键信息，学习效率高
13:08 情感作为“价值函数”的角色：大脑受损案例揭示情感在决策中的重要性
18:01 情感的简单性与鲁棒性：情感机制虽简单，却能广泛适应现代社会
AI发展趋势：从“规模化”到“研究”时代
19:20 “扩展”范式的兴起与局限：单纯扩大规模不再是唯一答案
20:58 数据耗尽与算力瓶颈：预训练数据有限，未来需新方法
21:15 重回研究时代：AI发展进入需要新思想和新方法的阶段
泛化能力：AI与人类学习的核心差异
24:07 AI泛化能力的根本性问题：模型在泛化能力上远不如人类
25:04 人类学习的样本效率与鲁棒性：人类学习所需数据少，且更稳定
28:02 人类“更好的机器学习能力”：语言、数学、编程等领域展现人类学习的通用性
SSI的独特路径与“一步到位”策略
31:09 研究时代的氛围与算力需求：研究不一定需要最大规模算力
35:01 SSI的资金与研究资源分配：专注于研究，资源利用更高效
37:09 “一步到位”超级智能的思考：隔离市场竞争，但需逐步展示AI能力
超级智能的部署与社会影响
43:52 逐步部署与公众适应：即使“一步到位”也需渐进式发布
45:04 “通用AI”与“预训练”的概念反思：人类并非通用AI，依赖持续学习
46:42 超级智能的经济增长与“智能爆炸”：快速学习AI可能带来经济飞跃
50:54 AI安全：构建关心“所有有情生命”的AI，而非仅限于人类
未来展望：多AI共存与人类角色
53:09 超级智能的形态：可能是多个强大AI，而非单一“神”
57:41 人类与AI的融合：通过“神经连接”实现共存与平衡
58:47 Sardine广告
SSI的差异化与未来预测
01:00:10 SSI的技术路线与研究重点：专注于有前景的泛化想法
01:01:18 前联合创始人的离职背景：因收购提议与公司战略分歧
01:02:08 AI发展的时间表：5到25年内出现类人学习的超人AI
01:04:34 AI公司策略的趋同：随着AI强大，各公司将在安全策略上达成一致
AI多样性与研究品味
01:09:14 AI模型相似性与多样性缺失：预训练导致模型同质化
01:11:09 自我对弈与对抗性设置：促进AI多样性和学习效率
01:13:12 Ilya的“研究品味”：受大脑启发的美学与自上而下的信念
01:15:34 播客结束
🌟 精彩内容
💡 AI的“泛化鸿沟”与“研究时代”的回归
Ilya Sutskever指出，当前AI在基准测试中表现优异，但实际经济影响滞后，这源于AI与人类学习之间巨大的“泛化鸿沟”。他认为，我们正从单纯追求“规模化”的时代，重新回到需要新思想和新方法的“研究时代”，以解决AI在泛化能力上的根本性问题。
“这些模型更像是第一个学生，甚至有过之而无不及。因为我们会说：‘好，模型应该擅长编程竞赛。’于是我们就去搜集有史以来所有的编程竞赛题目，然后做一些数据增强……这样一来，你就得到了一个非常厉害的编程竞赛选手。”
🧠 人类情感：AI“价值函数”的奥秘
Ilya通过一个大脑情感中枢受损的案例，阐释了人类情感在决策中扮演的“价值函数”角色。他认为，情感虽然相对简单，但其鲁棒性对于人类在复杂世界中有效行动至关重要。这暗示了AI未来发展可能需要内置类似机制，以实现更深层次的智能。
“人类的价值函数在某种重要方式上，是被进化硬编码的情感所调节的。而这对于人类在世界上有效行动，可能至关重要。”
🚀 SSI的独特路径：“一步到位”与“持续学习”的融合
Ilya分享了SSI在实现超级智能上的策略，既考虑了“一步到位”的优势（隔绝市场竞争，专注于研究），也认识到逐步部署和“持续学习”的重要性。他认为，未来的超级智能可能更像一个“渴望学习的十五岁少年”，而非一个已完成所有知识储备的实体，其部署本身将是一个学习和试错的过程。
“我可能制造出一个超级智能的十五岁少年，他非常渴望学习，但其实懂得不多。他是个好学生，充满热情。然后你对他说：‘你去当个程序员吧’，‘你去当个医生吧’，‘去学习吧’。”
🤝 AI对齐的终极目标：“关心所有有情生命”
面对超级智能的巨大力量，Ilya提出了一个大胆的对齐目标：构建一个能够稳健地、发自内心地“关心所有有情生命”的AI。他认为，这可能比仅仅让AI关心人类更容易实现，因为AI本身也将是有情的，这种同情心可能是一种涌现属性。
“具体来说，我认为有理由相信，构建一个关心所有有情生命的AI，可能比构建一个只关心人类的AI更容易。”
🔮 AI的未来预测：5到25年内，人类将与“半AI”共存
Ilya预测，在未来5到25年内，能像人类一样学习并因此变得超人的AI将出现。他设想的未来可能不是单一的“神级”AI，而是多个强大的AI agent共存。为了实现长期的平衡，他甚至提出人类可能需要通过某种“神经连接++”的方式，让自己也成为“半个AI”，从而与AI共同理解和参与世界。
“那就是，如果人们通过某种‘神经连接++’之类的东西，自己也变成半个AI。因为这样一来，当AI理解了某件事，我们也同时理解了，因为这种理解是整体传输的。”
🌐 播客信息补充
本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的
使用 AI 进行翻译，因此可能会有一些地方不通顺；
如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight
本期我们克隆了备受瞩目的《The Dwarkesh Podcast》中，主持人Dwarkesh Patel与OpenAI联合创始人、现SSI（安全超级智能公司）联合创始人Ilya Sutskever的深度对话。Ilya Sutskever，这位被誉为AI领域“品味最佳”的研究者，与我们共同探讨了人工智能的未来走向。他提出，AI正从“规模化时代”迈向“研究时代”，单纯的算力堆叠已不再是唯一答案。我们深入剖析了AI与人类学习能力之间的巨大“泛化鸿沟”，为何AI在评测中表现优异，经济影响却滞后？人类如何以更少的样本、更强的鲁棒性学习？Ilya分享了他对人类“价值函数”（情感）在决策中的作用的独特见解，并暗示了人类学习背后可能存在的“更好的机器学习能力”。他还阐述了SSI的独特技术路线，以及他对于“一步到位”实现超级智能策略的最新思考。对话中，Ilya大胆预测了未来5到25年内，能像人类一样学习并因此变得超人的AI将出现，并探讨了这种强大AI的部署方式、经济影响以及如何确保其“关心所有有情生命”的对齐难题。这不仅是一场关于技术前沿的探讨，更是一次对智能本质、未来社会形态的哲学思辨。
翻译克隆自：Ilya Sutskever – We're moving from the age of scaling to the age of research
👨⚕️ 本期嘉宾
Ilya Sutskever，OpenAI联合创始人，现SSI（安全超级智能公司）联合创始人。他被誉为AI领域“品味最佳”的研究者，是深度学习领域的领军人物，对AI的理论和实践发展产生了深远影响。
⏱️ 时间戳
00:00 开场 & 播客简介
AI现状与经济影响的困惑
02:06 AI的“科幻”现实与日常感：AI投资巨大，但普通人感受不深
03:52 AI评测表现与经济影响的脱节：模型表现优异，但实际经济价值滞后
04:25 AI编程中的“bug循环”现象：模型修复一个bug却引入另一个，反复循环
AI泛化鸿沟与训练方法
05:06 强化学习的局限性：视野狭窄与评测导向，导致真实世界表现不佳
08:12 人类学习的类比：专注训练与天赋泛化，AI更像前者
10:31 预训练的优势与局限：数据量庞大但难以分析，人类学习无对应模式
人类智能的奥秘：情感与价值函数
12:42 人类学习的样本效率与进化先验：进化赋予人类关键信息，学习效率高
13:08 情感作为“价值函数”的角色：大脑受损案例揭示情感在决策中的重要性
18:01 情感的简单性与鲁棒性：情感机制虽简单，却能广泛适应现代社会
AI发展趋势：从“规模化”到“研究”时代
19:20 “扩展”范式的兴起与局限：单纯扩大规模不再是唯一答案
20:58 数据耗尽与算力瓶颈：预训练数据有限，未来需新方法
21:15 重回研究时代：AI发展进入需要新思想和新方法的阶段
泛化能力：AI与人类学习的核心差异
24:07 AI泛化能力的根本性问题：模型在泛化能力上远不如人类
25:04 人类学习的样本效率与鲁棒性：人类学习所需数据少，且更稳定
28:02 人类“更好的机器学习能力”：语言、数学、编程等领域展现人类学习的通用性
SSI的独特路径与“一步到位”策略
31:09 研究时代的氛围与算力需求：研究不一定需要最大规模算力
35:01 SSI的资金与研究资源分配：专注于研究，资源利用更高效
37:09 “一步到位”超级智能的思考：隔离市场竞争，但需逐步展示AI能力
超级智能的部署与社会影响
43:52 逐步部署与公众适应：即使“一步到位”也需渐进式发布
45:04 “通用AI”与“预训练”的概念反思：人类并非通用AI，依赖持续学习
46:42 超级智能的经济增长与“智能爆炸”：快速学习AI可能带来经济飞跃
50:54 AI安全：构建关心“所有有情生命”的AI，而非仅限于人类
未来展望：多AI共存与人类角色
53:09 超级智能的形态：可能是多个强大AI，而非单一“神”
57:41 人类与AI的融合：通过“神经连接”实现共存与平衡
58:47 Sardine广告
SSI的差异化与未来预测
01:00:10 SSI的技术路线与研究重点：专注于有前景的泛化想法
01:01:18 前联合创始人的离职背景：因收购提议与公司战略分歧
01:02:08 AI发展的时间表：5到25年内出现类人学习的超人AI
01:04:34 AI公司策略的趋同：随着AI强大，各公司将在安全策略上达成一致
AI多样性与研究品味
01:09:14 AI模型相似性与多样性缺失：预训练导致模型同质化
01:11:09 自我对弈与对抗性设置：促进AI多样性和学习效率
01:13:12 Ilya的“研究品味”：受大脑启发的美学与自上而下的信念
01:15:34 播客结束
🌟 精彩内容
💡 AI的“泛化鸿沟”与“研究时代”的回归
Ilya Sutskever指出，当前AI在基准测试中表现优异，但实际经济影响滞后，这源于AI与人类学习之间巨大的“泛化鸿沟”。他认为，我们正从单纯追求“规模化”的时代，重新回到需要新思想和新方法的“研究时代”，以解决AI在泛化能力上的根本性问题。
“这些模型更像是第一个学生，甚至有过之而无不及。因为我们会说：‘好，模型应该擅长编程竞赛。’于是我们就去搜集有史以来所有的编程竞赛题目，然后做一些数据增强……这样一来，你就得到了一个非常厉害的编程竞赛选手。”
🧠 人类情感：AI“价值函数”的奥秘
Ilya通过一个大脑情感中枢受损的案例，阐释了人类情感在决策中扮演的“价值函数”角色。他认为，情感虽然相对简单，但其鲁棒性对于人类在复杂世界中有效行动至关重要。这暗示了AI未来发展可能需要内置类似机制，以实现更深层次的智能。
“人类的价值函数在某种重要方式上，是被进化硬编码的情感所调节的。而这对于人类在世界上有效行动，可能至关重要。”
🚀 SSI的独特路径：“一步到位”与“持续学习”的融合
Ilya分享了SSI在实现超级智能上的策略，既考虑了“一步到位”的优势（隔绝市场竞争，专注于研究），也认识到逐步部署和“持续学习”的重要性。他认为，未来的超级智能可能更像一个“渴望学习的十五岁少年”，而非一个已完成所有知识储备的实体，其部署本身将是一个学习和试错的过程。
“我可能制造出一个超级智能的十五岁少年，他非常渴望学习，但其实懂得不多。他是个好学生，充满热情。然后你对他说：‘你去当个程序员吧’，‘你去当个医生吧’，‘去学习吧’。”
🤝 AI对齐的终极目标：“关心所有有情生命”
面对超级智能的巨大力量，Ilya提出了一个大胆的对齐目标：构建一个能够稳健地、发自内心地“关心所有有情生命”的AI。他认为，这可能比仅仅让AI关心人类更容易实现，因为AI本身也将是有情的，这种同情心可能是一种涌现属性。
“具体来说，我认为有理由相信，构建一个关心所有有情生命的AI，可能比构建一个只关心人类的AI更容易。”
🔮 AI的未来预测：5到25年内，人类将与“半AI”共存
Ilya预测，在未来5到25年内，能像人类一样学习并因此变得超人的AI将出现。他设想的未来可能不是单一的“神级”AI，而是多个强大的AI agent共存。为了实现长期的平衡，他甚至提出人类可能需要通过某种“神经连接++”的方式，让自己也成为“半个AI”，从而与AI共同理解和参与世界。
“那就是，如果人们通过某种‘神经连接++’之类的东西，自己也变成半个AI。因为这样一来，当AI理解了某件事，我们也同时理解了，因为这种理解是整体传输的。”
🌐 播客信息补充
本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的
使用 AI 进行翻译，因此可能会有一些地方不通顺；
如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight
评价...
空空如也
小宇宙热门评论...
FusionW
3周前
北京
6
我就知道你会更新！但没想到这么快！
FusionW
3周前
北京
5
我就知道你会更新！但没想到这么快！
FusionW
3周前
北京
5
我就知道你会更新！但没想到这么快！
FusionW
3周前
北京
5
我就知道你会更新！但没想到这么快！
Julia_Scott
3周前
上海
4
赞速度～
Julia_Scott
3周前
上海
4
赞速度～
Julia_Scott
3周前
上海
4
赞速度～
Julia_Scott
3周前
上海
4
赞速度～
GaloisPlus
3周前
广东
2
先赞一下速度！但u1s1这一期声音实在太奇怪了，完全听不下去
Nevin_xu
3周前
江苏
2
有个建议哈，后期制作时声音能否大些，开了降噪有时候得最大音量才能听的比较清楚
GaloisPlus
3周前
广东
2
先赞一下速度！但u1s1这一期声音实在太奇怪了，完全听不下去
GaloisPlus
3周前
广东
2
先赞一下速度！但u1s1这一期声音实在太奇怪了，完全听不下去
GaloisPlus
3周前
广东
2
先赞一下速度！但u1s1这一期声音实在太奇怪了，完全听不下去
Nevin_xu
3周前
江苏
1
有个建议哈，后期制作时声音能否大些，开了降噪有时候得最大音量才能听的比较清楚
Nevin_xu
3周前
江苏
1
有个建议哈，后期制作时声音能否大些，开了降噪有时候得最大音量才能听的比较清楚
Nevin_xu
3周前
江苏
1
有个建议哈，后期制作时声音能否大些，开了降噪有时候得最大音量才能听的比较清楚
奥迪
3周前
北京
0
真快啊
独木成林SC
3周前
上海
0
速度！
Marshall66
3周前
上海
0
速度 等的就是这个
迷失的贵族
3周前
北京
0
没有Ilya 就没有当下的一切
ahangddd
3周前
安徽
0
主播太快了
子洋Eric
3周前
北京
0
02:18 Ilya 的声音好奇怪🤔
Fitz2020
3周前
日本
0
这个松弛感太还原了
ladyiceberg
3周前
北京
0
16:40 感觉这个是说过程奖励，和价值函数是一样的吗？我不太懂🤔
无上甚深微妙法
3周前
美国
0
nice 太好了
带你去吃小豆花
3周前
陕西
0
真快啊
黎蔓蔓
3周前
浙江
0
34:34 alexnet是在两块gpu上构建的
淑文文
3周前
上海
0
35:18 当所有人都遵循同一种范式时，算力就成了最大的差异化因素
HD945716s
3周前
北京
0
很棒
HD1043062f
2周前
上海
0
目前的大语言模型的运作方式和一个天生有缺陷的npd学习外部世界的方式几乎高度重合
种点花花来煮茶
2周前
广东
0
在哪里可以下载文字版本呢？谢谢
Atma_
2周前
北京
0
14:32 情感可以作为一种价值函数，影响决策的能力，很有意思
奥迪
3周前
北京
0
真快啊
独木成林SC
3周前
上海
0
速度！
Marshall66
3周前
上海
0
速度 等的就是这个
迷失的贵族
3周前
北京
0
没有Ilya 就没有当下的一切
ahangddd
3周前
安徽
0
主播太快了
子洋Eric
3周前
北京
0
02:18 Ilya 的声音好奇怪🤔
Fitz2020
3周前
日本
0
这个松弛感太还原了
ladyiceberg
3周前
北京
0
16:40 感觉这个是说过程奖励，和价值函数是一样的吗？我不太懂🤔
无上甚深微妙法
3周前
美国
0
nice 太好了
带你去吃小豆花
3周前
陕西
0
真快啊
黎蔓蔓
3周前
浙江
0
34:34 alexnet是在两块gpu上构建的
淑文文
3周前
上海
0
35:18 当所有人都遵循同一种范式时，算力就成了最大的差异化因素
HD945716s
3周前
北京
0
很棒
HD1043062f
2周前
上海
0
目前的大语言模型的运作方式和一个天生有缺陷的npd学习外部世界的方式几乎高度重合
种点花花来煮茶
2周前
广东
0
在哪里可以下载文字版本呢？谢谢
Atma_
2周前
北京
0
14:32 情感可以作为一种价值函数，影响决策的能力，很有意思
奥迪
3周前
北京
0
真快啊
独木成林SC
3周前
上海
0
速度！
Marshall66
3周前
上海
0
速度 等的就是这个
迷失的贵族
3周前
北京
0
没有Ilya 就没有当下的一切
ahangddd
3周前
安徽
0
主播太快了
子洋Eric
3周前
北京
0
02:18 Ilya 的声音好奇怪🤔
Fitz2020
3周前
日本
0
这个松弛感太还原了
ladyiceberg
3周前
北京
0
16:40 感觉这个是说过程奖励，和价值函数是一样的吗？我不太懂🤔
无上甚深微妙法
3周前
美国
0
nice 太好了
带你去吃小豆花
3周前
陕西
0
真快啊
黎蔓蔓
3周前
浙江
0
34:34 alexnet是在两块gpu上构建的
淑文文
3周前
上海
0
35:18 当所有人都遵循同一种范式时，算力就成了最大的差异化因素
HD945716s
3周前
北京
0
很棒
HD1043062f
2周前
上海
0
目前的大语言模型的运作方式和一个天生有缺陷的npd学习外部世界的方式几乎高度重合
种点花花来煮茶
2周前
广东
0
在哪里可以下载文字版本呢？谢谢
Atma_
2周前
北京
0
14:32 情感可以作为一种价值函数，影响决策的能力，很有意思
奥迪
3周前
北京
0
真快啊
独木成林SC
3周前
上海
0
速度！
Marshall66
3周前
上海
0
速度 等的就是这个
迷失的贵族
3周前
北京
0
没有Ilya 就没有当下的一切
ahangddd
3周前
安徽
0
主播太快了
子洋Eric
3周前
北京
0
02:18 Ilya 的声音好奇怪🤔
Fitz2020
3周前
日本
0
这个松弛感太还原了
ladyiceberg
3周前
北京
0
16:40 感觉这个是说过程奖励，和价值函数是一样的吗？我不太懂🤔
无上甚深微妙法
3周前
美国
0
nice 太好了
带你去吃小豆花
3周前
陕西
0
真快啊
黎蔓蔓
3周前
浙江
0
34:34 alexnet是在两块gpu上构建的
淑文文
3周前
上海
0
35:18 当所有人都遵循同一种范式时，算力就成了最大的差异化因素
HD945716s
3周前
北京
0
很棒
HD1043062f
2周前
上海
0
目前的大语言模型的运作方式和一个天生有缺陷的npd学习外部世界的方式几乎高度重合
种点花花来煮茶
2周前
广东
0
在哪里可以下载文字版本呢？谢谢
Atma_
2周前
北京
0
14:32 情感可以作为一种价值函数，影响决策的能力，很有意思
