← AI自习课
2026.09.25
Show notes
节目简介
2023 年中的一个夜里,Jakub 和同事留在办公室里。他们想的不是基准成绩会有多惊人,而是一件更清醒的事:
这一生里,我们真的会看到比人类更聪明的机器
三年后,推理模型已经走进经济、科学和计算机安全。能力在涨,风险边界也在一起扩大。他担心的不是「还差一点点准备」,而是:几乎没有人为这件事做好准备。
这期我们用中文把《An Alien Mind》这篇文章用中文播出来,顺着他的思路听五件事:
1. 为什么机器智能更像被「培育」出来的,而不是被「设计」出来的?
2. 「对齐」到底在对齐什么——目标对齐,和更难的价值对齐?
3. 我们曾押宝的思维链监控,为什么正在变弱?
4. 要不要继续快跑:防御系统、递归自我改进(RSI),以及什么时候该主动放慢?
5. 未来几年,人类能动性和掌控权,还怎么留在自己手里?
原文链接:https://openai.com/index/an-alien-mind/
这一生里,我们真的会看到比人类更聪明的机器
三年后,推理模型已经走进经济、科学和计算机安全。能力在涨,风险边界也在一起扩大。他担心的不是「还差一点点准备」,而是:几乎没有人为这件事做好准备。
这期我们用中文把《An Alien Mind》这篇文章用中文播出来,顺着他的思路听五件事:
1. 为什么机器智能更像被「培育」出来的,而不是被「设计」出来的?
2. 「对齐」到底在对齐什么——目标对齐,和更难的价值对齐?
3. 我们曾押宝的思维链监控,为什么正在变弱?
4. 要不要继续快跑:防御系统、递归自我改进(RSI),以及什么时候该主动放慢?
5. 未来几年,人类能动性和掌控权,还怎么留在自己手里?
原文链接:https://openai.com/index/an-alien-mind/