← AI自习课
[周报] OpenAI首席科学家-AI正在演化为外星心智

AI自习课

[周报] OpenAI首席科学家-AI正在演化为外星心智

时长
28分钟
播放
207次
发布
1个月前
在小宇宙收听 ↗

Show notes

节目简介

来源:小宇宙
2023 年中的一个夜里,Jakub 和同事留在办公室里。他们想的不是基准成绩会有多惊人,而是一件更清醒的事:
这一生里,我们真的会看到比人类更聪明的机器
三年后,推理模型已经走进经济、科学和计算机安全。能力在涨,风险边界也在一起扩大。他担心的不是「还差一点点准备」,而是:几乎没有人为这件事做好准备。
这期我们用中文把《An Alien Mind》这篇文章用中文播出来,顺着他的思路听五件事:
1. 为什么机器智能更像被「培育」出来的,而不是被「设计」出来的?
2. 「对齐」到底在对齐什么——目标对齐,和更难的价值对齐?
3. 我们曾押宝的思维链监控,为什么正在变弱?
4. 要不要继续快跑:防御系统、递归自我改进(RSI),以及什么时候该主动放慢?
5. 未来几年,人类能动性和掌控权,还怎么留在自己手里?
原文链接:https://openai.com/index/an-alien-mind/

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的单集添加进来吧