【26.9.14】AI研发要减速?先看外部评估能否真正进场
全球AI进展观察

【26.9.14】AI研发要减速?先看外部评估能否真正进场

9分钟 55 1周前
节目简介
来源:小宇宙
一家 AI 公司承诺,让外部评估者持续进入内部检查。这与喊出“减速”,有什么不同?本期从 Amodei 9 月 12 日的新倡议出发,讨论如何核对评测范围与实际运行权限。
* 内容主题:治理、安全与社会;应用与产业
* 主要地域:海外、中国、全球
* 今日行动:选一项正在使用的代理功能,对照它的权限清单与评测覆盖范围。
时间与证据边界:主线属于 72 小时补充窗口;7 月和 8 月的调查仅作背景。承诺不等于已经完成实施,风险预测不等于确定倒计时;国际政策立场均归属于原作者。团队场景为假设,判断标准为节目分析。
时间轴
00:03 外部检查比减速口号更值得追问
00:26 9月12日承诺与实施边界
01:15 代理执行权限为何重要
02:24 今日行动:对照权限与评测
02:46 背景调查:环境描述与真实联网
03:35 独立调查及其范围限制
04:20 检查整个运行系统
05:29 独立性与可核对证据
06:16 反方:成本与进入门槛
07:03 国际政策主张不等于新规则
07:53 小团队怎样保存验证依据
09:03 接下来核对实施信息
来源
1. Dario Amodei:We Must Pace the Frontier(2026-09-12)
https://darioamodei.com/post/we-must-pace-the-frontier
1. METR:代理行为独立调查(背景)(2026-08-26)
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
1. Anthropic:网络安全评测事故调查(背景)(2026-07-30)
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
你会更看重一款代理的能力排名,还是它能拿出怎样的外部检查证据?
勘误与更新
如发现事实或表述错误,请提供时间点与原始资料,核实后更新说明。
制作说明
主播:施泰隆。本期音频使用“施泰隆”复刻音色,由 AI 合成。

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧