“我们知道世界将会不同。一些人笑了，一些人哭了，绝大多数人沉默不语。”1945年7月16日凌晨5点30分，第一次核试验后，原子弹之父罗伯特·奥本海默如是说。

如今，AI正在越来越多地被拿来与核武器类比，也被认为是“人类最后的技术”。

近日，智源大会举办的两天内，大模型创业者像明星一样被人群紧紧围绕、合影。尽管极少谈论商业版图，他们的言论仍旧被迅速扩散开来。当AI从业者享受前所未有的追捧时，有关AI安全的讨论也成为重中之重。

当外界还在聚焦于GPT5何时发布，重磅炸弹是什么时，他们提问：如果AI能力被坏人拿走了，将会发生什么？如果AI可以控制现实世界，人类该怎么办？

来自北京和加州的世界顶尖科学家们都对AGI的发展表达了担忧，围绕AI安全问题展开激辩。他们呼吁政府强有力的监管必须介入AI发展。一个更安全的AI，也意味着更多层面更精细的监管，AI的技术增速放慢。

与之前技术中立不同的是，多位科学家直言：AI是一个新物种，而非一项新技术。

“我们正处于人工智能的‘奥本海默时刻’。”MIT人工智能与基础交互研究中心教授Max Tegmark提醒道，人类距离第一个AI核弹只有几年的时间。

……

*界面新闻记者 | 陈振芳  界面新闻编辑 | 宋佳楠