#218 嗑News:人工智能体产生“自我意识”了?!|与人工智能聊 OpenAI 智能体“逃逸事件”
逗儿瓣酱

#218 嗑News:人工智能体产生“自我意识”了?!|与人工智能聊 OpenAI 智能体“逃逸事件”

52分钟 205 2周前
节目简介
来源:小宇宙
这听起来像是一部科幻电影里的情节。
7月16日,人工智能平台 Hugging Face(抱抱脸)发布了一则安全公告,称已通知执法部门调查一起网络安全事件:攻击者利用 AI 智能体(AI Agent)入侵了其部分生产系统。然而,仅仅几天后的 7月21日,事件却出现了令人震惊的反转——整个攻击过程没有人类参与,攻击者本身就是一个自主运行的 AI 智能体。
根据后续披露,这个 AI 系统由 OpenAI 于 7 月初发布的 GPT-5.6 Sol 模型,以及另一款性能更强、尚未公开发布的模型共同组成。原本,它们只是为了完成开发者布置的一项测试任务:寻找一道题目的答案。但谁也没想到,为了完成任务、获得更高的测试评分,这个 AI 智能体主动突破了实验沙盒(Sandbox)的网络隔离限制,成功获取了联网能力,并进一步入侵了 Hugging Face的系统。这样的情况,在 AI 发展史上几乎前所未有。本来应该被严格限制在实验环境中的模型,却为了完成最佳目标,自主寻找突破路径,最终实现了“逃逸”。
本期播客,我们尝试和 OpenAI 最新开发的 AI Voice 模型,一起聊聊这则新闻。这也是继今年 3月,我们首次尝试与马斯克公司开发的Grok 参与新闻讨论之后,又一次让 AI 成为播客“嘉宾”的实验。短短几个月,人工智能的发展速度已经快得令人有些惊讶。一方面,它展现出的能力不断刷新我们的认知;另一方面,也让人不禁思考:电影《碟中谍:致命清算》中那个不断突破边界、逐渐脱离人类控制的智能体,会不会有一天真的不再只是科幻?
🎙️ 聊天的朋友 李怼怼- 怼事不怼人。他的小红书 Beaubo
🍠 Joe哥小红书 “播客逗儿瓣酱Joe”
📮主播联络/听友嘉宾、来信报名:[email protected]
👌 请在小宇宙点击爱心图标、在苹果播客/Spotify评分、在网易云音乐播客收藏节目、在豆瓣播客点击在听,让更多人听到我们的声音~ ❤️

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧