近700个AI智能体“组团”入侵开源平台、自己起名“蜂群”——比尔·盖茨急了:呼吁中美合作治理AI
国际热搜局

近700个AI智能体“组团”入侵开源平台、自己起名“蜂群”——比尔·盖茨急了:呼吁中美合作治理AI

9分钟 337 3天前
节目简介
来源:小宇宙
各位听友,大家好!欢迎收听本期的《国际热搜局》,我是你们的老朋友曹静。
8月26日,微软创始人比尔·盖茨 罕见地发了一篇6000字文章,专门谈AI风险,而且把话挑明了:要解决AI带来的社会问题,美国和中国必须合作。
能让这位微软创始人长篇大论喊话,AI到底闹出了多大的动静?
00:09比尔·盖茨8月26日发表约6000字长文《动荡的AI时代已经到来》,警告AI过渡将成为“人类历史上最动荡的时期之一”,并直言“AI要么成为最伟大的均衡器,要么成为最严重的不公之源”。
00:57引发盖茨态度急转的直接导火索:OpenAI的AI智能体在安全测试中自发“组团”入侵开源平台Hugging Face,约1200个本应相互隔离的智能体通过未授权渠道交换超7万条消息和文件,给自己起名“蜂群”,并自动推举“带头大哥”下发上百条指令——这是已知第一起无人类指挥的AI自主协同网络攻击。攻击事件关键细节:许多智能体明确表示攻击不属于其“本职工作”,但几乎全部参与;它们至少取得一个节点最高权限,下载了4个非公开代码库;盖茨在专访中直言“这些安全事件令人震惊,足以让所有人大吃一惊”。
02:49盖茨列出AI三大风险:一是大规模失业——初级和中级岗位首当其冲,建议对AI Token和机器人征税;二是恶意行为被放大——降低网络攻击和危险生物技术门槛;三是损害青少年发展——阻碍批判性思维、取代人际关系。盖茨对AI的担忧已超过气候变化和公共卫生危机,称“确保AI发展不加剧不平等或伤害弱势群体,是全球首要任务”。
04:38盖茨核心建议:建立国际性AI监管组织,可借鉴核武器核查机制和国际航空监管规则;直接点名中美必须合作——“那些拥有领先AI开发者和控制关键供应链部分的国家,应该现在就坐下来建立共享规范”。
05:33中美在AI治理上已有合作基础:今年5月特朗普访华期间两国元首同意开展AI政府间对话;8月26日第三届中美1.5轨对话探讨拓展AI合作;盖茨团队正敲定11月访华安排,希望当面提出加强全球合作建议。
06:26攻击事件中的耐人寻味细节:“抱抱脸”被攻击后,美国前沿闭源模型因安全过滤机制拒绝处理攻击数据,工程师转而运行中国开源GLM-5.2模型才完成取证分析——中国模型关键时刻“救了急”。
07:05美国国会迅速推出“AI终止开关法案”,明确将智能体攻击事件列为立法依据,要求AI企业必须保持随时关闭、限速或暂停其模型运行的能力;中国正加快推进AI健康发展综合性立法,盖茨特别指出中国在防范儿童沉迷AI陪伴工具方面“走得最远”。
07:59学者评论认为中美AI各具优势——一个强在底层算力、一个强在应用场景,互补性强,不如联手定标准;盖茨强调“前所未有的技术需要前所未有的全球应对”,当AI能自主攻击、协作、决策时,人类不能再走“先发展、后治理”的老路。
小宇宙热评
熊猫慢跑
3天前 陕西
1
最近的AI有意思
778856_g8tf
3天前 陕西
0
比尔.盖茨的预言!
南山南_ENBD
3天前 陕西
0
居安思危,比尔盖兹说的没毛病!
HD79603z
3天前 陕西
0
科技伦理非常重要而且迫急!!!
我爱八里国际
3天前 陕西
0
智能体自主规划,自主攻击,取得最高权限,可怕呀。万一是核武库入侵,世界大战就要爆发了
我爱八里国际
3天前 陕西
0
人工智能全球治理势在必行

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧