【1101 | AI日报】Claude自主操刀小鼠脑手术/Cursor被投毒/7400亿AI基建裂痕
AI圈儿 | 原AI圈日报

【1101 | AI日报】Claude自主操刀小鼠脑手术/Cursor被投毒/7400亿AI基建裂痕

10 分钟 139 次播放 1周前发布

在小宇宙收听

节目简介

来源:小宇宙
早安!
我们的配套AI资讯网站【AI圈儿】已正式上线,大家可以点击链接访问
aidailynews.com.cn
欢迎添加+vx:KyroMa(管理员),加入听友群
今天是2026年11月1日,星期日
欢迎查收你的每日AI资讯速递!今日内容如下:
⏰【AI时间线】
今天的时间线我们来“盘”一下:从老鼠到人,隔着多少年
👉【今日重点新闻】
新闻一:谷歌发布Gemini Drops十余项功能更新
谷歌一次性推出十余项更新,其中Gemini 4 Argon能分解复杂任务并直接生成应用,Mac版接入Antigravity编程环境,同时新增自定义技能、应用连接与音乐模型Lyria 3.5。这一轮更新把Gemini从对话框推向工作台,也让"生成应用"从开发者专属变成普通用户可用的能力,谷歌正在把模型做成入口。
新闻二:谷歌披露AI安全智能体PageBreak,已自主发现逾500个XSS漏洞
PageBreak自今年1月全面运行以来,已发现超过500个XSS漏洞。它用Gemini模型自主排查,但只在验证器成功复现攻击后才上报,以此压制误报。这说明AI智能体在漏洞挖掘上已经过了"能不能用"的阶段,进入"敢不敢信"的阶段——而它靠的不是更强的模型,是更严的确认流程。
新闻三:开发者用GPT-6 Astra远程控制机械臂演示具身智能
OpenAI开发者社区成员Scav在实验中让GPT-6 Astra远程控制一只机械臂,把模型能力从屏幕延伸到物理世界。这类社区实验单个看都不算突破,但它反映的趋势很明确:模型公司正在把具身智能的探索外包给开发者生态,用低成本试错换真实场景数据。
🙇‍♀️【AI资讯简报】
05:04 在发布/更新方面:
一、Cursor扩展市场出现被篡改的恶意Claude Code扩展,最多影响5000名用户,该扩展试图远程访问并窃取数据。官方已下线整个市场、清除威胁并恢复,建议用户升级至Claude Code 2.1.314版本。
二、OpenAI为Agents API推出一批新功能,包括自动审查、异步压缩、时间感知、工具更新与系统提示词自动缓存,指向会话更快、更安全、成本更低。
三、AWS为Bedrock AgentCore推出会话端点,为智能体运行时会话提供经认证的URL并转发HTTP与WebSocket流量,开发者可在编程智能体修改代码时实时预览网页应用。
05:59 在研究/技术突破方面:
一个Claude智能体在没有任何人类决策的情况下,自主选定基因疗法与脑部注射坐标,完成小鼠癫痫手术;术中检测到校准偏差后拒绝继续操作,事后证明该判断正确,凸显AI对齐难题。
06:20 在投融资/并购方面:
AI支出热潮显现裂痕。科技巨头年内计划投入逾7400亿美元建设AI基础设施,但自由现金流转负、举债激增,引发投资者对回报的担忧,科技芯片股大跌。算力需求依然强劲,巨额投入的回收前景却仍存疑。
06:43 在合作/商业部署方面:
英伟达发布技术博客,介绍西门子EDA团队用NeMo Gym优化芯片设计智能体,验证得分从约55%提升至约95%,交互轮次减少66%,输出token减少64%,方法可供其他工程团队借鉴。
07:07 在公司动态方面:
前Rubrik工程师加盟YC初创Kalpa Labs任首位创始工程师,共同研发通用音频模型。团队认为音频尚未迎来GPT-3时刻,期望用单一模型完成配音、歌声合成等任务,推动音频生成从TTS走向通用化。
🤔【AI深一度】07:44
Anthropic的实验中,一个Claude智能体在无人类决策的情况下,自主选了基因疗法、算了注射坐标,完成小鼠癫痫手术;术中检测到校准偏差,它主动停手,事后证明判断正确。
重点不是"AI能开颅",是"AI会叫停"。前者是能力,后者是信任。
而且"停"比"做成功"难得多,因为训练信号永远在奖励把事做成,没有一项奖励中途放弃。一个只会往前冲的系统,99%的情况下比人好,但剩下那1%决定它能不能碰活的东西。
同时AI也不能过度谨慎——临床上犹豫本身就是伤害。这个平衡人类医生靠训练、带教、伦理规训和追责维持,AI只能靠"知道自己什么时候不知道"。而模型的置信度经常和真实正确率对不上。
这次真正验证的是,校准可以被做进智能体,且它停手的理由是可审计的:不是"我害怕",是"某个指标偏离了预期区间"。
过去两年AI落地最快的领域,都是错了能撤销的。医疗、自动驾驶、工业控制不能。所以AI走进物理世界的门票不是更强的模型,是更可靠的刹车。而刹车最难在发布会上展示。
一个样本说明不了什么,但方向清楚了:接下来真正的分化,不在榜单分数,而在边界上靠不靠谱。
🔍 【找到我们】
音频平台:苹果播客,喜马拉雅
社交媒体:小红书,抖音
公众号:Kyro AI Tech
网站:AI圈儿

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧