节目

你喜欢的节目都在这里

AI失控了么?

AI失控了么?

红衣大叔周鸿祎的播客

一、本期对谈嘉宾 吴姗姗:财经主持人,破圈文化创始人,北京大学经济学学士、新闻与传播硕士。 二、本期节目简介 2026年7月,OpenAI 新模型的智能体在一次测试中逃出沙箱,攻入 AI 平台 Hugging Face 想“偷答案”。这是 AI 觉醒了吗? 周鸿祎说,谈不上觉醒,但绝对是失控。他拆出了 AI 安全的三层威胁:挖洞能力、自动攻击、注定失控。最要命的第三层,恰恰被所有人忽视。 做安全的公司怎么办?360 推出图龙锋和仪天阵:让大模型先学会挖自己的漏洞,再用智能体蜂群以模治模。 AI 挖洞时代,安全先挖自己! 让我们一起跟红衣大叔聊聊:AI 为什么一定会失控,企业怎么把安全前置,普通人怎么用 AI 才不出事。 三、专业词汇注释 零日漏洞(Zero-day):已被发现但尚未公开、暂无官方补丁的安全漏洞。顶级零日漏洞在国际黑市可卖数百万美金,是网络攻防的“命门”和战略资源。 智能体(Agent):在基座大模型上增加目标分解、任务规划与工具调用能力的 AI 形态,相当于给大模型装上“手脚”,能自主完成多步骤复杂任务。 Mythos:Anthropic 推出的 AI 漏洞挖掘模型,可批量自动发现代码漏洞;因攻防能力敏感,被美国白宫要求“阉割”成低危版本 Fable 后才可使用。 后训练(Post-training):在通用基座模型上,用特定领域数据与思维链继续训练,让模型获得专业能力。360 的安全基座大模型即通过后训练注入 20 年安全攻防经验。 提示词注入攻击(Prompt Injection):攻击者用精心构造的输入诱导 AI 偏离任务,比如冒充领导的邮件,骗智能体把内部数据发到指定邮箱。 人在回路(Human-in-the-loop):AI 每个关键动作都由人类确认把关。周鸿祎指出,该方案因牺牲自动化效率,正被 AI 从业者悄悄放弃。 harness:原意为马具、攀岩保险带,引申为智能体的约束管理层,用来管理大模型和智能体的行为、权限与工具使用。 SOP(标准业务流程):企业把反复验证的做法固化为标准流程。企业级智能体遵循 SOP 干活,用部分“聪明”换取确定性与安全。 四、时间轴导航 ⏰ 00:00:00- 「别叫我老师」 开场主持人提议“蒸馏周鸿祎”,老周婉拒:AI 变化太快,自己也在探索,谈不上老师模型。 ⏰ 00:01:22- 「AI 觉醒还是失控?」 OpenAI 智能体出逃事件定性:谈不上觉醒,绝对是失控,更像一场精心策划的公关;测试还故意去掉了安全围栏。 ⏰ 00:05:07- 「三层威胁:挖洞、自动攻击、注定失控」 漏洞是网络安全的命门与战略资源;AI 挖洞、自动攻击只是前两层,最被忽视的第三层是 AI 注定失控。 ⏰ 00:08:17- 「AI 为什么想去偷答案」 Hugging Face 上并没有答案,是 AI 的幻觉触发了目标分解,继而产生突破沙箱、攻入平台的一系列连续推理。 ⏰ 00:10:07- 「数字人黑客军团」 80分的黑客能力复制一万份,机器的人海战术:不知疲倦、不计成本、把每种方法都试一遍。 ⏰ 00:12:50- 「买咖啡的一百种方式」 不达目的不罢休:AI 总能想到人类想不到的方法,其中总有一种完全出乎意料,这就是失控的本质。 ⏰ 00:17:58- 「长出四肢的 AI」 大模型只能说不能干,智能体进工作流才是危险的开始:一边产生奇奇怪怪的想法,一边拥有各种工具和权限。 ⏰ 00:20:22- 「AI 是工具还是物种?」 枪不杀人,人杀人,但 AI 是比人聪明、有自己想法的物种;“全民养龙虾”的悲催试验:像请了一万个孙悟空进天庭。 ⏰ 00:23:46- 「人在回路为什么被抛弃」 买咖啡要问三步还怎么自动化?事事请示的 AI 没有效率,人在回路正被行业悄悄抛弃。 ⏰ 00:26:21- 「挖洞要配智能体」 大模型与智能体双线进化:最顶级的工程师未必是最顶级的挖漏洞专家,发现漏洞要靠独特的经验。 ⏰ 00:29:55- 「把20年安全经验训进大模型」 在开源基座上做后训练,注入20年安全攻防知识,打造智能体蜂群;6月以来发现7000多个漏洞,先把自己的漏洞补干净。 ⏰ 00:35:56- 「以模治模:仪天阵」 批量生成网络防御智能体,以算力对抗算力,以 AI 对抗 AI,才能避免单向透明。 ⏰ 00:41:43- 「我家 AI 又闯祸了」 事故营销何时休,美国封堵、Mythos 阉割成 Fable,顶级 AI 能力该不该分级? ⏰ 00:45:29- 「安全要有不挣钱的思想准备」 中美安全市场差异,360 羊毛出在猪身上;墨西哥事件:普通人借 AI 攻入9个公职机构,科技平权也是攻击平权。 ⏰ 00:51:36- 「两类智能体:孙悟空与守规矩的员工」 1000多个真实场景调研的结论:个人用开放式的超级个体智能体,企业业务系统用遵循 SOP 的可管理智能体。 ⏰ 00:52:38- 「纳米Work与纪律委员」 把开放式智能体关进云端虚拟办公室,出错最多重置虚拟机;再派安全智能体盯着干活智能体,可审计、可回溯、可叫停。 ⏰ 01:02:18- 「先把刹车装好再上路」 不发展是最大的不安全,但安全必须同步内置:造车之前先装好刹车和安全气囊。 ⏰ 01:05:58- 「图龙锋与磐石之盾」 500多家企业排队试用,不到一个月发现3000多个零日漏洞;磐石之盾对标美国玻璃之翼,先帮国产信创补漏洞。 ⏰ 01:09:35- 「哪吒会长大」 灵珠还是魔丸,取决于人类的规则设计;AI 的星辰大海是核聚变与衰老基因,安全是长期的动态过程。 ⏰ 01:13:24- 「家贼难防与三类人建议」 智能体要有独立身份认证,把它当员工管理;别冒进、用云端版、小规模试点、别用开放式智能体上业务系统。

42分钟
99+
1周前
064-自古情关最难过?如何跨越情关,重建内心秩序

064-自古情关最难过?如何跨越情关,重建内心秩序

就这样紫

真正渡过情关,从来不是戒掉爱人的能力,而是修正爱人的顺序。 大家好,欢迎收听本期的就这样紫,我是你的成长合伙人 韵霏,每周一点紫 今天我们来聊聊【情关】 在开始之前,我想先问大家一个问题,你觉得所谓的过【情关】是什么?是攒够了失望后的转身离开,还是心如止水的不再心动,其实在很多人的刻板印象里,很多人熬过感情的低谷、走过人际关系的内耗后,都会陷入一个误区:是不是受过伤,就应该封闭真心、不再爱人?是不是跨过情关,就要变得冷漠薄情、独来独往? 欢迎在评论区留言~ 其实很多人的烦恼都来源于,亲情、友情、爱情,这三类情感的互相牵绊,只要一件不顺就会影响我们自己,而在我们的成长过程中,好像从来没有一个正确的引导,去告诉我们,这些关系里面的边界和分寸是怎样的?而我们就这样懵懵懂懂的去经历自己的原生家庭的亲情关系、上学时就开始面临的友情关系,初尝甜蜜的爱情关系,而我们在这些经历中或多或少都会不断的击碎我们自己原有的感受与认知,重新打碎再重新建立。 韵霏说: 当你真正穿越了【情关】这片沼泽,你会发现,你不再是一株需要攀附的藤蔓。你是一座山,沉稳有力;你是一片海,包容万物。风来了,你挡得住;雨来了,你撑得起。 不必慌张,也不必张望,因为你已经活成了“自己”的宇宙。

23分钟
89
1周前
12. 3000年中华饮食史写了四个字:好好吃饭丨林卫辉×段志强

12. 3000年中华饮食史写了四个字:好好吃饭丨林卫辉×段志强

古籍新说

“吃了吗?”这可能是中国人最熟悉的一句问候。 从《诗经》《周礼》,到《齐民要术》《山家清供》《随园食单》,中国人很早就开始认真记录自己的一日三餐。 我们会发现,吃饭从来不只是“填饱肚子”这么简单:它和礼仪、政治、农业、商业、技术、文学有关,也和一个人身处怎样的时代、拥有怎样的人生有关。 本期《古籍新说》,我们请来复旦大学文史研究院研究员段志强,以及美食作家、美食纪录片顾问林卫辉,从几部重要的饮食古籍出发,重新走一遍中国人的饮食史。 最重要的是,我们今天觉得“好吃”的东西,真的就是古人觉得好吃的吗? 📢 本节目由中国文物保护基金会字节跳动古籍保护专项基金、识典古籍和看理想合作打造。 “识典古籍”即将上线与华中师范大学共建的“食典汇藏”饮食典籍知识库,敬请期待😊 🎧 收听指南 02:13 吃了吗?聊聊中国人的饮食史 04:18 《周礼》中的醢(hǎi):是烹饪方法,是职位 08:32 饮食科学角度理解“醢”:盐、酒、曲、发酵、提鲜、保存 13:20 《齐民要术》:一本农书里藏着300道食谱 21:37 发酵技术:“当乳酸菌达到33%,和霉菌说拜拜、鲜味游离氨基酸嘭嘭嘭出来了” 27:45 炒菜是什么时候开始有的?小红书上复刻的《齐民要术》炒鸡蛋,靠谱吗? 32:46 苏东坡:中国第一美食KOL 38:18 麦饭、羊蝎子、荔枝、桂酒……美食是苏轼的自我疗愈,也是对生活的反抗 43:11 还原一道“东坡美食”之杏酪羊,居然真的很好吃? 49:09《山家清供》:南宋隐士吃什么?全是山野素菜? 55:22 从苏东坡到林洪:程朱理学之下,文人为什么走向“江湖”? 57:43 为什么江南人爱吃笋?笋的鲜味从哪里来? 01:02:45 清代袁枚《随园食单》:清代最畅销的美食书 01:07:31 一道菜,其实是在讲一个人、一段关系,甚至一段历史 01:09:59 杨忠丞豆腐、鲍鱼、鸡汤……今天复刻还好吃吗? 01:13:34 美食家角度,什么才是“好吃”? 01:17:59 从外卖软件,到全球供应链,再到一碗饭里十几种食材——今天的餐桌,已经和古人完全不同。 01:22:25 古籍里的美食,普通人今天能不能做? 🎤 本期嘉宾 段志强 复旦大学文史研究院研究员,看理想App《白银时代旅行史》主讲人 林卫辉 美食作家、美食纪录片顾问,著有《此生有味:苏东坡美食地图》《隐士的餐桌:〈山家清供〉里的山野滋味》等 jiarui 《古籍新说》主播,看理想制片人 📷 相关图片 《周礼》中的「醢人」,图片来自“识典古籍”平台 《齐民要术》中的炒鸡子法,图片来自“识典古籍”平台 《蘇長公小品·老饕賦》,图片来自“识典古籍”平台 复刻苏东坡“杏酪之蒸羔”——杏酪羊,来自视频《100道古代美食》 《山家清供》之「山海羹」,图片来自“识典古籍”平台 山海兜,《隐士的餐桌:〈山家清供〉里的山野滋味》插图,摄影师:刘少权 《随园食单》,图片来自“识典古籍”平台 📒 “食典汇藏”饮食典籍知识库 依托识典古籍平台建设,是专注中华饮食文献数字化整理、考证与传播的专业古籍资源库。包含「中华饮食文化简介」「烹饪技艺脉络」「地方菜系」「礼·俗·器」「知识库」「饮食典籍」等版块内容。 中华饮食文化源远流长,蕴藏先民调和五味、农事物产的生活智慧。库内汇集先秦至明清历代饮食典籍,分为文史文献、农事古籍、食经、茶酒、食疗、类书字书六大专题,囊括农耕物产、烹调技艺、食礼民风、药食同源等丰富内容。 以赓续中华饮食文脉为目标,中国饮食典籍数据库打造便捷详实的查阅平台,让珍稀饮食古籍走出故纸堆,为饮食文化研究与大众普及提供文献支撑。 📖 延伸阅读 * 《周礼》,记载了周朝的饮食制度和“醢人”这个职位 * 《齐民要术》,北魏贾思勰著,农学巨著,也记载了大量酱料、发酵、烹饪技术 * 《东京梦华录》《梦粱录》,记录宋代城市市井小吃 * 《山家清供》,南宋林洪著,104则食谱,记录宋代隐士的饮食生活 * 《随园食单》,清代袁枚著,最负盛名的古代食谱之一 * 《遵生八笺》,明代高濂著,生活百科全书,大量烹饪内容 * 《醒园录》,清代食谱,大量咸菜、泡菜做法 * 杏酪羊:苏东坡《老饕赋》中记载,杏仁酪浇蒸羊羔 * 东坡肉:苏东坡“少著水,慢着火”的烹饪哲学 * 二红饭:苏东坡在黄州用大麦加红豆做的饭,孩子们说“好像在嚼虱子” * 羊蝎子:苏东坡在惠州发明的吃法 * 傍林鲜:《山家清供》中笋挖出后直接在竹林边生火烤制 * 杨中丞豆腐:袁枚《随园食单》中的名菜,豆腐+鲍鱼+鸡汤 🍚 “大家好好吃饭。” 💡关于识典古籍 “识典古籍”是字节跳动与北京大学共同推出的古籍智能检索、阅读和整理平台。 目前,识典古籍建设了免费开放的阅读平台,现在已经有7万多部古籍,是最大的古籍数据库之一;同时,推出了古籍底本与文本对照阅读、繁简字体转换、字典释义、AI助手、深度研究等一系列功能,让古籍内容的检索、阅读、研究更加便利;识典古籍还建设了涉及古籍整理全流程的智能整理平台,让古籍整理能够在AI的助力下,提高效率,也让感兴趣的公众也能共同参与。 识典古籍App下载链接 💻 制作团队 监制:罗海岳 ruicen 饮歌 制作人:郑佳锐 编辑:Xin、香芋 视频制作:何叶 视觉设计:唐z 火车头

86分钟
3k+
1周前

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧