中美大厂研究员深度剖析:DeepSeek大模型蒸馏与RLHF技术技术解析

主播的话: 欢迎收听本期AI Odyssey节目。DeepSeek凭借其出色的性能和创新的技术路线在AI领域引起广泛关注。作为国内新兴的开源大模型,它在多项基准测试中表现优异,引发了业内对其背后技术实现的好奇。正因如此,我们特意邀请了三位AI领域的一线专家——投资人CW,美团首席工程师奚辰光,以及专注于大模型优化的GenAI研究员Tianyi,共同解析DeepSeek模型的技术创新点,特别是在训练成本优化、数据蒸馏和RLHF等方面的突破。通过这次对话,我们希望为听众揭开高性能开源模型背后的技术思路,也期待探讨大模型未来的发展方向。 嘉宾介绍: * CW:国内机构投资人,关注AI/Robotics。 * 奚辰光:奚辰光,美团首席工程师 * Tianyi:美国大厂的GenAI研究员,从事高性能AI,自动化人工智能,大模型后训练和知识蒸馏。 主播介绍: * Leo:硅谷大厂高级机器学习工程师,GenAI LLM发烧友 shownote: 00:21 嘉宾自我介绍 01:25 DeepSeek 如何降低训练成本 04:07 数据蒸馏 vs 传统蒸馏的区别 05:42 训练数据的获取与质量优化 06:01 大模型的竞争格局与未来发展 07:11 蒸馏与小模型训练策略 10:41 Scaling Law 的未来趋势 14:38 Moe (Mixture of Experts) 在大模型中的应用 17:02 AI 的跨模态能力与未来发展 24:42 强化学习 (RL) 在大模型优化中的应用 30:47 AI 未来的发展方向与盈利模式 32:63 Efficiency 研究方向:降低 AI 成本 40:03 AI 代理 (Agent) 时代的到来 44:12 未来 AI 企业将如何调整盈利策略 PS:AI Odyssey 听友群正式开通了,添加 vx:aiodysseyai 带你一起看 AI。 以上就是本期的全部内容了,欢迎您的收听,我们下期再见~

58分钟
99+
1个月前

🌸 享受春日指南:美食、户外与穿搭的100种打开方式|EP.46

春天太短啦!今年享受春天KPI,你完成了吗? 💡 【本期亮点】 时令美食尝鲜🌱:从香椿炒蛋到荠菜年糕,从玫瑰醋到气泡水,一起在春天享受时令美食和养生饮品 。 户外生发指南🌞:骑行钱塘江、徒步太子湾赏郁金香,在樱花树下拍日系写真,把补阳气和浪漫值同时拉满。 春日生机穿搭👒:好好穿搭也是生命力的体现,在春天太适合打扮自己了,美美的小裙子都穿起来! 🌸【本期福利】 本期节目感谢loveau莱福澳气泡水赞助播出,欢迎大家在评论区分享专属于自己的享受春日指南,我们会在评论区选出5位听众送出loveau莱福澳的定制玻璃杯 loveau莱福澳气泡水:创始人Simon的儿子从小患有一型糖尿病,于是Simon连同自己的好友研发了一款没有甜味也不含任何甜味剂、但充满果香的气泡水,送给自己的儿子。 英国原装进口气泡水,铝罐100%可回收,0卡0糖0代糖无工业香精添加,配料表干净到“透明”,控糖减脂健身党必备!糖尿病患者可以真正放心饮用。 优惠购买链接:直接复制到淘宝赠送专属优惠券 17《E04uetRklYU🗝 https://s.tb.cn/h.6cCzKM2 CZ356 莱福澳 或者点击我试试!👈 🕙【时间轴】 春菜大赏🌱: 2:15 香椿炒鸡蛋 3:20 荠菜炒年糕 5:48 春笋放哪都好吃 7:06 叮咚买菜/盒马/奥乐齐 你们的春菜页面真的做的好诱人! 8:11 青团(对不起想到的还是再见爱人的青团事件) 9:34 好喝又控糖的玫瑰醋 11:45 零糖零卡零添加剂就选Loveau气泡水👍 春天就要动起来🏃‍♀️: 14:16 从室内运动(瑜伽普拉提)到室外运动(羽毛球网球) 15:40 徒步爬山骑行都太适合春天了! 16:50 去公园拥抱大自然 春天一起绽放美丽🪞: 18:50 早樱日式写真安排上 20:14 春天适合好好打扮自己 24:45 听友征集:很响女孩们的春日享受妙招

27分钟
1k+
1个月前

外刊精讲 | 美国人越来越不快乐?原因竟是……

【欢迎订阅】 每天早上5:30,准时更新。 【阅读原文】 标题:Americans Are Unhappier Than Ever. Solo Dining May Be a Sign. 正文:The United States slipped to its lowest ranking ever in the World Happiness Report, in part because more Americans are eating alone. Once again, the Finns came out on top. 知识点 :Solo n./adj./adv./ˈsəʊləʊ/ Having or doing something alone; a performance by one person. 单独的(地);单人的(地);独唱(曲),独奏(曲) • The singer gave a solo performance on the stage. 这位歌手在舞台上进行了独唱表演。 获取外刊的完整原文以及精讲笔记,请关注微信公众号「早安英文」,回复“外刊”即可。更多有意思的英语干货等着你! 【节目介绍】 《早安英文-每日外刊精读》,带你精读最新外刊,了解国际最热事件:分析语法结构,拆解长难句,最接地气的翻译,还有重点词汇讲解。 所有选题均来自于《经济学人》《纽约时报》《华尔街日报》《华盛顿邮报》《大西洋月刊》《科学杂志》《国家地理》等国际一线外刊。 【适合谁听】 1、关注时事热点新闻,想要学习最新最潮流英文表达的英文学习者 2、任何想通过地道英文提高听、说、读、写能力的英文学习者 3、想快速掌握表达,有出国学习和旅游计划的英语爱好者 4、参加各类英语考试的应试者(如大学英语四六级、托福雅思、考研等) 【你将获得】 1、超过1000篇外刊精读课程,拓展丰富语言表达和文化背景 2、逐词、逐句精确讲解,系统掌握英语词汇、听力、阅读和语法 3、每期内附学习笔记,包含全文注释、长难句解析、疑难语法点等,帮助扫除阅读障碍。

9分钟
1k+
1个月前

44. “精神还乡”:去小城,寻找被遗忘的慢生活

本期核心议题 喵叔常想,城市就像一只不眠的钟,滴答声里全是催促,提醒我们再忙一点、再赶一点,以免落后半拍。可人心呢? 有时却偏要停下来——哪怕去陌生的荒郊野岭,哪怕路上跋涉万里,为的只是一抹雪后的海、一间藏地寺庙,或与一个偶遇的大叔聊聊人生。仿佛只有在不熟悉的街头,才能解开外壳,真正松弛下来。 小蕾说,去威海看雪裹着海浪;九月说,去秦岭看自由的金丝猴;威廉王又跑去哈尔滨泡咖啡馆;喵叔索性窝在北京的录音间里跟人聊到深夜。表面看,是旅行方式的差异,骨子里却不过是同一场寻找——寻找更自在的呼吸,更无压迫的时刻,以及对“生活该怎样”这个问题的摸索。 让自己走远一点,离工作远,离既定的标签远,碰见路边的小摊老板,发现他比许多所谓精英更快乐;看到雪地里有人打着手势唱歌,顿时想起从前的理想还没实现;或与陌生人并肩在列车上,聊出另一种人生可能。 所有的脚步,其实都不是“逃离”,而是一场再出发——让我们在地图上走一圈,再回来看自己原来的生活,于是在未曾改变的房间里,拥有了从未有过的自由。 本期主播 * 喵叔:素质不详主播,最近享受“在播客录音间社交环游”的灵魂交流者。 * Will:远行澳大利亚,尝试在未知中寻回自我的大厂牛马冒险家。 * 九月:Gap后带父母奔赴西藏的“圆梦大使”,正准备回秦岭看猴的动物保护爱好者。 * 小蕾:多次深度游日本,环游世界,迷恋面包店与小众咖啡馆的“放飞理想型”半职旅人。 时间戳导航 & 高能片段 00:22 开场:旅行的意义与主播们的旅行状态 (旅行哲学) 「我换工作后就没有旅行过 …… 我已经很久没有去旅行了。」 → 序幕:四位主播不同的旅行状态,引出本期话题。 01:26 澳大利亚之旅:不同国家的生活节奏 (文化观察) 「我去澳大利亚呆了得有十天的时间…每个国家真的生活节奏、工作节奏是很不一样的。」 → 人间清醒:去国外看到不一样的节奏,不一样的生活方式,反思35岁之后职场怎么活。 02:45 日本深度游:精致的区域特色与空气 (目的地种草) 「最近一年其实频繁去日本特别多…它会把每一个具体的地方做的很精细化。」 → 种草指南:青森的苹果主题、爱媛县的柑橘主题,体验每个地方的独特魅力。 → 暴击真相:上一个这么说的小姑娘被全网网暴了。 04:57 西藏之旅:信仰的力量与心灵的净化 (心灵探索) 「西藏…每个人都有信仰…大家都是希望能够给到别人…会把你从一种很喧闹的一个城市里面拉进这种真空的世界。」 → 灵魂拷问:在布达拉宫做大礼拜,转冈仁波齐山,真的是为自己吗? → 修行指南:入门念咒11万遍起,四归一化一11万遍,李连杰怎么看生死? 07:30 冈仁波齐转山:艰苦的朝圣之路 (硬核挑战) 「转冈仁波齐需要七天的时间,只干这一件事情。」 → 极限挑战:两天多在路上,每天走二十多公里,还要翻越垭口,住茶馆大通铺。 → 暴击真相:妙说直播间是不能吃泡面的。 10:13 威海移居潮:慢节奏的生活与心灵的平静 (城市观察) 「威海…生活节奏都挺慢的,基本上不太加班。」 → 反常识:皈依不在于去哪,在于你的心如何能够平静。 14:11 哈尔滨爆火:被夸大的网红城市? (网红现象) 「哈尔滨…就是他收入其实不低…生活幸福感也很强。」 → 灵魂拷问:当前的群众真的就是那么没有理智,就是会被照片骗吗? → 暴击真相:索菲亚教堂没那么大,大家能不知道吗? 24:50 网红打卡的虚与实:照片与现实的差距(媒介批评) 「现在就是我是干广告的,我们是专门搞拍摄的,都拍不过很多女生,我人那机位就出神入化。」 → 媒介素养:互联网的作用真的非常大,大家特别喜欢的跟风。 28:57 旅行的真谛:逃离的理由与未知的相遇(旅行哲学) 「我觉得其实很多人他真的…明白…他是给自己找了一个理由去逃离。」 → 人间清醒:当你生活很郁闷,工作很难受的时候,别人帮你找了个理由。 30:30 市井生活:菜市场里的咖啡角 (生活美学) 「我其实我去日本旅行的时候,去了很多菜市场,就是早市鱼市,唔咖就是菜市场里的咖啡角。」 → 反常识:我们可能会去乡下,找那种手做的咖啡店,一周只上两天班。 33:30 旅居十年:寻找生活与心灵的归宿(生活方式) 「他这个状态其实和和喵叔挺像,喵叔其实应该是在这个录音间里住了十年吧。」 → 灵魂拷问:你会羡慕比如说某个人说我要去哪旅游或者什么? 38:41 旅行中的意外:银座街头的偶遇与音乐(惊喜瞬间) 「在那个场景下,就是你会觉得和一个陌生人有了一个链接。」 → 治愈时刻:在银座的街道上,人来人往,音乐让你觉得时间定格。 40:34 动物园之旅:与灵长类的互动 (亲子推荐) 「我就觉得挺适合带孩子的…去动物园…既能消耗他的精力,然后又能学点东西。」 → 反常识:你不是去动物园还当过志愿者吗?你怎么那么喜欢猴呢? 43:35 旅行中的小确幸:与海鸥一起发呆 (生活美学) 「很多人站在海鸥跟海鸥站在一块儿,就在那发呆。」 → 人间清醒:老爷在单杠上下翻飞,就是他的做事方式不一样而已。 45:21 旅行的意义:遇见未知与更放肆的自己(旅行哲学) 「人…活着本身就是遇到未知…你到一个陌生的环境里边,你就比较没有负担。」 → 人间清醒:女生她是只会在旅行的时候穿的(衣服),不会说在平时在工作生活的地方穿。 47:31 喵叔的“灵魂旅行”:在播客间里遇见有趣的人 (另类旅行) 「我现在非常喜欢我的录音间…我真的现在很喜欢听故事。」 → 灵魂拷问:那你现在对什么感兴趣? → 暴击真相:我我我真的没有说是我特别想去什么地儿,突然一下子可能种草了哪个地方,说想去就去了。 52:53 不做攻略的旅行:未知的乐趣与风险 (旅行方式) 「我觉得这个跟每个人我觉得要的东西不一样…不做计划的人期待的是更多的散漫、自由、放松。」 54:23 小众目的地推荐:赣州、长野的户隐、运城、石家庄(目的地种草) * 赣州:人少、好吃、辣(适合不爱吃麻的人)。 * 长野的户隐:古树、森林、自然步道、牧场、露营地。 * 运城:古建多、美食独特(羊肉胡卜、绛县火锅)、有山有水(盐湖)。 * 石家庄: 正定(红楼梦,隆兴寺,临济禅寺),赵县(赵州桥,百灵禅寺,雪花梨) → 种草指南:每个地方都有独特的魅力,适合不同需求的旅行者。 01:03:37 吴哥窟与东南亚最大淡水湖(目的地种草) * 吴哥窟: 值得一逛的古迹。 * 洞里萨湖: 东南亚最大淡水湖。 01:04:35 特罗姆瑟:北极之门的宁静与治愈 (目的地种草) 「他有个很好看的教堂…这个地儿有点与世隔离的感觉,然后就忽然都很平静。」 → 治愈时刻:在与世隔绝的环境里,看雪山、轮渡、蓝调的天空。 01:06:31 朝圣之路:800-1000公里的徒步之旅 (硬核挑战) 「在这条路上,你走的时候…每天你见到不同的人,听到不同的故事。」 → 灵魂拷问:明天给你门口挂牌东方朝圣之路,然后把法国包画出来。 01:08:18 梦想的目的地:火星! (终极幻想) 「我想去火星,我要和马斯克搞好关系,我真的想去。」 → 终极拷问:地球没劲,地球已经圈不住你了? 01:09:00 结尾:逃离职场之后,逃到哪里? (回归主题) 「我今年的主命题还是35岁之后职场怎么活…那你逃离职场之后,你到底要逃在哪?」 → 灵魂拷问:现在大家都忙着找工作。 → 暴击真相:所有那种长期一点儿的旅行都是在离职以后才去的…… 节目资源 * 文化地图:西藏山南 & 冈仁波齐朝圣线路 / 澳洲黄金海岸 / 哈尔滨中央大街 / 威海城堡酒店 / 日本青森美术馆 * 实用旅行控:“大通铺转山生存指南” * “查靠谱餐厅 vs. 人均踩坑” * “躲过网红滤镜,看见真实” 听众行动指南 1. 重新审视休假 1. 不要等到彻底崩溃才给自己放假,哪怕周末也能做一场“周边微旅行”。 2. 计划与随缘并行 1. 提前做最低限度的攻略,但留出一半时间给偶遇和自由发挥。 3. 大胆融入当地人 1. 去市场、去菜场、去街头享受live音乐,别错过那些最有“烟火气”的精彩。 4. 寻回灵魂:修行不在远方 1. 远行固然能洗涤心灵,但真正的修行是让每一次出走都带着一颗宁静的心。 订阅渠道 * 小宇宙 | Apple Podcasts | Spotify | 喜马拉雅 | 网易云音乐 | 豆瓣播客 | 荔枝FM | YouTube | KKBox 互动暗号 * 加喵叔微信:jinhuatalk,暗号“素质不详” * 故事投稿邮箱:[email protected] BGM * 片头曲:José González – “Stay Alive” * 片尾曲:CHAGE and ASKA – “On Your Mark” 制作团队声明 本期内容基于多位嘉宾真实分享,部分情节有艺术化转译。所有关于高海拔旅行、野生动物接触、异国文化体验等,均需根据个人体能与实际情况谨慎选择。节目宗旨在于提供灵感,而非绝对指引;在旅行或修行前,请做好安全准备与必要调研。愿每位听众都能在脚步与内心的流动中找到自洽,让“逃离工作”真正成为“遇见更好的自己”。 「素质不详」节目由「声湃 WavPub」提供内容托管和数据服务支持。

80分钟
1k+
1个月前

E864 中国这个会,李嘉诚儿子一来股价就涨回来了

【本期导读】 这两天,甚至可以说这两周,最受瞩目的中国新闻竟然是一个论坛。由于某种原因,外媒对这个论坛的关注度甚至超越了两会。 这就是上周日(3 月 23 日)开幕的中国发展高层论坛。 说实话,现在这种论坛我们见得多了,而且几乎所有论坛都叫“高层论坛”,这反倒让“中国发展高层论坛”显得有些平平无奇。 但实际上,这是中国对外交流层级最高的平台之一,主办方是国务院发展研究中心。参会的除了中国政府高层领导,还会邀请全球商界领袖、国际组织代表以及国内外知名学者,每年春天齐聚北京钓鱼台国宾馆交流对话。今年也不例外。 今年,由于一些特殊原因,尤其是特朗普上台后中美关系愈发微妙,使得这次论坛受到外媒高度关注。 今天我们就谈谈外媒特别关心的几个问题。 【内容简介】 ▸ 01:13 有哪些国际商界领袖来参会? ▸ 11:09 会上传递了什么信号? ▸ 12:54 李嘉诚陷舆论风波,二儿子怎么来参会了? ▸ 16:10 与会的特朗普老铁,跟中国颇有渊源? 【原文中英对照】 Chinese premier warns of 'rising instability' at key business forum 中国PM在重要的商业论坛上警告称,中国面临的“不稳定性在上升” Chinese Premier Li Qiang urged countries to open their markets to combat "rising instability and uncertainty" at a business forum in Beijing on Sunday, as China braces for further U.S. tariffs. 中国PM周日在北京举行的一个商业论坛上敦促各国开放市场,以应对 “日益加剧的不稳定性和不确定性”,正值该国在为美国进一步加征关税做准备。 ▲ 公众号/视频号:在下林伯虎 我们每周四晚八点半在微信视频号(在下林伯虎)直播,借由顶尖外刊在英语学习中探讨时政热点。免费直播干货满满,欢迎围观~ ▲ 听友群:扫码添加小虎虎 【主播介绍】 林伯虎,公众号「在下林伯虎」主理人,「虎哥课堂」创始人,专注于解读英语外刊、原版书和智趣文化热点。牛津大学区域研究学硕士,南京大学民商法学硕士、英美文学学士。游学欧美十余国,金融沪港四五年。教育部中外语言交流合作中心授课专家,China Daily 校园新闻奖评委。

24分钟
1k+
1个月前

vol.139 天菜的自白:不知道找对象来干嘛

凌晨一点零三分,窗外小区的灯光终于变成毛玻璃的色块。你第十七次划开新加天菜的朋友圈:他在网红咖啡店打卡,而你在点赞前忽然停住——这已经是几次,你一个人躺在床上,听见内心的声音:这样做真的有意义吗? 做客本期播客的是一位呼声很高的返场嘉宾:化学赵老师。被称为"大天菜"的他,其实也有着单身状态的独一份的烦恼:为什么人一定要找对象。社交媒体上的形象和讲堂上的他给人的感觉总是干净而严谨。殊不知这正是“渣男”的一套保护外衣。在谈及情感状态是否需要被填满的时候,却有一个话题是我们值得去思考的:情感会有疲惫期,那么单身的疲惫期又是什么造成的呢?当我们开始习惯用dating app的滑动代替心跳,将亲密关系拆解成可量化的KPI,却在某个加完班的雨夜,对着打车软件上"紧急联系人"的空白栏愣神。 主播:Wen Jason 嘉宾:赵老师 【本期播客timeline】 00:43 化学老师穿什么样的睡衣? 03:46 单身两年却被网友误会,哪里来的甜甜恋爱 05:35 长相老实,私底下却是渣男 08:53 要对象来干嘛? 11:46 被贴上渣男标签后,越发觉得自己很耽误别人 14:56其实和他们本就不是以交往为目的开始,所以都很直接的结束 17:26 只有想认真相处的见面才算是约会,其他只能算认识认识 20:12 现在我不会长久的暧昧,感觉时刻都在变,这是没有结果的 24:51 你在选择别人的时候,也同时在被对方选择 28:54 终于被抓到化学老师的真实分手原因 30:13 给wx好友打标签、备注评论,根据标签聊定制化内容 34:51 迁就是否等同于妥协,长期伴侣相处过程中是否会牺牲自我 38:20 不想耽误彼此时间是永恒的原因,多少次分手的原因都是这个 41:48 天菜不会被拒绝的原因到底是什么 47:46 主持人的约会大失败,这能怪谁呢? 53:49 听友提问:高中生谈恋爱老师能发现吗? 56:50 听友提问:在事业单位如何应对没边界感的领导 59:34 本期结束 撒花 片头曲:Born Again by Lisa (feat. Doja Cat & RAYE) 片尾曲:Abracadabra by Lady Gaga 【B站|公众号:漂流银河系】 【嘉宾小红书:他们喊我赵老师 】 【主播小红书:@Wen | @超圳点 | @漂流银河系】 【收听渠道:小宇宙 | Spotify | 喜马拉雅 | 网易云音乐 | Apple Podcast】 【反馈、投稿、自荐,欢迎联系我们】 邮箱:[email protected] WeChat: kk_dd007(备注:漂流银河系)

60分钟
1k+
1个月前

走心聊聊,电影对我们意味着什么?这么多年,怎么内心还是想做电影?「131」

从北电中戏毕业多年,每个人的轨迹都不一样,兜兜转转,还是离不开电影。也不知啊,电影对我们来说,是谋生手段还是艺术追求,是美好生活的小小一部分,还是想瞎了心的一生挚爱。这期我们来把灯关上,走走心,望着鹿台家窗外的夜景,回忆回忆我们怎么爱上电影的,探讨探讨电影对我们意味着什么…… 号外!好消息!拍脑门儿电台三周年线下录制暨听户团建活动将于4月12日(周六)在京举办!下期节目上线当日,会开放预约链接,席位有限,请大家关注本台小红书“拍脑门儿官方号”或微信听户群里的通知! op: “Zurhen Helbert Boroo” - The GALTMAH ed: “We Don’t Need This World” - Boys Age 拍脑门儿小信箱📪:期待听到你的分享!无论是生活的烦恼还是工作的事情,只要你希望和我们几个朋友聊聊!不保证疗效,只希望你笑,期待收到你们的来信📨~ 📮:[email protected] 更多走心,尽在听户群中!赶快入群畅聊吧!+小脑门儿vx:painaomenerradio (由于微信每日拉群有限额,需有序排队,请耐心等候) 责任编辑:🏪 文案:🏪 编审:🦌 互动微博 主播丨@徐晓璐 主播丨@张store 主播丨@阿树忒崽 主播丨@应岱臻Alex 商务合作 [email protected]

85分钟
5k+
1个月前
EarsOnMe

加入我们的 Discord

与播客爱好者一起交流

立即加入

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧