锐评国模与 Neo Lab,畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾
42章经

锐评国模与 Neo Lab,畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾

62 分钟 1,075 次播放 1天前发布

在小宇宙收听

节目简介

来源:小宇宙
这期播客中,我们和骁腾探讨了不少颇为尖锐的话题,比如国模到底哪家强,各家又有什么问题?到底该怎么定义 Neo Lab?从 Macaron 到 Neo Lab,再到 RLaaS,Mind Lab 这一路的转型背后有哪些思考,现在又做得怎么样?
坦白说,这期对我们来说,是一个打破不少固有认知的过程。骁腾的回答都很实在,也很 solid,而且他可能是我们最近聊过的最「快乐」的 Researcher 哈哈。听他聊下来,我们不仅对 Mind Lab 在做的事有了更全面的了解,也对 RL、模型发展和 RLaaS 的实际运作有了新的理解。节目中,他还分享了很多从 RL 研究中获得的生活哲学。在他看来,创业可能才是最符合 RL loop 的事情。
【人类博物馆】
导游:曲凯,42章经创始人
55 号珍藏:马骁腾(Pony),Mind Lab 联合创始人、首席科学家,清华大学自动化系博士、博士后,长期从事强化学习与模型后训练研究,关注 AI 如何从真实交互中持续学习
【时光机】
Part 1 一个 RL Researcher 的人生选择
* 00:54 如何看待 Mind Lab 的争议,在 Mind Lab 工作是种什么体验?
* 03:02 为什么首选不是去 AI Lab?
* 03:46 做 RL 学到的三件事
* 04:28 「我一直都是一个 90 分主义者」
* 08:32 创业是最符合 RL Loop 的事?
* 10:06 没在模型厂待过,凭什么能训好模型?
* 13:24 在叉院的时候一度非常绝望,觉得 research 做不过别人
* 16:20 国内 RL 的困境可能是「立山头」现象比较多?
Part 2 模型的发展与 Neo Lab 的叙事
* 18:10 对国模的态度:短期悲观,长期乐观
* 20:18 Anthropic 的一个让人担忧的做法
* 22:21 大厂确实资源多,但真不一定是最后赢家,甚至可能会集体失败?
* 28:28 国模接下来要拼的是什么?
* 30:42 锐评一下海外和国内的模型
* 35:32 啥是 Neo Lab?
* 38:20 Researcher 都在犯一个致命错误
* 39:26 到底该先做模型,还是先做产品?
* 41:53 RSI 现在完全就是个宣传口号?
Part 3 聊聊 Mind Lab
* 44:21 从 Macaron 到 Neo Lab 再到 RLaaS,Mind Lab 到底在做啥?
* 45:55 为什么美国各种中间层的公司都在做自己的模型?
* 48:40 RLaaS 的客户画像是怎样的?
* 50:52 自己训模型的意义是什么?账算得过来吗?
* 53:45 为什么头部公司不自己训模型,而要采买外部服务?
* 54:58 做 LoRA 的心路历程:scale up、scale down 与 scale out
* 57:21 最近最关注的问题:continual learning
* 59:01 「我并不担心被模型吃掉,甚至觉得我们一直在从中受益」
【The gang that made this happen】
* 制作人:陈皮
* 剪辑:二琳,陈皮
* 片头:Mondo Bongo - Joe Strummer & The Mescaleros
* 片尾:Sparklehorse - Hundreds Of Sparrows

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧