💡关于「奇绩潜空间」：

我们找到了 GenAI 时代冲得最快的一批创业者 /  Researchers ，让他们来分享自己的亲身经历和见解，希望可以为所有 GenAI 时代的创业者、从业者提供可借鉴、可复制的经验。

线下参与潜空间方式：扫描结尾二维码。

🎙️本期嘉宾：

蔡天乐：普林斯顿“小天才” ，美杜莎推理优化论文作者，曾任职谷歌、TogetherAi，MyShell模型核心贡献者、创业者、天使投资人。

毛圣博 Peter：奇绩创坛合伙人，Peter 的风险投资生涯始于启明创投，后来是熊猫资本联合创始人，累计14年风险投资经验，投资过旷视、Insta360、摩拜、七牛云等独角兽公司。

⏰时间轴

01:38 在科研或者在工业界的经历上最有趣的洞察

05:48 怎么提升大模型推理的效率？

07:21 底层硬件更新周期 & 模型的更新周期的衔接

10:57 在模型和底层硬件愈加同质化的当下，如何做到推理层面的差异化

13:03 影响推理速度/效率的瓶颈

17:29 如何看待大模型市场的价格战争？厂商在赔钱赚吆喝吗？

22:30 关于天乐最新的论文：Medusa 美杜莎

30:52 除了Medusa美杜莎，还有哪些前沿的算法来优化推理效率/速度

32:47 《Large Language Models as Tool Makers》：让模型自己创建工具

36:10 端侧模型：降低成本、保护隐私

37:39 大模型数学比较差的原因？

40:46 超长上下文对推理的影响

43:01 大模型创业的竞争格局

📖本期提到的论文：

• Medusa: Simple LLM Inference Acceleration Framework with Multiple Decoding Heads


• Large Language Models as Tool Makers

👉本周六 线下潜空间预告

主题：多模态大模型：以视觉为中心的探索

嘉宾：童晟邦，纽约大学计算机科学院博士，师从 Yann LeCun 教授和 Saining Xie 教授。他曾在伯克利人工智能实验室（BAIR）担任研究员，目前正在 Meta 暑期实习，近期获得了 OpenAI 超对齐奖学金

活动时间：北京时间 8月24日 10:00-13:00

活动地点：北京线下 / 上海线下 / 线上 均有场次

🙋活动报名及听友群，欢迎扫码加小助手: