本次潜空间邀请了「陈贝迪 Betty Chen」，她分享了算法、系统以及硬件协同设计（co-design）的一些性质，以提升长序列生成的效率（for efficient long sequence generation）。

💡关于「奇绩潜空间」：

我们找到了 GenAI 时代冲得最快的一批创业者 / Researchers ，如月之暗面（Moonshot AI）创始人杨植麟、AI 硬件 Rabbit-R1 创始人吕骋等，来分享自己的亲身经历和见解，希望可以为所有 GenAI 时代的创业者、从业者提供可借鉴、可复制的经验。

本期文字稿：奇绩社区内容精选

🎙️本期嘉宾：

陈贝迪 Betty Chen

卡内基梅隆大学助理教授，前Meta研究员

研究方向：包括大规模的机器学习，system optimization优化，以及如何通过MLSys来提升efficiency

⏰时间轴

01:57 算法、系统与硬件协同设计

03:08 长序列语言模型的挑战

07:57 KV缓存的瓶颈

08:53 设计高效算法应对KV缓存的问题

12:13 静态KV压缩的探索

27:00 Dilemma的解法之一：GPU和CPU的Co-design

39:35 总结和展望

47:20 Q&A

👉【奇绩潜空间】报名通道奇绩潜空间是 GenAI 时代冲得最快的一批科研学者/从业者/创业者聚集的 AI 人才社区，我们定期邀请大模型前沿创业者分享产品实践探索，如杨植麟、吕骋、闫俊杰等，邀请前沿科研学者分享最新技术进展，如姚顺雨、蔡天乐等。欢迎关注奇绩，报名添加小助手

🙋活动报名 & 听友群，欢迎扫码加小助手: