AI自习课

AI自习课 的全部节目

共 53 集。

[周报] 解读 NVIDIA 爆款最新论文:AI不需要长上下文

[周报] 解读 NVIDIA 爆款最新论文:AI不需要长上下文

AI自习课

🎧 本期简介 当整个 AI 大模型社区都在盲目追求 128K、256K 甚至 1M 的“超长上下文窗口”(Long Context Window)时,NVIDIA 研究团队发表了一篇令人警醒的重磅论文——《You don’t need long context》。 研究团队直面大模型部署与运行中的现实痛点:生成靠后的 Token 成本远高于开头的 Token,不仅如此,长上下文还会导致解码吞吐量剧烈坍塌、首字延迟与内存消耗成倍剧增。 🔍 给 AI 开发者与架构师的 4 条落地建议 1. 别再凭空为超长 Context 掏冤枉钱 在实际 Agent 系统开发中,优先考虑在 Harness 层(如 LangChain、LlamaIndex、自研 Agent 框架)实现状态压缩与文件按需读取,而不是直接调用昂贵的 1M 窗口 API。 2. 良好的 Compaction 必须是“针对未来执行的简报”,而非历史叙述 论文研究表明,好的总结提示词(Compaction Prompt)不应该试图平等总结过去的每一句对话,而必须强制包含: * 明确的最终目标(Objective); * 已建立的准确事实与已修改的文件列表; * 验证状态与失败的死胡同(Dead ends); * 针对未完成子目标的下一步按顺序执行计划。 3. 赋予 Agent 强大的局部文件检索工具 针对超长文档或代码库任务,给 Agent 提供 doc-read(限定字符范围读取)、grep 等精确切片工具,其表现远优于将几十万字直接塞入 Prompt 的“大力出奇迹”做法。 4. 重新审视 Agent 架构中的 RAG 与 Memory 设计 不要把所有历史 Observation 都留在 Context 里。将复杂长流程解耦为“状态更新”与“单步决策”,不仅能显著降低 API 账单,还能防止模型在过长的历史噪点中产生迷茫(Lost in the Middle)。 🔗 论文与资源链接 * 论文原件:arXiv 2611.05306 PDF * Hugging Face Daily Papers 讨论:You don't need long context - Hugging Face * NVIDIA Lab 项目主页:Project Moonshot: Local Frontier Intelligence

22 分钟 99+ 次播放 1周前

EP-29 百万🌟 GitHub 爆火AI Skills大赏

EP-29 百万🌟 GitHub 爆火AI Skills大赏

AI自习课

本期干货满满 这期让我们一起逛一逛 GitHub 上最火的一批 Skill,星星收藏数加起来上百万。 节目最后再聊聊了一个最近外网的一个热议话题:如果现在的模型真的这么强,一天就能做一个app,模型公司为什么不干脆自己开一百家公司? 本期聊到的 Skill 开发流程类 * obra/superpowers:不让 AI 一上来就写代码,先澄清需求、做计划,再按测试驱动开发来做。 * andrej-karpathy-skills:把 Karpathy 对 AI 写代码通病的观察,浓缩成四条原则:先想再写、求简、只改该改的、用目标来验证。 * anthropics/skills:Anthropic 官方的 Skill 仓库,里面有文档处理四件套、前端设计,还有帮你写自己 Skill 的 skill-creator。 省力省钱类 * ponytail:让 AI 像房间里最懒的资深工程师那样干活,因为最好的代码就是没写出来的代码。 * caveman:让 AI 像原始人一样说短句,号称能省下大约 65% 的输出 token。 设计和文字类 * taste-skill:给 AI 一套设计师的工作流程,去掉网页的“AI 塑料味”。 * humanizer:找出 26 种 AI 写作的痕迹并改掉,去掉文字里的 AI 味。 学习类 * Understand-Anything:把一个大代码库画成一张看得懂的地图,新人入职的时候特别有用。 * ai-engineering-from-scratch:一门从零开始的 AI 工程开源课,能把你的编码助手变成一对一的私教。

26 分钟 99+ 次播放 2周前

EP-28 AI, 艺术与教育|跳出信息茧房,聊聊艺术圈怎么看AI

EP-28 AI, 艺术与教育|跳出信息茧房,聊聊艺术圈怎么看AI

AI自习课

特别节目 身在硅谷,总觉得身边人人都在用 AI。这期是《AI自习课》的第一期访谈节目,让我们聊聊科技圈之外,其他行业的人是怎么看AI,怎么用AI的。 本期嘉宾 我的大学同学兼闺蜜,国内头部艺术类院校老师,电影学博士、助理教授。本科读计算机,后来转向艺术,研究方向是人工智能技术与艺术 本期主题 从 Karpathy 的「AI 认知漏斗」说起,走出我们的信息茧房:AI 短剧对演员的冲击,艺术和计算机交叉研究的错位与热门方向,AI 原住民一代学生的变化,教育方向,AI时代对于学生什么是最重要的。 🧭 章节锚点 行业体感|AI 短剧、演员与动画电影 * 04:18 AI 短剧已经这么逼真,演员会被取代吗? * 09:45 换脸风波:观众、角色和演员之间的情感纽带 * 13:24 AI 动画课上最强调的事:驾驭,而不是预制菜 交叉学科|艺术 × AI 的研究 * 24:38 和计算机顶会合作时的「错位」 * 30:29 打通两边:给艺术生讲 Transformer 和 Diffusion * 33:34 AI + 艺术的几个热门方向:可控生成、人机协同、计算分析、交互与智能表演、材料与生物 教育|AI 原住民这一代学生 * 37:13 和 AI 一起长大的学生,有什么不一样? * 45:17 判断力,是这个时代最重要的能力之一 未来|焦虑与期待 * 49:46 三个期待:完整的创作流程、更多好内容、更细的分工 * 51:31 会有 FOMO 吗?工具在变,创作的逻辑不变 ✨ 高光时刻 * 07:33 AI 对演员的冲击是真实的,但它也逼着我们重新想一想:演员的价值到底在哪里。 * 13:31 把 AI 当成「驾驭」的智能,别让它变成「预制菜」。 * 26:24 在艺术里,AI 的 bug 和不可控,本身也可能是一种美。 * 57:21 AI 时代最大的挑战不是机器越来越像人,而是当机器越来越擅长做过去只有人能做的事时,我们能不能重新发现:人为什么需要艺术。

57 分钟 99+ 次播放 4周前

EP-26 一切问题都被AI解决后 人还剩下什么 - 如何寻找目的和意义

EP-26 一切问题都被AI解决后 人还剩下什么 - 如何寻找目的和意义

AI自习课

在一个理想的乌托邦世界里,当AI发展的很成熟很完善且没有毁灭人类,AI做的一切都比人做的好,人的价值是什么?人还剩下什么? 哲学家博斯特罗姆提出了这样一个思想实验:要是 AI 没失控,一切都顺顺利利,人类真的走进了乌托邦,接下来会怎样?这一期我们一起读他的《未来之地》(Deep Utopia),跟着他的思想实验一起来想一想。 本期大纲 🔹 开场:五个问题 不用工作的第三百天你在做什么?把「我是做 xx 的」这句拿掉,你还能怎么介绍自己? 🔹 作者是谁 作者尼克·博斯特罗姆曾讨论过关于AI的风险,AI的末日论,是《超级智能》的作家,也是“回形针实验”的提出者。这次他反过来问:AI成功之后会冒出什么问题? 🔹 「技术成熟」的世界长什么样:后稀缺、后工作、后工具性。连刷牙和健身都不用自己来的美好世界真的美好吗? 🔹 后稀缺和后工作时代:工作没了 先狂欢,后空虚。目的和意义的区别。闲暇文化的定义。 🔹 后工作时代:连玩都不需要了 纳米机器人替你健身,知识直接写进大脑,那爱好还剩什么? 当人可以改造自己, 情绪像调音量一样调,性格想改就改。一个把自己改成永远热爱雕桌腿的人,雕了十六万根,他很快乐,可你愿意这样过吗? 🔹 包容一切的超越性目的:在乌托邦的世界里,寻找目的的方向 🔹 守住意义的五道防线:快乐本身,体验质地,过程,人为设置难度,人与人之间的牵绊 📖 本期书目 尼克·博斯特罗姆《未来之地》(Deep Utopia: Life and Meaning in a Solved World)

36 分钟 99+ 次播放 1个月前

EP-25 Diffusion 扩散模型 - AI也可以不用一个字一个字往出写

EP-25 Diffusion 扩散模型 - AI也可以不用一个字一个字往出写

AI自习课

你有没有注意过,AI 回答问题的时候,答案总是一个字一个字从左往右"蹦"出来的?这不是界面设计,而是今天几乎所有大模型的工作方式- 自回归(auto-regressive) 模型,像一台打字机,一次敲一个键,敲错了也没法回头改。 但人写文章不是这样的。我们会先列提纲,先想好结论,写完了再回头改开头。 这期我们聊一种"不按顺序写字"的大模型:扩散语言模型。它是 Midjourney、Stable Diffusion 这些图像生成工具,现在它搬到了文字上。它能先定结尾再填中间,能写完推理再回头改答案,速度快到每秒上千个词。让我们来聊聊它是什么,它的发展历程,和它与自回归模型的对比吧 本期关键词 扩散模型|自回归|掩码扩散|完形填空|块扩散|双向注意力|DiffusionGemma|LLaDA|Mercury|JEPA|表示空间|思维链可监控性 参考资料 学术脉络 * SEDD,离散扩散,ICML 2024 最佳论文:https://arxiv.org/abs/2310.16834 * MDLM,把文本扩散化简成完形填空:https://arxiv.org/abs/2406.07524 * Block Diffusion,在自回归与扩散之间插值:https://arxiv.org/abs/2503.09573 * DiT,扩散模型换上 Transformer 骨架:https://arxiv.org/abs/2212.09748 * LLaDA,人民大学与蚂蚁集团:https://arxiv.org/abs/2502.09992 * 数据受限时扩散胜过自回归(CMU):https://arxiv.org/abs/2507.15857 模型与产品 * DiffusionGemma 官方博客:https://blog.google/innovation-and-ai/technology/developers-tools/diffusion-gemma-faster-text-generation/ * DiffusionGemma 透明度研究:"3 变 Gold"与"先写答案再改"两个例子都出自这里:https://arxiv.org/abs/2606.20560 * DiffusionGemma 的解码到底并不并行:https://arxiv.org/abs/2606.14620 * LLaDA 2.X 系列:https://github.com/inclusionAI/LLaDA2.X

32 分钟 99+ 次播放 1个月前

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的单集添加进来吧