AI下一帧

Podcast

AI下一帧

主播 未知 出品 反向弯曲 970 订阅 48 集 4天前更新

在小宇宙收听
EP048 | 0.016%:AI 给 AI 做了场"脑手术"

EP048 | 0.016%:AI 给 AI 做了场"脑手术"

AI下一帧

有人没训练任何模型,没喂一条数据,没跑一次梯度下降。他找到一个 8 亿参数的开源模型,只改了里面 0.016% 的数字——像一本几千页的大部头,只在某一页角落改了一个标点——这个模型的数学成绩,涨了六倍。动刀的不是人,是另一个 AI。它干的事叫「权重空间编程」:像程序员读代码那样,直接去读、去改另一个神经网络的权重,全程不训练。正常训练一个模型像教小孩,这种改法是直接打开脑子改神经连接——前者是教育,后者是手术。 适合每一个关心 AI 怎么进化、以及这事会不会失控的人。不用懂机器学习,听不懂的词都用大白话讲。 想听更多 AI 行业深度分析?欢迎在小宇宙搜索「AI下一帧」,每周日早上8点更新。 想聊的欢迎留言,或发邮件给主播:[email protected] ===================================== 时间轴 00:06 0.016% 换来六倍 01:58 他到底干了什么 06:07 看权重猜游戏 11:25 权重能看出"结构",但看不出"行为" 13:44 Astra 手搓一个网络 18:09 0.016% 到底改了什么 23:47 两个重要的限制 27:48 这可能只是个老套路 34:33 那个词是 RSI 40:00 最后一项发明 ===================================== 参考链接: 本期主角 · 原文与可验证材料 Weight-Space Programming(Rikiya Takehi 等,MIT CSAIL) https://rikiyat.github.io/blog/weight-space-programming/ 完整实验日志 https://github.com/RikiyaT/lm_understand-logs 编辑后的 Qwen 模型(可自己跑) https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming 在线 demo(Hugging Face 社区复现) https://huggingface.co/spaces/akhaliq/weight-space-programming-demo 怀疑派 · Sean Goedecke 的反驳 大语言模型在读写神经网络权重上并不超人 https://www.seangoedecke.com/llms-are-not-superhuman-at-reading-and-writing-neural-network-weights/ 他讲引导向量(steering vectors) https://www.seangoedecke.com/steering-vectors/ Hacker News 上的完整争论 https://news.ycombinator.com/item?id=50344861 免训练改模型的那一大家子技术 Heretic:游戏显卡一下午给模型去审查的开源工具 https://github.com/p-e-w/heretic Abliteration 学术源头:拒绝是由单一方向决定的(Arditi 等,2024) https://arxiv.org/abs/2406.11717 金门大桥 Claude(Anthropic,引导向量的经典演示) https://www.anthropic.com/news/golden-gate-claude 表示工程 Representation Engineering(Zou 等,2023) https://arxiv.org/abs/2310.01405 ROME:定位并编辑 GPT 里的事实(Meng 等,2022) https://arxiv.org/abs/2202.05262 MEMIT:一次改几千条事实(ROME 批量版) https://arxiv.org/abs/2210.07229 任务算术:权重相加减拼出新技能(Ilharco 等,2022) https://arxiv.org/abs/2212.04089 TIES-Merging:进阶模型合并 https://arxiv.org/abs/2306.01708 antirez 的 DS4(把引导向量做成一等公民) https://github.com/antirez/ds4 RSI 与 1.9 倍 · 第一次有人拿尺子去量 METR 对 Anthropic 研发加速的评估报告 https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/ 报告解读(含完整数字与稳健性区间) https://theainewsreport.com/2026-11-06-metr-anthropic-ai-rd-acceleration-1-9x-explained.html 延伸 · 手搓权重的先例 AdderBoard(让 coding agent 手搓小 transformer 权重) https://github.com/anadim/AdderBoard vgel 的手搓 transformer https://vgel.me/posts/handmade-transformer/ 本期病人:Qwen3.5-0.8B(官方 model card 承认易陷入死循环) https://huggingface.co/Qwen/Qwen3.5-0.8B ===================================== 前游戏开发者,现海外云厂商架构师 [反向弯曲] 主理的 [AI×游戏] 播客! 帮助互联网|游戏从业人员 拆解全球游戏 AI 前沿动态,深挖技术落地干货。 让你轻松拿捏行业脉搏,预判 AI + 游戏的 "下一帧"。 对未来好奇?速戳订阅! 小红书b站同名:反向弯曲

45 分钟 99+ 次播放 4天前

EP047 | Super-Agent : Deepseek为了解决人类注意力问题

EP047 | Super-Agent : Deepseek为了解决人类注意力问题

AI下一帧

DeepSeek 上周五晚上扔出一套东西,让一个 AI 潜在公司内部群里——没人@它,它自己发现一个 bug,默默提了个修复 PR。这期我们就从这个有点瘆人的场景开场,拆一个问题:AI 是怎么学会在没人管的情况下,自己找活、自己干活、自己交活的? 核心判断只有一句:真正卡住你的,已经不是 AI 不够聪明,而是你的注意力不够用了。一个人最多盯住三到五个 AI 会话,再多就转不动了——于是 DeepSeek 干脆把人从调度台上请了下来。我们用「工地」这个比喻从头讲到尾:包工头(Router)只管派活、不下场干活,工人(Worker)各在独立工作间闷头干,你只跟一个人说话。五层架构一层层拆:它怎么自己盯着动静、怎么在后台偷偷把活干了还不吭声、怎么从「对讲机」升级成「电话」让你随时插话、谁来盯着包工头别跑偏。 想听更多 AI 行业深度分析?欢迎在小宇宙搜索「AI下一帧」,每周日早上8点更新。 想聊的欢迎留言,或发邮件给主播:[email protected] ===================================== 时间轴 00:11 你的注意力不够用了 01:58 AI 自己改好了一个 bug 03:26 累的不是脑子,是来回切 05:44 瓶颈,从"AI不够强"变成了"你不够用" 08:01 包工头和工人:你只跟一个人说话 12:59 "你被迫当调度员,是上一代工具偷的懒" 14:35 它不再等你下命令,它自己盯着工地 17:42 它在后台偷偷把活干了,但不一定告诉你 20:09 从对讲机到电话 22:47 谁来盯着包工头?再加一条看门狗 25:14 把管服务器的老智慧,搬来管 AI 26:23 大脑上云,手留在你的电脑里 28:33 它到底快多少 31:58 省的是调度,不是本事 34:30 这方向,真的新吗 36:38 今天真正的硬骨头,是可靠,不是快 38:48 它要的权限,大到官方自己都慌 40:55 Agent 从"工具"变成了"系统" 42:00 那么,人最后剩下什么? ===================================== 参考链接: DeepSeek 官方 · 本期主角 Super-agent 设计探索:迈向更自主的 Agent 系统 https://mp.weixin.qq.com/s/zoS7GlReWPhfCjENGxXCdg dsh-superagent-prototype(开源原型,TypeScript / MIT) https://github.com/deepseek-ai/dsh-superagent-prototype 架构细节转述(eogee) https://eogee.com/article/295 同行对照 · 方向之争 为什么验证成了瓶颈、agent 该自己测自己(marmelab:2026 AI Harness 工程现状) https://marmelab.com/blog/2026/09/24/the-state-of-ai-harness-engineering-2026.html ===================================== 前游戏开发者,现海外云厂商架构师 [反向弯曲] 主理的 [AI×游戏] 播客! 帮助互联网|游戏从业人员 拆解全球游戏 AI 前沿动态,深挖技术落地干货。 让你轻松拿捏行业脉搏,预判 AI + 游戏的 "下一帧"。 对未来好奇?速戳订阅! 小红书b站同名:反向弯曲

47 分钟 99+ 次播放 1周前

EP046 | vLLM:英伟达为什么不想赢这场仗?

EP046 | vLLM:英伟达为什么不想赢这场仗?

AI下一帧

一个博士生的课堂项目,凭什么打败了英伟达? 2023年春天,伯克利一个爆款聊天 demo 流量炸了,后端眼看要崩。几个博士生把一个还没公开的东西临时顶上去救场——扛住五倍流量、GPU 砍一半。大半年后才补写成论文。这个救火队员,就是今天全世界跑大模型的默认底座:vLLM。 这期我们追一个反直觉的问题:一个学生的开源项目,凭什么打败了英伟达官方的推理引擎,成了所有人脚下的地基?答案要剥三层——它的护城河根本不是技术(跑分它甚至不是第一),而是抢先变成了接口标准;它能抢先,是因为最有资格的英伟达,出于卖卡的生意逻辑压根不想赢,还顺手把所有想摆脱锁定的客户都送了过来。我们把 PagedAttention、连续批处理用游戏里的刷怪波次和对象池讲清楚,拆开"推理引擎=AI时代收费站"这盘大棋,最后聊聊这个收费站正从训练端悄悄挪到推理端,意味着什么。 适合每一个在 AI 牌桌上,总觉得自己"不够顶尖"的人听。 想听更多 AI 行业深度分析?欢迎在小宇宙搜索「AI下一帧」,每周日早上8点更新。 想聊的欢迎留言,或发邮件给主播:[email protected] ===================================== 时间轴 00:00 开场 01:58 vLLM:先有危机,后有论文 05:49 天天用 vLLM,却没想过为什么 08:40 为什么推理这层这么值钱 12:21 它凭什么快又省:PagedAttention 13:59 它凭什么快又省:连续批处理 21:32 它的护城河,根本不是技术 26:27 英伟达,根本不想赢这场 29:42 英伟达想解也解不开的死结 32:56 它会一直赢下去吗? 37:44 片尾曲《墙根》 ===================================== 参考链接: vLLM 官方 · 起源与技术 vLLM 首发博客(PagedAttention / 24倍 / LMSYS 实战) https://blog.vllm.ai/2023/06/20/vllm.html PagedAttention 论文(SOSP 2023) https://arxiv.org/abs/2309.06180 vLLM V1 架构重构发布博客 https://blog.vllm.ai/2025/01/27/v1-alpha-release.html vLLM 2024 年度回顾 · 2025 展望 https://blog.vllm.ai/2025/01/10/vllm-2024-wrapped-2025-vision.html vLLM GitHub 仓库 https://github.com/vllm-project/vllm 连续批处理 · 性能数据 Anyscale:连续批处理第三方实测(8倍/23倍) https://www.anyscale.com/blog/continuous-batching-llm-inference Orca:iteration-level 调度起源(OSDI 2022) https://www.usenix.org/conference/osdi22/presentation/yu BentoML:推理引擎中立横评 https://www.bentoml.com/blog/benchmarking-llm-inference-backends 英伟达为何给对手贡献代码 vLLM × OpenAI gpt-oss 三方适配(含英伟达 Blackwell 内核) https://blog.vllm.ai/2025/08/05/gpt-oss.html 治理与商业化 PyTorch 基金会托管 vLLM https://pytorch.org/blog/pytorch-foundation-welcomes-vllm/ Red Hat 收购 Neural Magic https://www.redhat.com/en/about/press-releases/red-hat-acquire-neural-magic Inferact 融资 1.5 亿美元商业化 vLLM https://techcrunch.com/2026/01/22/inference-startup-inferact-lands-150m-to-commercialize-vllm/ 同门师弟 · SGLang SGLang 与 RadixAttention https://lmsys.org/blog/2024-01-17-sglang/ SGLang v0.4(Agent/高并发优化) https://lmsys.org/blog/2024-12-04-sglang-v0-4/ ===================================== 前游戏开发者,现海外云厂商架构师 [反向弯曲] 主理的 [AI×游戏] 播客! 帮助互联网|游戏从业人员 拆解全球游戏 AI 前沿动态,深挖技术落地干货。 让你轻松拿捏行业脉搏,预判 AI + 游戏的 "下一帧"。 对未来好奇?速戳订阅! 小红书b站同名:反向弯曲

41 分钟 99+ 次播放 2周前

EP045 | Personal Agent : 几个小时就能搭出来的东西,凭什么有人开价一个月一百美元?

EP045 | Personal Agent : 几个小时就能搭出来的东西,凭什么有人开价一个月一百美元?

AI下一帧

OpenClaw 的作者说,他最早的原型,就是把 WhatsApp 接到 Claude Code 上,花了一个小时。可今天 OpenAI 的 Dots、Meta 的 Muse、Instinct、Cue 这一批 personal agent,卖得一个比一个贵。这期我们用"雇管家"的比喻,把它拆成五样东西:门铃、闹钟、房子、钥匙串、保险柜。再拿开源内核 Pi 从头搭一遍,看看需要补齐哪些功能?更重要的一点是:Agent出了事,责任写在谁头上?Agent的记忆又归谁? ===================================== 时间轴 00:00 开场:personal agent到底在卖什么 04:05 管家的例子 07:19 先看它们干得怎么样 09:36 龙虾,和那个“一个周末”的传说 12:46 为什么先火的是写代码的 agent 15:25 好,我们把它搭一遍 20:08 门铃和闹钟 22:50 房子和钥匙串 25:31 保险柜 27:50 发布会没讲的那一页 31:02 那个点了“永远允许”的人 33:40 还有一件事:记忆归谁 35:24 自己搭,还是用他们的 41:13 片尾曲《如我亲临》 ===================================== 条款原文 * OpenAI Service Terms(§14 Dots and Agentic Features) * Dots privacy, security, and safety FAQs(OpenAI Help Center) * Muse Supplemental Terms * Instinct Terms of Service 产品与事件 * Introducing Dots(OpenAI) * Introducing Muse(Meta) * How We Built Safety Into Muse(Meta AI Research) * Meta’s Muse AI sent a YouTuber’s address to a stranger(The Verge) * Meta’s AI agent Muse gives out user’s home address without permission(The Guardian) * Muse sure looks a lot like OpenClaw(The Verge) * Instinct’s powerful AI assistant is raising privacy and security concerns(TechCrunch) * Introducing Manus 2.0(Cue) OpenClaw 与 Pi * Lex Fridman #491 访谈文字稿:Peter Steinberger * Pi coding-agent README * What I learned building an opinionated and minimal coding agent(Mario Zechner) * Docker Sandboxes ===================================== 前游戏开发者,现海外云厂商架构师 [反向弯曲] 主理的 [AI×游戏] 播客! 帮助互联网|游戏从业人员 拆解全球游戏 AI 前沿动态,深挖技术落地干货。 让你轻松拿捏行业脉搏,预判 AI + 游戏的 "下一帧"。 对未来好奇?速戳订阅! 小红书b站同名:反向弯曲

44 分钟 99+ 次播放 3周前

评价

还没有人评价。听过的话,留个分数和一句短评吧。

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的单集添加进来吧