← 硅谷温差
2026.11.01
Show notes
节目简介
Fireworks AI估值冲到175亿美元,投资人放话“有芯片就无脑投”,AI推理平台真的一本万利吗?前Google Gemini产品经理Lewis和前Google工程师Will拆开推理(Inference)这门生意:开源模型把token价格一路往下压,GPU却越来越贵;蒸馏、缓存、推测解码(speculative decoding)这些降本手段大多已经开源,很难拉开差距。最后拼的是资本、电和场地、销售,越做越像重资产的卖水生意。CoreWeave先签合约、再拿合约贷款买卡,6个月股价腰斩;Anthropic招股书里写着向SpaceX最多买1205亿美元算力;Lewis讲他在Vertex做Gemini时,卡不够先给自家模型,大云厂商就这样把开源模型的推理让给了Fireworks和Together AI。最后两人聊创业者还能往哪走:是针对固定任务的专用推理?还是Agent Infrastructure?
时间线
00:00 推理平台为何爆火
02:45 两头挤压的生意
05:39 推理平台拼什么
08:36 先会卖再买卡
16:32 大云为何让出推理
20:50 Fireworks对Together
23:29 推理还能创业吗
29:37 上周趣闻
时间线
00:00 推理平台为何爆火
02:45 两头挤压的生意
05:39 推理平台拼什么
08:36 先会卖再买卡
16:32 大云为何让出推理
20:50 Fireworks对Together
23:29 推理还能创业吗
29:37 上周趣闻