向量模型工程师:AI 的隐藏瓶颈与新时代的信息迷宫
MasterPa

蜉蝣天地 Meanders

向量模型工程师:AI 的隐藏瓶颈与新时代的信息迷宫

时长
128分钟
播放
9,675次
发布
5个月前
在小宇宙收听 ↗

Show notes

节目简介

来源:小宇宙
「蜉蝣天地」x「超级 Plaud」特别季的第一期节目邀请到了 N 同学,他是一位非常年轻的人工智能研究者。
他现在工作在一家国内顶尖的互联网公司内部的实验室,做的是自然语言处理方面,具体来说,是今天常说的RAG技术的底层,那种将语义转化为向量表示的向量模型。他和同事们开发的模型,在各种排序和搜索相关的榜单中都拿到过很多次 State Of The Art 水平。
这是一次非常技术向的聊天,相信听完之后你会意识到,向量模型和 RAG 技术,与我们每一个人的生活是多么的息息相关:正因为 AI 说话太像我们,所以我们总是觉得 AI 无所不能,但当我们较真地需要 AI 处理真实世界海量文本的时候,它的瓶颈,以及它的诡异之处,就会显现出来。AI 是一个新的界面,它改变了很多,但没有改变这个世界爆炸的,不可化约的复杂性。
💡接下来的 3 期蜉蝣天地会非常特别,汉洋和重轻将会与全球第一的 AI 纪要品牌 Plaud 做 3 期的共创节目。
作为共创伙伴,Plaud 吸引我们的,是它超越了工具属性的品牌内核。它对“对话”保持着敬畏,致力于在语言的流动中,帮我们锚定那些真正有价值的思考。它不仅在记录声音,更在守护人类通过对话去探索世界的底层价值。
时间戳:
00:00:00 开场与嘉宾介绍
00:03:35 技术演进与个人成长
00:16:31 当老手艺遇上新技术
00:28:10 向量模型是怎么来的
00:46:33 为何大模型不能取代检索
01:03:48 RAG 的挑战与未来
01:37:22 未来超级知识库的想象
01:41:53 AI 时代的自我修养
嘉宾:N 同学
主播:重轻
蜉蝣天地是一个视频播客,由汉洋和重轻轮番(或共同)主持。
你可以在 Bilibili YouTube 等各大视频平台搜索 蜉蝣天地 Meanders 订阅收看,也可以在小宇宙、Apple Podcast 等播客客户端订阅收听。
🔗 Bilibili
🔗 YouTube
联系我们,请致信 [email protected] 或添加 FUNES_GEE

Listeners say

小宇宙热评

共 20 条 · 按点赞排序
  1. MasterPa TOP 1

    · 上海

    24

    感谢 Plaud。配合好嘉宾,重轻是我眼中汉语互联网里最好的人工智能节目访谈者。

  2. 深海游鱼 TOP 2

    · 北京

    12

    重轻咋这么会问呢?好让人羡慕的能力,嘉宾回答的也好,听不懂也不觉得枯燥,又是长脑子的一期

  3. 龙龙饿狗 TOP 3

    · 上海

    12

    前奏把我听鸡皮疙瘩了,爷青回…

  4. 7UUg

    · 中国香港

    7

    听不懂俺也要硬听。学无止境.范伟.jpg

  5. sanbai_

    · 陕西

    6

    视频里面重轻发型帅的。

  6. kitsch_FoW5

    · 上海

    3

    这是我能免费听的吗

  7. TameSolitude

    · 北京

    3

    23:54 这段感觉好像对计算机科学祛魅了,传统算法像是数学和理论物理推公式,现在变成黑箱之后就和凝聚态、化学 生物一样,做实验 总结实验规律

  8. RumW

    · 美国

    3

    1:29:14 我觉得重轻这里说的特别有意思。我在想,现在大语言模型的 autoregressive(即 next token prediction),不管你前面放多少 prompt 去做 system 的约束,它最终都是基于你前面的内容,一个字一个字地往后吐。 也就是说,它是在走一个 trajectory,而且只能做一个非常短视的 trajectory。 但是重轻说的这个过程,给我的感觉更像是那种 diffusion:是从一个“无”开始,然后慢慢形成一点点框架,这个框架再慢慢变得丰满 这个过程更接近 diffusion 生成的过程,而不是现在这种 autoregressive 生成的过程。

  9. Dwight

    · 上海

    2

    我听完就要买Plaud了

  10. 稻荷树

    · 河北

    2

    这期很好

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的单集添加进来吧