Album
时长:
56分钟
播放:
3,684
发布:
11个月前
简介...
https://xiaoyuzhoufm.com

本期节目我们将从 Podwise 实际使用 LLM 的经验出发,分享不同模型的优缺点,探讨成本下降背后的原因,以及如何混合使用大模型来提高性价比。同时,我们还会聊聊总结类 AI 产品的未来方向,以及 Podwise 如何利用 LLM 开发新的 AI 功能,比如智能推荐、AI 搜索等等。欢迎收听。


更多内容信息和时间线参考下文的硬地笔记,欢迎收听本期节目。


另外,现在加入「硬地骇客」会员服务,即可在会员专属的微信群与其他朋友一起畅所欲言,成为会员也是对我们持续更新最大的鼓励!



本期赞助


Podwise.ai - Podcast knowledge at 10x speed 🚀



硬地笔记


00:00:04 Podwise 的 LLM 应用实践:总结、搜索和创作者工作流


00:09:01 LLM 进化之路:从 GPT-3.5 到 GPT-4.0 和 Gemini 1.5


00:17:44 大模型成本的显著下降:20 倍的成本降低


00:23:31 混合使用大模型:提升性价比的关键


00:26:19 GPT-4o mini vs GPT-4.0:成本与效果的权衡


00:30:07 总结类 AI 产品的未来:场景和数据至关重要


00:33:36 Podwise 的 AI 创新:从总结到知识发现


00:34:58 Podwise 的 RAG 工作流:从音频到搜索


00:38:46 构建私有数据搜索引擎:最佳实践分享


00:43:33 多语言 Embedding 模型的选择:OpenAI 和 BGE M3


00:46:02 Re-rank 模型的选择:BGE M3 和 jina


00:48:08 多语言 Prompt 的最佳实践:Prompt Perfect 和 GitHub Copilot


00:50:54 Gemini 1.5 Flash 的免费额度:个人小项目的利器


00:53:51 独立开发者选择 LLM 的建议:免费、稳定、成本优先


硬地笔记


提到的词汇:



  • qdrant

  • meilisearch

  • dense embedding

  • sparse embedding

  • splade

  • bge-m3

  • bce

  • jina

  • promptperfect

  • ColBERT

  • langchain

  • llamaindex


欢迎关注我们


评价...

空空如也

小宇宙热门评论...
crypt0
11个月前 上海
5
这个应该是小宇宙应该做的😂
阿瓦隆
11个月前 浙江
5
主播的note写的真好,单词没听懂翻了下,note里有
Medall
11个月前 未知
4
api每分钟几十次的免费额度,简直就是给startup冷启动阶段量身定做的,目标应该也是这些未来有可能长大的ai类公司们,让他们尽可能留在自己这边
Medall
11个月前 未知
4
请问全文搜索和向量数据库的名字是?
叉叉敌
11个月前 四川
3
这一点受教了,做AI相关的还是要保存好自己的数据,做更深的应用。因为总结和润色相关的AI已经太多太多了,如果不做更深入的、精细化的,应该是没有门槛的,很容易就被模仿
shaomingbo
11个月前 浙江
1
podwise 在替换 LLM 供应商的时候,是怎么衡量比较效果的,是否有工具支撑?
hantian_pang
11个月前 上海
1
现在结构化输出可以直接指定到一个对象定义,例如Python里可以用pydantic
Yvaine_Pan
11个月前 美国
0
求加微信
Allomy
11个月前 湖北
0
各个llm生成token的大小,如何比较啊,每个都去试吗?
Kollin
11个月前 四川
0
👍
辛宝-WebWorker
11个月前 北京
0
23:58 混合使用各家模型,组合出做合适的性价比
叶云天_U14s
11个月前 河南
0
听说解决了内容的搜索和推荐相关度很低的问题,期待使用
wj_7JUy
10个月前 福建
0
想问下逐字稿转文章的prompt怎么写
拨号上网
10个月前 北京
0
分享很有用,感谢
HD1002071j
10个月前 贵州
0
初级问题,但是重要:国内怎么接gemili的API?
迷失的贵族
7个月前 北京
0
现在podwise用的基座模型是哪家?
airecreation
3个月前 北京
0
43:21 学习了,LLM实践的workflow
EarsOnMe

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧