本期节目我们将从 Podwise 实际使用 LLM 的经验出发，分享不同模型的优缺点，探讨成本下降背后的原因，以及如何混合使用大模型来提高性价比。同时，我们还会聊聊总结类 AI 产品的未来方向，以及 Podwise 如何利用 LLM 开发新的 AI 功能，比如智能推荐、AI 搜索等等。欢迎收听。

更多内容信息和时间线参考下文的硬地笔记，欢迎收听本期节目。

另外，现在加入「硬地骇客」会员服务，即可在会员专属的微信群与其他朋友一起畅所欲言，成为会员也是对我们持续更新最大的鼓励！

本期赞助

Podwise.ai - Podcast knowledge at 10x speed 🚀

硬地笔记

00:00:04 Podwise 的 LLM 应用实践：总结、搜索和创作者工作流

00:09:01 LLM 进化之路：从 GPT-3.5 到 GPT-4.0 和 Gemini 1.5

00:17:44 大模型成本的显著下降：20 倍的成本降低

00:23:31 混合使用大模型：提升性价比的关键

00:26:19 GPT-4o mini vs GPT-4.0：成本与效果的权衡

00:30:07 总结类 AI 产品的未来：场景和数据至关重要

00:33:36 Podwise 的 AI 创新：从总结到知识发现

00:34:58 Podwise 的 RAG 工作流：从音频到搜索

00:38:46 构建私有数据搜索引擎：最佳实践分享

00:43:33 多语言 Embedding 模型的选择：OpenAI 和 BGE M3

00:46:02 Re-rank 模型的选择：BGE M3 和 jina

00:48:08 多语言 Prompt 的最佳实践：Prompt Perfect 和 GitHub Copilot

00:50:54 Gemini 1.5 Flash 的免费额度：个人小项目的利器

00:53:51 独立开发者选择 LLM 的建议：免费、稳定、成本优先

硬地笔记

提到的词汇：

• qdrant


• meilisearch


• dense embedding


• sparse embedding


• splade


• bge-m3


• bce


• jina


• promptperfect


• ColBERT


• langchain


• llamaindex

欢迎关注我们

• 知识星球: t.zsxq.com


• 官网: hardhacker.com


• 小手册: book.hardhacker.com


• 用爱发电不容易，请我们喝咖啡☕️: afdian.net


• 公众号/小红书: 硬地骇客


• 商务合作: [email protected]