想请教下GPT3.5对于稍微超token的文章怎么总结效果好。找了好些代码看效果不大好

1、LLM的能力？ * LLM 之前，其实我们也有AR，也有机器学习像什么图片识别、文字识别、语音转文字之类的，就典型的比如说 OCR 那种东西其实很早就有，但没有哪一个像今天的 LLM 一样应用场景很广泛，甚至可以说是有一点万能，主要原因在于 LLM 工作在人类文明和知识的最关键的载体之上，就是语言和文字。 * LM 的能力大致分类为 6 种： * 生成 * LLM 写代码 * 总结 * 总结文章，总结邮件，整理会议纪要 * 提取 * 找出这篇文章里面提到的所有的书 * 分类 * 判断说这篇文章的这个内容是积极的还是消极的；还有股市里面，比如说它是利好的还是不利好；或者说这篇文章里面有没有政治敏感信息； * 检索 * 找出这个公司的收入规模（最大区别是LLM 通过语义，而不是通过关键词匹配去检索的，检索的这个范围和准确度其实就会高很多，因为它可能这个文章里面完全没有这个收入规模这样的词，但是你通过 LLM 提问你就可以找到这个信息。） * 改写 * 比如说对一篇文章进行润色，或者说改正错别字，哪怕是改正标点符号，包括翻译 * 其他能力：胶水、协调者 * 整个多模态的这个场景下面 LLM 作为它的一个协调者去协调不同的模型工作，因为 LLM 可以通过生成代码、生成提示词来驱动别的模型吗？从而协同完成 LM 能力之外的事情，这个也是很重要的一个能力，比如说现在我们不是可以通过 GPT 4，对吧？用自然语言去生成图片嘛？那这个其实 LM 在里面扮演的就是这样一个协调者的角色。 2、Pod wise如何做 mind map 大纲或者金句？ * mind map * 以前：从一篇文档里面能够把那些知识点给它全部能够找出来，然后能够间谍出他们那个知识的关系，那最终我就可以把它画出整个脑图了。 * 首先从一篇文档里面去提取所有的知识点，这个可能今天不难，你通过 GPT 去提取，但是然后你再去找出这些知识点，它原本的那个逻辑关系，比如说是谁的父子关系这些，其实这个就难了，对吧？这个就它没有那么简单了。 * 当时我在做这件事儿的时候还去调研，去研究了很多像怎么去做知识图谱，甚至还有一些图的数据库，当时都有去看过，觉得应该用这种方式来解决这个问题。对，所以这是一刚开始我们的思路。 * xmind的思路：直接告诉大模型将这篇文档给我生成一个 minor map，然后就完事了 * 其他思考： * 从产品的角度上来说，比如说你做了一个 minor map，要把它在你的产品里面集成起来，那我们肯定要去做很多产品层面的一些其他的事情。那不能说我扔一篇文档，然后让它独立的去生成一个 mind map，然后就完事了。但实际上我们还是需要将这个 mind map 能够，比如说和产品的其他部分能够融合起来，比如说大纲总结，是吧？你的大纲里面不是有一些 outline 呐？那样的时间线的一些内容，那最好我这个 Mini map 能够和那边的内容也要能够有些能够 match 起来，不能说两个看上去完全是独立的，没有任何关系的一个东西，那所以说这个时候就变成了对你大纲的内容最好也要能出现在你的 mind map 的某一集的内容之上，这个时候你就不能说单纯我就是给他发一条 generate 的指令，说你帮我生产 my map 就行了。 * 金句 * keywords 这些，其实就是刚才贵讲的什么提取 extract 这个范畴的一些东西了，因为这一块的话，其实核心就是说提取就是拟合性，就是要保留原文，就是这件事情其实是比较重要的。当然你说我让他去提取，比如博客里面的金句，那这件事儿，其实金句这个东西，什么东西叫金句？我觉得这件事情也是比较有意思的，就什么东西叫金句？其实我们人来说其实是能够定义这件事的，反正就是那些比较听上去有启发的，或者说反正我听上去很舒服的那些句子，对吧？嗯，那就人的这个感觉，对这个东西的感受是非常非常的明确。 * 但是今天的模型就不一定能有人的这种感受在里面，对一句话的那个感受有那么准确，就是当然可能未来也许也能够做到嘛？但是今天当然他也能够做的还不错了，就是说，但是不管他有多好，反正我的直觉是对这种东西的感受还是不如人的那么感受的那么好啊

00:56 请教下，之前聊过Ai基础（101）的是哪一期

提到的播客地址能分享吗

24年5月，已经开始降价了

这个播客的大纲是podwise生成的吗

33:40 几个prompt调试测试平台没听清，可以列一下吗？感谢

学习了

10:20 这个感觉不太准确？感觉只是把复杂度delegate给了llm，如果要自己实现一个llm来做知识点之间的关系不一定比graph db之类的实现简单吧

16:29 信息价值的判断

刚好上班路上听

function calling挺好使，gpt4下的function calling还是比较稳定的， 自然语言to一个class function calling基本能cover

想要文字版🤩

16:10 对，真人总结对能力也是很高的要求

来咯

12:32 能目前感觉这一部分（highlights) 提取 的还可以再努力努力

101 完了是 202，这么说不久就要出 404 了

01:48 恭喜啦 恰饭啦 是好的开始

这一期太解渴了，当我自己做过一些，我才更佩服podwise的丝滑体验有多不容易。分享一下，我们正在做一个查询产品，它的查询需求高度模糊，但是查询的结果又指向高度精确。一开始我们也想用AI直接上，后来发现成本根本打不住。目前在尝试一种多层多轮的方法做，比如第一次先把自然语言的需求扔给AI，判断用户要找人找物还是找事件，然后根据AI理解的需求，sql查到一些东西，再扔给AI，AI再理解一下并改进sql，层层进逼最后找到东西，实际上就是在用户看不见的地方完成了多轮对话。这个时候，到底每一轮对话要收敛多少、反馈多少，精调起来就太难了。所以本期说的80%不AI太传神了，光做用户需求初级理解的功能就做了快一周。而且成本把控太不容易了，测试就是经费在燃烧。致敬podwise。