EnterAI - 节目列表

EP01 数据会被大模型用完吗

EP01 数据会被大模型用完吗

EnterAI

欢迎和我们一起EnterAI!在本期中,我们探讨了一个非常有趣的话题:大型模型学习面临的数据即将用尽的我们何去何从?我们从大语言模型出现之前 AI 学习的预处理标注开始,逐步深入到 AI 模拟进行的自监督式学习,以及 AI 是否能像人类一样产生智能的探讨。我们还探讨了 AI 到底能够学习多少内容,以及自监督式学习所涵盖的知识和理解能力。同时我们还分享了一些关于如何提高预训练数据利用效率的方法,并讨论了准备训练数据教材时可能遇到的难题。最后,我们探讨了如何加强模型对长距离依赖学习和深层次模式识别的能力,以及生成合成数据的可行性和挑战。不要错过这一期内容丰富、引人深思的讨论!我们也期待听到您的想法和见解,欢迎留言分享您的想法、提出问题或者分享您的经验。感谢您的收听!01:30大语言模型出现前AI学习需要预处理标注05:59AI模拟进行自监督式学习07:39AI是否能像人类一样产生智能10:39AI到底可以学习多少内容11:21AI自监督式能学会的是什么(知识和理解能力)13:08训练数据遇到瓶颈的担心是不必要的15:00通过提高数据的质量来帮助模型更好的理解20:46如何加强预训练的数据利用效率21:04准备训练数据教材:又易到难22:46提高模型对于长距离的依赖学习和深层次模式的识别28:44提升模型的抽象学习能力27:46生成合成数据的可行性如何,挑战是什么在小宇宙查看该单集文稿

42分钟
99+
2年前

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧