Thinking Machines最新论文《克服LLM推理中的不确定性》
David的AI全景图

Thinking Machines最新论文《克服LLM推理中的不确定性》

12分钟 114 7个月前
节目简介
来源:小宇宙

由史上最大种子轮融资(20亿美元)、OpenAI前CTO Mira Myrati领衔创立的Thinking machine Labs,前天发布了这篇论文《克服 LLM 推理中的不确定性》。


摘要:



  • 可重复性是科学进步的基石。然而,从大语言模型中获得可重复的结果极其困难。

  • 例如,你可能观察到向ChatGPT多次提出同一个问题会得到不同的结果。这本身并不令人惊讶,因为从语言模型获得结果涉及"采样"过程——将语言模型的输出转换为概率分布并概率性地选择一个token。


来源:https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/

小宇宙热评
光华David
7个月前 北京
0
原谅我把Mira的性别搞反了ヘ(;´Д`ヘ)

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧