半小时算力课 No.12 ChatGPT时刻—当所有人第一次摸到AGI的形状

2022年11月30日，一个对话框悄悄上线，没有发布会，却在五天里吸引一百万用户，两个多月冲到一亿月活，成为人类历史上普及最快的应用，这就是ChatGPT。
这一期，我们回到那个被称作AI蒸汽机点火的历史时刻，看看它凭什么引爆世界。我们会讲清楚一个关键概念，对齐。更早的GPT3很强大，却只会闷头补全文本、常常答非所问；真正让ChatGPT听懂人话的，是RLHF（基于人类反馈的强化学习）这套三步走的方法，先用人类示范教它怎么答，再训练一个打分模型排序好坏，最后让它自我强化。我们还会复盘微软为什么豪掷超130亿美金、谷歌为何拉响红色警报，并聊聊幻觉、知识截止和越狱这些至今都没被完全解决的毛病。
大语言模型不是AGI，但ChatGPT却让所有人第一次真切摸到了AGI的形状。