Ilya Sutskever 谈 AI 为何高分低能与终极智能形态

本期播客概述了关于人工智能现状与未来发展方向的深刻对话。讨论的核心在于当前 大型语言模型 (LLM) 在评估中的优异表现与其对经济影响的滞后之间存在的费解脱节，并认为随着数据的限制，单纯依靠 规模化 (scaling) 的时代正走向终结。对话重点强调需要重新回归 研究时代 (age of research)，以解决模型在 泛化能力 (generalization) 和 样本效率 (sample efficiency) 方面的根本缺陷，这是目前 AI 与人类学习能力相比的不足之处。通过借鉴人类 情感 (emotions) 在进化中作为指导价值函数的作用，他们探讨了诸如 价值函数 (value functions) 和 强化学习 (RL) 等技术可能提高模型学习效率。最终，两位人士讨论了 超级智能 (superintelligence) 必然到来以及如何确保其 安全部署 (safe deployment) 的问题，呼吁所有领先公司应收敛于共同的 对齐策略 (alignment strategies)，使 AI 关心所有有情生命。