来源： 尤瓦尔·赫拉利在东京庆应义塾大学的讲座摘录，《人类简史》作者尤瓦尔：当今世界最大的危险是人类互不信任，却信比碳基生命进化快百万倍的AI，我们拒绝真相，因为它昂贵复杂和痛苦

日期： 春季（具体日期未注明，推测与新书《智人之上》日文版宣传有关）

讲者： 尤瓦尔·诺亚·赫拉利（Yuval Noah Harari），以色列历史学家，著有《人类简史》、《未来简史》、《今日简史》等。

主持人： 伊藤公平（Kohei Itoh），庆应义塾大学校长。

核心主题：

· AI成为当前人类面临的最优先和最严峻的威胁。

· AI的本质是“能动者”而非“工具”，其异类性使其难以预测和控制。

· AI的飞速发展与人类社会缺乏互信形成巨大悖论。

· 信息洪流时代，教育的重点应从知识传授转向辨别真相。

· 重建人类之间的信任是应对AI挑战的最迫切任务。

· 二战后的国际秩序正在瓦解，AI竞赛加剧了地缘政治风险。

· 算法和社交媒体正在改变人类合作基础——共享叙事和信任。

· 维护言论自由与规范信息传播，禁止“伪造人类”至关重要。

· AI正在改变战争决策权，可能带来危险后果。

· 阴谋论的流行源于真相的复杂性和虚构的简单性。

· AI将以前所未有的方式改变娱乐内容创作，带来“异类”创造。

· 信任是生命的基石，也是应对AI时代的最终解方。

主要观点和重要事实：

AI威胁优先级的提升： 赫拉利修正了其在《今日简史》中提出的三大威胁（核战、生物技术、信息技术/AI）的优先级。如今，AI风险被认为远高于核威胁和生物技术威胁。

AI发展速度远超生物技术： AI的迭代速度极快，可能是“几天”，而生物技术的“代际”周期长达二三十年。AI的数字进化比有机进化快“数百万倍”。

AI是“异类威胁”： 与核威胁的危险性显而易见不同，AI的危险难以把握，因为它是一种“异类的威胁”。AI并非邪恶，但其与人类智能完全不同，难以预测。

AI是第一个“能动者”技术： 赫拉利强调，AI是人类有史以来创造的第一个作为“能动者”而非单纯“工具”的技术。它可以在没有人类干预的情况下自行决策和创造。

AI竞赛中的信任悖论： 领导AI研发的公司和国家都因不信任竞争对手而加速发展，但他们却表现出对正在开发的超级智能AI的高度信任，这种对比“濒临疯狂的边缘”。

人类互信的重要性与崩溃： 尽管人类在历史上建立了大规模互信的能力，但近一二十年间这种信任正在瓦解，部分原因是新技术中介了人类交流。

教育的使命：从知识传授到辨别真相： 在信息爆炸时代，教育机构的任务不再是提供信息，而是教导人们如何在海量信息中找到“真相”，并区分可靠和不可靠的来源。

“精英”的再定义与服务型精英的培养： “精英”是一个被滥用的词汇，问题不在于精英是否存在，而在于他们是“服务型精英”还是“自私自利型精英”。大学的使命应是培养服务于社会福祉的精英。

国际秩序的瓦解与战争风险： 二战后强国不随意入侵弱国的国际秩序正在瓦解，各国军事预算回升，这种趋势加剧了全球冲突风险，也阻碍了AI监管。

共享叙事与算法的挑战： 人类通过共享故事进行大规模合作（如金钱），但算法和社交媒体正在成为新的“故事版本”生产者和传播者，人们的信任正从人类机构转向算法。

禁止“伪造人类”的必要性： 作为维护人类信任的最简单一步，政府应立法禁止算法或机器人冒充人类身份。AI与人类交流时必须表明其AI身份。

区分“言论自由”与“信息自由”： 言论自由是赋予人类的权利，信息自由是赋予算法和机器人的权利。社交媒体公司通过算法故意传播谎言和仇恨的行为不应受到言论自由的保护，应被制止和惩罚。

AI改变战争决策： 虽然杀伤仍主要由人类执行，但AI正越来越多地决定战争中的目标选择和关键决策，这带来了极大的危险。

阴谋论的根源在于复杂性： 阴谋论的流行是因为它们提供简单叙事，而真相（如病毒和流行病）往往是复杂、昂贵和痛苦的。

AI将带来“异类”娱乐内容创作： AI能以更低的成本和更高的效率生产娱乐内容，并能“突破人类想象力的局限”，创造出人类自身想不到的全新形式和内容。

信任是生命的基石和最终解方： 尽管面临诸多挑战，赫拉利强调，信任是生命的基础，没有信任无法生存。重建人类互信是安全发展AI并应对未来挑战的关键。

结论与展望：

赫拉利对AI带来的挑战持谨慎甚至忧虑态度，特别是强调了AI的“能动者”和“异类”本质以及人类社会日益缺乏互信的危险叠加。他认为，AI竞赛和国际秩序的瓦解互为加剧，共同构成了人类历史上的巨大挑战。然而，他并非完全悲观，相信只要人类能在AI完全成熟之前重建足够的互信并采取行动（如立法禁止伪造人类、区分言论自由与信息自由），仍有可能以安全的方式驾驭AI革命。教育机构在培养服务型精英和教导学生辨别真相方面具有重要作用。最终，他将信任视为应对当前和未来挑战的核心，是生命赖以维系的基石。他强调，每个人在自己的领域内尽力贡献微小的能动性，共同努力，人类社会仍有希望安然度过这一转型时期。

如果希望和主播建立联系/加入听友群，可加微信bonewe2004！

关于主播：