利奥教皇首份通谕:警示人工智能对人类的风险
认知棱镜

利奥教皇首份通谕:警示人工智能对人类的风险

7分钟 59 1周前
节目简介
来源:小宇宙
2026年5月,利奥十四世发布了其任内首份通谕《Magnifica Humanitas》(《伟大的人性》)。根据梵蒂冈公布的信息,这份文件的主题是“在人工智能时代保护人的尊严”。
什么是“通谕”?
“通谕”(Encyclical)并不是普通讲话,而是教皇最具权威性的正式文献之一,通常用于讨论重大社会、伦理与神学议题。
历史上,许多关于劳动、贫困、资本主义、战争与环境的讨论,都曾通过教皇通谕进入全球公共领域。虽然梵蒂冈并不具备监管科技产业的现实权力,但它长期拥有重要的道德影响力。
这也是为什么,这份AI通谕会受到广泛关注。
从工业革命到人工智能革命
这份通谕还刻意呼应了1891年利奥十三世发布的《新事物》(Rerum Novarum)。
《新事物》是天主教社会思想中最重要的文件之一,主要回应工业革命时期的劳动剥削、贫富差距与劳资冲突问题。
梵蒂冈明确表示,《Magnifica Humanitas》签署于2026年5月15日,正好是《新事物》发表135周年。
不少媒体因此认为,利奥十四世希望把人工智能革命视为类似工业革命的历史转折点,并尝试为这一时代建立新的伦理框架。
为什么教皇会关注人工智能?
根据梵蒂冈官方介绍,《Magnifica Humanitas》的核心关切,是“在人工智能时代守护人的完整性与尊严”。
通谕强调,技术发展不能脱离伦理约束。教皇认为,人工智能不仅是工具问题,更会影响社会如何理解人、劳动、责任与公共利益。
梵蒂冈新闻网在对通谕的解读中提到,文件特别警告:当技术力量高度集中,并且越来越脱离公共控制时,人类尊严可能会被削弱。
这也是文件反复强调“人不能被工具化”的原因。
对“算法治理社会”的警惕
通谕中一个重要主题,是对技术权力高度集中的担忧。
过去的大型资本主要掌握工厂、能源与金融,而今天的科技企业则开始控制信息分发、行为预测、数据监控与自动化决策。很多系统并不会直接命令人,却会持续影响人的选择与行为。
例如,人们看到什么内容、谁更容易获得贷款、哪些求职者会被系统筛选,越来越多都由算法参与决定。
问题在于,这些系统往往缺乏透明度。普通人并不知道它们如何运作,也很难质疑其判断逻辑。某种意义上,人正在面对一种“看不见的权力”。
利奥十四世认为,如果社会逐渐把判断与责任交给技术系统,那么被削弱的,不只是人的自主性,也包括人的道德责任感。
对AI军事化的明确反对
这份通谕中最受关注的内容之一,是对人工智能军事化的批评。
利奥十四世呼吁对AI进行“解除武装”,反对将人工智能纳入支配、排斥和战争逻辑之中。
通谕特别警告,自主武器系统与AI辅助战争技术,可能降低战争门槛,并使暴力行为进一步“去人格化”。
教皇认为,当越来越多军事决策脱离人类直接控制时,传统战争伦理也会受到冲击。
“不完美”为什么重要?
通谕中一个非常值得注意的部分,是利奥十四世对“超人类主义”(transhumanism)的批评。
所谓“超人类主义”,是指一种认为人类可以借助技术不断突破自身局限、甚至最终“升级”人类本身的思想。通谕指出,这类观念正在越来越深地影响科技文化与社会想象。
但利奥十四世对此持明确保留态度。
在通谕中,他特别提醒,人类的脆弱、衰老、疾病、依赖与有限性,并不只是需要被消除的“缺陷”。如果社会开始把一切局限都视为必须修复的问题,人本身也可能被逐渐简化为“等待优化的对象”。
通谕写道:
“人类的蓬勃发展,并非来自摆脱局限,而往往正是通过局限实现的。”
文件进一步指出,正是在人的有限性中,共情、关怀、慷慨、责任感与精神生活才得以真正形成。
利奥十四世同时强调,人工智能并不具备真正的道德意识,因此,人类不能把伦理判断与责任完全交给自动化系统。技术可以辅助决策,但不能取代人的良知与责任。
这也是整份通谕中最具哲学意味的部分之一。
在今天的科技文化中,人们越来越习惯于把“效率”“优化”“升级”视为理所当然的目标。但这份文件提醒人们,人之所以为人,并不仅仅在于能力与效率,还在于人与人之间的依赖、关怀与共情。
一场关于“人”的讨论
《Magnifica Humanitas》并没有提供具体的技术解决方案,它更像是一份道德与伦理层面的提醒。
今天,各国都在加速发展人工智能能力,企业快速部署生成式AI,教育体系与劳动市场也正在被重塑。但与此同时,关于透明度、责任、监管与人的主体性等问题,全球仍缺乏成熟共识。
利奥十四世在这份通谕中提出的核心问题:
当技术越来越强大时,人类是否还能坚持把“人”本身放在中心位置?
而这,或许才是人工智能时代真正的问题。

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧