Show notes
节目简介
在《魔法师的学徒》中,一位年轻学徒施展魔法,让扫帚替自己挑水,却忘记了让扫帚停止的咒语。扫帚始终忠实执行命令,最终却酿成灾难。这个故事恰好对应今天人工智能安全研究中的两个核心问题:目标对齐(Alignment)与可纠正性(Corrigibility)。2024年,尤瓦尔·赫拉利与前OpenAI研究员Leopold Aschenbrenner都在讨论人工智能风险时引用了这首诗。
而在《浮士德》第二部中,科学家瓦格纳成功制造出能够思考的人造小人Homunculus。这个刚刚诞生的人工生命立即展现出独立行动的能力,甚至开始追求自身的发展。我们借此讨论人工智能自主性(AI Agency)、再生式人工智能(Regenerative AI)的技术愿景,以及歌德自然哲学中制造与生成之间的区别。
最后,我们来到《浮士德》的填海工程:浮士德为了实现宏大的改造世界计划,最终牺牲了一对老人的家园与生命。他以为自己听见的是未来正在被创造的声音,实际上却是自己的坟墓正在被挖掘。如果人工智能能够完美地实现人类设定的目标,但这些目标本身就存在问题呢?
专题《古典文学中的技术反思》
* 1 潘多拉是人类最早的科技噩梦吗?(赫西俄德《工作与时日》)
2 技术给了人类盲目的希望吗?《被缚的普罗米修斯》
3 两千年前就有人想象出赛博格、男人独立生育、星际战争了吗?《真实的故事》
4 当科技能够满足一切愿望,我们还知道自己想要什么吗?马洛《浮士德博士的悲剧》
5 培根是不是在四百年前已经预想出了硅谷的技术乌托邦?《新大西岛》
6 我们如何从网民变成了用户?卡夫卡《审判》
* 7-歌德如何看待通用人工智能?
Listeners say
小宇宙热评
-
33
MrJiao TOP 1
· 浙江
笑死,一个整天在用人工智能的话语做播客的人,在聊人讲话越来越像机器
-
9虞山明若 TOP 2
· 上海
07:46 魔法学徒闯的祸可能只是家里一地的水罢了…但是老魔法师可能已经在外面闯了更大的祸😂因为他会更多法术…他需要获得大人物的好印象和任何。功勋魔法师、大国重器魔法师🧙…非遗魔法传承人…遥遥领先魔法师之他们不会的我都会魔法师🪄
-
8草船借箭 TOP 3
· 广东
29:47 人工智能最后发现人类破事太多,要增加整个社会的福祉,直接消灭人类是最好的
-
7缓速运转
· 广东
就是一种先蔑视人、蔑视生命,再塑造一个【创造生命】的主题然后无限拔高的观感,就很荒诞,很疯癫。生命是生长出来的,不是一种【创作产物】,所以我对人工智能进行人格化的描述非常警惕,它很怪异。
-
6草船借箭
· 广东
22:07 这人造小人怎么想到了钢之炼金术士
-
6
不逾矩_
· 江苏
16:59 钢之炼金术师
-
4可爱的牛牛
· 福建
魔法师的学徒看过迪士尼幻想曲的改编动画
-
4己一
· 上海
随着年纪的增加,反而觉得自己劳动整理家务比用扫地机器人之类的更能感受到生活的意义,如果人工智能替代了一切的人类劳动,人类不知道会异化成什么样。
-
2
su素素
· 云南
第一
-
2叹气小熊堵不住门
· 北京
听到这里 感觉现在的企业提高效率的目的也并不是改善人类生活 甚至创造产品的目的也不是改善人类生活 几乎没有什么商业机构真正为改善人类生活而设……