E116 当道德承诺可以变现:从赎罪券到AI军用化
虚实之间True Imagination

E116 当道德承诺可以变现:从赎罪券到AI军用化

61 分钟 1.2 万 次播放 3个月前发布

在小宇宙收听

节目简介

来源:小宇宙
在技术狂飙的AI时代,大公司的道德底线正在悄然退守。本期节目我们围绕前谷歌DeepMind安全科学家特纳的离职发文事件,探讨当组织开始变现自己的道德资产的时候,是否代表着大厦将倾,以及当顶尖AI企业纷纷对军方退让,整个AI行业,甚至是人类文明,是否需要重新确立AI应用的伦理边界?
本期主播:
活在当下、老饕
剪辑:
曾谙
本期内容:
01:24 Alex Turner的顶级离职文学与AI军事化原委
13:04 什么是合法性,什么是道德资本
20:54 道德减值的历史镜像:拙劣的赎罪券
27:04 周公的智慧:天命是绩效合同,失德就会发生转移
30:48 波音压缩研发丢掉工程师文化,终酿惨案
36:06 声誉模型:维持长期承诺与短期作弊的利弊权衡
44:25 预期终局会自我实现,抛弃承诺是组织衰退的领先信号
49:08 AI合法性的两柄达摩克利斯之剑
53:10 当行业不依靠道德资本,文明会出手
相关往期节目:
《E104 2030年的世界:起初,人们以为只是失业》
《E094 恶人经济学:当作恶比守法更“划算”》
《E092 从蒸汽机到AI:技术如何“设计”了我们的社会》
本期音乐:
Unfolding Reflection --- Lior Soltz
本期相关书籍&论文:
《Why I Left Google DeepMind》 Alex Turner 著
《A Red Line and Oversight Framework for Government AI Contracts》 Alex Turner 著
《The Role of Market Forces in Assuring Contractual Performance》 Benjamin Klein,Keith Leffler 著
《Premiums for High Quality Products as Returns to Reputations》 Carl Shapiro 著
节目知识星球:虚实之间Plus
节目小红书:活在dang下、老饕
节目微博:虚实de老饕、虚实de活在当下
节目文稿发布:微信公众号 虚实之间True Imagination

小宇宙热评

共 20 条 · 按点赞排序
  1. 袁刑剧场 TOP 1

    · 广东

    18

    忍不住表个白,神仙播客来的,每期不管选题、切入角度、信息密度、解读深度、表达能力,都让我忍不住感叹你们怎么这么厉害,既有好故事,又把背后的原理和逻辑拆解得明明白白(声音还好听),每期听完,感觉对万事万物的理解好像又深了一层

  2. pleasego TOP 2

    · 上海

    6

    感觉这一可以配合独树不成林那期讲教皇与ai一起食用

  3. 赏味期限垚 TOP 3

    · 广东

    3

    好棒!一直不知道该用什么态度面对ai,听完感觉清晰了。在播客app听完赶紧跑过来夸夸,这评论数量真是不应该,太少了,决定以后都在小宇宙听增加评论

  4. 斯隆Sloan

    · 北京

    3

    想起腾讯那句,科技向善

  5. FTD伞

    · 江苏

    3

    02:12 置身谷内

  6. YAYXMG

    · 美国

    3

    刚刚听完然后去x一看 jeff dean 两小时前宣布从谷歌离职了!

  7. stank

    · 北京

    2

    13:58 这组织如果依靠他的道德允诺而获得了他的受众,随着它不断发展壮大,为了短期利益,他开始修改他的承诺,并且可能把承诺完全放置一边抛之脑后,并且会说他的允诺从来没有变过,而当他选择违背他的承诺的那一刻起,他的允诺和陨落都一起出现。

  8. 燃烧海洋

    · 重庆

    2

    29:34 这套人心KPI也很能解释中国人对于宗教信仰的态度,有用才信,没用不信。

  9. ZhI_0057

    · 山东

    2

    讲得真好

  10. 时酒

    · 浙江

    2

    不知道这期播客讲的事情是否就是近期google很多deepmind人员离职的原因(之一)或者说某种trigger。虽然主播说不是提醒做空,但我确实大概一周前清仓了GOGL,考虑的点就是模型较openai和anthropic落后,核心人才流失,这两个确实也是业绩的leading indicator…它的模型能力没有追上那两家之前我是不会再买的

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧