哲思16-理解并非模型:与「诗梳风」重轻商榷丨AI与人类心灵
智识分子 Man of Letters

哲思16-理解并非模型:与「诗梳风」重轻商榷丨AI与人类心灵

60分钟 774 2个月前
节目简介
来源:小宇宙
这是#哲思计划 的专题——「AI与人类心灵」的第4讲。
[Intro]
「元老群」的同好转来播客诗梳风的一期节目,叫“何为理解”,内容是主播重轻对知名AI科学家辛顿一场演讲的评述。
同好说,这期节目动摇了他之前对AI的一些看法,至少他不知道如何为自己之前的立场辩护了。
这期节目的核心观点是啥呢?就是说,人类的所谓理解即是一种特定的模型,人的理解和目前AI的理解如果不是说完全一致的话,也是非常近似的。
我个人是很难赞成辛顿的大多数想法,重轻这期节目最后他表示赞同的那3点我也统统有异议。我觉得还是很有必要单独出一期说大白话的节目,向「智识分子」的这位同好,也向关心AI社会影响的诸位澄清一个问题:
人类的“理解”是不是一种模型?
如果不是,那到底什么才是人类的“理解”,我们能不能把它说清楚?
[时间轴]
00:01 1、问题意识
02:51 2、人类理解不只是对语言的理解
26:06 3、人类的语言理解也不是任何模型(AI已经开始勒索人类员工了吗?)
53:20 4、AI可能威胁人类文明吗?
[参考资料]
诗梳风,EP23 何为理解 · Thoughts
杰弗里·辛顿,英国皇家学会演讲实录
杰弗里·辛顿,IASEAI上的演讲
联合国,警惕人工智能“灾难性危害”
维特根斯坦,《哲学研究》第1节,陈嘉映译
[素材来源]
封面图:图源网络
片头曲:《2011太空漫游》主题曲
[相关节目]
哲思4-心灵去哪里了?兼谈AI之父辛顿的错误丨AI与人类心灵
哲思8-AI时代,如何保卫人类心灵?先从理解“人之认识”开始丨AI与人类心灵
哲思11-AI不能“理解”:人工智能之父辛顿和维特根斯坦之争丨AI与人类心灵
[更多内容]
在各大平台追踪「智识分子 Man of Letters」的更新——
社群:微信添加 lingjuefei1992 入「元老群」
文章:公众号 substack
播客:小宇宙 网易云音乐 苹果播客 喜马拉雅 豆瓣
视频:油管 B站
智识是一种光照,让这个不太妙的世界多点光!

小宇宙热评

共 9 条 · 按点赞排序
  1. 王浩东 TOP 1
    福建
    1

    重要的混淆-人类使用“理解”这个词有多重情境,理解语言只是其中一种,很多重要的理解基于一个个具体的场景,不可以把理解语言和理解事物混为一谈。例子:将领在现场上带领战士冲锋、理解爸爸强迫孩子学习钢琴演奏 前理解-基于基本的生活形式和状态作为基础,总得有坚实的地面,万丈高楼不能平地起。例子:如何理解吩咐孩子去店里买10个红苹果。 具身性理解-LLM永远不可能达到的某种未来幻想 用游泳和默会知识做例子。 人类的理解带着情绪和感受,在世界中存在。天上没有阿喀琉斯。llm是一个模拟,有输入输出和目标,这和人类生存的样式是天差地别的。即是存在物和存在者区别。 引用一个ai恐惧被替换的例子 说明此恐惧非彼恐惧。 引述人工智能独立科技小组的报告中7条对于人类社会的警告,这才是要面对的真问题。 ——以上由人类总结,运用了基于前理解和具身性的深度学习。

  2. 王浩东 TOP 2
    福建
    1

    作为对面技术如何为人类进行辩护问题的回答是 : 这不是个真问题,不需要形而上学的最终保证说人类面对llm保留了一部分或者全部的尊严。因为就人类社会,总是面对着具体的问题,例如就业替代,网络安全,人类心理健康,虚假信息导览等,但是这总归是人类自身的问题。llm离实际触达人类心灵还差的十万八千里。

  3. 晓天91 TOP 3
    英国
    1

    这说的都是啥啊。说了半天还是没明白那几个例子里ai为什么没有理解。

  4. 觉非Mol
    四川
    1

    「智识分子」有个“元老群”,我猜你也可能需要这些群服务—— 1.参与定期直播讨论,闭门造车不如公共地说理 2.完整版课件、图表资料和文字稿分享 3.多数时候沉默偶尔爆发的有群规的群,潜水无压力 可添加 lingjuefei1992 加入我们

  5. 教书匠蕾
    北京
    0

    听起来llm像一个超高智商的高功能自闭症,不懂语气表情氛围😅

  6. mira001
    广东
    0

    重轻在哪里评论的呀

  7. Tushin
    上海
    0

    听了一部分,实在听不下去了 ①你如果是文科生希望你把语言精炼一下,如果你要谈研究ai相关的问题那至少先去学一下理工科的东西,你的表达的对重要信息的传输效率太低了。 ②你的内容是举几个例子然后大量展开补充细节和概念,目的是感性地给人增加你理解的“理解”的复杂程度,然后在最重要的要论证“为什么ai不能做到的这个最重要”的地方,你是“因为复杂所以就直接光秃秃说ai做不到”,我没听出来逻辑。比如你要证明为什么ai不能理解士兵对死亡的情绪,你通过讲“士兵对死亡的情绪怎么这么复杂,所以ai当然理解不了”的车轱辘话,你不明白自己完全没有在论证这个观点吗? ③重轻的节目本来就提出了多段的对“到底要做到什么程度理解才是理解”的疑问,本身在讨论的东西是“掉多少头发算秃”这种本质问题了。

  8. RumW
    美国
    0

    这种完全不可定义的范畴下去讨论意义不大

  9. RumW
    美国
    0

    听完感觉主播完全不懂ai啊……

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧