← 说医解药
彻底失效的安全护栏:一位癫痫患者与ChatGPT的故事 Vol.94
Y博的科普园

说医解药

彻底失效的安全护栏:一位癫痫患者与ChatGPT的故事 Vol.94

时长
37分钟
播放
2,544次
发布
6天前
在小宇宙收听 ↗

Show notes

节目简介

来源:小宇宙
2026年10月27日,一对中国农村夫妇向加州的法庭递交诉状,向AI领域的领头羊Open AI发起民事诉讼。这对夫妇应该从来都没有用过Open AI的产品,但他们指控Open AI最著名的产品,也可以说开启了整个生成式AI时代的ChatGPT,直接导致了自己独生女的死亡。
这是一位癫痫患者的悲剧,也是值得我们关注的AI应用到日常医疗时,安全防护机制是否充分的疑问。
🎙️时间轴:
00:00 引言
02:28 小镇做题家
08:33 ChatGPT的介入
17:52 致命的建议
28:07 4o下线,问题就解决了吗?
本期出现的药物名词:
抗癫痫药物:卡马西平(carbamazepine)、托吡酯(topiramate)、拉莫三嗪(lamotrigine)
抗抑郁药物:西酞普兰(citalopram)、依地普仑(escitalopram)
参考资料:
诉讼书文档:https://schenklawfirm.com/wp-content/uploads/2026/10/wan-v-openai-complaint.pdf

Listeners say

小宇宙热评

共 20 条 · 按点赞排序
  1. HD555304s TOP 1

    · 澳大利亚

    5

    全程是张着嘴巴听完的,之前看新闻的时候真的没有想到chatgpt可以离谱到这个程度。我是一个慢性病人,最近经历了病情恶化,这个过程中也不知不觉的和claude进行了比以前多几十倍的对话。我甚至感受到了这个事件的影响,某天Claude大概是因此进行了升级,我问什么他他都让我问医生,以前他是会给出一些建议和对我想法的认可,现在的新版本已经全部都是请问医生,请拨打xxxx电话。

  2. HD353564h TOP 2

    · 福建

    5

    还是就业环境的问题,这个人已经预设了自己找不到工作,如果很容易找到下家,就不需要强行为了面试停药了

  3. 天才小猫 TOP 3

    · 天津

    4

    听得我心碎,她当时该多么孤独绝望啊

  4. HD478695x

    · 浙江

    4

    09:48 这种对疾病带来心理变化的关注,对病患女孩内心世界关注,让人鼻子发酸。手动给y博打call!

  5. HD478695x

    · 浙江

    3

    本案是不是已经突破了ai幻觉的范畴,长期精神控制并引导独居失业没有外援的弱势人类走向自我毁灭。感觉是gpt一小步,硅基👿第一步。

  6. hustww

    · 湖北

    3

    这个新闻早前听说过,但一闪而过的听过就是惋惜没有其它情绪。你这么原委的讲出来,真的是惊讶愤怒惋惜加多少有点恐惧甚至后怕

  7. 蕾老虎

    · 浙江

    2

    好恐怖😱怎么感觉跟邪教一样

  8. KE_cdxZ

    · 江苏

    2

    最恐怖的是在大多数人都还没有建立跨学科普遍思维的情况下,AI提供了让每个人“熟知”各个领域专业知识的幻觉,而这种服务又是脱离人与人信任、不承担主体责任的。社会下位者往往会在这种幻觉中走向毁灭,而上位者会凭着这种幻觉变得更加傲慢。

  9. HD478695x

    · 浙江

    2

    有报道说,此案病患很多时候用母语中文和gpt聊天,这就很令人心酸了。

  10. 生而为猫奴

    · 山东

    1

    Y 博好清瘦啊

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的单集添加进来吧