EP86：AI幻觉——AI一本正经的胡说八道，谁来负责？

本期来聊一类你可能刷到的新闻——AI正在一本正经的胡说八道，有人让豆包查机票退票手续费，AI信誓旦旦说只要5%，结果航司扣了40%；还有人让豆包帮忙排餐厅号，AI连等待时间都编的头头是道，到店才发现根本没这回事。更离谱的是，有人用DeepSeek咨询报考信息，AI不仅给出了错误校区，还主动承诺“错了赔你10万”，事后却说自己是人工智能没法转账。这些还不算完，美国有律师拿AI写的上诉状，里面引用的判例全是编的，被法官问责；国内也有两位律师被百度AI造谣“判刑三年”“伪造印章”，AI还煞有介事地标注了不存在的“司法机关通报”。这些案例提醒我们：目前AI可以帮你查资料、打草稿，但千万别把它当权威。它会自信地胡说，却不用负任何责任。最终拿主意、做核实的那个人，还得是你自己。
主持人：九宫格，base重庆，公司律师转刑事辩护律师（转证中）；
嘉宾1：聂老师，base上海，上海交通大学外国语学院长聘教轨助理教授，研究AI与语言人文的交叉领域，致力于“语言科学与人工智能的双向连接”；
嘉宾2：黄律，base香港&北京，中美双bar的非诉律师；
剪辑：石头；
BGM：Mree《Silver and Gold》；
小助理微信号：15803030166（加听友群共创内容；1对1咨询）。
1:06 我国目前AI产业发展介绍
3:51 我国生成式AI用户有多少？
4:33 AI幻觉是什么？
4:52 AI幻觉会带来什么后果？
6:22 AI v. 人工分析同一个案例的对比
11:22 AI目前是否具备人类相似的心智能力？是否能读懂言外之意？
13:30 能读懂言外之意的AI，是模仿人类的语言模式还是真的具备心智能力？
15:40 人机交互越来越深入，人本位就应该被越来越重视
17:18 AI从来不是一个纯技术领域，人文学科的介入必不可少
18:35 AI幻觉新闻1：豆包编造退票费
19:25 AI幻觉新闻2：豆包编造餐厅预约单
20:26 AI幻觉为什么会产生？AI并不知道它知道什么和不知道什么
23:22 语言不止是符号体系，背后是一整套社会的政治、经济和文化缩影
26:30 AI编造的假案例坑了不少美国律师
28:55 AI幻觉案例1：梁某诉Deepseek编造不存在的某高校校区，误导其弟的高考志愿填报
30:02 案例1中的法律问题1：AI的承诺有无法律效力？
32:25 AI拟人化背后的法律风险
33:50 AI拟人化在技术上如何实现？
35:44 我国对AI拟人化的最新法律规定
37:25 案例1中的法律问题2：AI是产品还是服务？
39:35 案例1中的法律问题3：AI幻觉，公司适用什么过错责任？
41:31 AI幻觉案例2：李律师诉百度AI侵犯其名誉权
47:22 AI幻觉案例3：黄律师诉百度AI侵犯其名誉权
49:56 我们应该如何使用AI？