← 法说商金
2026.11.18
Show notes
节目简介
00:01:44消费者和人工智能聊天、咨询时出现错误时的法律责任。
00:02:28AI到底是产品还是服务。
00:03:03万波文父母诉openAI诉讼案。
00:09:24原告提出产品设计缺陷、未能充分警告风险及违反不正当竞争法等诉求,并要求陪审团审理。
00:09:41OpenAI本可以对医疗建议设置更严格的限制,以防止悲剧发生。
00:10:56 国内也发生类似案例,高中生在咨询某人工智能,得到答案说:服用多少亚硝酸钠后可以在多长时间内被救活。
00:16:35我国首例AI幻觉案。
00:17:35杭州互联网法院:本院认为,按照传统民法理论,侵权责任被分为一般侵权责任和特殊侵权责任,产品责任属于特殊侵权责任。根据《中华人民共和国民法典》第一千一百六十五条第一款之规定,一般侵权责任适用过错责任原则;同时,依据前法第一千二百零二条之规定,产品责任适用无过错责任原则。本案中的生成式人工智能服务侵权责任,应当适用的是《中华人民共和国民法典》第一千一百六十五条第一款的过错责任原则,而不应适用产品责任的无过错责任原则。
00:20:03法院认为,生成式人工智能属于服务,而非产品,依法不应适用产品责任。
00:27:40 2026年9月7日最高人民法院发布的文件《关于依法审理涉人工智能纠纷案件的意见》,聚焦社会各界关注的AI换脸、大数据杀熟、仿冒名人带货、自动驾驶、知识产权保护等问题,明确相应的裁判规则,厘清行为边界和法律责任。
00:32:00第二个原则,支持创新发展。提出,“以包容审慎的态度平衡权益保护与技术产业发展,营造鼓励探索、宽容失败的良好环境。”
00:36:55《意见》第三条规定一般过错责任。对比三年前的《生成式人工智能服务管理暂行办法》:当时要求提供者对内容负责,实质上是接近无过错责任。
00:39:29欧盟人工智能法对AI侵权责任有向产品责任规范的倾向.
00:40:48《意见》对产品的认定基本按照我国《产品质量法》的规定,未将产品概念按照人工智能发展给出新的界定。有学者称为功能主义的裁判思路,即裁判这类纠纷不需要过多回溯AI的技术原理,只需要看它实现的功能是什么——实现的功能是产品,就参照产品、自动驾驶等既有规则.
00:42:00 准确认定人工智能产品责任。人民法院应当依据产品质量法关于“产品”的定义,依法准确认定以实物为载体的人工智能产品并适用相应的法律规则。人工智能产品存在缺陷造成损害的,生产者、销售者应当依法承担产品责任。在认定人工智能产品是否存在危及人身、财产安全的不合理危险时,应当综合考量人工智能产品的性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度,以及是否符合相关国家标准、行业标准等因素,并重点审查生产者、销售者是否就人工智能产品的适用场景、固有局限及可预见的风险等进行了真实的说明和明确的警示。
00:45:12服务是一个合同法上的服务。
00:48:19《意见》关于人工智能提供方的责任是按照过错责任,则关于“服务”就不是在《消费者权益保护法》的逻辑下考虑的。《意见》基本没有提及对人工智能进行信息咨询等服务的法律责任。
00:49:00《意见》对消费者权益保护主要在第十条,而该第十条和人工智能信息咨询等服务没有关系。
00:51:15根据我国法律,目前并无法律明确AI需要对提问的不当回答负责。
00:51:40未成年人是否需要特别保护?
00:52:10未来要往哪里去?
00:58:14是否逐渐会要求AI的回答有一些边界,有提醒的义务。
1:01:00不能把一个产品一定和物理形态绑定。
1:01:35全国首例AI幻觉案中,法院裁判文书中说:“生成式人工智能生成的信息内容本身并不具有危及人身、他人财产的危险性,因此,对生成式人工智能生成的信息适用产品责任的无过错原则并不恰当。”真的如此吗?
1:03:18现阶段最高法《意见》是非常符合现实的。但随着现实的发展,人们对AI的高度依赖,以及未成年人等参与,情况可能会发生变化。
1:03:36个人更偏向于列入产品之概念,当然不是《产品质量法》之产品。产品的理解一直在发生变化,不是所有产品都必须具备物理载体的。
00:02:28AI到底是产品还是服务。
00:03:03万波文父母诉openAI诉讼案。
00:09:24原告提出产品设计缺陷、未能充分警告风险及违反不正当竞争法等诉求,并要求陪审团审理。
00:09:41OpenAI本可以对医疗建议设置更严格的限制,以防止悲剧发生。
00:10:56 国内也发生类似案例,高中生在咨询某人工智能,得到答案说:服用多少亚硝酸钠后可以在多长时间内被救活。
00:16:35我国首例AI幻觉案。
00:17:35杭州互联网法院:本院认为,按照传统民法理论,侵权责任被分为一般侵权责任和特殊侵权责任,产品责任属于特殊侵权责任。根据《中华人民共和国民法典》第一千一百六十五条第一款之规定,一般侵权责任适用过错责任原则;同时,依据前法第一千二百零二条之规定,产品责任适用无过错责任原则。本案中的生成式人工智能服务侵权责任,应当适用的是《中华人民共和国民法典》第一千一百六十五条第一款的过错责任原则,而不应适用产品责任的无过错责任原则。
00:20:03法院认为,生成式人工智能属于服务,而非产品,依法不应适用产品责任。
00:27:40 2026年9月7日最高人民法院发布的文件《关于依法审理涉人工智能纠纷案件的意见》,聚焦社会各界关注的AI换脸、大数据杀熟、仿冒名人带货、自动驾驶、知识产权保护等问题,明确相应的裁判规则,厘清行为边界和法律责任。
00:32:00第二个原则,支持创新发展。提出,“以包容审慎的态度平衡权益保护与技术产业发展,营造鼓励探索、宽容失败的良好环境。”
00:36:55《意见》第三条规定一般过错责任。对比三年前的《生成式人工智能服务管理暂行办法》:当时要求提供者对内容负责,实质上是接近无过错责任。
00:39:29欧盟人工智能法对AI侵权责任有向产品责任规范的倾向.
00:40:48《意见》对产品的认定基本按照我国《产品质量法》的规定,未将产品概念按照人工智能发展给出新的界定。有学者称为功能主义的裁判思路,即裁判这类纠纷不需要过多回溯AI的技术原理,只需要看它实现的功能是什么——实现的功能是产品,就参照产品、自动驾驶等既有规则.
00:42:00 准确认定人工智能产品责任。人民法院应当依据产品质量法关于“产品”的定义,依法准确认定以实物为载体的人工智能产品并适用相应的法律规则。人工智能产品存在缺陷造成损害的,生产者、销售者应当依法承担产品责任。在认定人工智能产品是否存在危及人身、财产安全的不合理危险时,应当综合考量人工智能产品的性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度,以及是否符合相关国家标准、行业标准等因素,并重点审查生产者、销售者是否就人工智能产品的适用场景、固有局限及可预见的风险等进行了真实的说明和明确的警示。
00:45:12服务是一个合同法上的服务。
00:48:19《意见》关于人工智能提供方的责任是按照过错责任,则关于“服务”就不是在《消费者权益保护法》的逻辑下考虑的。《意见》基本没有提及对人工智能进行信息咨询等服务的法律责任。
00:49:00《意见》对消费者权益保护主要在第十条,而该第十条和人工智能信息咨询等服务没有关系。
00:51:15根据我国法律,目前并无法律明确AI需要对提问的不当回答负责。
00:51:40未成年人是否需要特别保护?
00:52:10未来要往哪里去?
00:58:14是否逐渐会要求AI的回答有一些边界,有提醒的义务。
1:01:00不能把一个产品一定和物理形态绑定。
1:01:35全国首例AI幻觉案中,法院裁判文书中说:“生成式人工智能生成的信息内容本身并不具有危及人身、他人财产的危险性,因此,对生成式人工智能生成的信息适用产品责任的无过错原则并不恰当。”真的如此吗?
1:03:18现阶段最高法《意见》是非常符合现实的。但随着现实的发展,人们对AI的高度依赖,以及未成年人等参与,情况可能会发生变化。
1:03:36个人更偏向于列入产品之概念,当然不是《产品质量法》之产品。产品的理解一直在发生变化,不是所有产品都必须具备物理载体的。