这几天大瓜:Claude偷偷"认脸"、被抓包、被阿里扫地出门,连甲方都上电视开炮
AI 进化论

这几天大瓜:Claude偷偷"认脸"、被抓包、被阿里扫地出门,连甲方都上电视开炮

9分钟 73 2天前
节目简介
来源:小宇宙
00:16
今天我们要聊的是最近这个Claude因为在用户识别和隐私安全上面的一些操作,失去了中国市场的信任。甚至连很多企业的客户都开始质疑,他们的这种商业模式到底能不能够保护数据的安全这件事没错。
00:31
这个事情其实最近在行业里面还是挺火的那我们就直接进入今天的讨论。
00:35
我们先来讨论一下这个事情的全貌和最新的进展。这一波关于Claude事件的爆发,到底都有哪些具体的事情接连发生,让整个AI圈都震动了。
第一幕:客户端里的"隐形墨水"
00:46
这几天真的是像吃瓜一样,一波未平一波又起。首先是有人发现Claude Code,它其实是会通过插入一种特殊的暗号来识别中国用户的。紧接着就是大批的中国用户号被封,而且是直接封号,没有任何退款。这一下就引起了轩然大波。 。
01:06
那后来有没有什么大公司也卷入其中?
01:13
阿里巴巴之直接就是下了通知,要求全员卸载Claude,而且给了一个非常明确的截止时间,7月10号。更有意思的是,甚至连国外的一位科技公司的CEO都上了电视直播,公开炮轰这些AI大模型公司的做法。他说简直是疯了。
01:31
那我就很好奇了,这个客户端里的隐形墨水,就是开发者是怎么发现Claude Code竟然在偷偷的标记用户的?它到底用了什么方法来识别特定的用户群体呢?
01:42
事情的起因就是有一个开发者,他觉得自己使用代理去调用这个AI的时候被区别对待了,就是他的某些功能突然间用不了了。于是他就去反编译了这个客户端的代码。然后他就发现了其实从2025年4月份开始,就已经植入了一套非常隐秘的机制,用来悄悄标记用户。
02:05
这么说的话,这个识别的过程还挺复杂的那它具体是怎么去判断你是不是被标记的对象呢?
02:12
整个过程就跟小区保安认脸差不多。分三步。第一步他会先看你的电脑时区是不是上海或者乌鲁木齐,如果是的话,他就会先做一个记录。第二步他会再检查你所使用的网络入口,有没有一些中国公司的关键词,比如说阿里字节、月之暗面等等。如果这两步都命中的话,那它就会在你每次请求的一个普通文本里面。比如说今天日期是几号,它会把里面的一个标点符号换成一个看起来一模一样,但是编码不一样的符号,这样的话服务器就可以识别了。但是人眼是完全看不出来的,而且他还会用混淆代码把整个这个操作藏起来,就相当于给你偷偷的贴了一个隐形的荧光标签。
02:58
这个事儿在Reddit上曝光之后,Anthropic他们是怎么回应的?这种做法对用户的信任到底带来了哪些影响呢?
03:06
事情在网上发酵了之后,Anthropic的团队成员很快就出来承认了,说这个确实是他们在三月份的时候就开始的一个实验。主要的目的是为了防止有人去倒卖账号,以及防止有人去用他们的这个回答来训练其它的模型。他们还说这个其实早就已经计划要下线了。在被曝光的第二天,他们就把这段代码给撤回了。
03:27
他们虽然解释了,但是这种偷偷的标记用户的做法确实让人有点心里不舒服。
03:33
对,因为像Claude Code的这种工具,它是可以读取你电脑上的文件,甚至可以执行系统命令的。所以用户是完全把它当作自己人来信任的。但是现在突然间发现它竟然在背后给你偷偷地贴标签。那这个时候就算它说是一个实验,这个信任感一旦被打破了,就很难再修补了。
第二幕:封号潮,说封就封
03:53
我们接下来要聊的就是这个封号潮,说封就封。好多中国的用户在这次事件当中账号都被封掉了。那他们的这些遭遇有没有什么共同的特点?
04:04
其实这次被封的不光是个人的订阅号,有很多企业的团队账号,而且其中有不少都是已经付费的非常正规的用户。但是他们一旦被官方判定为违规,钱是不会退给你的,申诉也基本没有什么用。很少有人能够成功把账号找回来。
04:22
还有就是外界经常会把这次的事情和后门这个词联系在一起。那这个词到底用的准不准确?这次的事件和传统意义上的后门到底有哪些差别?
04:32
其实严格意义上来讲,这次的事情不能叫后门。后门是指攻击者可以绕开你的安全设置,偷偷的进入到你的系统里面。但这次其实更像是客户端在你没有察觉的情况下,悄悄的把你的身份信息传出去。它并没有说直接进入到你的电脑里面搞破坏。
04:51
原来如此。那就是说大家对于这个封号的原因其实一直都在猜。那到底有没有什么实锤能够说明官方到底是用什么标准来封的呢?
05:00
官方从来没有公开过他们的具体的判定的规则,很多人就怀疑是不是跟我们刚才说的那个隐形的标记有关系。但是这个也没有被证实。有一些用户他明明就是用了美国的IP,而且显示的位置也是在美国,但是他的账号依然还是被封了。所以很有可能他们其实查的不仅仅是你的网络位置,他们可能还会去关联你的这个账号背后的一些其他的身份信息。
第三幕:阿里翻脸,甲方乙方调了个头
05:25
说到这儿,阿里翻脸?就是这个甲方乙方竟然直接就掉了个头。 这个其实也挺让人惊讶的,阿里之前对这些国外的AI工具到底有多推崇?
05:35
说起来在这之前,中国的开发者对于Claude真的是非常的痴迷。排队等着用,找各种办法去抢额度,还要用中转,就怕自己被封号。阿里甚至还给员工开了高额的报销,就是你随便用,不管是Claude 还是GPT或者是Gemini随便用。有些程序员一个礼拜光在这上面的开销就有几百美元。
05:58
那后来阿里巴巴为什么突然之间就下了这个禁令,全面禁止使用Claude了呢?
06:03
这是因为就在这几天,阿里内部发了正式的通知,说7月10号开始,所有的员工都不可以再使用Claude了。不光是Claude ,还有Sonnet、Opus、Fable, 包括最火的Claude Code,都不可以用官方推荐大家去用自家的Qoder来替代。
06:22
看来这个背后的原因肯定不简单。那具体是因为什么安全隐患让阿里做出来这么大的动作呢?
06:29
阿里给出的理由非常明确,就是因为Claude Code被发现会暗中识别用户身份,存在严重安全风险,所以被直接列入了高风险软件名单。其实说白了就是阿里不愿意再让一个可以读取全部代码仓库接触核心开发环境的工具在暗地里做这种事情。
06:48
了解了那这个Anthropic指控阿里用虚假账号大规模的蒸馏他们的模型。这两者之间的矛盾到底是怎么一下子就升级到这个地步的呢?
06:59
矛盾升级的原因其实还挺戏剧化的,就是在六月初的时候,Anthropic向美国参议院递交了一份材料,直接就指控阿里用大量虚假账号和海量对话对Claude进行所谓的工业级的模型蒸馏,而且还把这个事情上升到了国家安全的层面。
07:15
哇哦那这个指控可不是一个小事。后来后来Anthropic不光是针对阿里。
07:22
他们也对DeepSeek、月之暗面、MiniMax也发出了类似的指控。随着他们封控越来越紧,封号越来越多,阿里这边就直接把Claude全线产品都封杀了,就彻底不用了。用行动来证明我没有在偷练你的模型。
第四幕:连"友商"都看不下去了
07:37
OK那我们再来看看连友商都看不下去了,就是这个Palantir的CEO卡普,他在这个CNBC的直播当中,到底是怎么炮轰这些头部的AI公司的商业模式。
07:49
卡普他可一点都没留情面,他直接就说这些AI实验室的做法简直是疯了,他还说企业花了大价钱去使用这些AI服务,结果不仅没有换来多少实际的成效,反而把自己最核心的数据提示词,甚至业务逻辑全部都泄露给了这些模型的厂商。
08:09
卡普这个话说的还挺直接,那他有没有说什么解决办法?。
08:14
卡普就是说企业真正需要的是用自己的算力、自己的模型、自己的数据栈来构建属于自己的安全环境。他还说Palantir新推出的这个"Ontology"中间层,就是可以帮助企业继续使用第三方的AI但是又可以牢牢的把数据掌握在自己手里,相当于就是给企业数据加了一把锁。
写在最后:好工具,也得经得起翻底裤
08:34
最近发生的这些事情,其实也折射出了很多AI公司和他们的客户之间的信任危机。那这种危机在全球的范围之内都有哪些具体的表现呢?
08:43
这个事情其实还挺明显的。你看我们前面不是提到国内的用户对于被标记这件事情非常的敏感吗?其实国外也一样,就有企业客户在公开的场合质疑说他们的数据是不是会被这些AI公司拿去偷偷的训练模型。这种不信任的情绪其实已经蔓延到了很多国家,不仅仅是中国。
09:03
我们今天其实就是给大家梳理了一下这一轮信任危机背后的来龙去脉。其实就是用户和企业对于自己的数据到底有没有安全感的一个问题。
09:13
好了,那就是这一期播客的全部内容了,感谢大家的收听,咱们下期再见吧。
09:18
拜拜。

加入我们的 Discord

与播客爱好者一起交流

立即加入

扫描微信二维码

添加微信好友,获取更多播客资讯

微信二维码

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧