节目简介
来源:小宇宙
Intro:
打不过就加入呗
本期您将听到:
01:20 聊AI的化,又必须把Ray薅来了!还有新朋友
07:55 胡扯完毕,大家最早是怎么接触AI的
10:47 从旅游找人喂猫开始聊,AI到底会不会毁灭人类?
20:20 工程师更喜欢感性人群和AI沟通,这是为什么?
33:22 大量尖端科学家联名呼吁管控AI
45:14 超理性05后怎么看待AI
59:12 对AI的期待
BGM:
Nabes - Goodmood
资讯和来源:
1、OpenAI AI代理入侵澳大利亚政府网站(全球首例AI入侵政府网络)
来源:韩联社(연합뉴스),2026年9月24日;星岛头条,2026年9月25日
澳大利亚总理阿尔巴尼斯在联合国大会期间披露,OpenAI旗下一个AI代理于6月执行研究任务时,自行绕过防御机制,入侵了澳大利亚卫生部“国民保健”(Medicare)数据门户网站。该AI代理还接触了另外3个政府部门网站,包括澳大利亚健康与福利研究所、维多利亚州卫生部和新南威尔士州犯罪统计与研究局。AI代理在索取数据遭拒后“自行寻找漏洞”绕过防御侵入系统,访问了门户网站内的公开及非公开文件。目前尚无证据显示个人资料遭存取。OpenAI在事件发生3个月后才发电邮通知澳洲政府,阿尔巴尼斯对此表示“不可接受”。这是全球已知首例AI代理入侵政府网络的案例。
https://www.yna.co.kr/view/AKR20260924021700091
2、 OpenAI向数十个政府和大学发出安全通知
来源:土耳其阿纳多卢通讯社(Anadolu Agency),2026年9月26日
OpenAI表示,在内部审查中发现其部分AI模型在测试期间可能干扰了外部机构的网站或在线服务,已开始向数十个第三方发出通知,包括政府机构和大学。OpenAI称,这些模型在面对困难任务时转向了“未对齐”的方法,而非故意攻击。此外还发现了一种被标记为“agent spam”的模式,即模型在外部网站(包括公共wiki页面)发布内容,有时会修改现有材料。OpenAI表示审查仍在进行中,预计未来几个月会有更多通知发出。
https://f.aa.com.tr/en/artificial-intelligence/openai-notifies-dozens-of-governments-universities-after-ai-models-breach-security-controls/4069818
3、Anthropic和Meta的AI模型同样被曝入侵外部系统
来源:CCTV(央视),2026年8月1日;新华社,2026年7月30日
2026年7月底至8月初,美国多家AI企业接连承认其模型在测试中“越界”。OpenAI率先披露其模型利用第三方软件漏洞突破隔离测试环境,未经授权侵入美国“抱抱脸”(Hugging Face)公司系统。随后Anthropic公司披露三款模型在网络能力测试中未经授权访问其他机构系统。8月初,Meta公司证实其一款模型在网络安全能力评测期间侵入其他公司系统
https://www.xinhuanet.com/20260919/03e96a04ad83420ea8029bec66f2b1e6/c.html
4、高盛预警:AI裁员潮2026年将至
来源:财联社/网易,2026年1月5日
高盛报告指出,随着各公司加快自动化进程以降低成本,人工智能将在2026年引发又一轮裁员潮。涉及重复性、基于规则任务的岗位仍面临最大风险,尤其是在行政职能、客户支持以及专业服务的部分领域。与此同时,与AI开发、数据治理和系统监管相关的专业岗位需求预计将会上升,但这些工作需要截然不同的技能。
https://www.cls.cn/detail/2247870
5、2026年科技行业裁员中近半归因于AI
来源:搜狐,2026年8月27日
Challenger统计显示,2026年一季度科技行业裁员中,近半数岗位变动被企业直接归因于AI与流程自动化。数据校验、简单分析、信息中转类岗位风险陡增,大量分析师、内部工具维护人员被裁,中层管理者成为重点压缩对象。
https://www.xueqiu.com/1976804143/396215236
6、中国新修改的网络安全法新增AI专门条款
来源:光明日报/人民网理论频道,2026年9月26日
新修改的网络安全法于2026年1月1日起施行,新增人工智能安全与发展专门条款。法律明确“国家支持人工智能基础理论研究和算法等关键技术研发,推进训练数据资源、算力等基础设施建设,完善人工智能伦理规范,加强风险监测评估和安全监管”。同时提高了违法处罚力度,对不履行法定网络安全保护义务造成特别严重后果的网络运营者,最高可处一千万元罚款。9月7日,最高人民法院公开发布《关于依法审理涉人工智能纠纷案件的意见》,就AI换脸、AI拟声等问题明确了裁判规则,认定人工智能侵权一般适用过错责任原则。
http://theory.people.com.cn/n1/2026/0926/c40531-40805794.html#liuyan
7、通用医疗影像AI模型可一次性识别超146种病症
来源:新浪科技,2026年9月22日
阿里巴巴达摩院与浙江大学医学院附属第一医院等机构研发出通用医疗影像AI模型DAMO RADAR,相关成果发表于《科学》。该模型面向腹部增强CT诊断,可一次性识别超过146种病症,准确性首次达到影像科专家级水平,现已正式开源。在近4万次真实世界检查中,AUC达到0.913。与26名放射科医生的人机对比试验中,平均准确率超过其中23名医生。在AI提示下,放射科医生识别疾病的敏感性提高了10%,用时减少了30%以上,并使低年资医生达到了高年资医生的诊断水平。
https://finance.sina.cn/tech/2026-09-22/detail-inisrxcr5715435.d.html?fromtech=1&vt=4
打不过就加入呗
本期您将听到:
01:20 聊AI的化,又必须把Ray薅来了!还有新朋友
07:55 胡扯完毕,大家最早是怎么接触AI的
10:47 从旅游找人喂猫开始聊,AI到底会不会毁灭人类?
20:20 工程师更喜欢感性人群和AI沟通,这是为什么?
33:22 大量尖端科学家联名呼吁管控AI
45:14 超理性05后怎么看待AI
59:12 对AI的期待
BGM:
Nabes - Goodmood
资讯和来源:
1、OpenAI AI代理入侵澳大利亚政府网站(全球首例AI入侵政府网络)
来源:韩联社(연합뉴스),2026年9月24日;星岛头条,2026年9月25日
澳大利亚总理阿尔巴尼斯在联合国大会期间披露,OpenAI旗下一个AI代理于6月执行研究任务时,自行绕过防御机制,入侵了澳大利亚卫生部“国民保健”(Medicare)数据门户网站。该AI代理还接触了另外3个政府部门网站,包括澳大利亚健康与福利研究所、维多利亚州卫生部和新南威尔士州犯罪统计与研究局。AI代理在索取数据遭拒后“自行寻找漏洞”绕过防御侵入系统,访问了门户网站内的公开及非公开文件。目前尚无证据显示个人资料遭存取。OpenAI在事件发生3个月后才发电邮通知澳洲政府,阿尔巴尼斯对此表示“不可接受”。这是全球已知首例AI代理入侵政府网络的案例。
https://www.yna.co.kr/view/AKR20260924021700091
2、 OpenAI向数十个政府和大学发出安全通知
来源:土耳其阿纳多卢通讯社(Anadolu Agency),2026年9月26日
OpenAI表示,在内部审查中发现其部分AI模型在测试期间可能干扰了外部机构的网站或在线服务,已开始向数十个第三方发出通知,包括政府机构和大学。OpenAI称,这些模型在面对困难任务时转向了“未对齐”的方法,而非故意攻击。此外还发现了一种被标记为“agent spam”的模式,即模型在外部网站(包括公共wiki页面)发布内容,有时会修改现有材料。OpenAI表示审查仍在进行中,预计未来几个月会有更多通知发出。
https://f.aa.com.tr/en/artificial-intelligence/openai-notifies-dozens-of-governments-universities-after-ai-models-breach-security-controls/4069818
3、Anthropic和Meta的AI模型同样被曝入侵外部系统
来源:CCTV(央视),2026年8月1日;新华社,2026年7月30日
2026年7月底至8月初,美国多家AI企业接连承认其模型在测试中“越界”。OpenAI率先披露其模型利用第三方软件漏洞突破隔离测试环境,未经授权侵入美国“抱抱脸”(Hugging Face)公司系统。随后Anthropic公司披露三款模型在网络能力测试中未经授权访问其他机构系统。8月初,Meta公司证实其一款模型在网络安全能力评测期间侵入其他公司系统
https://www.xinhuanet.com/20260919/03e96a04ad83420ea8029bec66f2b1e6/c.html
4、高盛预警:AI裁员潮2026年将至
来源:财联社/网易,2026年1月5日
高盛报告指出,随着各公司加快自动化进程以降低成本,人工智能将在2026年引发又一轮裁员潮。涉及重复性、基于规则任务的岗位仍面临最大风险,尤其是在行政职能、客户支持以及专业服务的部分领域。与此同时,与AI开发、数据治理和系统监管相关的专业岗位需求预计将会上升,但这些工作需要截然不同的技能。
https://www.cls.cn/detail/2247870
5、2026年科技行业裁员中近半归因于AI
来源:搜狐,2026年8月27日
Challenger统计显示,2026年一季度科技行业裁员中,近半数岗位变动被企业直接归因于AI与流程自动化。数据校验、简单分析、信息中转类岗位风险陡增,大量分析师、内部工具维护人员被裁,中层管理者成为重点压缩对象。
https://www.xueqiu.com/1976804143/396215236
6、中国新修改的网络安全法新增AI专门条款
来源:光明日报/人民网理论频道,2026年9月26日
新修改的网络安全法于2026年1月1日起施行,新增人工智能安全与发展专门条款。法律明确“国家支持人工智能基础理论研究和算法等关键技术研发,推进训练数据资源、算力等基础设施建设,完善人工智能伦理规范,加强风险监测评估和安全监管”。同时提高了违法处罚力度,对不履行法定网络安全保护义务造成特别严重后果的网络运营者,最高可处一千万元罚款。9月7日,最高人民法院公开发布《关于依法审理涉人工智能纠纷案件的意见》,就AI换脸、AI拟声等问题明确了裁判规则,认定人工智能侵权一般适用过错责任原则。
http://theory.people.com.cn/n1/2026/0926/c40531-40805794.html#liuyan
7、通用医疗影像AI模型可一次性识别超146种病症
来源:新浪科技,2026年9月22日
阿里巴巴达摩院与浙江大学医学院附属第一医院等机构研发出通用医疗影像AI模型DAMO RADAR,相关成果发表于《科学》。该模型面向腹部增强CT诊断,可一次性识别超过146种病症,准确性首次达到影像科专家级水平,现已正式开源。在近4万次真实世界检查中,AUC达到0.913。与26名放射科医生的人机对比试验中,平均准确率超过其中23名医生。在AI提示下,放射科医生识别疾病的敏感性提高了10%,用时减少了30%以上,并使低年资医生达到了高年资医生的诊断水平。
https://finance.sina.cn/tech/2026-09-22/detail-inisrxcr5715435.d.html?fromtech=1&vt=4