本期节目主要讨论AI如何被讲述、被理解、被接受，以及被信仰。 这两天，李飞飞领导的斯坦福大学以人为本人工智能研究所（Stanford HAI）发布了《2025 年人工智能指数报告》，这份长达 456 多页的报告显示，在2024年，AI更大程度地融入到了日常生活中。 全球的科技政策制定者们不再只是在讨论人工智能，更积极地投资人工智能。巴黎行动峰会之后，安全不再是AI治理领域最核心的议题。而为了抢夺全球AI发展的先发优势，各国科技公司也开启了“Beta即推送”的竞赛。 可以说，半成品是我们的时代症候群：人们被迫接受尚未成熟的产品、系统和服务，与之共存，并承担代价，进而加强社会结构性的焦虑。 这是一场迟来的节目介绍，也是一个邀请。我们从一个牧区少年的故事讲起，穿越政策、商业与哲学的边界，进而分析AI的前沿风险概念为何被提出？为何“安全”成为科技主流政策讨论的遮蔽？又是谁制造了“未来风险”的想象。 本期主播 Zhuoran：AI治理研究者，重点关注科技法和STS领域，拥有财经媒体和云计算&AI行业的交叉从业背景，并参加过多个AI Safety治理研究项目。 📘 内容目录 00:17 一个问题的产生：谁在主导AI的叙事？这是认知之争还是权力之争？ 01:07 拉图尔的警示：我们的二元思维陷阱 03:09 技术焦虑：登船还是被淹没？ 04:26 "半成品社会"的来临：AI的新应用为何能在短时间内风靡全球，甚至存在不成熟的情况被广泛推广？ 05:45 入场：技术乌托邦背后具体的人：14岁藏族少年的故事 09:28 一支打动我的科技广告：Behind the Mac 10:46 《幽灵工作》作者告诉我：什么是创新的基础？ 12:44 技术性消失如何将技术塑造成奇迹，如何使人类劳动变得隐形 14:09 前沿AI风险的提出：AI实验室们的议程设置 17:05 红队报告的惊人发现：AI能力的失控边界 揭秘Anthropic等公司内部红队测试的震撼结果：最新AI模型已在某些领域超越人类专家能力，生物安全测试结果令人不安，暴露出技术发展的失控潜力。 18:37 全球AI治理联盟的崩塌 从英国布莱切利峰会到巴黎行动峰会，安全一词从标题中消失，美欧英同盟破裂。 20:00 模型竞赛，一个字：卷 21:29 "前沿AI风险"如何塑造政策真空？ 23:15 云计算巨头：AI革命背后真正的权力持有者 24:25 北大人工智能研究院朱松纯：AI叙事存在认知偏差，最难解决的问题是人文学科关注的社会复杂系统。 26:24 存在风险叙事的真相：源自顶尖科学家的担忧 28:33 如果海德格尔活着，会如何批判硅谷？ 31:25 AI创业者是当代“奥本海默”吗？科技精英的道德幻觉 34:15 智能概念的哲学革命：从人类中心到宇宙尺度 35:45 意识与智能的解构：AI的存在主义挑战 39:57 可解释性AI：我们不够重视的关键研究领域 40:34 Stop Sign停车标志实验：自动驾驶到底能和人类一样看懂路标吗？ 42:56 破除单一叙事：重塑AI讨论的多元声音 44:13 重启对话：技术即人 📘 本期提到的关键概念 * Noema：意识活动所指向的对象或内容，即经验的意义部分。 * Noesis：与Noema相对应，Noesis指的是意识活动本身，即赋予经验意义的过程或行为。 * Hylomorphic Model：认为任何物理实体都是形式（Form）与质料（Matter）的结合。形式赋予事物其特性，质料则是构成事物的材料。 * SETI（搜寻地外智能）：指的是寻找地外智慧生命存在证据的科学努力，主要通过接收和分析来自太空的信号来探测可能的外星文明。 * Frontier AI Risk：高度先进的基础模型可能具备的危险能力，足以对公共安全构成严重风险。 * Red Team（红队）：在人工智能安全领域，红队指的是通过模拟真实世界攻击来测试AI系统的防御能力，以发现和修复潜在的漏洞。 * 可解释性AI：指一套方法和流程，使人类用户能够理解和信任机器学习算法的结果和输出，旨在提高AI决策过程的透明度。 * AI Agent：指能够自主执行任务、进行决策，并与环境交互的人工智能系统或程序，通常用于完成特定的目标或任务。 * 技术性消失：指人类劳动在技术包装下被“隐形化”的过程，即技术的发展使得背后的人类劳动变得不可见或被忽视。 * 《悬崖》（The Precipice）：由哲学家托比·奥德（Toby Ord）撰写的书籍，探讨了人类在未来可能面临的生存风险，以及如何确保人类文明的长期存续。 * 《幽灵工作》（Ghost Work）：由玛丽·L·格雷（Mary L. Gray）和西达斯·苏里（Siddharth Suri）合著，揭示了在数字经济中，被技术平台隐藏起来的大量临时工和零工劳动者的现状，探讨了他们的工作条件和社会影响。 * 去蔽：让被遮蔽的存在重新显现出来，从而通向更本真的理解。 👤 提到的人物 * Bruno Latour：科学社会学与“行动者网络理论”提出者 * Geoffrey Hinton、Yoshua Bengio：AI领域“教父”级人物，积极参与AI伦理与风险讨论 * 朱松纯：北京大学AI研究院教授，提醒AI从学术问题转为社会问题的认知挑战 * 朱啸虎：著名投资人 * Mary Gray：《幽灵工作》作者，微软研究院研究员 * Amba Kak：科技政策研究所AI Now执行董事 * Sarah Walker：天体物理学家 * Benjamin Bratton：加州大学圣地亚哥分校的技术哲学与思辨设计教授 📚 参考资料 1. Rees, T. (2025). Why AI Is A Philosophical Rupture. Noema. Retrieved from www.noemamag.com 2. Fernandes, E., Evtimov, I., Kohno, T., et al. (2019). In London? See our work on Adversarial Machine Learning at the Science Museum. Tech Policy Lab, University of Washington. Retrieved from techpolicylab.uw.edu 3. OpenAI. (2023). Frontier AI Regulation: Managing Emerging Risks to Public Safety. OpenAI. Retrieved from openai.com OpenAI+1OpenAI+1 4. Helfrich, G. (2024). The Harms of Terminology: Why We Should Reject So-called “Frontier AI”. AI and Ethics. Retrieved from link.springer.com SpringerLink+1SpringerLink+1 5. Anthropic. (2025). Progress from our Frontier Red Team. Anthropic. Retrieved from www.anthropic.com Home 请注意，第4条参考文献指出，“前沿AI风险”概念最初由人类未来研究所（FHI）的研究人员提出，尽管未直接提及OpenAI、DeepMind等人工智能实验室的名称，但事实上，该论文在OpenAI的网站上明确表示是由OpenAI独立委托完成。 可信AI交通路标实验 📚 BGM： 片头：Ivano Palma - Il viaggio 片尾：Lonely Man - Alex Hamlin * 小宇宙：智幻时刻Fungimind * Apple Podcasts：智幻时刻Fungimind * QQ音乐：智幻时刻Fungimind * Spotify：智幻时刻Fungimind * Email: [email protected] * 小红书：Fungimind_AI治理蘑菇

本期主播：Zhuoran、毛袜、Neal 这是一场前财经记者们的对话。这一期，智幻时刻邀请了毛袜和Neal，两位均来自财新，一个国内鲜见的付费新闻媒体。我们希望从财新这场横跨近10年的孤单实验开始谈起，一起看看AI、虚假信息、Paywall、和新闻业的未来。 * 本期节目，你将听到： 00:53 开场介绍与本期背景 《人工智能生成合成内容标识办法》出台、虚假信息与新闻业的未来 02:15 信息获取渠道影响虚假信息接触频率 03:48 科技行业软文与虚假榜单 05:50 抱歉！被深度伪造误伤的Lisa 07:10 社交媒体平台应该进行事实核查吗？ 08:26 DeepSeek出圈，中老年用户也疯狂爱上 10:01 用DeepSeek，就像调教靠谱实习生 12:03 人工智能内容标识办法来了 15:05 虚假信息和虚假新闻一样吗？ 17:27 新闻业与AI的合作：握手协议 or 肉包子打狗、有去无回 19:27 Facebook等社交媒体崛起时的媒体选择困境：流量入口与数据控制权的博弈 21:06 最坏的情况：记者个人价值与名字的消失 22:43 媒体商业利益与记者创作权的矛盾：当记者成为AI燃料 23:13 AI消灭了信息稀缺性：联网搜索给媒体链接的不透明机制 * 付费墙作为保护内容的机制 * AI公司对付费内容的态度与策略 * 付费新闻会出现在搜索链接中吗？ * DeepSeek在拓展信息源方面的努力 * 各平台的壁垒与信息筛选机制 27:59 公开新闻与版权保护的矛盾 30:30 中国媒体面对AI时，更脆弱？ 31:16 媒体盈利模式的变迁：流量换广告，AI是新入口吗？ 34:12 大语言模型能帮到记者什么？财报、写作还是什么？ 40:35 AI公司对真实信源的渴望：当OpenAI加入C2PA 41:40 机构媒体的护城河、经济回报与反抗情绪 48:10 守护互联网发展的Robots.txt协议，为什么在Gen AI走红后崩塌了？ 51:52 如果没有更多数据，AI怎么办？ 54:40 知识普惠？人类专家无限复制 58:02 Cloudflare推出"迷宫"新工具对抗爬虫，还给人类蓝海还是更大的垃圾场？ 01:00:58 普通人的媒介素养与对抗虚假信息 01:03:00 平台虚假信息治理机制 01:05:25 我们厌恶内容审查，但虚假信息必须审查？ 01:07:36 "你只要看的是免费内容，本质上你在看广告" 01:08:30 付费墙和财新的8年实验 * 文字整理版本会在播客放送后第2天发布在同名公众号智幻时刻（zhihuanshike_1)上 。 * 小红书：Fungimind_AI治理蘑菇 * 小宇宙：智幻时刻 * Apple Podcasts：智幻时刻 * QQ音乐：智幻时刻 * Email: [email protected]

本期关键词： 养老机器人 | 性别设计 | 公共政策 | 技术治理 | 医疗AI | 国际合作机制 | 人机情感交互 主播留言： 大家好，我是Zhuoran，是智幻时刻第一期的主播，也是这档节目未来的常驻主播，很高兴以声音的形式和各位见面。 想做这样一档科技与人文的播客很久了。我的学习、工作经历一直在发生各种交叉，作为媒体人工作了许多年，我对许多公共议题都感兴趣，在进入科技行业工作后，又很幸运地将AI变成了串联这一切的纽带。 起初，我和制作团队的伙伴们都很担心智幻时刻的定位是否很难在内容平台上找到分类。因为未来，我们既会分享技术、产品，也会讲到法律、科技政策、人文社科、 治理。苍天，所以这到底是算文化类、科技类、商业类还是法律类呢？ 在算法编织的现实世界里，如今没有一个垂直标签似乎已经很难生存了，但我们还是决定试一试，就这样吧，去做真的想做的内容，说最想说的话。 期待在接下来的日子里，我们能彼此陪伴，也希望能收到听众朋友们的反馈，告诉我你想听到什么样的话题，或是邀请到哪位嘉宾。 北京的气温已经逐渐转暖，愿我们都拥有一个新的春天。 本期主播 * Zhuoran：关注AI与法律、社科和全球治理的交叉领域，拥有财经媒体、云计算&AI行业的交叉背景。 * Eve：关注医疗健康和公共政策。曾任智库研究员，现为跨国医疗集团的联合国&ESG战略负责人。 * Yotta：关注金融科技、保险与大健康，是一名世界500强企业的持证高级精算师。 内容目录 * 00:47 养老机器人从科幻走入现实 * 05:25 谁在需要养老机器人？需要什么样的机器人？ * 06:50 性别如何嵌入我们对年老的想象？当保险定价数据显示女性活得更久 * 10:06 人类学家引入女性主义视角：衰老其实是一种“创伤” * 11:31 养老的困境：关于就业、收入的数据 * 14:02 护理行业: 护工、体力与低薪 * 15:35 一个具体的医疗场景：老年人压疮与机器人 * 17:09 电影《破地狱》：家庭养老中的照顾者 * 19:18 日本机器人养老的20年：经验与教训 * 20:14 要不要秀肌肉？“弱”机器人与人形机器人 * 20:36 家庭人形机器人的失控担忧 * 22:03 人机交互中的 “反向护理“概念 * 22:43 机器人行业在被“男性审美”统治吗？ * 25:26 公共政策设计：日本引入移民护工签证与长期护理险 * 27:07 技术方案的成本与创新的PPP模式 * 29:19 社会人口结构转型：国际区域合作的可能 * 30:27 养老与AI的全球治理：中国作为明年APEC主办国的潜在议题 * 32:55 医疗AI具体的机会：模型、图像分析与诊疗方案预测 * 34:56 AI会夺走医生和护工的工作吗？ * 36:56 养老医疗AI接入社保体系是否可行？ * 38:16 养老背后的社会安全网是如何运作的？ * 41:29 个人如何为养老生活做准备？ * 42:37 老年的快乐：《暮色将近》与《那不勒斯四部曲》 * 43:56 AI for good、Business for good 文字整理版本会在播客放送后晚些时候发布在同名公众号智幻时刻（zhihuanshike_1)上 。 [Image] * 小红书：Fungimind_AI治理蘑菇 * 小宇宙：智幻时刻 * Apple Podcasts：智幻时刻 * QQ音乐：智幻时刻 * Email: [email protected]