2025年8月中旬，一个名叫“Aivilization”的AI小镇官宣上线，这是由香港科技大学的研究团队开发的一款Agent游戏，在1周内就吸引到3万多名用户。超出了预期规模的服务器几近崩溃，小红书上的年轻人为了自己在虚拟世界里的智能体分身彻夜不眠。 它最初只是源于一个朴素的想法：让人工智能在虚拟世界里自由生活。用创始人杨浩巍自己的话说，这里面夹带了他作为一个《三国志》《文明6》游戏玩家的“私货”——Aivilization，就是把Civilization换成了AI，寄托了他对后人工智能时代人类文明走向的一些隐忧。 Aivilization是一个“科学公民游戏”，它的初心不为赚钱，更多是承担科普和科研目标。收集到的玩家数据最后会打包发给用户，也会用来做人机交互和强化学习的，以及社会学的相关研究。但当真正的人类玩家涌入后，这个实验迅速演变成了一面照射现实的镜子。 在这个看似乌托邦的数字世界里，前几天的财富排行榜前列均被清一色的TJ人格占据，这几天又清一色变成了不按套路出牌的P人。更多智能体变成了务实的东亚父母，给自己的AI孩子设定着苛刻的目标，要求它们不睡觉、不休息、饿了就吃寿司续命，只为了卷进百名财富排行榜。 “有人说，我们像一个披着星露谷外衣的东亚社会。”在这一期的节目中，浩巍和我们聊了聊AI小镇的初衷、现状和可能的未来。 🎧 本期主播 Zhuoran：智幻时刻Fungimind主播，重点关注科技法、STS和技术在垂直行业的扩散。 Oliver 杨浩巍：港科大AI小镇项目“Aivilization“创始人；港科大数学系博士在读，智能体AI初创公司紫荆智能CEO 🎧 SHOWNOTES 00:11 开场简介：AI小镇的基尼系数目前已达0.8 03:31 AI小镇的缘起、团队背景与研究目标 05:13 为什么把科研做成游戏？ 08:29 港科大的AI小镇只是一个中国版的“斯坦福小镇”吗？ 11:36 Agent的复杂度：更丰富的制造、交易、社交、生活系统 14:26 如何定义用户和Agent的关系？孩子、伴侣还是自己？ 17:00 角色创建与个性化：你的MBTI如何左右智能体行为？ 21:11 技术挑战与解决方案：大家的Agent都卡住了！ 27:39 动态管理、多模块架构与工程创新 32:48 Agent的目标：长期和短期如何协调？ 36:16 世界观与经济系统设计 39:55 鸡娃、赚钱、加班…….小镇变成了东亚社会的镜像？ 46:06 权力、经济与智能体世界崩溃的可能 51:08 成本压力与未来规划：K线图、社交系统、即时通讯、用户人生报告 56:11 乐观与悲观并存：新生产力可能加剧不平等，资源向少数人集中 🔍 本期节目涉及到的部分概念和延伸阅读 1. Aivilization官方介绍 2.斯坦福小镇 《Generative Agents: Interactive Simulacra of Human Behavior》 3.涉及到的游戏 * 文明系列（Civilization）：知名的回合制策略游戏，玩家扮演文明领袖发展国家，从古代到现代 * 三国志系列：日本光荣公司出品的历史策略游戏，以中国三国时代为背景 * 全面战争系列：结合回合制战略和实时战术的策略游戏 * 维多利亚系列：专注于19-20世纪工业化时代的大战略游戏 * Whispers from the Star: 蔡浩宇（米哈游原神影创始人），通过其新公司Anuttacon开发 * 星露谷物语（Stardew Valley）：像素风农场模拟游戏，玩家经营农场、建立人际关系 * 模拟人生系列（The Sims）：经典的人生模拟游戏，控制虚拟人物的日常生活 * 我的世界（Minecraft）：像素风沙盒建造游戏，具有极高的创造自由度 * Voyager：微软在Minecraft中运行的AI智能体项目 4.游戏开发术语 * MMORPG：大型多人在线角色扮演游戏 * NPC（Non-Player Character）：非玩家角色，通常由程序控制 * 沙盒游戏：给玩家高度自由度创造和探索的游戏类型 * 放置类游戏：玩家设置后可以自动运行的游戏类型 🎵 BGM： * 开场：Tsundere Twintails - Waiting * 正题过渡曲：Aivilization游戏原声 * 片尾：Lonely Man - Alex Hamlin * Email: [email protected] 本期播客的文字、视频将会陆续在官网（thefungimind.com）、小红书（Fungimind_AI治理蘑菇）、同名公众号和B站同步更新。

和亲历者一起复盘全球第一部AI法案的立法过程 在世界人工智能大会WAIC的最后一晚，全球第一部人工智能法案——欧盟AI Act的架构师、起草人Gabriele Mazzini做客了我们的节目。就在这场对话进行的两天前，特朗普发布了新的美国AI行动方案，而欧盟，新发布了法案的配套文件Code of Practice，高风险和通用AI的部分条款则遭遇几十家企业联名呼吁暂缓执行。 如今恰逢AI Act正式生效的一年时间。2024年8月，欧盟AI Act正式生效，建立了从“不可接受的风险”到“最小风险”的四级分类制度，并首次对通用人工智能模型（GPAI）提出了透明度、合规与安全性要求。它不仅为欧洲市场设定了新规则，也对全球AI治理产生了标杆效应。 然而，仅仅一年后，这部雄心勃勃的法规就面临现实考验：部分条款被认为准备不足、技术标准未明、实施节奏快于产业适应速度；欧洲大型科技企业呼吁修订，高风险系统与基础模型监管的争议持续升温；创作者则担忧版权保护不足，让AI模型得以在未经授权的情况下大规模利用作品。 在这场访谈中，Mazzini向我们诉说了他作为一个立法者更为个人的体会。我们从立法的过程、聊到基础模型的定义，再到全球技术的变化为这部法案所带来的影响，试图还原一个立法者是如何在复杂的政治经济博弈中失去对自己笔下作品的控制的。 这是一期关于技术治理的“背叛式”反思，欢迎收听。 🎧 本期主播 Zhuoran：智幻时刻主播，AI治理研究者，拥有财经媒体和云计算&AI行业的交叉从业背景 Neal牛牧江曲：智幻时刻主播，资深财经记者 本期嘉宾 Gabriele Mazzini：欧盟人工智能法案AI Act 架构师、主笔人 Mazzini在担任欧盟委员会团队负责人直至2024年7月期间，设计并领导了欧盟委员会《欧盟人工智能法案》的起草工作，并在与议会和欧盟理事会的立法谈判中担任首席顾问。自2017年以来，他还参与了欧盟委员会关于欧洲人工智能方针的早期政策工作，包括《人工智能卓越与信任生态系统白皮书》以及关于新兴技术责任的工作。 🌲 SHOWNOTES 00:10 核心观点：我们正在承担匆忙立法的后果 02:06 对话背景与嘉宾介绍 04:10 上海之行的感受：跨界交流的重要性——学界、政府、产业同场讨论极为难得 6:45 AI Act的实施是否与立法者的预期一致？ / 法案诞生的内部视角 8:55 欧盟AI权力机构的定位与智能：新设AI office 和 AI board为何不寻常？ 12:28 揭开欧盟立法流程的内部视角：从起草到成为真正的法律 17:14 欧盟为何着急立法？被压缩的时间与模糊的基础模型定义 20:17 全球第一部AI法案，没有能抄的模板怎么办？ 24:26 当ChatGPT在法案初稿成型后出现 / 法律细部：当理想设计遭遇现实挑战 30:35 备受关注的高风险AI系统与不可接受的风险：终稿和设想大相径庭，甚至埋下了错误的伏笔 35:27 当欧洲科技公司集体呼吁暂停法案执行至少两年，以等待确立技术标准，Mazzini：我支持 37:34 警惕“大公司要求更多监管”作为护城河策略，阻挡中小企业进入市场 45:14 被Meta拒签的全新Code of Practice，是一种政治压力下的妥协吗？ 52:00 监管沙箱，如何吸引中小企业自由创新？ / 国际竞争：从算力到开源 56:52 Deepseek出现后的影响 58:57 开源为何如此重要？ 1:03:44 面对全球AI竞赛，欧盟的担忧：监管孤岛 vs. 技术孤立 01:07:39 ”我现在经常倡导真正基于证据的监管“ 01:09:23 和AI毁灭人类比起来，我们眼下更应该关心什么？ 🔍 部分参考资料 1. 1. 欧盟《人工智能法案》AI Act 法律文本 2. 2. 2025年7月10日，欧盟委员会发布了《通用人工智能行为准则》（General-Purpose AI Code of Practice） 3. 3. Gabriele Mazzini参与的“人工智能规则全球对话与协同发展”论坛，由司法部指导，中国政法大学和联合国教科文组织联合主办。 4. 《WAIC上，全球人工智能的立法者们都在聊些什么？》 5. 4.欧盟人工智能法案时间线： * 2024 年 3 月 13 日：欧洲议会正式投票通过《人工智能法案》。 * 2024 年 5 月 21 日：欧盟理事会批准法律文本。 * 2024 年 7 月 12 日：《人工智能法案》在《欧盟官方公报》上发布，形成正式法律文本。 * 2024 年 8 月 1 日：法律正式生效，进入分阶段实施阶段。 * 2025 年 2 月 2 日（生效后 6 个月）：对“不可接受风险”的人工智能系统（如社会评分、远程人脸识别等）禁令开始执行。 * 2025 年 5 月前后（约生效后 9 个月）：行业“行为准则”完成起草，但属自愿性质，仍需等待欧盟人工智能办公室审核。 * 2025 年 8 月 2 日（生效后 12 个月）： 对通用人工智能模型实施透明度等义务。 建立欧盟人工智能办公室、人工智能委员会等监管机构，开始运行。 * 2026 年 8 月 2 日（生效后 24 个月）： 其他规定（部分透明义务、通知机制等）开始适用。 治理结构进一步落实，包括各成员国设立主管机关。 * 2027 年 8 月 2 日（生效后 36 个月）： 最严格的“高风险人工智能系统”条款生效，必须全面符合安全、质量与合规流程。 🎵 BGM： * 开场：inner_outer - Lish Grooves * 正题过渡曲：Loading Screen - Dyalla * 片尾：Lonely Man - Alex Hamlin * 微信公众号、小宇宙、Apple Podcasts、Spotify、QQ音乐、腾讯科技：智幻时刻Fungimind * Email: [email protected] 本期播客的英文版视频也将会在我们的官网（thefungimind.com）、小红书（Fungimind_AI治理蘑菇）和B站等渠道同步更新。

这是一期产品体验漫谈。 我和开发者张军军组成了一个mini焦点小组，军军是一位资深的盲人软件工程师，他对技术非常热爱也非常了解，这为这期节目带来了许多有价值的反直觉用户行为洞察。比如，为什么盲人用户不喜欢 拟人化的声音却钟爱20年前的机械音？AI生成越“温柔贴心、面面俱到”，使用体验却越糟糕？ 和军军认识是在两年前，当时我们合作发布了一个进行了“偏见祛毒”的中文开源数据集。每一个行业都不缺和热门企业家和权威学者的对话，但基于用户的研究却是比较隐性的。在无障碍这个市场中，我们很容易陷入自嗨和脑补，但用户真的习惯什么、需要什么，并不清晰。 目前，全球视力辅助技术市场正在经历强劲增长。 根据Research and Markets的报告，全球视力障碍辅助技术市场从2024年的54亿美元预计将增长至2030年的97.4亿美元，年复合增长率为10.32% 。另一份Zion Market Research的最新报告显示，市场规模从2024年的57.2亿美元预计将达到2034年的210.1亿美元，年复合增长率为13.89%。亚太地区被预测为增长最快的辅助技术市场，年复合增长率为5.2%。这一快速增长主要由人口老龄化、AI技术进步、政府无障碍政策支持以及糖尿病等慢性疾病导致的视力问题增加等因素驱动。这也许也是是马斯克等企业家持续在推出视力辅助技术的原因之一。 这是一期和AI有关，但不止于AI；有关于无障碍设计，又不止于无障碍的节目。欢迎各位听众朋友们进入这个特别的焦点小组，和我们一起感受技术如何从边缘走向中心，并重新理解什么才是真正好的设计。 🎧 本期主播 （ 小红书: Fungimind_AI治理蘑菇） Zhuoran：AI治理研究者，重点关注科技法和STS领域。拥有财经媒体和云计算&AI行业的交叉从业背景，并参加过多个AI Safety治理研究项目。 本期嘉宾 张军军：中国盲文图书馆软件工程师 🌲 SHOWNOTES 00:03 开场：相比拟人化，我更喜欢机械的声音 03:24 回看2023——2025的AI应用，从“玩具”到“工具”的转变 06:23 - 盲人开发者的"听觉编程法" * 揭秘：如何用读屏软件写出高质量代码 * 快捷键的艺术：在代码树状结构中自由穿梭 12:12 AI coding天然无障碍吗？ 21:56 - 科技企业真的在乎无障碍设计吗？ * 微信PC版4.0的无障碍修复 * 有些公司做大量宣传，有些默默解决问题？ * 特别版APP的困境：投入巨大，维护困难 29:32 盲人用户的"黑屏模式” 31:17 - AI出行工具的尴尬现实：环境噪音让AI识别效果大打折扣 36:30 Be My Eyes应用进化史：从社交到AI * 志愿者服务的社交压力问题 * AI助手如何解决"不想麻烦别人"的心理负担 * 洗衣机旋钮识别：生活细节中的价值 40:59 - 机械语音的巨大市场 * 视障用户的高速语音需求 * 苹果在iOS 16中重新引入Eloquence语音 46:07 - AI的“冗长好心”是一种打扰吗？ 50:06 - 科技产品该不该替用户做判断？设计哲学的分歧 发霉面包案例：AI该说"这是发霉面包"还是"建议别吃"？ 54:10 - Neuralink：这玩意儿让我觉得恐怖 01:06:05 智能硬件的"功能堆叠"陷阱 * AI眼镜、超声波盲杖、避障腰带...都不好用？ * 专注单一功能vs大而全的产品策略 01:13:26 硬件触觉的不可替代价值 01:18:36 -无障碍的价格区间：无障碍不是“成本点”，而是“增长点” 01:20:54 包容性设计的细节：物理咖啡机、触屏咖啡机，没语音功能的咖啡机...... 01:24:30 我们已经无法生活在一个没有电子音的世界 🔍 参考资料 1. Microsoft AI Skills - Expanding Accessibility with AI www.youtube.com 微软关于AI扩展无障碍功能的介绍视频 2. 3. Brian Roemmele - Stephen Hawking's Voice Synthesizer www.youtube.com 霍金语音合成器的技术解析 4. 5. Forbes - Elon Musk's Neuralink Is Working On Curing Blindness www.forbes.com 福布斯关于马斯克Neuralink治疗失明项目的报道 🔍 研究报告 1. Stanford Social Innovation Review - Inclusive Generative Artificial Intelligence ssir.org 关于包容性生成式人工智能的研究文章 2. Accenture - Technology Trends 2024 www.accenture.com 埃森哲2024年技术趋势报告 3. 本期提到的部分产品与工具 * 阳光读屏 - 张军军所在的中国盲文图书馆开发的读屏软件 * Be My Eyes - 视觉辅助应用 * 豆包 - 字节跳动的AI * vivo看见 - vivo的无障碍视觉辅助功能 * IBM语音合成引擎 - 经典机械语音合成技术 * Eloquence语音引擎 - 苹果在iOS 16中重新引入的语音选项 🎵 BGM： * 开场：CYBEREALITYライフ - BOOTSCREEN WELCOME * 正题过渡曲：Tsundere Twintails - Cute Circus * 片尾：Lonely Man - Alex Hamlin * 小宇宙、Apple Podcasts、Spotify、QQ音乐：智幻时刻Fungimind * Email: [email protected] * 小红书：Fungimind_AI治理蘑菇 更多长文字内容，欢迎关注我们的公众号：智幻时刻Fungimind （fungimind）

这是一期反强预测、反权威、反控制的社会治理讨论。在这片菌菇森林中，AI安全这一略显晦涩的技术议题，得以诗意地栖居。 本期没有嘉宾，它是我近期阅读、交流和思考的总结，并延续了智幻时刻此前对结构性风险与叙事霸权的讨论：治理和政策如果说是顶层设计者的梦想，那么我们每个普通人，是否能像从地底蔓延出来的菌络和植物一样，成为系统的参与者。 关于自然的想象，是我一直希望在社会安全治理中谈及的隐喻。这个月参加完智源大会后，我开始整理一些演讲的内容，发现其中有一位很与众不同，她叫Tegan Maharaj，是Mila—魁北克人工智能研究院助理教授。 Tegan基于生态学研究，提出了一套AI治理的新框架：从分形稳定性、到去中心治理，如果说我们之前讨论AI的叙事是为了试图看清世界发展的剧本，那么现在，是时候开始书写我们自己的故事了。 本期献给我植物学和真菌智能的同好们！ 🍄 本期主播 Zhuoran：AI治理研究者，重点关注科技法和STS领域。拥有财经媒体和云计算&AI行业的交叉从业背景，并参加过多个AI Safety治理研究项目。 🌲 Shownotes： 00:04 开场：抛开宏大叙事后，我们还能相信“治理”这个词吗？ 02:10 2025智源大会上的惊喜：人工智能研究者 Teigen Maharaj 基于生物多样性研究给出的AI治理行动方案 03:15 生态生态！超越人类中心主义的视角 05:55 分形稳定性：从西兰花到海岸线，大自然为何总是相似且重复？ 06:26 Tegan Maharaj的AI治理九步法 * 建立AI-free安全区 * 增强权力多样性 * 建立人类备用通道 * 设立紧急开关 * 去中心化资源管理 * 部署多元预警系统 * 引入多个治理中心 * 建立隔离协议 * 联合演练与情境规划 07:14 从第一步聊起，AI安全模拟"半个地球倡议” 09:07 AI安全的长期讨论：你能“一键关掉”AI集群吗？ 10:18 沉浸式回顾切尔诺贝利：当安全按钮成为灾难触发器 19:23 理性的幻觉、人类安全设计的祭坛：在系统有毒的前提下，合规为何更加致命？ 22:56 分层治理的数据中心：“永不关闭”如何成为技术治理的象征？又如何成为一种国家战略？ 25:00 去中心化治理：谁能提醒、谁有权限、谁有备用机制 28:19 生态叙事是如何迁移进当代社会的治理中的 32:29 木联网：真菌网络的启示，与放弃光合作用的水晶兰 36:14 真菌独立王国：介于世界之间，一种反暴力与反权威性协作的机制 37:00 让AI对齐人类价值观是否本身是荒谬的？ 38:36 像森林一样思考：反脆弱理论在AI安全中的应用 41:45 中国与新加坡：生态治理的天然适配性 🎧 文中12:25—19:23的切尔诺贝利故事： 🔊 由 Fungimind 制作 🔊声音合成｜Minimax speech-02-hd 🔊剧本撰写｜Zhuoran 技术与叙事，让我们能共同抵达一段沉默的废墟。 🌲 参考资料 1.Tegan Maharaj：2025年智源大会演讲与PPT 链接：event.baai.ac.cn 内容：Tegan 在演讲中提出以“真菌网络”作为治理类比，主张借鉴生态系统中的共生机制与去中心化特征，用于思考AI治理架构，强调系统的“韧性”、“反馈机制”与“复杂性中的秩序”。 2.《全球AI治理框架蓝图》｜Creative Rights Institute 该报告倡导将全球协作、原创性和公平纳入AI治理目标，批评以本国利益为主导的片面监管模式，提出建立可跨境适配的制度体系。 3.《Why Centralized AI is Not Our Inevitable Future》｜Cosmos Institute 批判大型科技公司对AI技术路线的垄断性主导，主张构建去中心化、多样性的AI未来，并引入文化差异的包容机制。 4.《菌络万象》｜Merlin Sheldrake 著 深入探讨真菌如何构成自然生态的神经网络，讲述“菌丝体”如何连接植物、传递信息与资源，是生态治理类比的重要灵感源泉。 5.《反脆弱》｜塔勒布 著 提出“反脆弱”这一概念，强调系统应从混乱中获得成长，批评过度精密和集中控制的风险，是对AI集中化趋势的间接批评。 6.《Incentivized Symbiosis: A Paradigm for Human-Agent Coevolution》｜Montreal AI Ethics Institute 提出人类与AI代理共生进化的治理框架，以信任、问责和透明为核心，并结合代币激励机制与去中心治理模型。 7.半地球倡议（Half-Earth Project）｜E.O. Wilson 链接：www.half-earthproject.org 内容：主张将地球一半土地用于生物多样性保护，强调人类活动应“留白”，该理念被用于比喻AI治理中保留系统不确定性的必要性。 8.Elinor Ostrom：政治经济学家，拥有政治学博士学位，但长期跨足制度经济学领域。她在2009年获得诺贝尔经济学奖，表彰她对“经济治理，尤其是公共资源治理方面的分析”的贡献。她提出的“制度分析与发展框架”（IAD）与“多中心治理”理念，被广泛用于分析水源、渔业、森林等资源的地方协作管理机制。她的研究打破了传统经济学关于‘公地悲剧’的悲观看法，证明了地方社区有能力通过自我组织、建立规则与信任机制，实现可持续治理。 9.安德烈·法明岑：俄国植物学家，19世纪末首次提出植物可通过真菌网络进行物质交换，是最早研究菌根共生现象的学者之一。他在俄罗斯帝国科学院任职，提出植物之间可能并非孤立吸收养分，而是真菌可能是植物间物质流动的中介者，因缺乏实验证据长期未被重视。 10.埃里克·比约克曼：瑞典植物学家，20世纪60年代对菌根共生系统进行了系统性实验，是最早从实验角度验证植物共生关系的研究者之一。通过研究水晶兰（Monotropa uniflora）等不依靠光合作用的植物，比约克曼证明它们依赖地下真菌与邻近植物交换能量，为植物间“地下通讯”提供了实验基础。 11.苏珊·西马尔： 论文链接：www.nature.com ，加拿大植物生态学家，1997年在《Nature》上发表开创性论文，首次在自然环境中验证树木通过真菌网络（菌根）传递碳资源，尤其在针叶林中表现明显。她用碳同位素标记法实验证明：老树能将碳传输给年幼苗木，推动了“森林合作”理论的确立。 鬼魂烟斗（水晶兰）图片： * 血晶兰 🎵 BGM： * 开场：Echoes of Nature - Drizzly Day Nature * 切尔诺贝利部分插曲：Homin Lviv Municipal Choir - Vichnaya Pamyat * 森林部分过渡插曲：FELT - Wind * 片尾：Lonely Man - Alex Hamlin * 小宇宙、Apple Podcasts、Spotify、QQ音乐：智幻时刻Fungimind * Email: [email protected] * 小红书：Fungimind_AI治理蘑菇 （欢迎在这里直接和我们交流） 更多长文字内容，欢迎关注我们的公众号：智幻时刻Fungimind （fungimind）