复杂系统时代的生存指南

本简报旨在总结塞缪尔·阿贝斯曼的《为什么需要生物学思维》一书中的核心观点，探讨当前技术复杂性日益增长的“纠缠时代”所带来的挑战，并提出应对这些挑战的“生物学思维”和“谦卑”态度。

一、 “纠缠时代”的来临：技术复杂性及其原因

阿贝斯曼指出，我们已经进入了一个“纠缠时代”，其核心特征是技术系统日益增长的复杂性，以至于“每个专家都仅知道其中的一个部分，没有人能够完全理解整体”。这种复杂性不仅体现在计算机软硬件的庞大代码量和微芯片接近原子量级的集成度，也渗透到汽车、手机、金融市场等各个领域，并达到了“令人费解的程度”。

1. 技术与自然的融合与加速的“新陈代谢”

作者强调，技术已不再是孤立的存在，而是与自然“密不可分”。地质学家甚至考虑将当前时代命名为“人类世”（Anthropocene），意指人类活动对地球产生的深远影响。技术正在加速地球的“新陈代谢”，表现为原材料的流动、道路与摩天大楼的拔地而起，以及化学废水的排放，甚至改变了地球表面的光芒。这种深刻的融合意味着“人类的每一个行动都比以往任何时候更有可能引发意想不到的后果，其影响不仅将涉及生活的方方面面，还将波及地球的每个角落，甚至在某些时候会超出地球本身。”

2. 技术系统复杂化的四大原因

阿贝斯曼深入分析了导致技术系统日益复杂的四个主要原因：

• 吸积（Accretion）：随着时间的推移，系统中不断加入更多的组成部分。例如，互联网、电子邮件、美国联邦航空管理局的空管系统、美国国税局的报税系统等，都是在原有老旧系统基础上不断叠加新功能和代码而形成的。正如计算机科学家小弗雷德里克·布鲁克斯所言：“每次加一点，每次加一点，最后就有了一大堆。”这种累积并非总是优雅的，而是可能导致“雪崩”般的意外状况，使系统变得“更难琢磨”。


• 交互（Interaction）：系统内部和不同系统之间连接和互操作性的不断增加。GOTO语句的例子说明，即使是简单的命令，在程序的规模不断扩大时，也会导致“意大利面条”式的代码，使得指令执行次序难以追踪，容易出现“意想不到和无法理解的行为”。互联网与电网之间的相互依赖性也说明了互联系统的故障成本极高，一个微小的故障可能引发巨大的级联效应。迪科斯彻提出的“激进新颖性”表明，计算机系统的“概念层级的深度，绝非人类心智曾需面对的任何事物可比”，这种跨度极大的层级结构和不断增加的交互是前所未有的挑战。


• 必须处理的例外情况（Edge Cases）：技术系统在设计时必须处理各种不常见的、特殊的边界条件。以日历程序为例，除了闰年，还需要处理夏令时、不同时区、不同文化的节假日等复杂情况。这些“边界情况”虽然不普遍，但却频繁出现，必须加以识别和管控，从而大大增加了技术的复杂性。


• 普遍的稀有事物（Pervasive Rare Events）：某些看似罕见但总体数量巨大的事物，如语言中的“罕用语”，对系统理解和构建带来了巨大挑战。机器翻译的例子表明，基于概率和大量参数的机器学习模型，在处理这些“普遍的稀有事物”时，比简单的语法规则模型更有效，但也因此导致了系统模型本身的庞大和复杂。软件的复杂性是其“根本属性，而不是偶然属性。”

3. “抽象”的局限性及其崩溃

“抽象”作为构建复杂技术的最强大方法，通过隐藏不必要的组件细节来提高效率和专业化。然而，在“纠缠时代”，抽象方法正在“崩溃”。金融市场的“闪电崩盘”事件表明，原本被设计者屏蔽的各个组成部分，正以意想不到的方式相互碰撞，导致“涌现”（emergence）现象，即底层交互引发高层意外结果。这使得对系统的“局部理解”变得不再足够，传统的层级结构和抽象方法也随之瓦解。作者指出，“没有人能完全理解金融世界中相互关联的所有系统，甚至没有人能完全理解其中任何一个系统。”

二、 人类认知的局限性与“理解不足”的后果

阿贝斯曼强调，人类大脑的认知能力在面对日益复杂的系统时显得力不从心。

1. 大脑的限制与系统理解的鸿沟

人类大脑在处理大量信息、多重任务和非线性变化方面存在固有限制。例如，对数量的即刻感知能力（感知）仅限于少数几个对象；长时记忆容量有限；神经元回路比计算机电路慢百万倍。递归语言的例子也说明了即使是看似简单的语言系统也能生成天文数字的句子，远超人类的记忆和处理能力。

因此，当我们构建的系统变得越来越复杂时，人类“无法同时应对数百万个组成部分及其之间的大量交互，并将所有结果都记在脑袋中的能力。我们的大脑会‘严重超载’，继而宣告失败。”

2. 专家并非全知：专业化的困境

“专家将我们从这种庞大的复杂性中拯救出来”的信念已经过时。随着知识的积累和专业化分工的深化，任何人都不可能掌握所有领域的知识。约翰·哈佛的藏书与美国国会图书馆的藏书量对比生动地说明了“知识负担”的日益沉重。虽然多学科和跨学科团队合作有所帮助，但系统整体的“不可理解性”仍是普遍现实，因为“完全了解某个特征的人可能早就离开团队了。”

3. Bug的启示：系统实际运行与期望的差异

作者以《小蜜蜂》游戏中的bug为例，指出“我们并不完全了解自己所构建的系统”。软件规模的增长导致错误率的几何级增加，而“高度最优化容限”模型表明，即使是高度优化的系统，也可能因微小的新异刺激而发生灾难性故障。丰田汽车的意外加速事故也印证了“常规的车辆检测根本不可能找出所有不寻常的故障”。

Bug不仅是需要修复的问题，更是“这个纠缠时代中无法回避的存在”，它们揭示了系统“实际运行方式与你所期望的大为不同”，迫使我们正视复杂性带来的“意想不到的后果”。

三、 应对复杂性的思维方式：“生物学思维”与“谦卑”

面对“纠缠时代”的挑战，阿贝斯曼提出了“生物学思维”和“谦卑”作为核心应对策略。

1. 为什么需要生物学思维

作者认为，复杂的技术系统更接近生物学系统，而非物理学系统，原因有三：

• 组成部分多样且层级复杂：物理系统通常由相同部分组成，相互作用统一；而生物系统组成部分类型繁多，涉及多层级，难以拆解，如细胞中的蛋白质到器官组织。当今技术系统也越来越呈现这种特征。


• 有历史且会进化：生物会随时间进化，其复杂结构是复杂历史路径的产物，微小变化可能带来意想不到的后果。技术系统也存在类似“遗留代码”的现象，如皂荚树的刺或“垃圾脱氧核糖核酸”片段。虽然生物系统会淘汰无用性状，但技术系统中的遗留代码不会自动清除。


• 高度最优化容限：生物系统和技术系统都可能因微小干扰而发生灾难性故障，表现出相似的复杂性和脆弱性。

2. 像生物学家一样思考：野外生物学家的视角

生物学思维强调注重细节、强调多样性，并容忍“杂乱”。与物理学思维倾向于抽象和简化不同，生物学思维更能理解混乱的进化系统。作者呼吁，面对技术系统，“我们需要成为技术领域的野外生物学家”，收集和记录故障、错误以及系统各个组成部分的细节，将其分类编目，就像博物学家研究自然界物种一样。

这种思维方式鼓励“修修补补”和主动引入意外（如“诱变”），以观察系统反应，从而更深刻地理解非线性系统的运行方式。Netflix的“混沌猴”即是应用此原理的例子。从失败中学习是理解复杂系统的“重要机制”。

3. 物理学与生物学思维的结合

尽管生物学思维至关重要，但物理学思维在理解系统整体模式、设置边界方面仍有其作用。两者并非对立，而是互补。关键在于确定考察系统的“分辨率”和细节层级。在镰状细胞性贫血和电网崩溃的例子中，微小变化可能导致系统层面的巨大后果，这表明不同分辨率之间的相互交织。因此，我们需要将物理学思维和生物学思维结合起来，在探寻秩序的同时，也不忽略“粗糙的边缘”。

4. 谦卑：接受不完美理解的必然性

作者引用迈蒙尼德的观点，强调人类心智的“内在局限性”，有些知识是任何人都无法获得的。因此，面对日益复杂的技术系统，我们的反应不应是恐惧或崇敬，而应是“谦卑”。

• 拒绝恐惧与崇敬：恐惧阻碍探究，崇敬磨灭质疑。两者都导致我们放弃努力理解技术系统。


• 拥抱“光荣的混乱”：技术系统是“拼凑而成的系统”，充满了“无目的”的片段和“光荣的混乱”。接受这种混乱和不完美理解的必然性，是“有价值的乐观主义精神”。


• 部分的理解也足够：我们永远无法实现对复杂系统的“完全或完美的理解”。但在许多情况下，“部分理解已是我们能达到的最好的效果了。毕竟，聊胜于无。”


• 持续努力与调整期望：承认无法完全理解，并非意味着停止创造和探究。而是要调整期望值，认识到复杂性和意外是常态而非例外，并努力理解系统的工作原理和失败模式。

5. 培养“通才”：连接与建模

在高度专业化的时代，通才（T型人才）扮演着重要角色。他们不仅在特定领域拥有高深专业知识，还具备广泛的知识面，能够跨越学科界限，创建联系和类比。通才的价值在于能够在专家之间进行“翻译和交流”，并在充满“费解之处”的复杂系统中，通过直觉和生物学思维相结合的方法，理解各部分的相互关系和交互作用。

6. 模型构建与解释者

通过构建系统模型，即使是简化的模型，也能获得对复杂系统的强大洞察力，而无需完全理解。例如，《模拟城市》游戏帮助玩家理解城市运作模式。作者呼吁，中学和大学教育应更多引入模型构建和简化直觉，培养能对系统内部事态作出说明的“解释者”。

四、 结论：在“不可思议的现在”中谦卑前行

阿贝斯曼总结道，我们正处于一个“不可思议的现在”，技术系统将继续增长，变得更加奇异和复杂。我们必须承认自身理解的局限性，并重新调整期望。

“谦卑之心，再加上迭代的生物学思维，就是洞悉复杂世界的正确方式，会指导我们与复杂系统进行交互。”这意味着，即使面对无法完全理解的系统，我们也要坚持探究，不被恐惧或沉迷所困。当意外发生时，如果能认识到这是复杂性的衍生物，即使是“立即换成空挡”这样的建议，也能被从容接受，因为这是“混乱的、难以理解的系统是现实新世界的一部分”的体现。

最终，我们追求的不是完全的控制或理解，而是在认知极限面前保持谦卑、好奇，并欣慰于哪怕是不完美的理解，因为“凡是不可言说之事，我们必须保持沉默”的逻辑并不适用于我们所构建的复杂系统。