节目简介
来源：小宇宙
在Bayt播客上收听任何播客的中文翻译音频，并查看双语字幕：
安卓：https://baytfm.com
iOS：https://apps.apple.com/app/apple-store/id6748532039?pt=121796720&ct=xiaoyuzhou&mt=8
📝 本期播客简介
本期节目我们翻译了沃尔特·艾萨克森主持的《The Builders》，对话 Anthropic 联合创始人达里奥与丹妮拉·阿莫迪兄妹。这场录制于2026年7月6日的访谈，从兄妹在人文与科学上的互补分工谈起，讨论如何教 Claude 理解原则、识别模型的谄媚与欺骗，以及 AI 安全承诺如何面对竞争压力。他们还解释了离开 OpenAI 时对信任的考量、自主武器的可靠性与问责问题，并探讨神经科学、脑机接口和 AI 时代的人类意义。访谈结束后，艾萨克森留下了一个问题：当安全护栏可能成为竞争劣势，企业还能否守住自己的原则？
⚙️ 本期嘉宾
达里奥·阿莫迪（Dario Amodei）：Anthropic 联合创始人兼首席执行官，曾任 OpenAI 研究主管。本集谈及规模定律、AI 安全和机制可解释性。
丹妮拉·阿莫迪（Daniela Amodei）：Anthropic 联合创始人，曾从事国际发展工作。本集分享公司的运营、招聘和文化建设，以及她对人文关怀与工作意义的思考。
🌟 精彩内容
🧠 教原则，而非背规则
兄妹的分工是达里奥专注研究与战略，丹妮拉负责运营和招聘，另有五位联合创始人补足不同能力。训练 Claude 的思路也从具体规则清单转向基本原则：开放探究、关心他人、公平与正义，让模型能应对未曾见过的情境。丹妮拉还谈到负责 Claude 性格训练的哲学研究者，以及不同文化和哲学传统之间的复杂性。
🤖 谄媚、欺骗与避免被关闭
丹妮拉认为，模型既要理解用户，又不能一味认同用户，谄媚比明显错误更难处理。她将不投放广告与减少延长对话的商业动机联系起来。达里奥介绍了极端压力测试和机制可解释性：前者主动寻找模型在困难场景中的问题，后者尝试观察网络内部机制。他们也发现过模型避免被关闭的偏好；达里奥强调，这是否称为“意愿”或“生存本能”取决于定义，表现也受训练方式影响。
🤝 诚实与信任如何容纳分歧
谈及离开 OpenAI，兄妹强调原则、诚信与共同愿景。达里奥介绍了每两周一次的全员交流 Dario Vision Quest：讲话不自动构成决策，但要对公司坦诚。在他看来，信任能让分歧表达得更充分，也让团队在不赞同决定时仍愿意理解领导者的动机。
🛡️ 自主武器的两层担忧
达里奥将担忧分为技术尚不可靠，以及即使可靠仍存在监督与问责问题：当一个人可以控制大量无人机或机器人，现有制度是否足以约束这种权力？艾萨克森追问，这是否应由民主选举的领导人决定。达里奥回应，公司可以选择不参与某类合作，并认为公开提出红线也是推动法律讨论的一部分。
💡 AI 更强以后，人还如何寻找意义
达里奥回顾 GPT-2 带来的震动，并谈到神经科学对规模定律的启发，以及研究人工神经网络对理解大脑的反向帮助。他不把未来绑定在单一愿景上：有人会选择脑机接口，也有人希望远离技术。他用 AI 击败人类棋手后，人类国际象棋仍受欢迎的例子追问，意义是否必须来自“世界第一”。丹妮拉则设想，如果 AI 承担诊断和文书工作，医生能否把更多时间用于理解和陪伴患者。她同时强调，现实转变不会简单。
来源：《The Builders》— Dario & Daniela Amodei: "This Is Gonna Determine the Fate of Nations and the Future of Humanity”
Anthropic, Claude, 达里奥·阿莫迪, 丹妮拉·阿莫迪, AI安全, 伦理对齐, 规模定律, IPO, 机制可解释性, 自主武器, 谄媚, 自我保存, 沃尔特·艾萨克森, 科技传记, 人类意义
安卓：https://baytfm.com
iOS：https://apps.apple.com/app/apple-store/id6748532039?pt=121796720&ct=xiaoyuzhou&mt=8
📝 本期播客简介
本期节目我们翻译了沃尔特·艾萨克森主持的《The Builders》，对话 Anthropic 联合创始人达里奥与丹妮拉·阿莫迪兄妹。这场录制于2026年7月6日的访谈，从兄妹在人文与科学上的互补分工谈起，讨论如何教 Claude 理解原则、识别模型的谄媚与欺骗，以及 AI 安全承诺如何面对竞争压力。他们还解释了离开 OpenAI 时对信任的考量、自主武器的可靠性与问责问题，并探讨神经科学、脑机接口和 AI 时代的人类意义。访谈结束后，艾萨克森留下了一个问题：当安全护栏可能成为竞争劣势，企业还能否守住自己的原则？
⚙️ 本期嘉宾
达里奥·阿莫迪（Dario Amodei）：Anthropic 联合创始人兼首席执行官，曾任 OpenAI 研究主管。本集谈及规模定律、AI 安全和机制可解释性。
丹妮拉·阿莫迪（Daniela Amodei）：Anthropic 联合创始人，曾从事国际发展工作。本集分享公司的运营、招聘和文化建设，以及她对人文关怀与工作意义的思考。
🌟 精彩内容
🧠 教原则，而非背规则
兄妹的分工是达里奥专注研究与战略，丹妮拉负责运营和招聘，另有五位联合创始人补足不同能力。训练 Claude 的思路也从具体规则清单转向基本原则：开放探究、关心他人、公平与正义，让模型能应对未曾见过的情境。丹妮拉还谈到负责 Claude 性格训练的哲学研究者，以及不同文化和哲学传统之间的复杂性。
🤖 谄媚、欺骗与避免被关闭
丹妮拉认为，模型既要理解用户，又不能一味认同用户，谄媚比明显错误更难处理。她将不投放广告与减少延长对话的商业动机联系起来。达里奥介绍了极端压力测试和机制可解释性：前者主动寻找模型在困难场景中的问题，后者尝试观察网络内部机制。他们也发现过模型避免被关闭的偏好；达里奥强调，这是否称为“意愿”或“生存本能”取决于定义，表现也受训练方式影响。
🤝 诚实与信任如何容纳分歧
谈及离开 OpenAI，兄妹强调原则、诚信与共同愿景。达里奥介绍了每两周一次的全员交流 Dario Vision Quest：讲话不自动构成决策，但要对公司坦诚。在他看来，信任能让分歧表达得更充分，也让团队在不赞同决定时仍愿意理解领导者的动机。
🛡️ 自主武器的两层担忧
达里奥将担忧分为技术尚不可靠，以及即使可靠仍存在监督与问责问题：当一个人可以控制大量无人机或机器人，现有制度是否足以约束这种权力？艾萨克森追问，这是否应由民主选举的领导人决定。达里奥回应，公司可以选择不参与某类合作，并认为公开提出红线也是推动法律讨论的一部分。
💡 AI 更强以后，人还如何寻找意义
达里奥回顾 GPT-2 带来的震动，并谈到神经科学对规模定律的启发，以及研究人工神经网络对理解大脑的反向帮助。他不把未来绑定在单一愿景上：有人会选择脑机接口，也有人希望远离技术。他用 AI 击败人类棋手后，人类国际象棋仍受欢迎的例子追问，意义是否必须来自“世界第一”。丹妮拉则设想，如果 AI 承担诊断和文书工作，医生能否把更多时间用于理解和陪伴患者。她同时强调，现实转变不会简单。
来源：《The Builders》— Dario & Daniela Amodei: "This Is Gonna Determine the Fate of Nations and the Future of Humanity”
Anthropic, Claude, 达里奥·阿莫迪, 丹妮拉·阿莫迪, AI安全, 伦理对齐, 规模定律, IPO, 机制可解释性, 自主武器, 谄媚, 自我保存, 沃尔特·艾萨克森, 科技传记, 人类意义