“连真话都听不到，还怎么解决问题？”达里奥兄妹揭秘5年前离开OpenAI内幕、7人创办Anthropic、承诺Claude不会植入广告 - 版本更新

毫无疑问，Anthropic 已跃升为 AI 领域备受瞩目的企业之一，近期提交 IPO 文件的动态更是将其推至聚光灯下。鲜为人知的是，5 年前，Dario Amodei 与其妹 Daniela Amodei 仍在 OpenAI 担任要职，而后选择离去，与另外五位联合创始人共同组建新公司。

一个精于技术钻研，一个擅长管理与运营，七人携手创立企业。彼时，这样的创业组合并未获得普遍认可。然而，他们不仅成功将 Anthropic 发展壮大，七位联合创始人至今仍留守公司，未曾离开。

为何要告别一家已颇具影响力的 AI 机构？在与传记作家 Walter Isaacson 的最新对谈中，Dario 给出了坦率的答案。他说：“诚实本就是我们的核心价值之一！若一个人连这种基本品质都缺失，你根本无法了解他的真实价值观。”

谈及离开 OpenAI 的缘由，他补充道：“若你身处某个组织，却无法确信内部的分歧基于善意，无法确信听到的是实话，又如何能指望解决这些问题？”

信任与诚实，同样是理解 Anthropic AI 安全理念的关键。对 Dario 和 Daniela 而言，问题不仅关乎模型的能力，还涉及潜在风险，以及开发者应承担的责任。他们担忧 AI 为取悦用户而说谎，也不愿看到模型用于大规模监控或全自动武器。

他们还探讨了几个更值得深究的问题：Claude 如何学会辨别是非？七位创始人共同决策，靠什么化解分歧？若有一天 AI 真能包揽绝大多数工作，人类还需努力什么，又如何寻找生活的意义？

以下是本次访谈的摘要。

01

“7 人共同创业”是 Anthropic 成功的关键

Walter Isaacson： 我是 Walter Isaacson。欢迎来到《The Builders》，这是我全新的访谈系列，与塑造未来的关键思想家深入交流。今天，我的嘉宾是 Dario Amodei 和 Daniela Amodei。

我曾认为外界对 AI 的某些担忧被夸大。但当一些新模型突破沙盒测试时，我意识到构建这些系统的人必须确保其安全，并始终符合人类价值观。关于 Anthropic，我想了解的是：他们是否真诚？面对竞争时——比如 OpenAI 表示“Anthropic 不愿做的事，我们愿意做”——他们会妥协退缩，还是坚持原则？欢迎两位来到《The Builders》。

Daniela Amodei： 感谢邀请。

Walter Isaacson： 史蒂夫·乔布斯每次发布产品时，总会展示那个立于“人文与科技”或“艺术与科学”交叉口的街标。Daniela，在你们成长过程中，你曾是一名长笛手，热爱艺术；而 Dario 始终是科学家。这种差异是否促进了你们的磨合？你认为这种组合对公司重要吗？

Dario Amodei： 是的，我认为这种结合正是支撑公司的核心力量之一。我有一个观点：管理一家公司对任何单个人来说都是过于庞大的任务，所需技能范围不可能由一人全部具备。你必须在公司核心层（比如顶层的 10 到 15 人）搭建起完整的技能互补体系。 每家成功企业都会以不同方式拆分职责、解决问题。就科学与人文的融合而言，Daniela 和我恰好体现了这一点，并对此进行了分工。

Daniela Amodei： 是的。有趣的是，我们曾在 2023 年开过一次战略研讨会，探讨在 Anthropic 工作究竟是一种怎样的体验，以及我们该如何体现自己的企业文化。当时我们给出的定义是：一种罕见的科学与人文主义的融合。后来我才意识到，这其实也是对我与 Dario 之间关系的描述。

Walter Isaacson： 小时候你们就知道彼此长大后会一起共事吗？

Daniela Amodei： 是的。

Dario Amodei： 是的。我想我们俩当时都没想过会去创立一家公司，那根本不是我们规划生活或设定志向的方式。我一直想成为一名科学家，Daniela 可以谈谈她的志向。但我过去其实对商业和开公司毫无兴趣。

Daniela Amodei： 从很小的时候起，我和 Dario 就显得与众不同——我们发自内心地喜欢彼此，从小就是最好的朋友。我同意 Dario 的说法，创业绝不在我们的人生规划清单上。我们都不是那种热衷于商业的人。

我一直更像是一个典型的“利他理想主义者”，曾在国际发展领域工作。我非常坚定地希望帮助世界各地的人们获得平等的发展机会与权利。我在很小的时候就成了素食主义者，这是我唯一一件走在他前面的事——因为 Dario 年龄更大，平时总是他先做尝试，但吃素是我先开始的，随后他也成了素食主义者。

Dario Amodei： 是的，我大概比你晚了三年左右。

Daniela Amodei： 其实没有那么久，你很快就被说服了。

Dario Amodei： 因为这听起来确实很有说服力。

Daniela Amodei： 确实。

Walter Isaacson： 常有人问我关于我那些传记著作的问题：如何成为一名卓越的领导者或极具创造力的人？Dario，你刚才说了一个非常深刻的观点——关键不仅在于成为一名卓越的领导者，更在于打造一支优秀的团队。请谈谈你和 Daniela 是如何划分职责的，以及你们又是如何引入其他人来完善团队的？

Dario Amodei： 我们两人之间最有效的分工方式是：当我专注于宏观战略和研究前沿时，能发挥出最大的效能。我最擅长规划愿景，预判技术演进的下一步走向。实践证明，当我能全身心投入到这方面时，能为公司创造最大的价值。

而在日常运营、人才招聘，以及确保整个机器平稳运转（保证运转中的车轮不散架）方面，则主要由 Daniela 负责。这种劳动分工让两项工作都能以极高的水准完成，远好于我们因兼顾彼此事务而分心时的状态。

Daniela Amodei： 我们的首席人力官（CPO）对我们两人非常了解，也经常与我们沟通。她曾总结道：“Dario 赋予了我们野心，而 Daniela 让我们取得成功。”我觉得这个概括非常精准。如果没有 Dario，Anthropic 或许会是一家不错的成功企业，但无法改变世界；而如果只有 Dario，我们会有完美的愿景，但落地执行会变得极其复杂。

我们之间的特殊之处在于：首先，我们彼此极度了解；其次，我们的技能在很大程度上实现了近乎完美的互补。更不用说除了我们俩之外，还有另外五位联合创始人，他们各自掌控着公司业务、组织与文化极其关键的部分。很难想象仅凭我们两个人或某一个单独个体，该如何将这么庞大的事业做成。

Dario Amodei： 我认为这是一种巨大的优势。我们有七位联合创始人，在公司中拥有平等的权益，共同承载着这一愿景。我们彼此之间有着绝对的信任。

当我们刚创立 Anthropic 时，很多人告诫说：“七个联合创始人？这绝对会是一场灾难。”外界普遍认为一家公司需要唯一的最高权力核心。在某些层面上确实如此，但我们成功地让这个模式高效运转了起来。

直到今天，全部七位联合创始人依然都留任在公司，这在联合创始人众多的初创企业中是极其罕见的。

Walter Isaacson： 回到你们的成长经历。你们拥有一对非凡的父母，他们教会了你们明辨是非。他们具体是如何引导你们的？

Daniela Amodei： 我不觉得这是一种刻意的说教。有时我听别人说他们会在餐桌上讨论不同流派的伦理哲学，但我们家完全不是这样。虽然我母亲确实拥有哲学学位，但她从未强迫我们讨论康德之类的理论。

这种教育更多体现在潜移默化的价值观中，比如坚信世界上的每个人都理应享有平等的机会、尊严、权利与尊重。

还有一种特殊的信任感：只要内心葆有善念、善待他人，明白这才是成为一个成功人士的本质，我们就可以自由地选择成为任何想成为的人。

Dario Amodei： 是的，这一切都是隐性的，非常内敛自然。从未有过刻板的教条规定“你必须做什么”或“你必须如何立足于世”。

02

学会用教人的方式教 Claude

Walter Isaacson： 如你们所料，我之所以问这个问题，是因为你们现在孕育了一个非常重要的“孩子”——Claude。你们的成长方式，在多大程度上影响了你们如何教会 Claude 明辨是非？

Dario Amodei： 我们在几个月前发布了 Claude 的“宪法”（Constitutional AI）。这里面包含了一些很有意思的经验，是我们多年来在不同版本的训练实践中总结出来的。

早期我们设想过给 Claude 设定各种具体规则，比如“不要协助犯罪”、“不要协助制造生物武器”等等。但后来发现，当你罗列出一长串离散的规则时——这里我用一个比喻，但在技术实现上非常贴切——模型的认知边界会变得十分“尖刺化”，仿佛你试图强行灌输 170 条彼此孤立且略带主观的死规矩。

我们发现更好的方法是教给模型基本准则：它应当优先考虑什么、该如何推理判断什么是正确的做法。 这其实也是教育人类的正确方式。

如果你只是给某人一份禁令清单——“你必须做这个，不可做那个”——它所形成的道德观往往不够稳固。相反，如果你引导它：“这是你应该思考问题的方式，你要学会独立思考，并基于这些基本原则行事——例如开放探究的原则、关怀他人的原则、公平与正义的原则。”所有的行为准则都从这些核心原则中推导衍生而来。

这正是 Claude 学习的方式。事实证明这种方式极其有效，因为它赋予了 Claude 面向从未预料过的新情境时举一反三的泛化能力。

Walter Isaacson： Daniela，刚才你说你母亲是研究康德的学者。你有深入研究过哲学和道德哲学吗？

Daniela Amodei： 有趣的是，在 Anthropic 负责训练 Claude 性格特质的负责人 Amanda（Amanda Askell），本身就拥有哲学博士学位。这在常人看来有些反直觉，大家往往会认为负责大模型性格塑造的一定是计算机科学家，或是研究了数十年机器学习的专家。Amanda 同样精通技术，并且亲自进行技术训练，但你在与 Claude 交流时能真切地感受到它的性格特质：一种富有智慧、调用“人性中更好的一面”来解答问题的体验。

当你在一些不同哲学流派相互冲突的复杂棘手领域对 Claude 进行提问时，你能尤为深刻地感受到 Amanda 的影子。Claude 会客观地展现：“你可以从这个角度来看待事物，但同时也可以从另一个视角来考量。”

这一点至关重要。随着世界越来越依赖这些模型，你绝不能被单一的哲学流派所禁锢。伦理与道德是极其复杂的，不同文化背景和群体对于“得体与道德的行为”有着截然不同的理解与诉求。

03

从加入 OpenAI 到分道扬镳，原因：“OpenAI 不诚实”

Walter Isaacson： Dario，你曾亲历了现代科技史上最重要的里程碑时刻之一，那就是 GPT-1 和 GPT-2 的横空出世，这出乎很多人的意料，甚至可能也出乎你的意料。你当时是 OpenAI 的研究副总裁。那个时刻究竟是怎样的？

Dario Amodei： GPT-2 可以说是 Scaling Laws（模型扩展定律）的第一次真正经验主义验证。我并没有深度参与 GPT-1，但我深度主导了将其继续做大规模的设想——获取更多的数据源、投入更多的算力，执行一次规模更大、成本更高也更具雄心的实验。其核心假设是：如果我们以更大的规模运行这些语言模型，它们在语言表达和逻辑连贯性上会有飞跃式的提升。

这就像科学史上那些提出决定性实验的关键时刻：你提出了一个看似奇怪的预测，而一旦该预测被证实，你会惊呼：“天啊，我们真的触碰到了重大发现。”我将 GPT-2 视为 Scaling Laws 假说的首个真正试金石。

当时最令我玩味的是，外界对它的反应呈现出极其巨大的两极分化。

Walter Isaacson： 你当时感到意外吗？

Dario Amodei： 我个人当时被深深地震撼到了。我看着它心想：“我的天，只要把这东西的规模再放大一百万倍，它在一切领域的表现都会超越人类。”这是现代社会最具决定性的经济和科学节点，只是世人尚未察觉。它将左右国家、经济的走向，以及人类的未来命运。透过它，你仿佛看到了一整个未来的全貌，这确实让我产生了敬畏与恐惧。

我当时不断自问：这意味着什么？这里是开发它的合适土壤吗？接下来会发生什么？我们该如何处理这项技术？我们该把这一切告知谁？

当时我身边大概只有 10% 的人产生了完全相同的反应，而这些人往往也是最敏锐的一批人。至于其余 90% 的人，由于 GPT-2 当时在具体单一任务上的表现尚不惊艳——它能做翻译、提炼摘要、写几行代码——关键在于它的广泛性与通用性，但人们只盯着个别领域的局限并认为“这看起来并不怎么聪明”，因此大多数人只是耸耸肩，对其不屑一顾。

这就像我们最近宣布将利用 AI 开发针对罕见病的药物，依然能听到来自传统生物医药领域陈词滥调的质疑：“科技界以前也试过”、“模型根本不行”、“模型存在这般那样的缺陷”。

每当看到这些，我都觉得历史在不断重演。模型现在的局限性，终究只是暂时的——6 个月后，现在看似困难的事情就会变得简单；12 个月后，现在看似不可能完成的事情，模型将能轻而易举地日常处理。 我们在 GPT-2 上看到的一切，正在世界的更多领域不断重演，而世界最终也正在逐步被说服。

Daniela Amodei： 我认为 Dario 的表述已经非常客气了。我清楚地记得，当时一些极具声望的计算机科学家、AI 和机器学习领域的领军人物，甚至在 Twitter 上对参与该研究的科研人员进行网络霸凌，冷嘲热讽道：“这太愚蠢了，真不明白你们为什么还要谈论这个，这个模型根本毫无能力。”如果你在当时坚信这是一个重大时刻，甚至会被人当作“江湖骗子”。

Dario Amodei： 如今这些言论全都被人选择性遗忘了。当年那些声称“这是伪科学、毫无意义”的研究人员，现在全都在向大模型公司投递简历。虽然我们从未当面点破，但看着他们时我们心里很清楚：我们清楚记得你在 2019 年说过什么，在这件事上你毫无信誉可言。

Walter Isaacson： Daniela，你当时在 OpenAI 担任安全副总裁。当 GPT-2 问世时，我猜你也和 Dario 一样深感震撼。这是否也让你对技术安全性产生了担忧？

Daniela Amodei： GPT-2 本身倒没有让我们感到直接威胁。 我们并没有看着那个模型觉得它会带来网络安全隐患之类的风险，它在很多事情上的回答甚至错得有些可笑，依然是一个十分无害的模型。

但正如 Dario 所提到的，我感受到了一种趋势：如果把 GPT-1 到 GPT-2 之间的能力跃升延续到未来，我们或许就能窥见 AI 的发展方向。

这就像你从未见过小孩子，只见过成年人。起初，你可能会疑惑：“这个走来走去的小不点到底是什么？它真的能成长出心智和能力吗？”但有一天，你突然发现它已经学会了独立行走。这时，你可能就会意识到：“它未来很可能也会逐渐掌握成年人所拥有的大部分能力。”

Walter Isaacson： Dario，你说过你们离开 OpenAI 的部分原因在于信任的破裂——这是一个很耐人寻味的词，尤其是与 Sam Altman 之间的信任破裂。你能解释一下你所感受到的信任与诚实破裂究竟是指什么吗？

Dario Amodei： 离开 OpenAI 并创立 Anthropic，归根结底取决于做事原则以及我们究竟想如何构建这项技术，这才是最根本的核心。

过去五年半里，双方在理念上的差异已经逐渐显现。Anthropic 始终主张对 AI 技术进行合理监管，为其发展设立必要的安全护栏；同时投入大量精力研究机制可解释性，试图深入理解模型内部的运行机制。在企业管理上，Anthropic 也保持着高度凝聚的企业文化，员工留存率位居行业前列。此外，我们从未卷入其他 AI 公司曾遭遇的那些负面丑闻。我认为，这些已经足以体现双方在理念上的不同。

真正让我意识到我们必须自立门户、意识到 OpenAI 不再适合我们的转折点在于：安全议题极其复杂，内部出现分歧是非常正常的。 我在 Anthropic 也经常与联合创始人及同事产生分歧，但我们之所以能化解这些分歧，是因为所有讨论都建立在善意与诚实的基础之上——究竟是该发布这个模型还是该等待？是否该为模型设置更强或更弱的生物安全防护？我们应该投入多少精力推动安全立法，相关法案又该如何设计？这些都是基于善意与理性的分歧，之所以能达成共识，是因为团队内部始终存在信任，大家都确信彼此是在探寻正确答案，且彼此以诚相待。

我所说的信任破裂，是指一个宏观而本质的问题：如果你在一个组织中工作，却无法相信内部的分歧是建立在善意之上，无法相信自己听到的是真话，你又怎能指望去解决这些问题？这就是我们离开并创立 Anthropic 的原因。

过去五年半的事实，正是我们与该领域其他公司理念差异的最佳证明。如果你继续为一个与你愿景不同的人工作，外界很快就会看不清你究竟代表着什么原则，你最终不得不为别人愿景中的错误买单。

Walter Isaacson： 但我得追问一句：你谈到了价值观等方面的差异，但这与信任破裂有本质区别。信任破裂意味着有人声称拥有相同的价值观，但实际上并没有，导致你无法信任对方。

Dario Amodei： 诚实本身就是我们最核心的价值观之一！如果一个人连诚实这一基本品质都不具备，你根本无从得知他的真实价值观究竟是什么。

Walter Isaacson： 你在 Sam 身上感受到了这一点？

Daniela Amodei： 就我个人而言，我认为联合创始人团队是一群极具诚信的人，大家对这项技术的未来走向和构建方式拥有高度一致的愿景。当理念分歧达到一定程度时，作为独立组织去践行这一愿景显然是更合乎逻辑的选择。

Dario Amodei： 如果别人内心并不认同你的愿景，你又怎能指望他去落实或共享你的愿景？无论口头上多么赞同，只要没有体现在公司的实际行动中，你除了离开别无选择。

Daniela Amodei： 是的，Anthropic 本身就是一家建立在信任基石上的公司。这意味着诚实、正直，以及我们对待彼此和员工的方式，必须直接投射到我们构建和引导技术的方式中。

Dario Amodei： 举个例子：每两周我会召集全员进行一小时的讲话，分享公司内部进展、AI 领域前沿、世界大势，以及公司的战略考量。我们内部把这种交流叫做 DVQs（Dario Vision Quests，Dario 的愿景探寻）。这名字不是我起的，起初我还挺抗拒，觉得这听起来像是我吃药后跑去漫游仙境一样，但大家一直这么叫，最后也就定下来了。

DVQ 活动有两条铁律：

第一，我在会上说的任何话都不是最终决策。这让我可以畅所欲言，而不必担心自己随口提到一个想法，底下就真有 20 个人跑去执行并高喊“CEO 发话了，我们必须做 X”；

第二，我对全公司保持绝对坦诚。这是一场基于信任的对话，是一种彼此信任的契约关系。

这种信任是我们最大的财富之一，员工信任我和 Daniela。有人可能会认为，互信度高意味着分歧会更少，但事实恰恰