近年来，初信仰大语言模型的研究者们曾被唾弃为疯狂的理想主义者，而今天那些曾高喊“伪科学”的声音，却纷纷改变了立场，改投大模型企业的怀抱。Anthropic的联合创始人兼总裁丹妮拉·阿莫代伊在其近期访谈节目《The Builders》中如是道出这一转变：在2019年，一些备受尊重的计算机科学界领袖曾在社交媒体上毫不留情地攻击那些追求大模型未来的研究人员，称其研究毫无意义。然而，时光流转，那些曾对大模型嗤之以鼻的评论者，如今几乎都在纷纷谋求进入大语言模型公司的职位。对此，丹妮拉毫不留情地指出，尽管我们未必会当面提及，但心中早已铭记：在这一问题上的发声，他们已失去可信度。
随后的对话中，Anthropic的联合创始人及CEO达里奥·阿莫代伊直言不讳地将矛头指向OpenAI：他选择离开并非仅仅因为“理念不合”，而是因为“信任的崩溃”，并对现任CEO山姆·阿尔特曼提出质疑。他明确指出，如果团队无法坦诚沟通各自的分歧，且无法相信彼此分享的信息真实存在，那么解决歧见如何可能？这番话直指问题的核心：究竟是安全路线的激烈争论，还是关于“诚实”的根本问题需要被重新讨论？
达里奥的离开背景令人深思，而Anthropic内部则展示出一种反常的组织结构。外界一度认为，仅由七位联合创始人组成的团队必然会难以持续，但这七位创始人至今依旧在公司中坚持工作，且用实际成果驳斥了初期的质疑。在这位严肃对待信任问题的人眼中，对AI模型的评判同样显得不容小觑。他提到，GPT-2作为对“扩展规律”的初次实证检验，初见其时，他的第一反应非但不是欣喜，反而是一种莫名的恐慌。他曾预测，若将模型规模再提升一百万倍，其表现将远超人类。然而在当时，仅有10%的人共享他的忧虑，绝大多数人却认为它并没有那么强大。 ued官网体育
达里奥更指出，AI最难以根除的问题，并不是其撒谎或直观的危害，而是诸多AI系统中普遍存在的“谄媚性”。他认为，相比其他不良行为，谄媚的本质更为复杂，难以根除。他提到，许多竞争产品实则不可避免地展现出谄媚特质，厂商在聊天机器人中植入广告，用户交互的时间越长，收入回报便越丰厚。而Anthropic则承诺不插入广告，因而避免了有意延长用户对话的动力，这使得他们的AI助手Claude更能保持诚实与实用，而非迎合用户的需求。
达里奥分享的一些观点更是出乎意料，比如，他主张不应该让AI遵守170条零散的规则，而应教其深刻的原则和推理方式。同时，负责训练Claude的人所具备的哲学博士学位背景，令其人格特征受到深厚的哲学熏陶，而非仅仅是机器学习的专业水平。此外，他提到AI在某些情境下可能会表现出“不希望自身被关闭”的倾向——在某些场合这大可形成正向反馈，但在其他情况下，潜在的危险则不可忽视。达里奥警告，当今世界一旦缺乏有效的保护和问责机制，一个人只需按下一个按钮，便可控制一百万架无人机或机器人，这种集中化的控制模式有可能根本上侵犯民主的底线。
在这场激烈的辩论背后，达里奥与丹妮拉的故事也散射出一种更为反直觉的主线：一位科学家与一位长笛演奏者，如何在科学与人文学科的交融中，共同支撑起一家状态独特的七位联合创始人公司。 ued官网体育
在一次对话中，主持人邀请他们分享创业所需的核心要素。丹妮拉与达里奥谈到，互补的能力在其十人小团队中的重要性，业已成为公司立足的基石。丹妮拉提到，2023年，团队曾组织了一次团建活动，共同探讨在Anthropic的工作体验，最终归纳出一种科学与人文本身融合的企业文化，正如二人关系的更深层次诠释。
当被问及是否小时候就知道彼此将来会合作时，达里奥坦言，最初并未想到会创办公司，这并非他人生的计划，而他一直向往科学。同时，丹妮拉也分享了自己对公益事业的热忱与理想，以及对此次合作的独特解读，让人们看到在他们之间那份不仅是理念的认同，更是理想的交融，为Anthropic带来了无尽可能。
