主要观点总结
文章主要介绍了人工智能初创公司Anthropic的融资历程、业务定位和发展策略，及其与OpenAI的竞争关系。Anthropic在AI领域取得了显著进展，并获得了大量投资，但其始终强调安全导向的训练方法和注重公共利益的公司定位。随着竞争加剧和新的竞争对手出现，Anthropic面临的挑战也在增加。
关键观点总结
关键观点1: Anthropic完成新一轮融资，投后估值达到615亿美元
Anthropic宣布完成35亿美元的E轮融资，这使其估值达到了615亿美元，是前一年的三倍。原本计划的融资金额是20亿美元，这次是超额完成的任务。
关键观点2: 公司的发展历程
达里奥和妹妹丹妮拉在OpenAI工作期间，发现了缩放定律的重要性并意识到AI技术的潜在风险。他们决定另起炉灶，创建了Anthropic公司，致力于开发和研究人工智能。
关键观点3: 公司的业务定位和发展策略
Anthropic以安全为导向，注重公共利益，其模型被命名为Claude，有三个核心目标：有用、无害、诚实。公司还引入了“宪法式人工智能”的概念，给模型提供一份书面的原则清单（“宪法”），并要求它尽可能遵守。
关键观点4: 面临的挑战
随着Anthropic的发展壮大和竞争加剧，如何平衡安全和性能、如何在与OpenAI等竞争对手的竞赛中保持其注重安全的品牌形象，是Anthropic面临的挑战。
关键观点5: 未来发展
随着新模型的不断推出和GPT-5等新技术的发展，未来人工智能领域的竞争将更加激烈。作为行业的头部玩家之一，未来必须时刻注意处理技术创新与发展的问题。更重要的是密切关注处理好这个行业发展所面临的巨大的安全问题挑战。
正文
那一年年底，阿莫迪兄妹一起离开了OpenAI，并一口气带走了OpenAI的7名高级职员。2021年，Anthropic成立。
当被问及离职原因时，达里奥面对媒体总是表现得很油滑，称“我们（联合创始人）意见一致，彼此信任。我们是处于正确的理由这样做的”，但被问到这是否意味着他不信任OpenAI的其他人时，他却拒绝回答。
到底是不是“OpenAI叛军”，行动是最好的说明。
在公司属性上，阿莫迪兄妹选择将Anthropic设立为公益型公司（PBC，Public Benefit Corporation），可以同时追求社会责任和盈利。如今OpenAI寻求转型，也是想成为PBC。
从一开始，“安全”成了Anthropic的高亮关键词。Anthropic的前身甚至被命名为AI Safety Lab（AI安全实验室）。在2021年，人工智能危险论并非主流。
起初，Anthropic也考虑到用其他公司的AI模型来进行安全研究，但很快就放弃了这个想法，决定构建自己的模型。模型被命名为Claude，有三个核心目标：有用（helpful）、无害（harmless）、诚实（honest）。
他们甚至引入了“宪法式人工智能（Constitutional A.I.）”的概念，给模型提供一份书面的原则清单（“宪法”），并要求它尽可能遵守。这些清单中包括联合国《世界人权宣言》、苹果的服务条款等等。然后，他们使用第二个模型，评估第一个模型的行为是否符合“宪法”，并在必要时进行纠正。
说白了，就是让人工智能自我监督。
在创立之初，Anthropic就被外界当做“OpenAI叛军”，并在A轮融资中吸引了1.24亿美元，随后又有5.8亿美元融资到账。但相比于OpenAI，这家公司依然显得非常小和“寒酸”（只有寥寥员工和很少的钱）。
到了2022年夏天，阿莫迪兄妹迎来了第一个艰难时刻。
那就是：Anthropic已经完成了对Claude的训练，整个团队都对它的表现赞叹不已。发布Claude，对成立仅仅一年的Anthropic来说一定会带来更多名利。但是，他们同时也担心将强大的Claude直接发布会不会有安全风险。
最终，阿莫迪兄妹决定，继续进行内部安全测试。这一压就是数月。
而在另外一边，OpenAI在11月底发布了ChatGPT，这款软件如巨石入水，掀起惊天骇浪。从后续多家媒体报道的“内幕故事”来看，OpenAI当时是在很“拿不准”的情况下推出了ChatGPT。
也就是说，奥特曼和阿莫迪兄妹面临着同样的难题，但是做出了完全不同的选择。
至少从对外的表态来看，阿莫迪兄妹不说后悔。达里奥在《时代》杂志的采访中说，他想避免引发一场建造更大、也许更危险的人工智能系统的竞赛：“我认为这是正确的做法。”
他紧接着又补充：“但这（正确与否）不是完全明确的。”这种不确定性很好理解，毕竟竞赛无论如何都开始了，而阿莫迪的决定可能会让Anthropic损失数十亿美元。
不论如何，这个决定最终也让Anthropic在很长一段时间里获得了赞誉。尤其是当ChatGPT引发了监管机构和大众对安全问题的担忧时。在2023年面对华盛顿的参议院，达里奥作证时说，他认为强大到足以“造成大规模破坏”并改变全球力量平衡的AI系统可能最早在2025年出现。
彼时这样说的人很多，但始终握着“安全牌”、被视为“OpenAI叛军”的阿莫迪兄妹自然显得可信度更高。
在Claude最终发布并迭代的过程中，Anthropic更加坐实了“安全牌”。《纽约时报》的记者凯文·罗斯（Kevin Roose）因为撰写了一篇文章，记录其与微软嵌入ChatGPT的新必应聊天机器人之间的“冲突”，而被Anthropic邀请到了总部。
当时是2023年的夏天，距离Claude 2发布还有几周，罗斯感受到的仍旧是紧张和焦虑，而非振奋和期待。
“我最担心的是，模型会不会做出我们未曾预料到的可怕行为？”达里奥说。
