OpenAI董事长最新3万字深度访谈：必须时刻警惕自满，不要用今天的逻辑看12个月后的世界

tayun

近期，当今科技界最具传奇色彩的人物之一，OpenAI董事长、Sierra创始人Brett Taylor（布雷特·泰勒）做客知名播客节目，带来了两小时不容错过的大师课。内容非常硬核，涵盖了你必须知道的关于人工智能的一切。

布雷特·泰勒结合自身经历，分享了自己作为创始人、大型科技公司高管（Facebook CTO、Salesforce CEO）以及董事会成员（OpenAI、Shopify）的丰富经验。深入剖析了人工智能为何将彻底改变软件工程，如何看待AI Agent趋势，并强调企业必须避免自满情绪，积极对抗官僚主义和内部“现实扭曲场”。

在访谈中，布雷特·泰勒直言不讳地说，“如果你只针对眼前的事实做出反应，而不从根本上思考我们为什么会处于这个阶段，以及12 个月后的情况会如何，那么你做出正确战略决策的可能性几乎为零。”

《划重点》独家编译了访谈原文，相信无论是对于AI创业者还是普通职场人，这场两小时的大师课都能让你抢先调整好适应AI时代的正确思维方式。以下为布雷特·泰勒访谈内容要点：

1、AI改变软件工程：我们正处于这个与工业革命同样重要的全新时代，在人工智能时代，软件不仅能帮助你提高工作效率，还能真正完成一项任务。随着代码生成变得“免费”或接近免费，工程师的角色将从代码编写者转变为代码生成机器的操作者。这就需要为正确性和验证而设计的新编程系统，而不仅仅是为了方便人类创作。

2、AI Agent三种类型：个人代理、角色代理（例如律师助理）和品牌客户代理。布雷特·泰勒主张一种按结果收费的商业模式（RASS，Result as a Service），而不仅仅是软件许可，这反映了人工智能完成任务的能力。构建前沿模型需要高额的资本支出，人工智能模型构建领域将出现整合，类似于云基础设施。

3、创始人模式（Founder Mode）：创始人领导的公司具有胆识和独特的责任感，创始人对公司的每个决策都负有深厚的责任，这就是伟大的公司运作的方式。同时，创始人模式也可以被武器化为借口，有些人会这样做，可能会让每个为他们工作的人都痛苦不堪。这种微妙的区别在于“微观管理”和“深度问责”的不同。

4、AGI（通用人工智能）：AGI是一种系统，它可以执行人类在计算机上可以完成的任何任务，并且能够达到或超过人类所能完成的任务。推动 AGI 进步的三个要素：数据、计算和算法。ChatGPT的非凡之处在于，这个古怪的名字已经成为 AI 的代名词，它将成为AGI 生产的交付机制。

5、AI时代的长期投资：如果你必须今天将100%的净资产投入一家上市公司，而且至少20年内不能动用，你会投资哪家公司？布雷特·泰勒认为受益最大的两个领域是技术和金融。如果你能比竞争对手做出更好的财务决策，你就会获得超额回报。

6、企业必须避免自满情绪：有两件事表现为企业自满。一是官僚主义，官僚主义的根源往往是当出现问题时，公司会引入一个流程来解决它；二是“现实扭曲场”，随着公司规模的扩大，其内部叙述往往比来自客户的真相更有力。当你进入一家真正官僚主义的公司时，你就能闻到它们的味道，不准确的故事叙述，重过程轻结果，它们会吸走你的能量，你能感觉到。

以下为布雷特·泰勒访谈全文：

AI顿悟时刻

主持人：你第一次真正意识到人工智能是什么时候？“天哪，这将会是一个巨大的进步。”

布雷特·泰勒：我经历了两次顿悟时刻。我并没有真正意识到它会有多么巨大，但它在某种程度上重置了我的期望，那就是 DALL-E在22 年夏天发布，他们生成的鳄梨椅。而我的背景是计算机科学，我之前并没有关注过大型语言模型，我只是没有跟上Transforma论文之后的进展，我看到了时候的反应是，我不知道计算机可以做到这一点。那次特别的发布，看到生成的鳄梨椅图像，我不认为我能推断出现在的情况，但它对我来说非常震撼。

我意识到我需要比以前更加关注这个领域，我显然没有关注一些重要的事情，特别是OpenAI。ChatGPT在成为一种现象之前，我已经对它着迷了，而且从那时起，我就无法停止思考它。我认为那是一个令人激动的时刻，你看到一台计算机所能做的事情不仅仅是基于规则，而是基于创造性的。

主持人：你的一个独特之处是你创办了两家公司，然后被Facebook 和 Salesforce 收购。在这些公司里，你升职为 Facebook 的首席技术官、Salesforce 的联合首席执行官。跟我谈谈创始人为创始人工作，以及创始人在公司内部工作的体验？

布雷特·泰勒：是的，对于很多创始人来说，这是一个非常具有挑战性的转变。我认为有很多收购的例子从商业角度来看确实具有变革性。我认为YouTube 和 Instagram 是其中比较突出的两个，它们明显改变了收购公司的形态。但即使在这种情况下，创始人也没有待那么久，这可能有点不公平。他们停留了一会儿。

我认为作为创始人的有趣之处在于它不仅仅是建立一家企业，而且它还是你的身份。对于不是创始人来说，体验这一点是非常困难的。如果你把每件事都看得很重，从产品到客户到媒体到竞争对手，那么你就能从内在和外在两个方面衡量成功。当你被收购时，其中就包含着商业层面。你可以在一家大公司里工作吗？但这与身份认同感息息相关，你从一个公司的创始人、首席执行官或首席技术官，无论你的头衔是什么，作为联合创始人之一，成为一个更大组织的一部分，要完全接受这一点，你实际上需要改变你的身份，你需要从 Instagram 的负责人，或者在我的情况下从 Quip 的负责人转变为 Salesforce 的员工，或者从朋友动态的首席执行官转变为 Facebook 的员工。

据我观察，身份转变是大多数其他事情的先决条件。这不仅仅是你处理大公司的政治和官僚主义或适应新结构的能力。我实际上认为大多数创始人并没有真正认同这个新事物。对于一些员工来说，情况甚至更加困难，因为在收购中，大多数情况下，被收购公司的员工并没有选择那条路。事实上，他们选择为不同的公司工作，而收购决定了不同的结果，这就是为什么整合收购如此微妙的原因。我想说，我有被收购的经历，我之前收购过一些公司，当我加入Salesforce 时，我真的试图自我意识到这一点，真的试图成为 Salesforce 的一部分，试图改变我的身份，我真的试图接受它。我认为这对于一些创始人来说真的很难，而且一些创始人不想这样做。他们可能会兑现支票，这更像是一种交易关系。 我真的很感激在Facebook 和 Salesforce 的经历，我学到了很多。但我确实花了很多精力来改变我对自己和我是谁的看法，以便从收购我们的公司获得价值。

主持人：你是一位创始人，你曾是Shopify 的董事会成员，也是 OpenAI 的董事会成员。董事会的作用是什么？当你成为创始公司的董事会成员时，情况有何不同？

布雷特·泰勒：我非常喜欢参与董事会，而且我已经参与了多个董事会，因为我认为我是一个彻头彻尾的操作员。我可能首先认为自己是一名工程师，而且我喜欢建造。学习如何成为一名顾问是一个非常不同的视角，你可以看到其他公司是如何运作的，你还可以学习如何在不亲自动手的情况下产生影响并增加价值。这真的非常重要，我认为学会这样做之后我会成为一个更好的领导者。

我实际上只加入过由创始人领导的董事会，因为通常我认为你可以与他们交谈，但我认为他们找到我是因为我是创始人，我喜欢与创始人公司合作。我相信创始人对此有很多研究，创始人会为公司带来更好的结果。我认为创始人有权限做出更大胆、更具颠覆性的决策比专业经理更有权对他们的业务做出更大胆、更具颠覆性的决策。

也有例外，比如 Satcha，我认为他是我们这一代最伟大的 CEO 之一，如果不是最伟大的 CEO，作为一名职业经理人，但你看看从 Toby Luki 到 Mark Beni到 Mark Zuckerberg 到 OpenAI 的 Sam Altman的每个人。当你创办一家公司时，你所有的利益相关者，特别是员工，都会对你抱有信任，你知道你创造了这个东西。如果你说，嘿，我们需要对我们的战略进行重大转变，即使是像裁员这样的困难事情，创始人往往会有很大的自由度，也会受到评判，我有不同的看法，我认为在某些方面这是正确的，因为他们的身份与他们所创造的东西是相互联系的，所以我真的相信创始人领导的公司。

真正的挑战是从创始人公司到非创始人公司，你知道亚马逊已经经历了这种转变，微软也经历了这种转变，原因就在于此。但我喜欢与创始人一起工作。我喜欢与Toby和Sam这样的人一起工作，因为他们与我很不同，我可以看到他们如何经营他们的业务，我从中受到启发并从中学习。显然，在 Salesforce 为Mark工作时，你会觉得“哇，这真的很有趣。” 就像人类学家一样，你为什么这样做？ 我想了解更多。我喜欢与那些激励我的创始人一起工作，因为我从他们身上学到了很多东西。 坐在前排观看正在发生的事情真是太有趣了。

创始人模式（Founder Mode）

主持人：你是否认为，当创始人开始听取太多外界声音时，他们会误入歧途？这又回到了我相信你知道 Brian Chesy，他是创始人模式（Founder Mode），你认为可以跟我谈谈这个吗？

布雷特·泰勒：我对此有如此微妙的看法，因为它绝对不简单。我真的很喜欢创始人模式的精神，即创始人对公司的每个决策都负有深厚的责任。我认为这就是伟大的公司运作的方式。当你知道众所周知的由委员会做出决定或你更关注过程而不是结果时，这会产生我们作为员工和客户所讨厌的所有经历。这就是众所周知的 DMV，这就像是过程重于结果，然后同样地，你看看现在所有行业都因为人工智能而发生的颠覆，那些公司会认识到事情将要发生的变化，就像每个人都能看到它一样，就像慢动作车祸，每个人都知道它是如何结束的，你需要那种决定性的突破界限，管理层级，才能真正按照现在的业务要求尽快做出改变。我对Brian的言论没有异议，Brian太棒了。

人们可以这样解读它，并将其作为我认为的含义的漫画来执行。我记得史蒂夫乔布斯去世后，我不认识史蒂夫，我只见过史蒂夫几次，所以我从来没有以任何有意义的方式与他合作过，但是如果你相信这些故事，他对他的员工非常严厉，非常严格。很多创始人都在模仿他，穿着黑色高领毛衣对你的员工大喊大叫，我不确定这是原因，我认为史蒂夫乔布斯的品味和判断力通过执行是他们成功的原因，不知何故，同样地，我认为创始人模式可以被武器化为借口，就像公开的微观管理一样，这可能也不会带来好的结果。大多数伟大的公司都充满了非常伟大的个人贡献者，他们做出正确的决定并且非常努力地工作，而仅仅通过个人判断来执行的公司可能无法扩大规模成为真正伟大的公司。所以我有一个非常微妙的观点，因为我确实相信创始人。

我实际上相信来自高层的责任。我相信在这样的文化中，创始人有权利介入并解决一个小决定。杰夫·贝佐斯 (Jeff Bezos) 发出的臭名昭著的问号电子邮件，这才是经营公司的正确方法。但这并不意味着你没有一种个人负责、被赋予权力的文化。你不希望，人们试图做出商业决策，因为一个领导者会争论什么，这就像是这个的漫画。所以在那之后，我可以看到这一切的发生，就像有些人会接受它，你知道你是对的，我需要深入了解细节，有些人会这样做，可能会让每个为他们工作的人都痛苦不堪，可能这两种情况都会发生。

主持人：非常感谢你的详细解释和细微差别。我也喜欢这个。你认为工程师是优秀的领导者吗？

布雷特·泰勒：我确实认为工程师是优秀的领导者，但我看到的一件事是，我真的相信，伟大的首席执行官和伟大的创始人通常从一个专业开始，但最终成为其业务各个领域的更广泛的专家。企业是多方面的，企业的成功很少仅仅归功于工程或产品等单一因素，很多创始人都来自这两个领域，通常你的市场营销模式对于消费品公司来说很重要，你如何与世界和公共政策互动变得极其重要，正如你所看到的，创始人从做一件事成长为一家真正有意义的公司，比如Airbnb B 或 Meta 之类的，你可以看到那些创始人真正从做一件事转变为做很多事。

我确实认为工程师是伟大的领导者。我认为第一性原理思维、系统设计思维确实对组织设计、战略等方面有益，但我还认为，当我们之前谈论身份时，创始人（特别是工程师）需要做出的主要转变之一是，你不像公司的产品经理，你是首席执行官，在任何一天你都会花时间招聘高管，因为你有需要。你是否花时间在销售上，因为这将产生最大的影响。你会花时间在公共政策或法规上吗？因为如果你不这样做，那么它就会发生在你身上，并且可能会对你的业务产生负面影响。

我认为，那些不愿意提升自己身份、满足当前需求的工程师往往会导致公司的发展陷入停滞。所以我 100% 认为工程师是伟大的领导者，这并非巧合。我认为硅谷大多数伟大的硅谷CEO都具有工程背景。但随着公司规模的扩大，这还不够，像所有伟大的公司一样进行这种转变非常重要。所有业务问题在多大程度上都是工程问题？这是一个更深层次的哲学问题，我没有能力回答。

主持人：什么是工程问题？

布雷特·泰勒：作为一名工程师，我喜欢用第一性原理思考并理解问题的根本原因来解决问题，而不是简单地解决问题的症状。我确实认为，拥有工程背景，了解从流程、到工程师如何对服务器中断进行根本原因分析的一切，是分析为什么失去销售交易的好方法。我喜欢系统的工程方法。我认为，回到那些可能成为自身讽刺画的好主意，就像我看到从事其他学科的工程师那样，有时候你可能会过度分析某些领域的决策。让我们以社交媒体驱动的、节奏非常快的现代通信为例。对你发的每条推文进行系统的第一性原理讨论可能不是一个很好的沟通策略。

所以，然后同样地，你知道企业软件销售的某些方面是不理性的，但它们是人性化的，比如建立个人关系，以及这些对于与合作伙伴建立信任的重要性，这不仅仅是产品和技术。所以我认为很多事情，以工程师的心态来做真的会有好处，但把它推向逻辑极端可能会导致分析瘫痪，会导致过度理智化一些本质上是人本身问题的事情。很多事情都可以从工程中受益，但根据我的经验，我不会说所有问题都是工程问题。

主持人：你已经多次提到第一性原理，你现在正在运营你的第三家初创公司，Sierra。 一切进展顺利。 就你在工作中如何使用第一性原理而言？

布雷特·泰勒：是的，这一点现在尤为重要，因为人工智能市场变化如此之快。因此，如果回顾两年前，你会发现，大多数人还没有使用过聊天GPT。大多数公司还没有听说过大型语言模型或生成式人工智能，而在两年内，GPT 聊天就成为历史上最受欢迎的消费者服务之一，其速度比历史上任何服务都要快，而且在企业的众多领域都实现了真正快速的转型：法律正在发生转变，营销正在发生转变，我的公司 Sierra 所在的客户服务正在发生转变， 软件工程正在发生转变。在如此短的时间内发生如此大的变化是前所未有的，也许我缺乏历史背景，但感觉比我职业生涯中经历的任何事情都要快。

因此，如果你只针对眼前的事实做出反应，而不从根本上思考我们为什么会处于这个阶段，以及12 个月后的情况会如何，那么你做出正确战略决策的可能性几乎为零。举个例子，对我来说，非常有趣的是，随着现代大型语言模型的发展，发生最大转变的职业之一就是软件工程师。你知道我经常思考的一件事是，三年后我们公司会有多少名软件工程师？当我们从代码作者变成代码生成机器的操作员时，软件工程师的角色会是什么？这对我们应该招聘什么样的人才意味着什么？如果我看看我们现在正在做的软件工程实际工艺，我认为两年后它将完全不同。然而，我认为许多创办公司的人都是为了解决眼前的问题而招人，而不是为了解决问题。但两年并不算太长。你现在雇用的那些人几年后就会变得非常高效。

因此，我们尝试从第一性原理来思考我们的大部分长期业务。我会举几个我们业务中的例子。我们的定价模式非常独特，源自第一性原理思维，而不是让客户为使用我们平台的特权支付许可费。我们仅向客户收取结果费用。意思是他们为客户构建的人工智能Agent是否解决了这个问题。通常有一个预先协商好的利率。这是因为，在人工智能时代，软件不仅能帮助你提高工作效率，还能真正完成一项任务。

对于完成一项任务来说，正确的、合乎逻辑的商业模式是什么？对出色完成的工作收费，而不是对使用软件的特权收费。同样，我们与很多客户合作，帮助他们提供一个功能齐全的人工智能Agent。 我们不会交给他们一堆软件然后祝他们好运，让他们自己配置。 其中的逻辑是，在这个世界上，制作软件比以往任何时候都更容易，而且你正在为客户交付成果，那么软件的交付模式可能也应该改变。 我们确实尝试重新想象未来的软件公司应该是什么样子，并尝试在我们所做的每一件事中树立这样的榜样。

软件工程的未来

主持人：太棒了！你认为软件工程将会发生怎样的变化？是要减少人员数量，还是要以不同的方式组织人员，或者你如何看待这种情况？

布雷特·泰勒：事实上，我在圣诞节前写了一篇关于此问题的博客文章。我认为这是一个值得进一步研究的领域。我会描述我认为我们今天所处的位置，聪明的人可能会不同意，但许多现代大型语言模型，包括传统的大型语言模型和某种新的推理模型都是在大量源代码上进行训练的，这是对他们所训练的所有知识的重要输入。因此，即使是早期的模型也非常擅长生成代码。所以你知道，Sierra 的每一位工程师都使用 Cursor，这是一个很棒的产品，它基本上与 IDE、Visual Studio Code 集成，以帮助你更快地生成代码。

对我来说，这感觉就像一个局部最大值，非常明显，就是你有一堆由人们用编程语言编写的代码，这些代码旨在让人们轻松地告诉计算机该做什么。可能最有趣的例子就是 Python。它看起来几乎像自然语言，但众所周知它不够健壮。你知道大多数 Python 错误都是通过运行程序发现的，因为没有静态类型检查。 同样，虽然你可以运行复杂的静态分析，但大多数错误都只是在运行时出现，因为，它不是设计成符合人体工程学的。但是我们正在使用人工智能来生成它，因此我们设计了大多数计算机编程系统，以便代码作者能够轻松快速地输入它。我们处在一个实际上代码生成的世界，这样做的边际成本将为零，但我们仍然使用为人类作者设计的编程语言来生成代码。

同样，如果你曾经看过别人的代码，很多人都是专业地做这件事，这就叫做代码审查。进行代码审查实际上相当困难。你最终会进行解释，你基本上是试图将系统放在你的脑海里，并在你阅读代码时模拟它以查找其中的错误。因此，现在具有讽刺意味的是，那些为作者设计的代码编程语言现在让人类去做代码审查的工作，审查由人工智能编写的代码，而所有的人工智能都处于代码生成部分。我不太确定。这很好，但是我们生成的大量代码与我们以前生成的代码存在类似的缺陷，从安全漏洞到功能错误，而且数量更多。

我想看到的是，如果你从生成代码是免费的或者或走向免费的前提开始，我们会设计的编程系统是什么？例如，你知道 Rust是一种为了安全而不是为了编程方便而设计的编程语言的例子。我的理解是，你知道Mozilla 项目，Firefox 中存在很多安全漏洞，他们说让我们制作一种非常快的编程语言，但一切都可以静态检查，包括内存安全。这是一个非常有趣的方向，你不需要为了作者的便利性或正确性而进行优化。是否存在编程语言设计，使得人们在查看它时可以非常快速地评估它是否实现了我的预期目的？

我在大学时学习的计算机科学领域有一个叫做形式验证的领域，当时它将大量的计算机程序转换成数学证明并发现不一致性，它的效果并不像你希望的那么好，但在一个人工智能生成大量代码的世界里，你知道我们是否应该在形式验证上投入更多，以便代码生成机器的操作员可以更轻松地验证它确实按照他们的意图运行，并且可以结合一种结构更正确、结构更安全、公开更多用于验证的原语的编程语言以及一个用于验证的工具。你能否让代码生成机操作员的生产力提高 20 倍，但更重要的是，让他们的输出稳健性提高 20 倍？然后同样地，你知道有些主题会流行起来并过时，但就像测试驱动开发一样，你知道你首先编写单元测试或集成测试，然后编写代码直到它满足测试。我认识的大多数优秀程序员并不会鄙视它，但它听起来比实际上更好。

但是再次，编写代码是免费的，所以编写测试也是免费的，你知道如何创建一个编程系统，其中结合了伟大的编程语言设计形式验证和强大的测试，因为你不必做编写它们的繁琐部分。你能做出某种东西来编写越来越复杂、越来越强大的系统吗？然后，对我来说，同样像房间里的大象一样，大多数这些代码生成系统的主要租户现在都是 IDE，这显然在这个世界上并不那么重要，即使有了编码Agent，这也是世界的发展方向，但这并不能改变这样一个事实，你知道谁对它的质量负责，谁在修复它，我认为在这样一个世界里，我们可以通过自动化软件工程师每天所做的事情来制作合理的软件，但我强烈怀疑，如果我们在设计这些系统时考虑到软件工程师的角色，即机器操作员而不是代码的作者，我们可以使这个过程更加健壮、更加高效，我觉得这是一个研究问题。感觉并不如此，我认为包括我在内的很多人都对软件开发效率的提高感到兴奋，而且我想看到新的东西，尽管我对目前的状况感到不满意。

主持人：有趣的是，如果AI软件足够好，可以编写代码，那么检查代码也应该足够好？

布雷特·泰勒：这是一个非常好的问题。但实际上，我仍然觉得我们生成Python 很有趣，只是因为对于现在正在听并且曾经操作过运行 Python 的 Web 服务的任何人来说，它是 CPU 密集型的，效率真的很低。 我们是否应该将我们编写的大部分不安全的 C 代码转换为像 Rust 这样的更安全的系统？如果编写和检查这些东西相对自由，那么我们所有的程序不是都应该非常高效吗？它们都应该被正式验证吗？所有这些都应该由一位优秀的经纪人来分析吗？

我确实认为你可以用AI来解决AI中的大多数问题。我想要弄清楚的是，人类操作员使用什么系统来协调所有这些任务。我回顾软件开发的历史，软件开发中大多数真正有趣的隐喻都来自计算领域的突破。所以你知道 C 编程语言来自 Unix，而当这些分时系统实际上从穿孔卡片变成了更灵活的东西时。关于施乐园区图形用户界面开发的闲聊，有一种作为隐喻的消息传递和图形用户界面的融合。然后有很多非常有趣的嗯原则来自网络和分布式系统，分布式锁定、排序。

我们应该认识到，我们正处于这个与工业革命同样重要的全新时代。这就像是软件开发的全新时代。如果你只是说，我要从第一原理为这个新世界设计一个编程系统，它会是什么？我认为，当我们开发它时，它会非常令人兴奋，因为它不是自动化，而是提高生成代码的速度，而是采用我们今天所拥有的相同流程，我认为它会感觉像这个系统的原生功能，并给予那些以我认为真正有益于整个软件的方式协调系统的人更多的控制权。让我们更深入地了解一下人工智能。

怎么看待AGI

主持人：你如何向外行人定义 AGI？

布雷特·泰勒：我认为AGI 的一个合理定义可能是，一个人可以在计算机上完成的任何任务，该系统都可以做到同等或更好。我不确定这是否是一个精确的定义，但我会告诉你它来自哪里以及它的缺陷，但我认为AGI 没有一个完美的定义，或者没有AGI 的精确定义，我确信会有很好的答案。

AGI 的一个特点就是泛化。那么，你能否拥有一个在未经过明确训练的领域中具有智能的系统呢？所以我认为最重要的事情之一是，给定一个全新的领域，这个系统是否可以变得比在该领域受过训练的人更有能力、更聪明。我认为这有点像你所了解的或比一个人更好，这当然是一个很好的标准，这就是超级智能的定义。我提到计算机的原因是我确实认为它是一个标准，意味着如果该系统有一个数字接口，它就能够让人工智能与其交互，这就是为什么这是一个合理的标准。

我这样说是因为围绕 AGI 的一个有趣的问题是它概括的速度有多快。世界上有些领域的进步不一定受智力的限制，而是受其他社会产物的限制。举个例子，我不是这个领域的专家，但如果你想想制药行业，我的理解是，其中一个主要瓶颈就是临床试验。所以无论系统在发现新疗法方面有多么智能，它都可能无法从根本上改变这一点。 因此，你可能会发现数学上的一些新见解，这将是令人愉快和惊奇的。但是在某一领域超级智能的系统的存在可能无法平等地转化为所有领域。我刚刚听了经济学家泰勒·科恩的至少一段演讲，听到他对此的阐述真的很有趣，关于经济的哪些部分可以比其他部分更快地吸收情报。

因此，我选择了AGI 这个定义，承认，没有一个完美的定义，因为它抓住了这种智能的概括能力，同时也承认，即使我们达到了系统能够拥有这种智能水平的程度，它也可能不会以相同的速度应用于社会领域。 当我思考人工智能受到什么限制或瓶颈时，如果你愿意的话，我会不断回到几件事。有法规、有计算、有能源、有数据，还有LLM。就像这些事情的每个方面都有局限性一样，这些似乎是目前限制我们加速的主要原因。我认为三个主要输入是数据、计算和算法。

数据可能很明显，但Transformer模型推出后，它提供了一种具有更高并行性的架构，这意味着模型可以更大，并且可以在更多数据上更快地进行训练。这导致了很多突破，那就是LLM，它们很大，而且几年前的缩放定律表明，模型越大，就越智能，在可容忍的效率水平上，有很多关于这个的文章，但是就像需要训练的文本内容一样，新内容的可用性肯定在减少，有些人会说，我认为有一个数据墙。我不是这个领域的专家，但是它已经被讨论了很多，你可以阅读很多关于它的内容，但是也有很多有趣的机会来生成数据，所以有很多人在研究模拟，如果你想想像自动驾驶汽车这样的领域，模拟是一种非常有趣的生成方式，那就是合成数据。

因此，你可以像生成小说一样生成合成数据。我至少会在脑海里进行模拟，我相信学者们可能会批评我所说的话，但我认为模拟是基于一套原理，比如物理定律。因此，如果你建立一个真实世界模拟器来训练自动驾驶汽车，那么你不仅仅是生成任意数据，比如道路不会变成回环，因为这在物理学上是不可能的。因此，通过用一组现实世界约束来约束模拟，数据就会更有效，它在某种程度上限制了你可以从中生成的数据的不同排列。所以我认为它的质量会更高一些。但是按照这样的思路，很多人想知道，如果你生成合成数据，那能为训练过程增加多少价值？这是否有点像在重复已有的信息？

推理和推理模型真正有趣的地方在于，我非常乐观地认为这些模型正在产生全新的想法，因此它确实提供了突破数据墙的机会。所以数据是一回事，我认为合成数据和模拟都是在那里发展的真正有趣的机会。然后你进行计算，这就是为什么有这么多数据中心投资的原因。这就是 Nvidia公司能够如此快速发展的原因。可能更有趣的突破是这些推理模型，其中训练过程和推理过程之间没有那么正式的分离，你可以在推理时旋转更多的计算以产生更多的智能。这在很多方面确实是一个突破，我认为这真的很有趣，但它向你展示了如何遇到障碍并找到新的机会来利用它。

最后是算法。而最大的突破显然是Transformer模型，《Attention Is All You Need》，谷歌的那篇论文在某种程度上导致了我们现在的处境。但从那时起，已经出现了许多非常重要的论文，从思路链推理的想法到我们在OpenAI 上使用O1 模型所做的事情，也就是对这些思路链进行一些强化学习，以真正达到新的智能水平。所以我确实认为我提到了一些关于一些突破的事，因为我的观点是他们每个人都有自己的问题。你知道计算是非常耗费资本的，很多这些模型的价值半衰期都很短，因为新产品推出得太频繁了。所以我们是否能负担得起投资这笔资本支出？商业案例是什么？

然后我们就取得了突破，就像 O1，用一个蒸馏模型，并更多地转向推理时间，它改变了它的经济性。你有数据，我们用来训练的文本数据已经用完了。现在我们可以进行推理并进行模拟。这是一个有趣的突破。然后，在算法方面，正如我所提到的，这些推理模型的想法本身确实很新颖。在任何特定时刻，如果你与某一领域的专家交谈（我不是这方面的专家），他们会告诉你他们所看到的当前平台期是什么样的，而且通常情况下，平台期都是存在的。

我的意思是，你会和不同的人谈论某种事物的缩放定律将持续多久，你会得到略有不同的意见，但没有人认为它会永远持续下去。在每一个项目上，因为有这么多聪明的人在研究它们，所以经常会有人在每个项目中发现突破。因此，我确实对朝着这一目标迈进感到乐观，因为如果我们没有突破的关键思想，其中一个平台期可能会持续一段时间。我认为，我们会在这三个领域陷入困境的可能性很小。事实上，由于 AGIS 具有潜在的经济效益，我们看到这三项技术都取得了突破。因此，你看到的只是我们在过去几年中所看到的飞速进步。

主持人：什么时候人工智能会开始让人工智能变得比我们人类更好，或者在我们睡觉时让人工智能变得更好，我们离这个目标还有多远？

布雷特·泰勒：它可能反映了我们软件工程的讨论，但广义上这是 AGI围绕自我改进的领域，从改进的角度来看这是有意义的，但从安全的角度来看显然也是如此。所以我，我不知道什么时候会发生，但我确实认为，根据某种定义，你可以说它已经在发生了，因为硅谷的每个工程师都已经在使用编码Agent和像光标这样的平台来帮助他们编码，所以它已经在做出贡献了，我想，随着编码助手将来去找编码Agent，大多数硅谷的工程师会在早上出现。

主持人：这有点像特斯拉的辅助驾驶和自动驾驶之间的区别？

布雷特·泰勒：是的。比如，在什么时候我们会从我是副驾驶转变为我什么都不用做。我的意思是，这个问题有很多细微之处需要回答。我不确定是否要回答，因为我不确定你是否一定想这样做，我认为对于某些软件应用程序来说这很重要，但是当我们提出时，你知道我们正在谈论积极的软件开发人员必须对他们生产的软件负责。这意味着如果你正在做一些简单的事情，比如软件即服务应用程序，它是安全的，它是可靠的，它的功能按照预期工作，对于像这样有意义的事情，一个有点自主的Agent，它有适当的护栏吗？真的按照操作员的意图运行了吗？是否有适当的安全措施？

所以，我不确定是否真的存在一个系统让你愿意打开开关然后去喝咖啡。但我确实认为，关于这些更广泛的安全问题，当你考虑更先进的模型时，我们不仅需要开发越来越先进的安全措施和安全带，还需要使用人工智能来监督人工智能之类的东西。因此，这部分，也许董事会的同事 Ziko Coulter可能更适合讨论一些技术问题，但要达到这一点有很多先决条件，我不确定这是否仅仅是技术的可用性，因为归根结底，我们要对我们生产的系统的安全性负责，而不仅仅是像每个工程师那样开放，这是一个不应该改变的原则。

主持人：这意味着什么？就像当我们说安全和人工智能时，这似乎总体上很模糊，每个人对它的解释都大相径庭，比如你如何看待这个问题，你如何看待这个世界，假设我们在美国监管安全，而另一个国家不监管安全。这对它的动态有何影响？

布雷特·泰勒：我会广泛地回答，然后深入探讨监管问题。所以我真的很喜欢OpenAI 的使命，那就是确保AGI 造福全人类，而不仅仅是为了安全。我相信这是有意为之，虽然显然这个使命是在我到来之前创建的，因为它既与安全有关，也不是一种伪善的优先，不造成伤害，如果我们创造了不安全的东西，就不可能可信地实现这个使命。所以这是任务中最重要的部分。但还有很多其他方面可以造福人类。它是普遍可访问的吗？是否存在数字鸿沟，有些人可以使用AGI，而有些人则不能？同样，你可能会争辩说，我们是否正在最大化利益并最小化弊端？

显然，人工智能会颠覆一些工作，但它也可以使医疗保健教育专业知识的获取更加民主化。所以当我思考使命时，它从安全开始，但我实际上喜欢更广泛地思考它，因为我认为归根结底，造福人类才是使命。安全是先决条件，但这几乎就像我所说的希伯拉义誓词的类比。医生的职责就是治愈你的疾病，首先，不伤害你，然后治愈你。而一个没有对你造成伤害，但没有治愈你的医生也不是好医生。所以，我真的喜欢从整体上思考。Sam可能在这里有一个更完整的答案，但总的来说，我认为代表 AGI 的系统是否符合创造它的人的意图以及操作它的人的意图。这样它就能按照我们的意愿运行，它是一个造福人类的工具，是一个我们正在积极使用的工具，可以影响我们想要的结果。

这就是我对安全的看法。它可以是有意义的事物，例如错位，也可以是更微妙的事物，例如意想不到的后果。我认为后者可能也是从智力和道德角度来看非常有趣的领域。

基础模型、前沿模型、开源模型

主持人：然后真正让我感到困惑的是 Facebook（Meta）。扎克伯格非常聪明，所以我不认为他会花费数千亿美元来开发一个免费模型并将其赠送给社会。从资本回报率和投资回报率的角度，你如何看待这一点？

布雷特·泰勒：考虑到建立前沿模型所需的资本支出，这是一个非常复杂的业务。但让我先从几个有用的术语定义开始。大多数大型语言模型我称之为基础模型，我喜欢“基础”这个词，因为我认为它将成为未来大多数智能系统的基础。大多数构建现代模型的人，特别是涉及语言、图像或音频的模型，不应该从头开始构建模型。他们应该选择一个基础模型。 要么直接使用，要么进行微调。 所以它在很多方面都是真正基础性的。同样，大多数人也不再构建自己的服务器。他们从一家云基础设施提供商那里租赁这些设备。我认为基础模型将由拥有大量资本支出的公司进行训练，并由拥有广泛用例的广泛客户租用。这就像数据中心建设者拥有大量数据中心一样，使他们能够拥有建设更多数据中心的资本规模。我认为，构建大型集群来进行训练和类似的事情也大体上是同样的道理。

基础模型与前沿模型有些不同。前沿模型这个术语是里德霍夫曼 (Reed Hoffman) 提出的，但我可能记错了，但我就是从那里听说这个术语的。这些模型通常类似于一两个明显处于领先地位的模型，例如来自OpenAI的O3。 这些前沿模型是由那些试图构建造福人类的通用人工智能的实验室所构建的。如果你正在决定是否要构建基础模型以及围绕该模型建立的商业模式，那么这与我要追求的 AGI 是非常不同的。因为如果你真的追求 AGI，那么答案只有一个，那就是构建、训练并转向下一个前沿，因为如果你真的能构建出AGI 的东西，那么经济价值就会非常大。但如果你预先训练一个第四好的基础模型，那将花费你很多钱，而且这项投资的回报可能是相当值得怀疑的，因为为什么要使用你的第四好大型语言模型，而不是前沿模型或开源模型，对于Meta来说是这样的。

因此，我们现在可能有太多人在构建模型，实际上已经有一些公司被并入亚马逊、微软和其他公司，但我确实认为它会有点像云基础设施业务，其中极少数拥有非常大资本支出预算的公司负责建设和运营这些数据中心。然后开发人员和消费者将使用聊天 GPT 之类的东西。作为消费者或开发者，你将在云中获得许可并租用其中一种模型。

它将如何发挥作用是一个非常好的问题。我听到一位投资者谈论这些是有史以来升值速度最快的资产。如果你看看像OpenAI 这样的公司的收入规模，以及我读过的有关 Anthropic 等地方的信息，更不用说微软和亚马逊了，这也是相当不可思议的。因此，如果你是其中一家公司，你就不能袖手旁观，任由世界发生变化。 但就我个人而言，我很难为一家声称要进行预训练的初创公司提供资金。我真的不知道你在这个市场上的差异化是什么，我认为你已经看到很多这样的公司在整合，因为他们拥有制药公司的成本结构，但没有商业模式。

主持人：但这就是它，就像 OpenAI 有一个围绕收入模式的收入模式，微软有一个围绕他们的人工智能投资的收入模式，亚马逊有一个围绕人工智能的收入模式，他们让其他人通过 AWS 为其付费，然后从消费者的角度来看，他们在亚马逊也获得了它的优势，以及数以百万计的项目。贝佐斯上周接受了一次采访。他说，亚马逊的每个项目基本上都包含人工智能组件。另一方面，Facebook 已经花了很多钱，而且还有无限的资金可以投入，但他们没有专门围绕人工智能的收入模式。显然，使用不同的模型会更便宜，但这可能需要泄露数据，或者就像我只是想从扎克伯格的角度来解决这个问题。

布雷特·泰勒：我真的会相信扎克伯格，你知道他写的那篇关于开源的文章，我认为写得很好，鼓励人们阅读，我认为这是他的策略，如果你看看 Facebook，这家公司一直非常拥抱开源，如果我看看非常流行的东西，从 React 到现在的llama 模型，这一直是他们吸引开发者围绕他们的生态系统的战略的重要组成部分，扎克伯格在那里阐述了一些战略，我相信其中有商品化的元素，你的赞美，但我也认为如果你可以吸引开发人员关注模型，那么你就有优势了。

我并不是内部人士，所以我对此没有真正的看法，除了我实际上认为这真的很棒，完全有不同的参与者以不同的动机投入如此多的资金，我认为这确实促进了将这些神奇的工具带给社会的事业，但是很多变化。如果你看看GPT4 mini 的价格，你就会知道它的质量比两年前最高质量的型号高得多，而且便宜得多。我还没有做过计算，但使用它可能比托管任何开源模型更便宜。因此，即使存在开源模型，它也并不是免费的。推理需要花钱，所以这里有很多复杂性，实际上我的电子邮件甚至相对接近某些东西，我不知道事情会如何发展。但是你可以和一个聪明的工程师交谈，他们会告诉你，哦是的，如果你建立自己的服务器，你花费的钱会比从亚马逊网络服务或 Azure 租用它们要少。从绝对意义上来说，这确实是正确的，但却忽略了一个事实：你是否希望有人加入你的团队建设服务器？事实上，如果你改变你的服务工作方式，你需要一个不同的SKU，就像你突然进行培训，你需要 Nvidia，现在你突然构建了这样的服务器，这种资产就毫无价值了。

所以，我认为对于很多这样的模型来说，开源的存在非常重要，我真的很感激。我还认为 AR 的经济学相当复杂，因为硬件非常独特。服务成本要高得多。像蒸馏这样的技术确实改变了模型的经济性，无论它是否是开源的，或者托管和租赁的。所以我认为从广义上讲，对于开发人员来说，现在是一个令人惊叹的时刻，因为你有一个非常广泛的选项菜单，我实际上认为它就像在云计算中一样，你最终会得到价格性能质量的权衡，对于任何给定的工程挑战，他们会有不同的答案，这是合适的，有些人使用开源 Kafka，有些人使用 Confluent，很棒，你知道这就是这些东西的工作方式。

主持人：所以你不认为 AGI 会像赢家通吃一样吗？你认为将会有多个选项，无论 AGI 的定义是什么？

布雷特·泰勒：首先，我认为 OpenAI将在其中发挥巨大作用，因为我认为 OpenAI 将继续引领这项技术，而且聊天 GPT 已经成为大多数消费者的 AI 代名词，但更重要的是，它是当今大多数人访问 AI 的方式。 那么有趣的事情之一是 AGI 是什么？我们讨论了关于定义的意见，但另一个问题是如何使用它，比如包装是什么，一些情报只是包装方面，还有一些情报将仅仅是结果它的结果，比如发现一种新药，这将是非凡的，希望我们可以治愈一些疾病，但其他的只是你作为个人如何使用它，你知道我认识的大多数人，如果他们签署部门租约，都会把它放入聊天 GPT 中以获得法律意见。 如果你从医生那里得到实验室结果，你可以就聊天 GPT 获得第二意见。

克莱和我一直使用O1 专业模式来批评我们在 Sierra 的策略。所以对我来说，ChatGPT的非凡之处在于，你知道这个古怪的名为研究预览的功能，它已经成为 AI 的代名词，我确实认为它将成为AGI 生产的交付机制。不仅仅是因为OpenAI 拥有众多研究人员，还因为它对个人具有惊人的实用性，我认为这真的很棒，因为我不知道如果我们三年前进行这次对话并且谈论通用人工智能，这是否会很明显。我不确定我们是否能想象出如此简单的东西，比如一种形式因素，为了吸收它，你只需和它说话。所以这很棒，特别是当我想到 OpenAI 的使命时，那就是确保 AGI 造福人类。多么简单易用的外形啊，它有免费层级，这真是一种造福人类的绝妙方法。所以，我真的认为这对于我们社会对AGI 的定义至关重要。

Sierra的商业策略

主持人：你提到在 Sierra 使用它来批评你的商业策略。你对其他人错过的提示了解多少？你必须有最好的提示，你会往里面放些什么？”

布雷特·泰勒：我经常使用速度较慢的推理模型，首先会使用速度较快的模型GPT-4o来完善我的提示。所以假期期间部分原因是我在思考软件工程的未来。我一生中编写过很多编译器。我已经写得足够多了，你知道这对我来说很容易。所以我决定看看我是否可以使用 O1 专业模式，生成端到端的编译器前端，解析语法检查语义正确性，生成中间表示，然后使用 LVM，这是一种非常流行的编译器集合实际上你知道运行这一切，我会花很多时间在 4O上进行迭代，以改进并使我所寻找的东西更完整、更具体，然后我会把它放到一个专业模式中，去喝咖啡，你知道回来拿它。

我不确定这是否是一种可行的技术，但它真的很有趣，因为我确实认为本着人工智能解决更多问题的精神，拥有一个更低的延迟，更简单的模型，有助于从本质上进行改进，我喜欢把它想象成一个产品经理，你问一个工程师该做什么。你的产品需求文档是否足够完整和具体？等待有时会比较慢，所以我喜欢分阶段进行。这就是我的旅行。在某些时候，可能有来自 OpenAI 的人听到后会翻白眼，但那只是，我可以和OpenAI 的谁谈谈，他们就像提示忍者一样？

主持人：我对此非常好奇，因为我最近确实开始使用Open AI 或聊天 GPT，我想如果你愿意这么称呼它的话。我一直在使用聊天 GPT 来为我写提示。我想完成一个优秀的提示是什么样的？然后我将复制粘贴该提示并将其返回到系统中。我想知道我在这里错过了什么。

布雷特·泰勒：就像这是一种很好的技术。我的意思是有很多这样的技术。就像自我反省是一种技巧，你有一个模型观察和批评，你知道一个决定就像一个思路链。总的来说，自我反省机制我认为是一种非常有效的技术。在 Sierra我们帮助公司构建面向客户的AI Agent。 所以，如果你正在设置Sonos 扬声器，你现在就可以与AI 聊天。 如果你是 SiriusXM 订阅者，你可以与 Harmony 聊天，它是他们的 AI，可以管理你的帐户。我们使用所有这些技巧，自我反省来检测幻觉或决策之类的事情，为更复杂的任务生成思路链，以确保你在重要的技巧中投入尽可能多的计算和认知负荷。 所以，我们有一个完整的行业，致力于研究如何从这些模型中实现稳健性和精确度。 所以，这真的很有趣，但变化很快。假设性问题。

主持人：你被雇佣来领导或指导一个想要成为人工智能超级大国的国家。你会采取什么样的措施？你认为什么样的政策有助于实现这一目标？你将如何吸引来自世界各地的投资到该国？比如，你如何从第一性原理开始建立一个国家，它是什么样子的？关键变量是什么？

布雷特·泰勒：我的意思是这绝对超出了我的专业领域，但我想说现代人工智能的关键要素之一是计算。这是一个直到最近才成为名词的名词，但现在compute 是一个名词。我确实认为这是政策制定者可以参与的一个领域，因为它涉及很多涉及联邦和地方政府的事情，比如电力、土地，然后同样吸引巨额资金来资助房地产购买计算设备，然后运营数据中心。 而且这些数据中心也确实有巨大的电力需求。

然后你知道它吸引了合适的研究人员和研究实验室来利用这一点，但一般来说，哪里有计算，哪里就有研究实验室会找到你，所以我认为就是这样，然后还有很多国家安全影响，因为你知道这些模型非常敏感，至少前沿模型是如此，所以你知道你在地缘政治格局中的地位非常重要，比如研究实验室，美国政府是否会对在那里进行的培训和出口限制等感到满意？但我认为这在很大程度上取决于基础设施，因为它与政策有关，这是我的直觉。

我认为现在人工智能的很大一部分都受到基础设施的限制，而基础设施是很多这类东西的输入。你知道周围有很多吸引人才的东西，但是正如我所说的，你知道你看看研究实验室，实际上人并不多，但计算是目前有限的资源。这确实是一个思考这个问题的好方法。

主持人：在什么时候我们会到达这个临界点，我们现在可能正处于这个临界点，而且它正在一些地方发生，但是什么时候我们才能开始解决人类无法解决的问题？

布雷特·泰勒：我只是希望很快。我其中一个模型，引入了一个非常长的上下文窗口，周末有很多人在 X 上提交他们的论文，就像研究生院的论文一样，它实际上是以令人惊讶的保真度对他们进行批评。我想我们可能已经掌握了正确的工具，但在接下来的几年里，我们肯定会讨论人工智能的概括意义，尤其是在科学领域，这些领域主要通过文本和数字技术来体现，比如数学可能是最适用的，没有什么能阻止人工智能真正擅长数学，它与现实世界并没有真正的接口，你不需要进行临床试验来验证某些事情是否正确。所以，我对此感到非常乐观。

这在理论物理等领域会非常有趣。应用型人才和理论型人才之间会继续存在分歧，但我认为那里可能会出现一些非常有趣的新想法，也许会发现一些与某些流行理论存在逻辑上的不一致，这种情况在过去几十年里已经发生过很多次了。我想我们很快就会到达那里。事实上，真正奇妙的是，我认识的大多数科学家实际上都喜欢做科学，他们对这些技术最为兴奋，而且他们已经在使用这些技术了，我认为这真的很棒，我希望我们能够看到更多的科学突破。我不是专家，但作为一名业余爱好者，我读过很多关于作为业余爱好者，最大的困扰就是科学进展的放缓过去几十年科学突破放缓的文章，有些理论认为这是因为我们要求研究生的专业化程度太高，诸如此类。

我希望通过人工智能实现专业知识的民主化获取，我个人认为它也会在很多方面使深度通才受益，因为你能够理解很多领域的相当多的东西，利用人工智能，知道在哪里促使人工智能去探索，并把这些领域整合在一起，这将开始将智力从非常深入的人转移到能够在很多不同领域之间协调智能以取得突破的人身上，我认为这对社会非常有益，因为大多数科学突破都不是这样的，它们往往是从很多不同领域交叉融合非常重要的想法，我认为这会非常令人兴奋。

主持人：上下文窗口有多重要？

布雷特·泰勒：我认为这可能非常重要，特别是如果你可以给它一切并指示它做某事，它肯定会简化与人工智能的合作。所以假设它有效，你可以扩展一个上下文窗口，它可以张力可以分散得相当薄，答案的稳健性是值得怀疑的。所以，但假设我们只是为了争论，完美的稳健性，我认为它真的可以简化 AI 的界面，而不是所有的用途。我们正在讨论开源模型和 API。我在软件行业最感兴趣的不一定是一个具有提示和响应的大型语言模型，它是人工智能的产物，但实际上是使用大型语言模型作为基础设施的端到端封闭的松散系统。

事实上，我认为软件的很多价值在于，对于许多应用程序来说，上下文窗口大小可能很重要，但通常是因为你对正在执行的进程具有上下文意识。是的，上下文窗口不太重要。所以我认为这对智力来说很重要。我不记得是否有人，某位研究人员说过，你把所有的人类知识都放在上下文窗口中，然后让它发明下一个东西。这显然是一个简化的想法，但很有趣。但实际上我对大型语言模型的工业应用同样感到兴奋，有点像我的公司 Sierra。 如果你在零售商处退回一双鞋，这个过程相当复杂，这在退货期限内吗？ 你想在商店退货吗？你想发送它吗？ 你想打印二维码吗？它的编排和模型本身一样重要，实际上我认为，就像电脑一样，在很多事情中，电脑都是体验的一部分，但它并不像电脑那样表现出来，所以我对这些同样感到兴奋，我认为上下文窗口在这些应用中稍微不那么重要。

人工智能时代如何投资

主持人：如果我告诉你，你必须今天将你的 100% 净资产投入一家上市公司，而你至少 20 年内不能动用它，你会投资哪家公司？能跟我讲讲你的想法吗？

布雷特·泰勒：是的，这是一个很好的问题。首先，我会告诉你我对此的看法，但是我已经有几年没有担任上市公司首席执行官了，所以我很庆幸没有太关注这个问题。对于公开市场，特别是现在，显然估值已经上涨了很多，但因为这是一个长期问题，所以也许这并不重要，我想我现在要考虑的是，在未来 20 年内，哪些经济部分将从当前的人工智能浪潮中受益最多，这不是 20 年内投资的唯一方式，但肯定是我理解的一个领域，特别是你知道我提到过我听到泰勒科恩的一段谈话，那就是人工智能可能会使经济的不同部分受益，不成比例。

经济的某些部分本质上可以理解为智力是其增长的限制因素，而你可以吸收几乎任意水平的智力并产生几乎任意水平的增长。显然，所有这些都是有限制的，因为你改变经济的一部分，就会影响经济的其他部分。这就是泰勒在演讲中要表达的观点。但我可能会考虑这一点，因为我认为在 20 年的时间里，社会的某些部分将无法发生极其迅速的变化。 但有些部分可能会发生，而且可能是在目前情报是一种稀缺资源的领域。 然后我可能会尝试寻找那些将从中获益匪浅的公司。 我认为这就是为什么Nvidia 的股价现在如此之高，因为如果你想顺势而为，Nvidia可能会从对AI 的所有投资中受益。我不确定我是否会在 20 年内这样做，只是假设基础设施会发生变化。所以我没有一个明智的答案，但如果我们正在做这个练习，那就是我思考的方式。我喜欢这个。

我认为可能受益最大的两个领域是技术和金融。如果你能比竞争对手做出更好的财务决策，你就会获得超额的回报。这就是为什么在过去的 30年里，你知道机器学习，你知道对冲基金和金融服务机构的一切，从欺诈预防到真正的投资策略，都已经成为投资领域的一个领域软件领域，就像我们谈到的，我认为在某个时候，我们将我们将不再受到软件供应的限制，但我们现在还远远没有达到这个程度，你正在利用一些一直是稀缺资源的东西，那就是软件工程师，你正在使它不再稀缺，我认为因此，如果你想想这个行业能增长多少，我们不知道但我们在软件工程作为一种资源方面受到了很大的限制，谁知道在接下来的 20 年里，但我们会发现极限在哪里，但对我来说，从理智上讲，那里有大量的增长然后从广义上讲，我认为像处理信息这样的领域将真正受益匪浅。

所以，我认为在 20 年的时间里我会考虑的事情就像二阶和三阶效应，这就是为什么我没有一个明智的答案。 如果你要我把所有的钱都投入到某件事上，我会考虑一段时间。可能使用 O1Pro 有点帮助我。但是因为你最终可以在短期内产生大量的增长，但是如果每个人都这样做，它就会使整个行业商品化，诸如此类的事情。所以，在冰箱出现之前，冰块是非常昂贵的东西，而现在它是免费的，所以我认为，如果你谈论的是 20 年的时间范围，那么认真考虑这些问题是非常重要的。这就是为什么我没有提前考虑过这个问题，你可能在其他地方想得相当简单，但我想说软件和金融是我认为应该受益匪浅的领域。 我很喜欢这个回答。

如何平衡工作与家庭生活

主持人：你如何平衡照顾家庭和创业之间的关系？

布雷特·泰勒：再说一次，我工作很努力。我不，我真的很关心、热爱工作。有一件事是，生活中总是有权衡的。如果我不喜欢工作，我就不会做这么多。但我只是喜欢创造事物并喜欢产生影响。所以我喜欢早上起床，锻炼身体，去上班，然后与家人共度时光。

广义上讲，是诚实的。首先，我并不完美；其次，我没有很多爱好。我基本上是在工作，然后花时间陪伴家人。我们第一次谈话时，你在我的背景中看到了几把吉他。我已经有一段时间没有拿起这些东西了。我的意思是我确实偶尔会拿起它，但我不会投入任何时间在上面，我也不后悔。就像我对我们在 Sierra 所构建的一切充满热情一样。我对开业充满热情。我非常非常爱我的家人。我对此确实没有任何遗憾。但我基本上喜欢生活的全部内容就是你如何度过你的时间，而我的时间就是在工作和家人身上。这就是我的做法。 我不知道自己是否特别平衡，但我也不努力去做到这一点。 我真的很自豪并且我热爱我的工作。

主持人：你已经两次出售自己创办的公司，这对你对 Sierra 的看法有何影响？比如，你是否会想，我建造这个是为了出售它，或者你是否有不同的想法，认为这是我一生的事业。

布雷特·泰勒：我正在构建这个，但这不会发生。我绝对希望 Sierra 成为一家持久的公司和一家独立的公司，但说实话，每个公司的每位企业家都是这样开始的。所以，我真的很感谢 Facebook 和Salesforce 收购了我之前的公司，希望我能对这两家公司产生影响。但是你不会一开始就这么说，至少我一开始不会这么说，“嘿，我想成立一家公司来销售它。”有了Sierra，我们在市场上就拥有了巨大的吸引力。我确实认为Sierra是帮助消费品牌建立面向客户的人工智能Agent的领导者，我对此感到非常自豪。所以我真的看到了一条实现这一目标的道路，我和克莱开玩笑说，我想成为一个坐在门廊上的老人，抱怨Sierra的下一代领导人不再听我们的话。我希望这不仅能持久，而且比我活得更久。

实际上我们从未谈论过这个问题，但当谷歌从山景城的一栋建筑搬到它的第一个企业园区时，对我来说那真的很有趣。我们搬进了位于山景城海岸线大道附近的硅谷图形园区。SGI 是一家非常成功的公司，足以建造一个园区，而当我们这样做时，情况实际上相当尴尬。我们搬进了大约一半的校园。 他们仍然处于一半的水平，他们就像我们这个新兴公司一样，他们正在衰落，然后当 Facebook 搬出第二栋大楼时，我们在帕洛阿尔托的建筑稍微大一些，我记得我们是从惠普租来的，但当我们最终得到一个园区时，它来自 Sun Microsystems，该公司经历了甲骨文的收购，并且一直在走下坡路，这对我来说很有趣，因为 SGI 和 Sun 都在我有生之年起步并发展壮大，显然，我可能显然年轻一点，但在我的一生中，足以建立一个完整的企业园区，然后迅速衰落到将企业园区卖给一家新的软件公司。对我来说，两次搬进以前业主使用过的校园真是太有趣了。这非常清楚地提醒我们，科技公司并没有资格获得未来的成功。我认为我们现在可以通过人工智能看到这一点。

我认为人工智能将改变软件的格局，使其成为生产力工具，成为真正完成任务的Agent。这将帮助一些公司，为他们扩大现有的价值主张，但它将真正伤害其他公司，因为从本质上讲，基于座位的传统软件模型将很快并真正伤害他们。因此，当我思考建立一家能够持久发展的公司意味着什么时，在我看来，这是一项非常艰巨的任务，因为这不仅意味着要创造在未来 10 年内能够持久发展的产品，还意味着要建立一种公司文化，使公司能够真正发展以满足社会和技术不断变化的需求，而社会和技术的变化速度是历史上前所未有的。

这是有史以来最有趣的商业挑战之一，我认为这与文化和技术有很大关系，因为今天 Sierra 中的每一行代码可能 5年后都会完全不同，更不用说 30 年后了。这真的很令人兴奋。 所以当我想到它时，我就会获得很多能量，因为这非常困难，而且现在比以往任何时候都更难做一些持久的事情。 但我认为这是衡量一家公司的最终标准。

主持人：你提到了人工智能Agent。你如何定义这一点？什么是Agent？

布雷特·泰勒：我会更广泛地定义它，然后我会告诉你我们在 Sierra 是如何看待它的，这是一种更狭隘的观点。 Agent这个词来自于Agent机构，我认为它的意思是让软件有机会自主推理和做出决策。 我认为这对我来说就意味着一切。 我认为它有很多不同的应用。我认为这三个类别很有意义，我将以Sierra 类别作为结束，以便我可以更多地谈论它。

其中一类是个人Agent。所以我确实认为大多数人每天使用的人工智能Agent可能只有一个，但也可能有几个，这些Agent本质上是在增强他们作为个体的能力。你可以做一些书面的事情，例如帮助你分类电子邮件，帮助你安排假期。你要飞回埃德蒙顿，我们帮你安排行程。对于更复杂的事情，比如，我要去向老板要求升职。 比如，帮我进行角色扮演，我正在为这份工作准备简历。 帮我做这件事吧，我正在申请一份新工作。 帮我找到我还没有想到但应该申请的公司。 我认为这些药剂会非常强大。我认为这可能是一种很难打造的产品，因为当你考虑到每天与之互动的所有不同服务和人时，它几乎涵盖了一切。所以，它不需要概括很多才能对你有用。而且由于涉及个人隐私等问题，它必须运行良好才能获得你的信任。所以，我认为这还需要一段时间。 我认为将会有很多演示。 我认为它需要一段时间才能变得强大。

第二类个人Agent实际上在公司内部扮演着某种角色。因此，编码Agent、律师助理、分析师Agent。 我认为这些已经存在了。我提到了光标。 有一家名为 Harvey 的公司专门从事法律Agent业务。我确信分析师领域有很多这样的人。这些可以发挥作用，而且它们更窄。但它们确实具有商业价值，因为大多数公司都会雇用人员或顾问来做这些事情，比如分析供应链的合同，对吗？这是一种死记硬背的法律，但非常重要，而且人工智能可以很好地做到这一点。 所以我认为这就是为什么我认为这是经济领域中真正令人兴奋的部分，我对这个领域的所有初创企业都感到非常兴奋，因为你们本质上是将过去的人和软件的结合变成了真正可以解决问题的东西。通过缩小自主范围，你可以拥有更强大的护栏，甚至使用当前的模型实际上也可以实现足够有效以实现商业可行性的目标。 顺便说一下，它也改变了这些模型的总体可寻址市场。 就像我不知道 3 年前合法软件的总目标市场是多少，但它不可能那么大。 我无法像合法软件公司那样告诉你。 我可能应该。我就是想不出一个。但如果你想想我们花在律师身上的钱，那可就太多了。因此，你最终会扩大可寻址市场。

我们所处的领域有些特殊，第三类它是一个公司的品牌客户Agent。我之所以这么想，是因为有人可能会说我们在某种程度上是在帮助客户服务，这是一种角色，一种职责，但我认为它的范围比这更广泛，因为如果你想想一个网站，比如你的保险公司的网站，试着列出所有你可以在上面做的事情。你可以查看股票报价。你可以查找管理团队。你可以将他们的保险公司与所有竞争对手进行比较。你可以提出索赔。你可以购买捆绑你的房屋和汽车。你可以将你的家庭成员添加到你的保费中。你可以用它做无数的事情。基本上在过去的 30 年里，网站，一个公司的网站，已经成为了该公司所能做的一切事情的总和。我喜欢把它想象成公司的数字化实例。

这就是我们在Sierra帮助客户做的事情：帮助他们构建一个可以完成所有这些工作的对话式人工智能。所以，我们的大多数客户都是从客户服务开始的，这是一个很棒的应用程序，因为没有人喜欢等待，而且拥有一个可以完美访问信息、多语言且富有同情心的应用程序真是太棒了。但是，当你把对话式人工智能作为你的数字前门时，人们会对它说任何他们想说的话。我们现在正在进行产品发现，考虑购买，回到保险的例子。嘿，我有一个 15 岁的女儿。我真的很担心她长大之前的保费费用。告诉我我应该采用哪个计划。告诉我为什么你会比你的竞争对手更优秀。这是一个非常复杂的互动，对吧？ 这不是你可以制作一个网页来实现的功能。 不，但那是一次很棒的对话。 因此，我们真正希望的是，当你在野外遇到品牌Agent商时，我们希望 Sierra 成为为其提供支持的平台。

主持人：这非常重要，因为至少在加拿大有一个案例，加拿大航空公司的一名人工智能Agent人产生了丧亲保险的幻觉，对吗？ 但他们必须对Agent人所说的话负责。

布雷特·泰勒：是的。我的意思是，事实证明它是一个人工智能Agent。整个事件中没有人类参与。 好吧，你看，如果 ChatGPT产生了一些有关你的品牌的幻觉，那就是一回事了。如果你的 AI Agent对你的品牌产生了幻觉，那就另当别论了。因此，标准就越来越高了。因此，当这些Agent、护栏等属于你并且带有你的品牌时，它们的稳健性就变得更加重要。 所以这更难，但我也对此感到非常兴奋，因为这有点过于智力化，但我真的很喜欢这个框架。

如果你考虑现代网站或移动应用程序，那么本质上你已经创建了一个可供选择的功能目录。但其中具有Agent权的主要人物是该网站的创建者。比如，你可以做哪些选择？当你拥有一个代表你品牌的人工智能Agent时，该Agent机构就会向客户推销产品。他们可以用多种方式、任何他们想要的方式表达他们的问题。 所以这意味着你的客户体验从你决定放在网站上的枚举功能集转变为客户所要求的任何内容。然后你就知道你可以决定如何满足这些请求或者是否愿意满足这些请求。但我认为它确实会改变动态，真正赋予消费者权力，正如你所说的那样。我的意思是，加拿大航空公司的案件就是我们存在的原因。

如果公司试图自己构建这个，那么有很多方法可以让你搬起石头砸自己的脚。但特别是你的客户体验应该不应该局限于一种型号，更不用说当前这一代型号了。因此，通过Sierra，你可以以一种脱离所有技术的方式定义你的客户体验，它可以是聊天，也可以是电话呼叫。它可以是所有这些东西，并且随着新模型和新技术的出现，我们的平台会变得更好，但你并不需要重新实现你的客户体验。 我认为这非常重要，因为你知道我们正在谈论过去两年发生的事情。你能想象，如果你是像 ADT 家庭安全这样的消费品牌，并且正在思考如何在所有这些情况下维护你的 AI Agent吗？这根本就站不住脚。 我的意思是这不是你作为 ADT 所做的事情。因此他们与我们合作构建他们的 AI Agent。

企业如何避免自满情绪

主持人：你如何避免自满情绪？就像许多这样的公司一样，也许并不局限于科技领域，但它们发展壮大，占据主导地位，然后它们就会放松警惕，这就为竞争对手打开了大门，其中一些公司中几乎存在着一种自然的熵，几乎到了官僚主义的程度，而官僚主义埋下了失败和竞争的种子。你怎样才能不断抵御这种威胁？

布雷特·泰勒：对于一家公司来说，这确实是一件具有挑战性的事情。我观察到有两件事表现为企业自满。一是官僚主义，官僚主义的根源往往是当出现问题时，公司会引入一个流程来解决它。而在 30 年的时间里，所有这些出于良好意图和理由而制定的流程最终却变成了一种官僚机器，许多规则和流程的原因往往很少被记住组织，甚至很少记得制定许多规则和流程的原因。但它会产生这种自然的惯性。有时候这种惯性可能是件好事。就像如果你最终选择了你，你肯定会有这样的故事：高管们进来并准备好，发射，瞄准，新的战略却遭遇巨大的适得其反的结果。但通常这意味着面对技术变革或新的竞争对手，你无法快速采取行动来应对。

第二件更微妙的事情是，随着公司规模的扩大，其内部叙述往往比来自客户的真相更有力。我记得有一次，在智能手机大战达到顶峰的时候，我去微软园区拜访一位朋友，我在西雅图塔科马机场下了飞机，开车去了雷德蒙德，走进园区，突然间我看到每个人都在使用 Windows 手机。 我认为这肯定是一种要求，或者是正式的或社交性的，如果你使用其他东西，那你肯定是不酷的。从我当时的角度来看，这场战争已经失败了，这绝对是苹果和谷歌在 iOS 和 Android 上的双雄之争。我记得我坐在大厅里等我的朋友来接我通过安检。我发表的评论并不是对抗性评论，而是对微软的某个人发表的评论。我当时想，你知道类似的问题吗？你必须使用 Windows 手机吗？我只是有点好奇，然后我得到了一个非常大胆的答案，那就是我们会赢，我们会占领智能手机市场，我当时想，你知道我什么也没说，因为这有点社交尴尬，你不像四年前那样输了，但是有一些事情在那里，有一个过程。

主持人：有些事情正在发生，阻止你很好地实现现实。

布雷特·泰勒：如果你仔细想想，如果你曾经在一家大公司工作过，当你在一家小公司工作时，你关心你的客户和竞争对手，你会感受到路上的每一个坎坷。当你担任某个公司的初级副总裁时，你的级别比首席执行官低八个级别，并且你有一套目标和结果，那么你可能会集中精力，因为我想从初级副总裁晋升为高级副总裁。对我来说，这就是成功。最终你会对内心世界产生短视的关注。同样，你的孩子也会关注高中的社会动态，而不是外面的世界。顺便说一句，这可能是合理的，因为，他们的社交生活可能更多地是由他们高中的 10000 名孩子决定的，而不是外面的所有事物。但这就是人们在这些大地方的生活。

你最终会发现，如果你有一个非常资深的产品主管，他说我们的这个竞争对手说他们更快，但是我们的下一个版本要好得多，然后每个人都突然说Windows 手机会赢。每个人都这么说，而且你也确实相信，因为你遇到的每个人都这么说，你最终会通过这个视角去反思顾客的轶事，最终会得到这种现实扭曲场，这种扭曲场是由公司内部存在的这种短视的叙事总和所表现出来的。有趣的是，一种文化能够相信某种东西，这实际上是一种文化的强大力量，但它也可以导致这种情况。

所以我认为，官僚主义和不准确的叙述是公司倒闭的原因。看看世界上的黑莓手机或抛掷物，或者你知道在那里你真的可以嗯你知道当飞机坠毁时讲述你不是的故事，然后类似于我所说的文化，你仍然可以像坠毁飞机后面的人一样，问我什么时候才能晋升为高级副总裁，你会像你知道的那样，这就是我的意思是，这就像我已经看过一百次了。所以我认为这实际上取决于领导力，我认为大多数伟大公司所拥有的一个特质就是他们非常关注客户。我认为自由市场不会说谎。

因此，我认为对于任何持久的文化来说，尤其是在像软件这样快速变化的行业中，最重要的事情之一是你的员工与客户的距离有多近，以及客户的直接声音在你的决策中占多大比重，这是我认为你需要不断努力的事情，因为你知道员工编号30462 的人，你知道他或她实际上是如何直接听取客户的意见的，这实际上不是一个简单的问题。

然后我认为关于领导力的另一部分是，你知道我们谈论的官僚主义是流程是为了满足业务需求，而且，通常你们中层管理人员不会因为取消流程而获得赞誉。他们常常要为出错的事情承担责任。我认为这确实需要自上而下的领导来消除官僚主义。这并不总是令人舒服的，当公司取消控制范围，所有受影响的人都会像抗体一样，这是有充分理由的。

我的意思是，这很有道理，他们的生活受到了负面影响，或者不管是什么，但这几乎必须来自高层，因为你需要提供空中掩护，几乎肯定会出问题，顺便说一下，我的意思是，流程通常存在是有原因的，但是当它们无休止地积累时，你最终会陷入官僚主义。

所以，这就是我经常提到的两件事，当你进入一家真正官僚主义的公司时，你就能闻到它们的味道，不准确的故事叙述，重过程轻结果，它们会吸走你的能量，你能感觉到。

主持人：这是一个很好的答案。我们总是以同一个问题来结束这些采访，那就是对你来说什么是成功？

布雷特·泰勒：对我来说，如何在工作中与家人共度时光，拥有一个幸福、健康的家庭，并能够与我的联合创始人克莱共度余生，将Sierra打造成一家经久不衰的公司。对于我来说那就算成功了。

最后，你可以一键传送访谈原视频：https://www.youtube.com/watch?v=XEz-NXTJv3g&t=2s


来源：36kr