谷歌创始人布林：当年发完Transformer论文，我们太不当回事了

tayun

机器之心报道

机器之心编辑部

现在的大学生该选什么专业？未来一百年的大学会是什么样子？业界 AI 如此强势，学界还能做什么？谷歌在过去二十多年里做对了什么，又有哪些遗憾？

在斯坦福大学工程学院百年庆典的收官活动上，谷歌联合创始人谢尔盖布林重返母校，与校长 Jonathan Levin 以及工程学院院长 Jennifer Widom 展开了一场对谈。

视频链接：https://mp.weixin.qq.com/s/ULgd7QcHLXfX8VGil6ATtQ

布林于 1993 年进入斯坦福工程学院，攻读计算机科学研究生。读研期间，他结识了拉里佩奇。两人共同开发了一种搜索算法，并于 1998 年创办了谷歌。

回顾谷歌的来时路，布林坦言 8 年前提出 Transformer 时，他们没有予以足够的重视，而且因为担心聊天机器人说蠢话而害怕将其展示给世人。但他同时认为，他们这些年也做了很多正确的事情，比如投资研发 TPU 并建立规模庞大的数据中心。

对于未来，布林也表达了一些自己的看法，比如认为大学未来可能不应该再限制于某个地理位置，学界未来应该投身更具探索性质的研究，材料等科研方向可能被低估了……

以下是这场对话内容的摘录。

Google 早期做对了什么？

学术基因、敢碰难题

校长：Google 已经是一家市值 4 万亿美元的公司，业务范围极其广泛。你们这些年肯定做了很多正确的决定。有没有什么是你们在创建 Google 初期就做对的事情？

布林：我觉得早期的话，Larry 一直非常有雄心。他现在也是。对你提出的每个计划，他几乎都会说「这不够有野心」。我们确实很早就有了非常宏大的使命宣言 —— 整合全球信息。我认为这是创办公司的一个很好的理念基础。

另外，我们创建了一家相当学术化的公司。我和 Larry 都是从博士项目出来的，当时很多创业公司是大学生创办的。我确实认为这会稍微改变你思考问题的方式。我们从早期就非常重视基础研发投入。

校长：我觉得有充分的理由说 Google 是过去 25 年全球最具创新力的公司。无论是产品创新，还是很多重大决策，比如收购 YouTube 发展视频业务、收购 DoubleClick 做广告、还有 Waymo。技术创新从一开始就很突出，现在做芯片也是。大公司保持高度创新是很难的，每个人都在这方面挣扎，但你们做到了。很多人认为你个人在这方面有很大影响。你是怎么思考培育创新文化的？

布林：部分原因就是敢于尝试。因为我们有学术根基，可能更倾向于尝试困难的事情。

进入过去十年左右，困难的事情变得越来越有价值。以 AI 为例，它所需的计算量、所需的高深数学，这些都是技术上深奥且具有挑战性的问题。命运的安排使得这些在当今世界变得重要。

曾经有一段时间，你可以做 pets.com，任何东西都可以加个.com。技术深度要求不高，懂点网络就行。现在我们招的人比我当时要合格得多。我当时算是偏数学的计算机专业，因为本科同时学了数学和计算机，这在我那届比较少见。但现在我们从斯坦福和其他顶级项目招的人，数学和计算机都很强，还有很多物理学家，因为物理学家必须做高深数学，而且他们的很多工作受限于计算能力，所以他们也需要计算技能。我觉得我们只是运气好，在那个方向上稍微早一点就确定了方向。

Transformer 论文发了

我们却没当回事

校长： 谈谈 AI 吧。每个人都在关注它。你回到 Google 从事这方面的工作。你们在很多方面都处于前沿，竞争非常激烈。投入 AI 基础设施的资本达到数千亿美元，单个公司层面都是这样。你怎么看当前 AI 领域的格局？

布林：我们确实在某些方面搞砸了 —— 我们投资不足，大约八年前发布 Transformer 论文时没有足够重视。我们没有太当回事，没有投资扩展计算规模。而且我们太害怕把它展示给用户，因为聊天机器人会说蠢话。OpenAI 抓住了机会，他们做得很好。这是非常聪明的洞察，而且是我们的人比如 Ilya 去那里做的这些事。

但我确实认为我们仍然受益于那段漫长的历史。我们在神经网络的研发上有很长的积累，可以追溯到 Google Brain。这也有点运气成分。雇到 Jeff Dean 不是运气 —— 能得到他我们很幸运 —— 但我们当时就有「深度技术很重要」的心态，所以我们雇了他。我们从 DEC（迪吉多）挖了很多人，因为他们当时有顶级研究实验室。Jeff 对神经网络很有热情，源于他大学时的实验。他 16 岁时就在做治疗第三世界疾病和研究神经网络之类的疯狂事情。他建立了整个团队。

当时在我负责的 Google X 部门，我让他做他想做的。他说「我们能区分猫和狗了」，我说「好吧，酷」。但你要信任你的技术人员。很快他们就开发出各种算法和神经网络，用于我们的一些搜索功能。然后有人提出了 Transformer，我们能做的事情越来越多。

所以我们有基础，有研发积累。确实有几年投资不足，没有足够重视。但我们当时也开发了芯片，TPU 大概有 12 年历史了。最初我们用 GPU，可能是最早使用 GPU 的公司之一，然后用 FPGA，然后开发自己的芯片，现在已经迭代了无数代。对深度技术的信任、获取更多计算能力、开发算法 —— 同时我们长期以来一直是计算的大投资者，数据中心规模很大。除了亚马逊 AWS，很少有公司有那种规模的数据中心、自己的半导体、深度学习算法等所有这些堆栈组件，能够在现代 AI 前沿竞争。

AI 会写代码了

还要学计算机吗？

校长：我们这里大约有 250 名学生，很多是本科生，相当多的人还没选专业，因为斯坦福给本科生很大的灵活性。几年前我们可以预测大量学生会选计算机科学作为专业。你是否建议他们继续选计算机科学？

布林：我选计算机科学是因为我对它有热情，所以对我来说是很自然的选择。你可以说我也很幸运，因为我正好在一个如此具有变革性的领域。我不会因为 AI 现在编程能力还不错就不选计算机科学。AI 在很多事情上都相当不错。编程之所以受关注是因为它有很大的市场价值，所以很多人追求它。而且更好的编程能带来更好的 AI，所以像我们这样的公司非常重视它。我们大量使用它来编程，甚至用于算法创意。

所以我不会因为 AI 擅长编程就转去学比较文学。说实话，AI 在比较文学方面可能更强。我无意冒犯比较文学专业的学生，但当 AI 写代码时，有时候会犯相当严重的错误。而在比较文学论文里写错一句话不会有那么严重的后果。所以 AI 做一些创意性的事情其实更容易。

未来一百年

大学还会是现在这个样子吗？

校长：今年是工程学院的百年纪念。如果你是院长，要启动学院的第二个百年，你会怎么思考？

布林：我想我会重新思考大学意味着什么。我知道这听起来有点烦人 —— 这是 Larry 会说的那种话，我会对他很恼火。但我们有这个地理上集中的东西，有建筑，有豪华的报告厅。但现实是，现在信息传播非常快。很多大学已经上线了开放课程，任何人都可以上网学习，可以和 AI 聊天。

那么拥有一所大学意味着什么？如果你想最大化影响力，限制在地理位置可能不会那么有效。当然，湾区是个特殊的地方。但我不知道在未来一个世纪，工程学院和大学的概念是否还会和以前一样。人们到处移动，远程工作，跨地域协作。这有点矛盾，因为我们正试图让人们回到办公室，我确实认为他们在一起工作效果更好，但那是在特定规模下。如果你有一百人在那边，他们不一定要和另外一百人在同一个地方。

我越来越看到一些个人创造新事物，不管有没有学位。虽然我们雇了很多学术明星，但我们也雇了大量没有学士学位的人，他们就是在某个奇怪的角落自己摸索出来的。我不认为我能神奇地给你新配方，但我觉得这种形式不太可能是未来一百年的模式。

大公司基础研究这么强

学术界还能做什么？

学生提问 1：Google 很大程度上源自您在学术界完成的 PageRank 研究。而在今天，越来越多的创新由工业界主导，您是否仍然认为「从学术到产业」的这条路径依然重要？如果重要，又该如何去强化它？

布林：说实话，我可能只能回答一句：我也不太确定。

我读研究生的时候，一个新想法从被提出，到真正具有商业价值，往往要经历几十年的时间。在这样的时间尺度下，学术研究是非常合理的：你有足够的自由，可以慢慢思考、申请经费、反复试验，一个问题可以研究二三十年，最后才慢慢「渗透」到产业里，可能是被大公司吸收，也可能变成一家创业公司。

但如果这个时间被大幅压缩呢？如果一个想法从出现到落地只需要几年，甚至更短，那这条路径是否还同样成立？我觉得这是一个值得重新思考的问题。

当然，有些事情仍然是有意义的。即便是在 AI 领域，我们也会持续关注斯坦福等高校的研究，偶尔招聘一些研究人员，或者展开合作。但很多情况下，你很难说这些工作一定 “必须” 在学术界先酝酿很长时间 —— 比如某种新的 attention 机制，可能在大学里实验两年，随后就被带进了工业界。但问题是，工业界本身也在做同样的事情。所以在这些方面，学术界的 “先行期” 未必有特别不可替代的优势。

也许在更激进、更底层的创新上，情况会不一样。比如全新的模型架构、全新的计算范式。这类方向，工业界虽然一旦决定投入就能扩展得非常快，但最初的探索，可能仍然更适合在学术环境中进行。

量子计算就是一个例子。这个想法在上世纪八十年代左右被提出，之后很长时间都停留在理论和实验室阶段。现在，一方面有很多公司在推进量子计算的工程化，另一方面，大学实验室仍在尝试各种完全不同的实现路径。这类方向正好处在学术和产业的边界上。

如果你提出了一种完全不同于主流路线的新方法 —— 比如既不是我们在做的超导量子比特，也不是很多初创公司在尝试的离子阱方案 —— 那它可能确实需要在大学里慢慢发酵几年。这类问题非常困难，也很冒险，放在学术环境中是合理的。但一旦你真的确信它是可行且有前景的，最终你大概率还是会把它推进到商业化阶段，以某种形式进入产业。所以，我很难给你一个明确、非黑即白的答案。

因为现在的头部科技公司，确实也在做大量基础研究，而且在 AI 领域，我们已经开始看到这些长期投入的回报。这意味着，学术与产业之间的分工比例正在发生变化。

但我仍然相信，有些研究 —— 那种需要十年甚至更久、以纯探索为主的研究 —— 产业界往往是不愿意承担的，因为它们的时间跨度实在太长，不符合「上市时间」的逻辑。而这些，可能仍然是学术界不可替代的价值所在。

Google Glass 的教训

别以为自己是下一个乔布斯

学生提问 2： 随着 AI 以前所未有的速度加速，像我这样年轻有抱负的创业者应该采取什么心态来避免重蹈覆辙？

布林：避免重蹈覆辙的心态？当你有很酷的新穿戴设备想法时，在做涉及跳伞和飞艇的炫酷特技之前，一定要把它完全打磨好。这是一个建议。

其实我喜欢我们当年在 Google Glass 上做的事情，但那是一个以前犯错的例子。我试图在它足够成熟之前过快商业化，在成本效益和消费者体验方面都没准备好。我有点操之过急，以为自己是下一个乔布斯，可以搞定这个东西。

我想说的是，每个人都以为自己是下一个乔布斯，我肯定犯过这个错误。但他是一个非常独特的人。所以我建议确保你的想法在足够长的时间里得到充分发展，然后才进入那个必须不断奔跑的阶段 —— 外部期望增加，开支增加，你必须在某个时间交付。你可能没有足够的时间做完所有需要做的事情。你会陷入一种期望滚雪球的状态，没有给自己足够的时间来处理。这是我会尽量避免的错误。

AI 的下一个前沿方向是什么？

学生提问 3：我们看到很多 AI 公司通过扩展数据和计算来改进大语言模型。一旦数据和计算都用尽了，你认为下一个方向是什么？会是新的架构，transformer 的替代品？还是更好的学习方法，比监督学习或强化学习更好的东西？

布林：你提到的这些方向 —— 新架构、新训练方法 —— 在我看来，其实早就已经比单纯扩算力、扩数据更重要了。

只是因为扩算力太显眼了：建数据中心、买芯片，再加上 OpenAI、Anthropic 关于 scaling law 的那些论文，很容易让人觉得一切进步都来自 scaling。但如果你仔细对比，会发现过去十年里，算法层面的进步，其实跑得比算力提升还快。

我读研时见过一张关于 N-body 问题的图 —— 就是引力系统里大量粒子相互作用的计算。从上世纪五十年代到九十年代，算力遵循摩尔定律暴涨，但真正让问题可解的，是算法改进，而且算法的进步幅度远远超过了算力增长。所以我认为，像我们这样的公司当然不会放弃站在算力前沿，但那更像是甜点。真正的主菜，还是算法上的突破。

院长：我也补充一句。对算力不够这件事，我们在大学里其实早就非常熟悉了。高校根本不可能拥有和工业界同量级的算力，差距非常明显。但这反而逼着我们去做另一类创新：在算力受限的情况下，如何把事情做好，如何用更少的资源做更多的事。这些研究我们已经做了很久，而且会持续做下去。

什么技术被严重低估了？

学生提问 4：你们认为哪种新兴技术的长期影响被严重低估了？

布林：显然我不能回答 AI—— 很难说它被低估，即便从某种意义上讲它可能仍然被低估，但它已经不算是「新兴」了。

很多人会提到量子计算，讨论它最终能带来什么。我个人也很支持量子计算相关的研究，但要说这是我最有把握的答案，其实也不是。这里面的不确定性太多了。

从计算理论上说，我们甚至都还不知道 P 是否不等于 NP。整个计算领域里，还有大量最基础的问题没有答案。而且量子算法通常只对非常特定、结构性很强的问题有效。所以这一方向我很看好，但要精准回答被低估，其实不太容易。

如果一定要说的话，我可能会把目光投向材料科学 —— 无论是 AI 还是量子计算，在材料领域的应用潜力都巨大。

如果我们能创造出性能全面提升的新材料，可能带来的变化几乎是无限的。

校长：我其实也在想材料科学这个方向，而且正因为你提到了被低估这个词。现在关于技术创新机会的讨论非常热烈，像聚变能源、量子计算这些方向，其实已经得到了相当多的关注，很难说它们被忽视了。AI 更不用说。但材料科学在我看来，确实是一个被低估的方向。此外，还有生物与健康领域 —— 尤其是分子科学层面的机会非常多，正在发生一场不小的革命，只是它们目前得到的关注度，明显不如 AI。

院长：我正好想说同样的事情。我能明显感觉到「聚光灯」在不同领域之间移动，而现在，聚光灯几乎全部打在了 AI 上。但在此之前，它曾经照在生物领域，而这束光不应该熄灭。合成生物学里正在发生很多非常令人兴奋的事情。所以我觉得，我们需要把这束聚光灯稍微拉宽一点。


来源：网易