对话前图森未来CEO侯晓迪：大模型催快的自动驾驶与搅局的马斯克(4)

所以在我看来的话，首先模型学习效率的提升是一个主旋律，在这个主旋律下，当到达了一个阈值以后，它进入到公众视野，大家就开始说这个事情变得很厉害，它可能突然能改变世界，但是从学术角度看的话，它是一系列的小创新叠加起来产生到今天这样一个效果。

当然我相信很多人会谈Scaling Law，但是这不是今天才发现的，任何非参数模型都有Scaling Law。10 年前我们谈 Kernel Method，谈非参数学习，任何非参数学习里面你都可以说我们的参数量更大，我的学习效果就是更好，这是一个公认的事情，所以我觉得它只是陈述了一个必然现象，但是这个必然现象不应该是我们认为的唯一福音。

《硅谷101》：那么现在更大的模型出来了，它有在一些方向上表现出更好的效果，在这个过程中，你觉得已经训练出来的这些技术有没有可以用到自动驾驶的？因为你的研发分很多个环节，有没有哪个环节能够用到大模型，让它变得更好的？

侯晓迪：全部环节都能用上。首先我们把大模型打散，不要把大模型当成是一块大石头，大模型可能是一把沙子，它里边有成千上万的小创新。这里边几乎所有的小创新如果能够择其善者，它一定能全方位地提升一个公司的科技竞争力。

举一个究竟一点的例子，比如预训练这件事，对于大模型来讲，可能有100 篇 paper 在讲它在预训练过程中的各种奇迹淫巧。那传统的范式是，我先招一个标定团队，标定 1000 万张照片，再把这 1000 万张照片放到 Deep Learning 里边，训练出一个结果来，然后完成一个神经网络的冷启动过程。而当这些paper中的各种奇迹淫巧都叠加起来以后你会发现，好像我并不需要用传统的范式了，现在我可以有各种花式的方法降低我的标定成本，提升我对于未标定数据的消化能力。最终使得整体的开发成本降低。

我们并不是应用了大模型，而是应用了比如100个奇迹淫巧中的36个，用上了这些小窍门，我们的冷启动问题就非常低成本高效率的解决了。

《硅谷101》：所以我理解其实在整个过程里面，你们不仅仅只是用模型的结果或者接口，而是你们会去学他的研究方法，然后看他的研究方法能够从根本上去改变哪些问题。

侯晓迪：谁也不会直接用别人的模型，就你一定得自己搞自己的模型。2012年以后大家都在用神经网络，那我们也在用神经网络，但肯定用的是自家的神经网络，你怎么去训练呢？训练的过程里边有特别多的门道，你怎么把预训练的数据准备好、你怎么训练、要买多少张GPU、怎么做能够让 training 变得更有效率……这些所有的东西都是创新的一部分。在我看来，新的时代就是在整个行业生命周期的各个部分都赋予了我们新的提升效率的手段和新的思路。

《硅谷101》：你觉得在你的管理经验上对你启发最大的人或者事是什么？

侯晓迪：一个是我早期特别喜欢Andy Grove的两本书，一本是《Only the Paranoid Survive》，但那本书我觉得它有太强的时代背景，但是另外一本书时代性没有那么强，换句话说，它过了这么多年仍然适用，叫做《High Output Management》。这个书其实就是着眼于作为一个管理者需要做的事情，这可能是在 2022 年以前，我觉得对我影响最大的一个理念或者一套系统。

之后我觉得对我影响更大的是曾鸣教授的一些言论和他的一些公开课。其实我觉得作为一个创业者，不要只去想下一轮融资的时候，我要把自己打扮成什么样子，曾教授的话叫做“看十年，想三年，做一年”。如果我们的战略永远是为了下一轮融资怎么活下来，那太没理想了。我们需要想的是，如果要做一个能代表十年二十年的业务，我们应该怎么去设计一条路径，使得我今天做的事情在五年以后仍然是有效果的？

我觉得很多时候创业者是觉得一个项目喜欢就去做，但是很多时候这是停留在直觉上，而直觉是会因为喜怒哀乐改变的，比如说现在这一轮融资压力好大呀，那公司是不是应该朝着这个方向走一走？这种时候你的直觉就遭恐惧所支配，动作就可能变形，虽然这次融资故事讲出来了，融易新媒体消息，但是当包袱背在身上，你就很难卸掉了。