黄仁勋万字答问实录：AI的下一个浪潮是什么？(5)

　　记者：我想知道您对像Groq这样的AI芯片初创公司有什么评论，他们在您的主题演讲后发了一条推文说，“我们仍然更快”。

来源：X平台

　　黄仁勋：听起来很气人。我对此并不是很了解，无法做出聪明的评论。我确实认为令牌生成是一个非常困难的问题，如果你想为每个模型生成令牌，每个模型都需要它自己的特殊分区方式，因为transformer并不是所有模型的统称。它基于transformer技术，每个人的transformer在意图层这一点上是相关的，但它们都是相当不同的。其中一些不是前馈网络，使用这种叫做混合专家系统（mixture of experts）的东西，从一个专家到两个专家，还有一些是四个专家，它们如何分配工作以及如何路由信息，从一个专家送到另一个专家，都是不同的。

　　因此，每一个模型都需要非常特殊的优化。如果计算机太脆弱，就是说它遭设计来做一些非常究竟的事情，并且需要非常究竟的输入，它就是一个可配置的计算机，而不是一个可编程的计算机。这没什么问题，有适合它的地方。但它不允许你从软件创新的速度中受益。CPU的奇迹之所以不能遭低估的原因。CPU之所以一直是CPU，并且这么多年来一直克服了PC主板上的这些需要配置的东西，有一个非常简单的原因，因为CPU是可编程的。软件工程师的天才可以通过CPU实现。如果你把它固定在芯片中，那么你就切断了软件工程师的才华。

　　英伟达找到的方法是同时受益于两者：一种非常专门的计算形式，平行计算（parallel computing），基于大规模线程流基础的计算模型，对延迟的容忍，还有一些关于英伟达处理器的独特属性，使其变得非常高效，而在另一方面，它也是可编程的。如果你们注意到的话，一直以来只有一个架构一直存在，经过所有其他的那些网络、resnets（深度残差网络）、NNs（神经网络）、强化模型，最终是transformer。有许多类型的transformer，现在出现了transformer与状态空间之间的融合，以及人们处理上下文和记忆的方式，这些架构都在发生疯狂的变化。

　　所以，我们能让一个模型工作好是很重要的。这是一个重要的观察。有人做到这一点真的很棒，但我认为， AI最终不是一个芯片问题，它是一个软件问题，芯片的存在是为了促进软件的发展。我们的工作是促进下一个ChatGPT的发明，假如说是Llama 70B，我会非常、非常惊讶。

　　记者：从关于软件的回答接着说。你昨天宣布的一大部分是关于软件和NIMs的。增长的机会在哪里？从你昨天所做的宣布中，英伟达最大的增长机会在哪里？我有种感觉是这些微服务将会是你们的下一个大事件。关于软件的第二部分问题，你在几次采访中说过，因为未来可以通过说话来实现，所以没人需要再编码了。你在建议人们不应该学习那些技能吗？

　　黄仁勋：关于提问的第二部分，首先，我认为人们应该学习各种技能。拉小提琴看起来真的很难，还有杂耍，以及数学、代数、微积分、微分方程。我认为人们应该尽可能地学习许多技能，不是说编程对你成为一个成功的人不再是必要的。曾经有一段时间，世界上有许多伟大的人都在倡导每个人都必须学会编程，不然你会变得没用。我认为这是错误的。不是个人的工作去学习C++，不需要C++就能派上用场是计算机的工作。

　　这就是我想说的。而我觉得遭忽略的一点是，我相信AI已经为弥合技术鸿沟作出了最大的贡献。你不必成为C++程序员才能成功。现在你只需要成为一个能够提出提示的工程师，而谁不能成为一个能够给出提示的工程师呢？当我妻子和我交谈时，她就像是在给我给出提示一样，融易新媒体消息，而且效果非常好。我认为我们都需要学会如何给AI提示，但这与人们学习如何指导队友并没有什么不同。取决于你想要做的工作，你所寻求的结果的质量，是在寻求更多的想象力还是你想要更加究竟的结果，你都会以不同的方式来提示一个人。