前谷歌工程师创业造AI芯片 称要比英伟达好10倍
英伟达在AI芯片市场的主导地位激发了其他公司自主设计芯片的决心。尽管从头开始设计芯片充满挑战，耗时多年且成本高昂，通常以失败告终，但人工智能的巨大潜力驱使业界人士勇敢尝试。
在这一背景下，两位前谷歌工程师共同创立了MatX。他们利用在谷歌的经验，识别出现有人工智能芯片的局限性，并致力于开发更高效、成本更低的新型芯片，旨在提高大语言模型的训练和运行效率。MatX信心十足地预测，其芯片的性能将至少比英伟达的GPU好十倍。目前该公司已成功筹集了2500万美元的资金。
人工智能时代的到来改变了风险投资对芯片行业的态度，尽管面临英伟达等巨头也在快速发展，但市场对于专门针对大语言模型设计的芯片仍然充满期待。
以下是翻译内容
大约25年后，感觉硅谷终于又成了“硅”谷。
英伟达在驱动人工智能软件的芯片市场上已成绝对主导，促使其他公司决定自行设计芯片。历史告诉我们，这通常是充满灾难的尝试。从头开始设计芯片需要耗费数年时间和数亿美元，而且大多数尝试以失败告终。然而，人工智能的巨大前景促使人们认为这是一次必须的尝试。
迈克·冈特（Mike Gunter）和莱纳·波普（Reiner Pope）就是这样的两个探索者。他们创立了MatX公司，旨在设计专为处理大语言模型所需数据而优化的芯片。大语言模型，如OpenAI的ChatGPT和谷歌的Gemini，是多种人工智能应用的基础，它们需要大量昂贵的芯片来运行。如果有公司能制造出更便宜、处理速度更快且更适合人工智能的芯片，那么它将在人工智能软件不断扩张的世界中占据极为有利的地位。
冈特和波普此前在Alphabet旗下的谷歌工作，冈特负责设计运行人工智能软件的硬件芯片，而波普则负责编写人工智能软件。多年来，谷歌一直致力于开发TPU（tensor processing unit，张量处理单元），一种专为人工智能设计的芯片。然而，根据MatX高管的说法，这些芯片是在大语言模型普及之前设计的，对当前任务而言不够高效。“在谷歌，我们努力使大语言模型运行得更快，也取得了一些进展，但总是遇到困难，”波普表示，“在公司内部，有很多关于芯片改进的想法，很难只专注于大语言模型。这是我们选择离职的原因。”
英伟达在人工智能芯片市场的主导地位有些偶然。它最初生产的GPU芯片是为加速视频游戏和某些计算机设计任务而设计的。这些芯片擅长同时处理大量的小型任务，恰好适合运行人工智能软件，其性能大幅超过了英特尔等公司生产的其他类型的芯片。
英伟达在其GPU芯片上划分了资源区块，以适应广泛的计算任务，包括芯片内部的数据传输。这些设计决策似乎更倾向于满足以往计算时代的需求，而非当前人工智能的高速发展，从而在性能方面存在一定的权衡。MatX的创始人相信，在新的人工智能时代，这些额外的资源增加了不必要的成本和复杂性。相比之下，MatX采取了全新的设计方法，开发了只有一个大型处理核心的芯片，目的是尽可能快地完成乘法运算——这是大语言模型的主要任务。MatX全力以赴，坚信其芯片在训练大型语言模型和输出结果上至少能比英伟达的GPU高出十倍。“英伟达的产品非常强大，对大多数公司来说是正确的选择，”波普说，“但我们认为我们能做得更好。”
MatX已经筹集到2500万美元的资金，最新一轮融资由人工智能行业的投资人纳特·弗里德曼（Nat Friedman）和丹尼尔·格罗斯（Daniel Gross）领投。MatX位于加州山景城，距离硅谷的发源地——肖克利半导体实验室(Shockley Semiconductor Laboratory)仅几英里之遥。目前，几十名员工正致力于研发计划于明年推出的芯片。格罗斯表示：“MatX的创始人代表了人工智能领域的一股趋势，他们正在将一些大公司开发的最佳想法商业化，因为那些公司动作过慢，过于官僚化。”
如果人工智能软件继续沿着现有的发展路径，对于高成本的计算需求将会巨增。据估计，目前正在研究的每个模型的训练成本约为10亿美元，而未来模型的训练成本可能达到100亿美元。MatX预测，只要能够赢得OpenAI和Anthropic PBC等主要人工智能公司的青睐，它的业务将会蓬勃发展。“这些公司的经济模式与典型公司截然不同，”冈特说，“他们将所有资金都投入到计算资源上，而不是人力资源上。如果这一趋势不改变，他们最终会耗尽资金。”
在硅谷，芯片公司随处可见，曾经有几十家芯片初创公司，甚至计算机巨头如惠普、IBM和Sun Microsystems也生产自己的芯片。然而近年来，英特尔凭借其在个人电脑和服务器市场的主导地位击败了许多竞争对手，而三星和高通则主宰了智能手机芯片市场。这导致投资者转而避开芯片初创企业，认为相比软件公司，它们成本更高、周期更长、风险更大。MatX的投资人之一、芯片行业专家拉吉夫·赫马尼（Rajiv Khemani）回忆道：“大约在2014年左右，我曾拜访过一些风投公司，他们已经让所有懂芯片的合伙人离开了。”“我面前的人根本不懂我在说什么。”
然而，人工智能的崛起改变了风险和回报的平衡。亚马逊、谷歌和微软等资源雄厚的公司已经开始投资设计自己的芯片，专门用于执行人工智能任务。几年前，如Groq和Cerebras Systems这样的初创公司亮相，推出了一大批针对人工智能专用的芯片。但这些产品都是在大语言模型实现技术突破并开始主导人工智能领域之前设计的。这迫使初创公司必须适应人们对大语言模型的突然兴趣，并在飞速发展中调整自己的产品。MatX可能代表着又一波从头开始、专门开发大语言模型专用芯片的初创企业浪潮。
进入芯片行业的一大挑战是，设计和制造新芯片需要三到五年的时间。而在此期间，英伟达也不会停滞不前，它在本月刚刚发布了更快的GPU芯片。初创公司必须预测技术趋势和竞争对手的动向，而且不能犯任何可能导致生产延误的错误。软件公司通常需要重写代码才能在新的芯片上运行，这是一个成本高昂且耗时的过程，只有在能从这种变化中获得巨大收益时才会进行这样的转变。一个经验法则是，新芯片必须在性能上至少比前代产品好10倍，才能说服客户重写他们所有的代码。
格罗斯认为，我们目前仍处于构建支持人工智能成为主要计算形式的基础设施的初期阶段。“我认为，我们正处于一个芯片周期的早期阶段，与此相比，其他行业的发展将相形见绌。”如果格罗斯的看法正确，那几乎可以肯定地说，新的芯片巨头将会诞生。
更新于：8个月前
我要评论