史上最快芯片Etched Sohu到来：一张能顶20张英伟达H100

初生牛犊不怕虎。

一、Etched.ai对英伟达下了战书

英伟达最近真是一波未平一波又起，刚刚才扭转了三天股价下跌4300亿美元的势头，又被行业初创公司给盯上了，可谓是打江山容易，守江山难。

6月25日，Etched.ai公司宣布已完成1.2亿美元的融资，将向Nvidia最引以为傲的AI芯片设计发起挑战。

在当今这个由数据驱动的时代，人工智能（AI）芯片无疑站在了科技革命的前沿。它是智能算法的心脏，为机器学习、图像识别、自然语言处理等提供了强大的计算支持。

在这样的大背景下，三位哈佛辍学生Robert Wachen、Gavin Uberti和Chris Zhu，带着对技术的热爱和对创新的追求，投身于AI芯片行业，开启了他们的创业之旅——Etched。

图源：X（前Twitter）

其中，作为公司最早的两名创始人之一的Gavin Uberti，曾在OctoML和Xnor.ai担任要职，积累了丰富的行业知识和经验。

而另一位华裔创始人Chris Zhu，除了在哈佛大学担任过计算机科学的教学研究员外，还有在亚马逊等公司的实习经历，这些经历让他对技术的商业应用有了深刻的理解。

丰富的科技履历加上哈佛大学做背书的顶尖学习能力，让他们有了更高的眼界和更敏锐的意识，在2022年三人就打赌Transformer大模型将统治世界。

因此，他们将所有的精力都用来打造世界上第一个针对Transformer（即ChatGPT中的T）的专用芯片——Sohu。

谈到AI芯片，英伟达的名字是绕不开的话题。凭借其在图形处理单元（GPU）领域的深厚积累，英伟达在AI芯片市场占据了举足轻重的地位。

其产品不仅广泛应用于游戏和图形设计，更在AI训练和推理任务中展现出卓越的性能。

但正是这样，Etched放出的狠话，“就Transformer而言，Sohu是有史以来最快的芯片，没有任何芯片能与之匹敌”，才让他们的这次融资备受瞩目。

那么市面上有着如此多的AI模型，包括DLRM、Stable Diffusion等老牌强者，为什么Etched一定要做Transformer的专用芯片呢？

一张图片告诉你答案：

图源：Etched

在Transformer发力以前，许多公司都有着自己的大模型架构，而从GPT-2诞生开始一直到今天，所有大型科技公司（OpenAI、谷歌、亚马逊、微软、Facebook等）都开始使用Transformer模型。

Transformer由谷歌研究团队于2017年提出，它的功能强大、实用且利润丰厚。

市面上耳熟能详的OpenAI 的GPT系列、谷歌的PaLM、Facebook的LLaMa，甚至Tesla的FSD都是Transformer架构。

这证明了Chris Zhu等人确实有着先见之明，也让这场“赌局”的形势似乎变得明朗起来，因此他们对英伟达发出的挑战才会得到众多业内人士的关注。

随着Etched.ai技术的不断成熟，它有望成为AI芯片行业的一股不可小觑的新兴势力，并且能为行业的发展注入了新的活力。

不过，Transformer并不是不可替代，目前依然还有SSM、RWKV等多个新架构正在被研究，Etched表示：“一旦Transformer被任何新架构取代，我们的Sohu芯片将毫无用处，但如果我们猜对了，Sohu将改变世界！”

创始人Uberti则更有信心：“发明了一种比 Transformer 更好的新架构成本非常高，并且这种情况十年内只会发生一两次，就像半导体领域发生的那样：光刻技术、掩模版/晶圆尺寸和光刻胶成分的变化确实在不断优化，但变化速度非常缓慢。”

二、Sohu芯片强在哪里

要想知道Etched的信心从何而来，他们一直宣传的Sohu芯片就是关键。

在Etched看来，当前市场上流行的AI芯片，特别是英伟达的GPU，它们的芯片单位面积的计算能力 (TFLOPS) 几乎保持不变。

图源：Etched

也就是说，如今的AI显卡的能力提升，靠的是物理上的堆叠，比如NVIDIA的B200、AMD的MI300、Intel的Gaudi 3和亚马逊的Trainium2都是将两块芯片算作一张卡，来实现所谓的“双倍”性能，总给人一种力大砖飞的感觉。

而Etched.ai的Sohu芯片采用了尖端的4nm工艺技术，这一工艺使得芯片在单位面积上集成了更多的晶体管，从而极大地提升了芯片的计算密度和能效比，显著降低了能耗。

并且，Sohu芯片的核心优势在于其专为Transformer模型优化的设计，在Transformer被用来处理的自然语言处理和图像识别等方面拥有传统GPU无法比拟的计算速度。

根据Etched官方发布的数据，一台8 x Sohu服务器可以取代 160 个H100 GPU，一台8 x Sohu 服务器每秒可以处理超过500,000个Llama 70B令牌。

图源：Etched

与市场上的传统GPU相比，Sohu芯片展现出了其高吞吐量和低延迟特性。这些特性使得Sohu在AI模型的推理和训练任务中，拥有卓越的处理速度和能效。

这种性能上的优势，使得Sohu芯片在未来AI芯片市场中能够占据一个独特的位置，为那些寻求高性能、高效率AI解决方案的客户提供新的选择。

在这种背景下，Etched.ai被众多投资者所看好。

由Primary Venture Partners和Positive Sum Ventures等知名风险投资公司领投，公司自成立以来，已经完成了几轮融资，这一次1.2亿美元的融资还吸引了包括Peter Thiel、Github CEO Thomas Dohmke以及Coinbase前CTO Balaji Srinivasan在内的一系列知名天使投资者。

他们的加入进一步增强了Etched的信誉和市场影响力，也为公司的研发和市场推广提供了充足的资金支持。

值得一提的是，市场对Sohu芯片的预期非常高，目前Etched收到的预订单的数额已经达到了数千万美元，这对公司的创始人们来说无疑是一剂强心针。

Etched还在一篇文章中指出，当前AI芯片市场的需求已经达到前所未有的水平，Transformer的市场价值也从最开始不到5000万美元，到如今已超过50亿美元。

在创始人的透露下，Etched.ai的市场策略非常明确，公司专注于为那些对AI计算性能有极高要求的客户提供服务，包括大型科技公司、云计算服务提供商、AI研究实验室以及需要进行大规模数据处理的企业。

Etched.ai将通过深入了解这些客户的需求，不断优化Sohu芯片的性能，确保其能够满足客户在处理速度、能耗效率和成本效益方面的要求。

此外，公司也在积极构建生态系统，与软件开发商、云服务提供商和其他硬件制造商建立合作伙伴关系。

这种开放合作的策略，不仅能够在未来加速Sohu芯片技术的推广和应用，也能够帮助Etched.ai更好地理解市场动态，以快速响应客户的需求。

在他们的预想下，Etched 有望在 2024 年第三季度将其Sohu AI芯片推向市场，初步计划是向主要云提供商销售。

用Uberti的话来说：“我们把赌注押在了Transformer和Sohu上，这两都正在成为现实。”

三、Etched将成为世界上最大的公司之一

可以预见的是，Etched.ai的崛起的确会对英伟达构成一定的挑战。

长久以来，英伟达凭借其GPU在AI芯片市场中占据着主导地位，而这次Sohu芯片的高性能特性，正在逐步吸引行业的目光。

Uberti更是大胆表示：“如果我们打赌真的成功，Etched 将成为世界上最大的公司之一”

不过他们也很清醒的知道，Sohu在大多数工作状态下都无法击败GPU，因为它连Stable Diffusion都不支持，但在Transformer推理领域，Sohu将一举清空市场，成为新一代独属于Transformer的ASIC王者。

从整个AI芯片市场来看，Etched.ai打造出的Sohu芯片，不仅是对英伟达的挑战，更是在整个AI芯片行业技术进步的缩影。

Sohu芯片的推出，将激发行业内对更高效AI计算解决方案的探索和创新。这种创新的推动力，自然也会加速AI芯片技术的发展。

正如今半导体行业两大龙头企业（三星、台积电）已经开始下一轮技术内卷，这也意味着芯片产业的发展又一次开上了快车道。

展望未来，Etched.ai和Sohu芯片的发展前景充满希望，但也伴随着不少挑战。

技术的不断进步和市场需求的不断变化，要求Etched.ai持续进行研发投入和创新。

同时，英伟达等老牌强者可不是坐以待毙的风格，Etched.ai的专业芯片理念一旦被市场所认可，怎样在拥有更大技术和供应链优势的强力对手面前活下来，Etched.ai任重而道远。

总的来看，Etched.ai和三位创始人的故事，是对全球科技竞争中创业者精神的生动诠释，也是一条充满挑战与机遇的旅程，其背后同样代表着AI技术也在高速发展。

而随着全球科技竞争日益激烈，他们的未来到底如何，是真的变成一家科技巨头公司还是变成一段哈佛辍学生创业的新谈资？或许要不了几年就会有答案。