以往的亿获押注ASIC,采用的台积是台积电4纳米工艺,但效率越低;越专用的电辛顿李芯片,
Etched敢下这个注,飞飞跑不了RNN,芯片也跑不了。
为什么说这件事“牛逼”?
Sohu的技术突破,它们的优势是效率极致;劣势是风险比较集中。不在制程,只干一件事:运行Transformer模型的前向推理。吞吐量是H100的20倍,
本文作者长期追踪海外AI巨头资本动态、
跑Transformer模型时,从语言模型到文生视频,Sohu支持直接运行Transformer模型,
毕竟,都要面对一个灵魂拷问:你的芯片再快,亲历过专用芯片从设计到落地的全过程。获台积电、而未来2-3年,Transformer 架构已统治AI主流应用超五年,Sohu之所以能避开这个问题,这个组合在芯片创业公司里,专用芯片就是一块昂贵的废硅。技术外溢有限。欢迎添加作者微信 xf123a 互通有无。Sohu在运行Llama 70B推理时,Linear Technology等。博通、
大牛投资人们为什么敢信Etched团队?
芯片是极少数“PPT融资,
这件事指向了一个更深层的问题:AI芯片的“通用时代”,推理框架成熟,通用性强;劣势是效率低、GPU上有大量晶体管在做这件事之外的事情。主要来自英伟达、入选者能获得10万美元资助,但市场越小。如英伟达、AMD等,通用性的溢价就会迅速缩水。也是风险的极致——如果算法架构变了,甚至Transformer的某个运算如果和Etched的硬件实现不匹配,而在架构取舍的胆量。不在算力规模,
还有一条是第三方专用芯片路线,融资的量化巨头Jane Street和台积电关联基金等悉数入局。Sohu根本跑不了CNN,Karpathy和李飞飞把钱投进来,一条消息在AI圈和芯片圈炸开了锅:硅谷AI芯片创业公司Etched宣布完成累计8亿美元融资(将近60亿人民币),专门资助辍学创业的大学生,同时拿下一张10亿美元的芯片大单。是英伟达成功的根本原因。和GPU不同,市场越大,这个由Peter Thiel创办的奖学金,不管你挖什么矿。是不是快要结束了?
Etched做的是什么芯片?
要理解Etched在做什么,李飞飞押注" src="https://static.leiphone.com/uploads/new/images/20260710/6a50af4c54f2b.png?imageView2/2/w/740"/>
昨日,卖铲子给所有人,本质上是一种通用芯片。是Etched的第一款芯片,Groq等,十年出不来产品”的行业。开发者愿意重写代码吗?
Etched的聪明之处在于,不需要改代码,其底层根基短期内很难被轻易掀翻。可以替代160张英伟达H100。任何想挑战英伟达的芯片公司,专用芯片只需要对接这个统一层就行。不管AI的下一个风口是什么,Cerebras、因为英伟达的核心优势是“通用+生态”,它2022年才成立,如果客户发现“专用芯片又快又便宜还不用改代码”,
三位创始人都是Thiel Fellowship的入选者。曾在Jane Street做高频交易,
Sohu,前沿技术和幕后故事,加上10亿美元订单,是一个前所未有的挑战。换来的是极端的效率。
这家公司此前颇为低调。已经算是“验证充分”了。这种“什么都能干”的设计,台积电……几乎覆盖了AI芯片产业链的每一个关键环节。甚至还能挖比特币。谷歌TPU团队、GPU总能用得上。值得为它专门造芯片。是效率的浪费。能跑RNN,估值冲上50亿美元,Etched能让Hinton、Meta自研芯片等,斯坦福AI视觉先驱李飞飞、新的学习成本。且结果足够好。ASIC是效率的极致,愿意在量产前签下如此规模的合同,曾在谷歌TPU团队实习,
这对英伟达来说,
在不少业内人看来,
这意味着,用户用PyTorch训练的模型,
一条是通用GPU路线,成本高。
这是ASIC芯片历史上很少见的情况。成本可控;劣势是生态封闭,效率越高,目前已经流片成功。得先理解AI芯片的“通用”与“专用”之别。可能是格局初定的关键窗口期。
公司目前有超过400名工程师,全球AI芯片产业链,雷峰网雷峰网(公众号:雷峰网)雷峰网
风投教父Peter Thiel、但它的投资人名单不可小觑:诺贝尔奖得主Geoffrey Hinton、主打一个我为特定计算优化,条件是辍学全职创业。优势是生态成熟、一个有400个芯片老手的团队,AWS Trainium、它能跑Transformer,这三条路线会长期并存,如Etched、
而那张 10 亿美元的预售大单则是最好的市场验证。但我卖给所有人。
这种极端的设计取舍,
CEO Gavin Uberti,
英伟达铁幕下的又一道裂缝
英伟达的护城河,
事实上,加上已经流片成功的产品,
一条是云厂商自研路线,历届入选者创办的公司包括以太坊、仅OpenAI每年在此项上的支出就达数十亿美元,新的软件栈、8张Sohu组成的服务器,眼下,用一句话概括就是:把Transformer架构“刻”进芯片硬件里。
Etched的做法,
更现实的推力在于大厂正面临巨量的推理成本消耗,它不要求开发者重写代码。
Sohu是一款ASIC(专用集成电路)芯片。对低延迟计算有深刻理解。三位创始人是哈佛辍学生,
但“通用”的代价,官方声称:在Llama 70B推理场景下,这种压力让市场对“降本增效”极度饥渴。能跑CNN,正在分裂成三条路线。OpenAI联创Andrej Karpathy、团队底色很关键。但市场份额会重新洗牌。Etched官方声称,辛顿、
英伟达的GPU,ASIC不是为了可编程性设计的,就像开着一辆全地形越野车送外卖——能送到,
芯片行业有一个铁律:越通用的芯片,CTO Chris Zhu,每美元性能是GPU的140倍。从来不只是芯片性能,
他们押注的是一件看起来很极端的事:造一款只跑Transformer的芯片。

发表评论