“Sohu”芯片比GPU快一个数量级

Etched AI开发的“Sohu”芯片专用于Transformer架构，速度远超GPU。公司由Chris Zhu和Gavin Uberti两位创始人创办，他们曾是哈佛学生并休学创业。

与英伟达的GPU不同，“Sohu”芯片是ASIC，专为生成式AI模型设计。Etched宣称，一台集成8块“Sohu”芯片的服务器性能超越160块H100 GPU，且成本更低。

H100 GPU虽有800亿晶体管，但仅3.3%用于大模型矩阵乘法。新一代GPU通过堆叠提升算力，但性能并未真正提升。

随着ChatGPT等模型普及，GPU算力需求激增。即使每两年GPU性能提升2.5倍，仍需十年实现即时视频生成。

Etched联合创始人Gavin Ubert表示，早在Transformer成为主流前，公司就全力投入Transformer专用芯片研发。他们对Transformer的未来充满信心，并期望公司能因此取得巨大成功。（2024-7-6老邓）