Etched发布专为Transformer模型设计的高速Sohu芯片
2022年，初创公司Etched在Transformer领域进行了重大投资，这是支撑如ChatGPT等AI模型的核心技术。这一举措促成了专为Transformer模型定制的ASIC芯片Sohu的诞生。与传统GPU不同，Sohu专注于Transformer任务，其速度几乎是Nvidia B200 GPU的十倍。
Sohu的独特设计带来了无与伦比的效率，其FLOPS利用率超过90%，与通用GPU的30%形成鲜明对比。因此，Sohu在处理基于Transformer的任务时表现出色，每秒可处理超过500,000个令牌。
Etched坚信，像Sohu这样的专用芯片代表了未来，尤其是随着Google和Microsoft等大型AI企业继续扩展Transformer技术。公司正在积极扩大Sohu的生产，对Transformer在AI计算市场的未来主导地位充满信心。他们甚至暗示可能为新兴技术开发未来的ASIC，表明随时准备为任何可能挑战Transformer的技术制造ASIC。
关键要点
- Etched推出了专为Transformer模型优化的ASIC芯片Sohu，其速度几乎是Nvidia B200 GPU的十倍。
- Sohu的FLOPS利用率超过90%，远超通用GPU，使其成为Transformer任务的高效选择。
- 该芯片设计专为Transformer优化，专注于数学运算并消除了不必要的控制流逻辑。
- Etched认为像Sohu这样的专用芯片将塑造未来，已有大量生产订单。
- 公司致力于保持在硬件市场的前沿，随时准备随着新AI模型和技术的出现而发展。
分析
Etched专注于Transformer专用ASIC的战略，如Sohu，使其能够利用Transformer模型在AI领域的日益主导地位。这一举措不仅挑战了Nvidia的GPU主导地位，还与Google和Microsoft等主要AI实验室的需求相契合。短期内可能导致Etched市场份额和收入的增加，长期影响可能重塑AI硬件格局，倾向于专用ASIC而非通用GPU。这一发展可能影响与Nvidia相关的金融工具，并促使其他芯片制造商开发类似的专用解决方案。
你知道吗？
- ASIC（专用集成电路）：
- 专为特定任务或应用设计，ASIC与CPU或GPU等通用集成电路不同。专为AI模型中的Transformer计算设计的Sohu，在效率和性能上超越了通用芯片。
- AI中的Transformer模型：
- 这些主导的神经网络架构，包括GPT和BERT，因其在处理序列数据时无需循环层而彻底改变了自然语言处理。
- FLOPS利用率：
- 这一计算机性能指标，特别是在复杂数学计算中，突显了Sohu的卓越效率，与通用GPU有显著区别。超过90%的FLOPS利用率突显了芯片在执行指定计算时的专业化和效率。