在Nvidia等老牌巨头的领域中,Groq这家相对不知名的初创公司正以其创新的AI处理方法掀起波澜,尤其是其语言处理单元(LPU)。让深入了解Groq的技术细节及其对行业的潜在影响。
Groq是一家成立于2016年的初创公司,由Jonathan Ross创立,一直在默默地开发旨在彻底改变AI处理的突破性技术。他们最近对LPU的关注标志着从传统的基于GPU的方法的转变。Groq没有依赖于图形处理单元(GPU),而是引入了一种新型的芯片——张量流处理器(TSP),专为AI预测任务优化。
Groq创新的核心在于其LPU,旨在加速包括ChatGPT等语言模型在内的AI模型,以前所未有的速度运行。与使用高带宽内存(HBM)的GPU不同,Groq的LPU利用静态随机存取存储器(SRAM)进行数据处理,从而显著降低能耗并提高效率。GroqChip的独特架构,加上其时序指令集,使得顺序处理非常适合自然语言和其他顺序数据。