Groq宣佈已與英偉達就其推理技術達成非獨家授權協議。該協議體現了雙方共同致力於拓展高性能、低成本推理技術的應用範圍。
根據協議條款,Groq創始人Jonathan Ross、總裁Sunny Madra及團隊成員將加入英偉達,共同推進授權技術的升級與規模化應用。
Groq將繼續作為獨立公司運營,由Simon Edwards出任首席執行官。GroqCloud服務將保持正常運行,不受影響。
此前有報道稱,英偉達將以大約200億美元收購人工智能芯片初創公司Groq,這將是英偉達迄今為止規模最大的一筆收購。但英偉達很快表示,並沒有收購Groq,只是達成了技術許可,使用Groq的推理技術而已。
公開資料顯示,成立於2016年的Groq由谷歌TPU核心開發者Jonathan Ross創立,公司自研的LPU推理芯片是本次合作的核心價值所在。區別於英偉達通用型GPU,LPU專為AI推理場景深度優化,憑藉確定性架構、片上SRAM內存設計等核心技術,實現了超低延遲、超高能效與極速推理速度。
在主流大語言模型運行中,LPU推理速度可達英偉達H100 GPU的5至18倍,首token響應時間僅0.2秒,還能有效降低算力成本,解決傳統GPU在推理環節的“內存牆”與高延遲問題。
對英偉達而言,通過“非獨佔技術許可+ 核心人才吸納”的方式,可快速補全其AI推理短板、鞏固全棧優勢,同時降低收購風險,更好地應對來自谷歌TPU、微軟Azure Maia的競爭。