Зараз компанія NVIDIA є лідером на ринку обладнання для штучного інтелекту. Але керівництво продовжує шукати нові таланти та стартапи для залучення у свою команду. Оголошено про велику угоду на $20 мільярдів з компанією Groq, яка розробляла чипи для ШІ на власній унікальній архітектурі. Спочатку в ЗМІ була інформація про поглинання компанії. Але потім з’явилися уточнення, що це угода на кшталт «Reverse Acqui-hire», коли йдеться не про повну купівлю, а про залучення провідних фахівців і ліцензування технологій. Це дає змогу уникнути розслідування з боку антимонопольного законодавства, але за фактом NVIDIA все одно отримає доступ до всіх розробок Groq.
Це дуже велика угода і вона може закласти основи для руху NVIDIA в нових напрямках. З розвитком сфери ШІ починається поступовий поділ на обладнання для навчання і логічного виведення (інференсу). Навчання вимагає вищої пропускної здатності та високої швидкості виконання арифметичних операцій, для чого сучасні GPU отримують безліч спеціалізованих тензорних ядер. А для великих хмарних провайдерів основним із головних завдань стає саме інференс із низькими затримками. Groq займається розробкою спеціалізованих чипів LPU (Language Processing Units) для цієї сфери. Ці чипи використовують особливу пам’ять SRAM, що виділяє їх на тлі всіх інших рішень.
Раніше Groq представила два передових рішення — GroqChip та GroqCard. Згідно з інформацією в офіційних документах, ці чипи мають 230 МБ вбудованої SRAM із пропускною спроможністю до 80 ТБ/с. Використання SRAM є однією з ключових переваг LPU, оскільки дозволяє значно знизити затримки та забезпечити краще енергоспоживання на токен. Загалом архітектура LPU повністю призначена для потреб гіпермасштабованих компаній у галузі інференса, але це вузькоспеціалізоване обладнання, що не є певним стандартом. І саме інтеграція з NVIDIA забезпечить можливість масового впровадження таких чипів у сферу ШІ.
Джерело:
Wccftech