Настільний суперкомп’ютер DGX Spark, який NVIDIA спочатку планувала випустити ще навесні, нещодавно почав надходити до перших власників. Під час анонсу «зелені» обіцяли вражаючу для такого форм-фактора обчислювальну потужність, але перші власники відзначають невідповідність заявленим характеристикам. Серед них відомий Джон Кармак (John Carmack), який поділився своїми враженнями в соціальній мережі X.
«Схоже, що DGX Spark максимально споживає всього 100 Вт, що становить менше половини номінальної потужності 240 Вт, та, судячи з усього, забезпечує тільки близько половини заявленої продуктивності (за умови, що 1 PF sparse FP4 = 125 TF dense BF16), — розповідає пан Кармак. — Навіть при такому рівні він сильно нагрівається, і я бачив повідомлення про самовільне перезавантаження при тривалій роботі. То що, його потужність було знижено перед релізом?»
Схожими спостереженнями також поділився провідний розробник фреймворку Apple MLX. Йому вдалося отримати 60 Тфлопс в обчисленнях BF16, що істотно нижче очікуваного показника. Сама NVIDIA цю ситуацію ще ніяк не прокоментувала, але можливе пояснення вже надали наші закордонні колеги.
Найімовірніше, заявлена продуктивність до 1000 TOPS в обчисленнях FP4 вказана з урахуванням структурної розрідженості. Ця апаратна функція пропускає операції з нульовими значеннями в нейронних мережах, ефективно подвоюючи пікову швидкість обчислень, однак вимагає додаткових оптимізацій. У звичайних операціях фактична продуктивність становить приблизно половину, що відповідає результатам вищевказаних тестів.
Джерело:
VideoCardz