Внешний ИИ-ускоритель Asus UGen300 в металлическом корпусе. Источник: ASUS
Пока производители компьютеров пытаются убедить нас, что для запуска чат-бота обязательно нужен новый ноутбук за тысячи долларов, Asus предлагает более элегантное решение. Компания анонсировала UGen300 USB AI Accelerator — компактное устройство, которое добавляет мощности для работы с нейросетями через обычный порт USB-C.
Фактически, это внешний «мозг» для задач машинного зрения и обработки речи. В основе устройства лежит чип Hailo-10H от стартапа Hailo. Этот малыш способен выдавать производительность в 40 TOPS (триллионов операций в секунду). Если эта цифра вам ничего не говорит, то именно такую планку установила Microsoft для соответствия стандарту Copilot+ PC. То есть, подключив этот аксессуар к старому железу, вы технически выводите его на уровень современных систем с интегрированными NPU.
Железо под капотом и вопросы температуры
Кроме самого чипа, внутри корпуса размещено 8 ГБ оперативной памяти LPDDR4. Это критически важно, поскольку локальный запуск больших языковых моделей (LLM) требует не только вычислительной мощности, но и быстрого доступа к данным. Устройство потребляет всего 2.5 Вт, что звучит как образец энергоэффективности. Однако физику не обманешь: несмотря на низкое потребление, львиную долю объема занимает массивный алюминиевый радиатор, призванный защищать систему от перегрева во время пиковых нагрузок.
Размеры новинки составляют 105 х 50 х 18 мм, а вес — солидные 150 г. Это не та «флешка», которую можно оставить болтаться в порту ноутбука где-то в кафе — риск повредить разъем вполне реален. Скорее, это стационарный аксессуар для разработчиков или промышленных решений. Профессиональное направление подтверждает и поддержка широкого спектра операционных систем: Windows, Linux и Android.
Программная гибкость и реальные перспективы
Подразделение Asus IoT позаботилось о том, чтобы специалистам не пришлось переписывать код с нуля. UGen300 поддерживает самые популярные фреймворки, такие как TensorFlow, PyTorch и ONNX. Это делает устройство логичным инструментом для тех, кто хочет запускать ИИ-модели локально, не полагаясь на облачные сервисы и не передавая свои данные на серверы сторонних корпораций.
Вопрос цены пока остается открытым, но вряд ли это будет массовый продукт для каждого. Это инструмент для тех, кто понимает, зачем ему 40 TOPS в кармане и как заставить их работать на Linux-сервере или в системе умного дома без лишнего шума и огромных счетов за электричество.
Рынок ИИ-железа сейчас напоминает большую шахматную партию, где каждый пытается занять свою нишу. Например, недавняя новость о том, как Nvidia инвестирует в своего конкурента, подчеркивает, насколько динамично меняются приоритеты гигантов в погоне за вычислительной мощностью.