Ресурсы нескольких ПК для запуска тяжелого ИИ научилась объединять Microsoft через USB4

Задняя панель устройств с портами Технология RDMA через USB4 позволяет объединять ресурсы нескольких ПК для ИИ. Источник: AI

Microsoft выпустила предварительную версию технологии RDMA (Remote Direct Memory Access) через USB4 для разработчиков на Windows. Это решение позволяет объединять вычислительные мощности и память нескольких компьютеров в единый кластер с помощью обычных кабелей, чтобы запускать локально большие языковые модели, которые не помещаются на одно устройство.

Как работает RDMA через USB4

Технология RDMA позволяет передавать данные напрямую между памятью двух систем, обходя стандартный сетевой стек. Это критически важно для распределенных вычислений, поскольку минимизирует задержки и снимает лишнюю нагрузку с центрального процессора. По данным исследований, использование RDMA через USB4 обеспечивает задержку передачи данных в пределах 28–50 микросекунд, что почти в четыре раза быстрее чем обычный Ethernet через тот же порт.

Сравнение задержки RDMA и Ethernet через USB4
Задержка при обмене сообщениями (round-trip latency) в зависимости от их размера: сравнение RDMA и Ethernet через одно и то же соединение USB4. Иллюстрация: Microsoft

Для создания такой системы не требуются дорогие сетевые адаптеры или сложная настройка коммутаторов. Достаточно соединить компьютеры кабелями USB4. Однако есть техническое ограничение: для полноценной связи в кластере каждое устройство должно иметь N-1 портов. То есть, если вы хотите объединить три ПК, по крайней мере один из них должен быть оснащен двумя разъемами USB4. Поскольку стандарт USB4 2.0 поддерживает скорость до 80 Гбит/с, пропускной способности хватает для быстрого обмена данными между GPU и оперативной памятью разных машин.

Результаты тестов на «железе» AMD

Для демонстрации возможностей Microsoft использовала мини-ПК на базе представленого в 2025 году процессора Ryzen AI Max+ 395 (Strix Halo) с 128 ГБ оперативной памяти. Три таких машины смогли успешно запустить модель Qwen3-235B-A22B с архитектурой Mixture-of-Experts и 4-битным квантованием.

More possibilities for local AI, across connected @Windows PCs. AMD is collaborating with @Microsoft on the RDMA over USB4 developer preview for Windows, helping developers explore larger models across connected PCs. "At AMD, we believe clustering is a critical part in a developer's experience to unlocking new possibilities for local AI and high-performance compute. We're excited to be working alongside Microsoft to support their new RDMA over USB4 driver to enhance the experience." — Andrej Zdravkovic, Senior Vice President and Chief Software Officer, AMD Learn more: https://t.co/6ZLLwE066k

— AI at AMD (@AIatAMD) November 19, 2026

В ходе тестов система выдала такие результаты:

  • Конфигурация Microsoft: приблизительно 18.5 токенов в секунду.
  • Собственная оптимизированная конфигурация AMD: 21.98 токенов в секунду.

Важно, что провайдер NetworkDirect для USB4 и тестовая платформа на базе llama.cpp являются проектами с открытым исходным кодом. Это позволяет разработчикам свободно экспериментировать с созданием собственных ИИ-кластеров на базе современного потребительского "железа".

Подписывайтесь на новости AIcybernews.com в Twitter и Facebook

Другие новости

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
0 комментариев
Старые
Новые Популярные

Актуально

Последние новости

NVIDIA випустила драйвер GeForce 621.35 Hotfix, який усуває надмірний запис даних на SSD

Корпорація NVIDIA виклала у відкритий доступ пакет драйверів GeForce 621.35 Hotfix. Його завдання — виправити неприємну помилку, що з’явилася в останніх версіях Game Ready,...

Xiaomi представила электробритву с автономностью до 60 дней и системой адаптации к густоте щетины

Электробритва Xiaomi Mijia Portable Electric Shaver Pro Straight Handle Multi-Effect Edition . Источник: Xiaomi ...

Офіційно: Grand Theft Auto VI принесла розробникам понад $3,79 млрд виторгу

Гра Grand Theft Auto VI встановила абсолютний рекорд індустрії розваг, ставши найуспішнішим комерційним запуском в історії. Згідно з офіційними даними Rockstar Games, за підсумками...