Технология RDMA через USB4 позволяет объединять ресурсы нескольких ПК для ИИ. Источник: AI
Microsoft выпустила предварительную версию технологии RDMA (Remote Direct Memory Access) через USB4 для разработчиков на Windows. Это решение позволяет объединять вычислительные мощности и память нескольких компьютеров в единый кластер с помощью обычных кабелей, чтобы запускать локально большие языковые модели, которые не помещаются на одно устройство.
Как работает RDMA через USB4
Технология RDMA позволяет передавать данные напрямую между памятью двух систем, обходя стандартный сетевой стек. Это критически важно для распределенных вычислений, поскольку минимизирует задержки и снимает лишнюю нагрузку с центрального процессора. По данным исследований, использование RDMA через USB4 обеспечивает задержку передачи данных в пределах 28–50 микросекунд, что почти в четыре раза быстрее чем обычный Ethernet через тот же порт.
Задержка при обмене сообщениями (round-trip latency) в зависимости от их размера: сравнение RDMA и Ethernet через одно и то же соединение USB4. Иллюстрация: Microsoft
Для создания такой системы не требуются дорогие сетевые адаптеры или сложная настройка коммутаторов. Достаточно соединить компьютеры кабелями USB4. Однако есть техническое ограничение: для полноценной связи в кластере каждое устройство должно иметь N-1 портов. То есть, если вы хотите объединить три ПК, по крайней мере один из них должен быть оснащен двумя разъемами USB4. Поскольку стандарт USB4 2.0 поддерживает скорость до 80 Гбит/с, пропускной способности хватает для быстрого обмена данными между GPU и оперативной памятью разных машин.
Результаты тестов на «железе» AMD
Для демонстрации возможностей Microsoft использовала мини-ПК на базе представленого в 2025 году процессора Ryzen AI Max+ 395 (Strix Halo) с 128 ГБ оперативной памяти. Три таких машины смогли успешно запустить модель Qwen3-235B-A22B с архитектурой Mixture-of-Experts и 4-битным квантованием.
More possibilities for local AI, across connected @Windows PCs. AMD is collaborating with @Microsoft on the RDMA over USB4 developer preview for Windows, helping developers explore larger models across connected PCs. "At AMD, we believe clustering is a critical part in a developer's experience to unlocking new possibilities for local AI and high-performance compute. We're excited to be working alongside Microsoft to support their new RDMA over USB4 driver to enhance the experience." — Andrej Zdravkovic, Senior Vice President and Chief Software Officer, AMD Learn more: https://t.co/6ZLLwE066k
— AI at AMD (@AIatAMD) November 19, 2026
В ходе тестов система выдала такие результаты:
- Конфигурация Microsoft: приблизительно 18.5 токенов в секунду.
- Собственная оптимизированная конфигурация AMD: 21.98 токенов в секунду.
Важно, что провайдер NetworkDirect для USB4 и тестовая платформа на базе llama.cpp являются проектами с открытым исходным кодом. Это позволяет разработчикам свободно экспериментировать с созданием собственных ИИ-кластеров на базе современного потребительского "железа".