Процессоры AMD Ryzen и видеокарты Radeon RX 7000 можно использовать для запуска локального чат-бота с ИИ

Недавно компания Nvidia представила Chat with RTX для создания персонализированных чат-ботов на базе искусственного интеллекта. Особенностью этого варианта является полностью локализованная на ПК версия, где все вычисления производит видеокарта GeForce RTX 40-й или 30-й серии. В ответ компания AMD объявила об аналогичных возможностях своих видеокарт и процессоров. Речь идет не о каком-то отдельном программном решении, а о развертывании бесплатного программного приложения LM Studio с настройками под аппаратные решения AMD.

В блоге AMD появилась инструкция по запуску такого чат-бота на базе языковой модели LLAMA и других языковых моделей. Для запуска необходимо скачать подходящую версию LM Studio, запустить на ПК, выбрать языковую модель и соответствующее оборудование AMD.

Для ускорения ИИ нужна система на базе мобильных Ryzen 7000 и Ryzen 8000 с блоком NPU XDNA или ПК с видеокартой серии Radeon RX 7000, которые будут выполнять необходимые вычисления. Это значительно ускорит и упростит работу с LM Studio и локальным ИИ. Поэтому отсутствие GeForce RTX не является приговором, и при наличии Radeon вы тоже имеете возможность для экспериментов с ИИ.

Источник:
AMD

Подписывайтесь на новости AIcybernews.com в Twitter и Facebook

Другие новости

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
0 комментариев
Старые
Новые Популярные

Актуально

Последние новости

Бесплатный 4G-трафик и работа без Wi-Fi появились в новой камере наблюдения Xiaomi Smart 4G Camera 3

Xiaomi Smart 4G Camera 3 с поддержкой 4G и разрешением 3K. Источник: Xiaomi ...

Дженсен Хуанг розмірковує про повернення на посаду голови NVIDIA за підтримки союзників

Колишній генеральний директор NVIDIA Дженсен Хуанг розглядає можливість повернення на керівну посаду в компанії. За даними Financial Times, він уже обговорював такий сценарій зі...

Orico выпустила SSD FlashMem FM9800 с выделенным AI-кешем для ускорения локальных нейросетей

Orico FlashMem FM9800: SSD с нейросетевым «кабинетом» для гиков. Источник: Orico ...

Microsoft розраховує зробити Xbox Project Helix доступнішим завдяки нейронному рендерингу

Microsoft розраховує утримати вартість наступного покоління Xbox Project Helix завдяки технологіям нейронного рендерингу. Софтверний гігант має намір досягти суттєвого поліпшення графіки без пропорційного збільшення...