Процессоры AMD Ryzen и видеокарты Radeon RX 7000 можно использовать для запуска локального чат-бота с ИИ

Недавно компания Nvidia представила Chat with RTX для создания персонализированных чат-ботов на базе искусственного интеллекта. Особенностью этого варианта является полностью локализованная на ПК версия, где все вычисления производит видеокарта GeForce RTX 40-й или 30-й серии. В ответ компания AMD объявила об аналогичных возможностях своих видеокарт и процессоров. Речь идет не о каком-то отдельном программном решении, а о развертывании бесплатного программного приложения LM Studio с настройками под аппаратные решения AMD.

В блоге AMD появилась инструкция по запуску такого чат-бота на базе языковой модели LLAMA и других языковых моделей. Для запуска необходимо скачать подходящую версию LM Studio, запустить на ПК, выбрать языковую модель и соответствующее оборудование AMD.

Для ускорения ИИ нужна система на базе мобильных Ryzen 7000 и Ryzen 8000 с блоком NPU XDNA или ПК с видеокартой серии Radeon RX 7000, которые будут выполнять необходимые вычисления. Это значительно ускорит и упростит работу с LM Studio и локальным ИИ. Поэтому отсутствие GeForce RTX не является приговором, и при наличии Radeon вы тоже имеете возможность для экспериментов с ИИ.

Источник:
AMD

Подписывайтесь на новости AIcybernews.com в Twitter и Facebook

Другие новости

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
0 комментариев
Старые
Новые Популярные

Актуально

Последние новости

Orico выпустила SSD FlashMem FM9800 с выделенным AI-кешем для ускорения локальных нейросетей

Orico FlashMem FM9800: SSD с нейросетевым «кабинетом» для гиков. Источник: Orico ...

Microsoft розраховує зробити Xbox Project Helix доступнішим завдяки нейронному рендерингу

Microsoft розраховує утримати вартість наступного покоління Xbox Project Helix завдяки технологіям нейронного рендерингу. Софтверний гігант має намір досягти суттєвого поліпшення графіки без пропорційного збільшення...

Акціонери подали позов проти Intel через приховування проблем на ринку ПК

Акціонери Intel подали колективний позов проти компанії, звинувативши керівництво у введенні інвесторів в оману щодо стану бізнесу. На їхню думку, чипмейкер занадто довго приховував...

Японский суперкомпьютер Fugaku взломали — под угрозой данные ведущих корпораций

Стойки суперкомпьютера Fugaku. Источник: Nikkei Asia / Tomoki Mera ...