Nvidia выпустила инструмент Chat with RTX для создания персонализированного чат-бота с ИИ

Nvidia представила собственную альтернативу популярным чат-ботам на базе искусственного интеллекта — Chat with RTX. Как нетрудно понять из названия, он задействует вычислительные возможности графических ускорителей GeForce RTX. Главной особенностью является работа непосредственно на компьютере пользователя вместе с возможностью персонализации большой языковой модели.

Chat with RTX

В основе Chat with RTX лежат библиотека Nvidia TensorRT-LLM и метод RAG (Retrieval Augmented Generation) для заполнения пробелов в «знаниях» большой языковой модели. Пользователи могут добавить собственные заметки, документы, видео и другие данные, например, получить ответ на основе информации из YouTube. «А так как приложение работает локально на ПК или рабочей станции с Windows с RTX, результаты генерируются быстро и безопасно», — подчёркивает Nvidia.

Загрузить Chat with RTX можно с официального сайта Nvidia. В системных требования упоминаются адаптеры GeForce RTX 30- и 40-й серии, оборудованные как минимум 8-гигабайтным видеобуфером, то есть недавно выпущенная GeForce RTX 3050 6GB не подойдёт. Также потребуются 16 Гбайт оперативной памяти, операционная система Windows 11 и драйвер версии 535.11 или новее.

Подписывайтесь на новости AIcybernews.com в Twitter и Facebook

Другие новости

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии

Актуально

Последние новости

Яростный мастер двуручного оружия: Capcom показала геймплей за Воина в Dragon’s Dogma 2

Capcom продолжает серию ознакомительных роликов о доступных классах персонажей в амбициозной фэнтезийной...

В Nansen рассказали о причинах падения мем-коинов

Сегмент мем-коинов испытывает отток денежных средств на фоне роста глобального крипторынка. Об этом сообщает The Block. По данным CoinGecko, за последние сутки капитализация мем-коинов...

Проект Starknet меняет график разблокировки активов

Студия StarkWare изменила график разблокировки токенов STRK для ранних участников и инвесторов. Таким образом в апреле 2024 года на рынок попадет 64 млн STRK...