На выставке MWC 2024 Qualcomm анонсировала новый инструмент AI Hub. Продукт упрощает доступ к нейросетям разработчикам генеративного ИИ, которые все чаще переносят работу из облака на устройства.
AI Hub содержит библиотеку из более чем 75 генеративных ИИ-моделей. Пользователи могут легко загружать их в устройства на базе Qualcomm. В набор будут постоянно добавлять новые нейросети.
«Qualcomm AI Hub предоставляет разработчикам обширную библиотеку для быстрой и простой интеграции предварительно оптимизированных ИИ-моделей в свои приложения, что приводит к более быстрому, надежному и индивидуальному пользовательскому опыту», — сообщил старший вице-президент Qualcomm по технологическому планированию Дурга Маллади.
AI Hub содержит одни из самых популярных моделей в отрасли, среди которых:
- система автоматического распознавания речи Whisper от OpenAI;
- модель преобразования текста в изображение Stable DIffusion от Stability AI;
- чат-бот Llama от Meta.
Нейросети доработаны таким образом, чтобы максимально эффективно использовать все ядра, входящие в состав Qualcomm AI Engine. По словам компании, это позволяет повысить энергоэффективность, снизить нагрузку на память и увеличить скорость вычислений в четыре раза.
Работа ИИ-моделей непосредственно на устройстве повышает уровень конфиденциальности. Это особенно важно при создании моделей, использующих базы данных с непубличными данными.
Напомним, в ноябре 2022 года компания Qualcomm представила Snapdragon 8 Gen 2 с выделенным ИИ-чипом.