Computex: ИИ уходит из облака на персональные компьютеры

от aadmin

Nvidia, Intel и AMD представили новые GPU, которые позволяют запускать крупные модели локально.

На выставке Computex в Тайбэе ведущие производители графических процессоров — Nvidia, Intel и AMD — представили новые GPU для настольных систем, которые позволяют запускать крупные модели генеративного ИИ локально, без необходимости обращаться к облачным сервисам.

Крроме того, Nvidia анонсировала DGX Spark — компактное устройство с новейшим графическим процессором Blackwell, обеспечивающее производительность в 1 PFLOPS. Система будет доступна у таких производителей, как Dell, HP, Acer, ASUS и Lenovo. По словам генерального директора Nvidia Дженсена Хуанга, это «ваше собственное ИИ-облако рядом с вами, всегда включенное и готовое к работе».

AMD представила плату Radeon 9700 AI Pro с 128 ИИ-ускорителями, способную запускать модели DeepSeek R1 с числом параметров до 32 и даже Mistral Large Instruct с 123 млрд параметров (в конфигурации из четырех GPU).

Intel предложила бюджетный графический процесор Arc Pro B50 со 128 специализированными ИИ-ядрами. Он ориентирован на рабочие станции и графику, способен запускать DeepSeek R1 с числом параметров до 14 млрд, но не поддерживает более крупные модели из-за ограниченной памяти (16 Гбайт против 32 Гбайт у AMD).

Рекомендую посмотреть
Postgres Professional работает над собственной машиной баз данных

Аналитики отмечают, что ИИ все больше смещается с эксклюзивных облачных ресурсов на массовые персональные компьютеры. Это связано с ростом использования ИИ-инструментов для создания ИИ-программ и оптимизацией моделей для локального запуска.

В J. Gold Associates считают, что рынок рабочих станций, изначально ориентированных на графику и игры, может значительно расшириться за счет интеграции ИИ. Аналогично, в Moor Strategy отмечают, что компании хотят избегать зависимости от облаков и суперкомпьютеров, предпочитая запускать модели локально, особенно с появлением более эффективных и легких моделей.

Чат-бот DeepSeek, разработанный китайской компанией, стал катализатором перехода к локальному запуску ИИ-моделей. Генеральный директор Nvidia Дженсен Хуанг подчеркнул значимость DeepSeek R1, назвав его «подарком для мировой ИИ-индустрии», который изменил подход к инференсу и рассуждению в ИИ.

Таким образом, новые графические процессоры для настольных компьютеров от Nvidia, AMD и Intel открывают эру персонального ИИ, позволяя запускать большие генеративные модели прямо на рабочих станциях, повышая гибкость и доступность подобных решений и значительно снижая зависимость от облачных вычислений.

Связанные посты