В третьем квартале 2025 года доля обнаруженных уязвимостей в AI-сервисах, то есть веб-приложениях на базе искусственного интеллекта (ИИ), составила 5%, ранее подобных случаев не фиксировалось. Об этом «Известиям» рассказали в центре расследования киберугроз Solar 4RAYS, ГК «Солар».
«Многие уязвимости в AI-решениях были связаны с типичными клиентскими проблемами, такими как внедрение вредоносного кода в веб-страницу и получение доступа к внутренним объектам приложения при изменении идентификатора», — отметил аналитик центра Сергей Беляев.
Уязвимости были обнаружены в Aibox — платформе для работы с различными нейросетями, Liner — поисковой системе на основе искусственного интеллекта, Telegai — площадке для участия в ролевых играх с ИИ-персонажами, Deepy – ИИ-помощнике с открытым исходным кодом и Chaindesk — платформе для создания чат-бота ChatGPT AI для своего веб-сайта.
ИИ-модели получают доступ к данным, инструментам и файлам, отмечают эксперты. Утечь могут личные данные пользователей, внутренние документы компаний, клиентские базы. Основные риски — это автоматическое выполнение вредоносных инструкций, зараженные файлы, подмена инструментов и утечка данных через «невинные» текстовые команды.