В веб-приложениях для работы с ИИ зафиксирован всплеск уязвимостей

В третьем квартале 2025 года доля обнаруженных уязвимостей в веб-приложениях на базе искусственного интеллекта составила 5 %. Ранее подобных случаев не фиксировалось. Об этом сообщили «Известиям» в центре расследования киберугроз Solar 4RAYS, ГК «Солар».

— Многие уязвимости в AI-решениях были связаны с типичными клиентскими проблемами, такими как внедрение вредоносного кода в веб-страницу и получение доступа к внутренним объектам приложения при изменении идентификатора, — отметил аналитик центра Сергей Беляев.

Уязвимости были обнаружены в Aibox — платформе для работы с различными нейросетями, Liner — поисковой системе на основе искусственного интеллекта и Chaindesk — платформе для создания чат-бота ChatGPT AI для своего веб-сайта.

ИИ-модели получают доступ к данным, инструментам и файлам. Основные риски — это автоматическое выполнение вредоносных инструкций, заражённые файлы, подмена инструментов и утечка данных через текстовые команды.

Ранее 78.ru сообщал, что в России внедряют ИИ в системы защиты от киберугроз.