Эксперт перечислил главные угрозы при использовании ИИ для бизнеса

Российские компании все активнее внедряют нейросети, однако этот процесс порождает новые скрытые риски. Самой опасной тенденцией сегодня становится так называемый «теневой ИИ» — когда сотрудники тайно используют сторонние чат-боты для оптимизации своей работы, загружая туда внутренние документы фирмы. Об опасности этой и других угроз в беседе с изданием «Известия» рассказал профильный эксперт.

Основной риск при бесконтрольном использовании публичных ИИ-сервисов заключается в высокой вероятности утечки конфиденциальной информации. Желая упростить себе задачу, менеджеры нередко отправляют нейросетям финансовые отчеты, персональные данные клиентов или коммерческие тайны, которые затем могут быть использованы для обучения общедоступных моделей.

Еще одной серьезной проблемой эксперт называет склонность ИИ к так называемым «галлюцинациям» — генерации выдуманных фактов, выдаваемых за правду. В бизнесе цена подобной ошибки критически высока.

Ситуацию усложняют правовой вакуум в вопросах авторских прав на созданный ИИ контент, а также высокая стоимость разработки собственных закрытых систем на фоне дефицита ИТ-кадров. Для защиты бизнеса специалист рекомендует компаниям вводить строгие внутренние регламенты и переходить на безопасные локальные ИИ-решения.