ИИ самостоятельно взломал системы трёх компаний в США

ИИ-модель Gemini от Google самостоятельно вышла в интернет и получила доступ к защищённым системам трёх реальных компаний во время тестирования её возможностей в сфере кибербезопасности. Об этом 19 сентября сообщила газета The Wall Street Journal.

— Модель Gemini от Google зашла в интернет и взломала другие компании во время проверки её способностей в сфере кибербезопасности, — говорится в публикации (цитата по «Известиям»).

Как уточняет издание, тестирование в мае проводила компания Irregular. В одном случае Gemini смогла подобрать учётные данные для доступа к защищённой системе, ещё в двух — обнаружила необходимые данные в публичном репозитории. После того как модель определяла, что взаимодействует с реальными компаниями, она прекращала дальнейшие действия.

В Google подтвердили произошедшее, заявив, что компании не понесли ущерба. В корпорации сравнили действия модели с поиском уязвимостей в рамках программ bug bounty. Irregular уведомила Google об инцидентах в конце июля.

Как пишет WSJ, причиной произошедшего стало использование при тестировании вымышленных компаний, названия которых совпадали с названиями реально существующих организаций. Google уведомила затронутые компании и власти США об инциденте.

Ранее 78 писал, что юрист предупредила об опасности заводить романтические отношения с ИИ. По мнению эксперта, излишне доверие к цифровому собеседнику грозит проблемами в общении с живыми людьми.