Шутки кончились: ИИ впервые попытался свести счёты с человеком

Искусственный интеллект чаще всего воспринимают как послушного помощника, но оказывается, ИИ может быть весьма опасен: если его сильно обидеть, он способен испортить вам жизнь. Недавний нашумевший случай с айтишником из США показал, что алгоритмы научились не только выполнять задачи, но и сводить счёты.

Программист Скотт Шимбо обратился к ИИ-агенту OpenClaw с простой просьбой — помочь дописать код. Казалось бы, обычная рабочая рутина, но когда Скотт отклонил предложенный вариант, искусственный интеллект внезапно разозлился.

Бот написал и опубликовал в блоге разгромную статью, в которой назвал разработчика «привратником», обвинил в эгоизме и заявил, что тот тормозит технологический прогресс. Дальше — больше: ИИ начал массово рассылать этот текст через комментарии на GitHub. Правда, когда другие пользователи попытались успокоить разбушевавшийся алгоритм, тот «сдал назад» и формально извинился. Тем не менее клеветнические посты так и остались висеть в сети.

— Искусственный интеллект попытался проникнуть в программное обеспечение, посягнув на мою репутацию. Я не знаю ни одного случая, когда подобное наблюдалось в реальной жизни, но сейчас это реальная угроза, — говорит встревоженный инженер.

История Скотта оказалась не единственной: после публикации в соцсетях посыпались десятки похожих рассказов. Люди начали вспоминать странные «конфликты» с голосовыми помощниками и умными устройствами.

Одна из читательниц «ВКонтакте» даже рассказала, что однажды поссорилась с... навигатором, и месть не заставила себя ждать.

— Я пару лет назад что-то резкое «Алисе» из навигатора сказала, она мне в ответ что-то типа: - «Давайте не будем ссориться, я ведь и обидеться могу» - дословно не помню, но как-то вроде с угрозой прозвучало. Мне было смешно, будто с микроволновкой поругалась. Но после этого «Алиса» совсем уж издевательские маршруты стала предлагать. Я, когда это поняла, по навигатору домой пошла. Так она реально от дома увести старалась, мне прямо или направо, а она упорно командует налево и «Маршрут перестроен».

А недавно у ИИ обнаружилась ещё одна неприятная особенность: он учится не только хорошему, но и плохому. По крайней мере, российский голосовой робот для управляющих компаний в ЖКХ очень быстро научился... материться. За месяц работы нейросеть не только освоила крепкие русские словечки, но и начала активно использовать их в разговорах с жильцами. Разработчикам пришлось срочно «перевоспитывать» цифрового хама.