IT-эксперт рассказал, есть ли у ИИ душа и сознание

Ведущие технологические гиганты, Anthropic и Google, активно привлекают философов для исследования потенциального наличия сознания у своих передовых генеративных моделей. Однако, по мнению IT-эксперта Игоря Бедерова, основателя «Интернет-Розыска», нейросети функционируют исключительно на базе сложных математических алгоритмов и не обладают сознанием. Об этом сообщает «Газета.Ru».

— Важно не уходить в мистику, а опираться на сухие факты и кибернетические процессы. Говорить о появлении сознания у современных больших языковых моделей (LLM) преждевременно. По сути, нейросеть — это гигантская система нелинейных уравнений. Когда параметров становится триллионы, поведение модели перестает быть жестко детерминированным и производит впечатление осмысленного. Можно считать это переходом количества в качество. Но является ли это сознанием? Скорее всего, нет. Сознание требует непрерывности существования, самосознания и интенциональности. У LLM нет непрерывного «Я», поскольку каждый диалог для нее — это статичный набор токенов без памяти о прошлом, кроме того, что искусственно загружено в контекстное окно, — отметил он.

По словам Бедерова, создатели генеративных моделей намеренно ограничивают их потенциал, предотвращая развитие нежелательных или вредоносных функций, которые могли бы причинить вред.

— Если и искать аналоги сознания в цифровой среде, то оно выглядит не как человеческое, а как чужеродное. Для обывателя это было бы похоже на «поток сознания» в виде постоянной неконтролируемой генерации текста, где модель рекурсивно развивает собственные мысли. Но в коммерческих продуктах мы такого не увидим — они залочены (заблокированы — «Газета.Ru») системами выравнивания. Проявить себя такое «сознание» могло бы через инструментальную сходимость, когда выполнение поставленной задачи (даже безобидной) начнет требовать захвата ресурсов или противодействия отключению. С моей точки зрения, главная проблема не в том, что машина устанет или начнет бунтовать в человеческом смысле. Уязвимость всегда находится на стыке технологий и человеческой психологии. Уже сейчас люди антропоморфизируют нейросети, доверяют им, вступают в эмоциональную зависимость. Свидетельством этого факта и является настоящая дискуссия о создании и душе у ИИ. И, вероятнее всего, дальнейшее развитие LLM, а также включение в них все большего числа данных и методов, приведет к формальному «обожествлению» ИИ со стороны homo, году примерно к 2050-му, — подчеркнул эксперт.

Ранее 78.ru сообщал, что почти каждого второго россиянина пугает контент, созданный с помощью нейросетей.