ИИ: почему нас сознательно вводят в заблуждение

Математик и математический экономист, член-корреспондент РАН, популяризатор математики среди детей и взрослых, профессор МФТИ и АГУ Алексей Савватев – о том, что термины «искусственный интеллект» или «нейронные сети» никогда не были научными.

В ходе проверки написанного https://t.me/alexei_savvateev/2881 и последующего общения, GigaChat Сбера сам предложил задать ему вопрос и выдал такой ответ:

«Нейронные сети называют маркетинговой иллюзией, потому что их название и представление в СМИ часто создают ложное впечатление о том, что они работают подобно человеческому мозгу. На самом деле, нейронные сети — это математические модели, которые не имеют ничего общего с биологическими нейронами или процессами, происходящими в человеческом мозге.

Вот несколько причин, почему это считается иллюзией:

1. Отсутствие нейронов: В нейронных сетях нет настоящих нейронов, как в мозге. Это просто матрицы вероятностных коэффициентов, которые пересчитываются при обучении и использовании.

2. Маркетинговое название: Термин «нейронные сети» был придуман для того, чтобы звучать круче и привлекать внимание. Это название создает ложное представление о том, что ИИ работает подобно человеческому мозгу.

3. Отсутствие сознания: Нейронные сети не обладают сознанием или разумом. Они не понимают смысла информации, а лишь обрабатывают данные и выдают результаты на основе обученных моделей.

Таким образом, нейронные сети — это мощный инструмент для обработки данных, но их работа не имеет ничего общего с человеческим интеллектом или сознанием».

Добавим в этому несколько соображений

Термины «искусственный интеллект» или «нейронные сети» никогда не были научными. Это прежде всего маркетинговый ярлык, создающий у широкой аудитории ложное ощущение, что перед нами некий аналог человеческого мышления, искусственный разум, почти мозг.

В реальности нейронные сети не имеют ничего общего с человеческим мозгом — ни по устройству, ни по принципам работы, ни по результатам.
В «нейронной сети» — матрицы чисел, весовые коэффициенты, линейные и нелинейные преобразования, оптимизация функции ошибки. Это не упрощённый мозг, а математическая модель, удобная для вычислений.

Термин «neural networks» появился не потому, что модель была нейробиологически корректной, а потому что он красиво звучал и позволял привлечь внимание и, естественно, финансирование.

Если бы те же сущности назывались академически честно, например, «многоуровневая система статистической аппроксимации» — никакого хайпа вокруг них бы не было. Но маркетинг сделал свое дело и у публики возникло ощущение, что компьютер «думает», «понимает», «рассуждает». Это сознательная иллюзия, поддерживаемая СМИ, корпорациями и чиновниками.

Нейронная сеть ничего не понимает.

Она не знает, о чем говорит.

Она не знает, правильно ли дает ответ.

Она не знает, зачем отвечает, что является конечной целью.

Она лишь вычисляет статистически наиболее вероятный результат на основе обучающих данных и заданных алгоритмов.

Мы их очеловечиваем сами

Человеческая психика устроена так, что мы склонны наделять любые сложные и «поведенчески убедительные» системы человеческими чертами — мы их «очеловечиваем».

Это помогает нам быстрее и более естественно взаимодействовать с ними. Смысл при этом возникает не в машине, а в голове человека, который получает результат. Связный текст, уверенный тон и внешняя логичность ответа создают эффект «умного ответа» не потому, что мышление действительно происходит, а потому что форма ответа совпадает с привычными для нас признаками осмысленной речи.

Но надо всегда держать в уме:

У нейросети нет сознания, намерений, понимания последствий, ответственности за результат. Она не может отличить правду от лжи, важное от второстепенного, опасное от безопасного, если этому явно не научили через внешние ограничения. Любое «рассуждение» — это имитация, а не мыслительный акт.

У широкой публики иллюзия возникает ещё и потому, что объект выдают за субъект

Тут стоит кратко сказать о разнице в принятии решений человеком и машиной.

Человеческий разум формирует решения на основе комплексного взаимодействия когнитивных процессов, эмоционального опыта, убеждений, социальных норм и культурных особенностей.

В основе каждого решения лежит индивидуальный жизненный опыт, система ценностей и этических принципов (список не исчерпывающий).

Нейросети же подобны безупречному калькулятору — они бесстрастно обрабатывают массивы данных, следуя заложенным алгоритмам. Им неведомы ни сомнения, ни колебания, ни моральные дилеммы. Они не знают, что такое совесть или сострадание, не способны оценить этическую сторону вопроса или прислушаться к голосу интуиции.

Нейросеть ускоряет рутину, помогает с черновиками, обрабатывает большие массивы данных, но она не заменяет мышление, а имитирует его (и маскирует его отсутствие, если человек перестаёт думать сам).

Самая серьезная проблема не в технологиях, а в том, как их продают публике

Когда нейросеть объявляют заменой учителя или эксперта, происходит деградация требований к человеку.

Именно так и формируется общество, о котором предостерегают: узкая группа тех, кто понимает как всё устроено, и широкая масса тех, кто просто пользуется интерфейсом.

И если сегодня действительно стоит пересмотреть «принципы подготовки специалистов и их последующего карьерного роста», то это должно касаться в первую очередь тех, кто подменяет образование иллюзией технологического всемогущества.
Потому что без фундаментального образования и самостоятельного мышления нейросети не усиливают человека — они делают его зависимым.

Чиновники любят ИИ не потому, что тот «умен», а потому что он удобен

Он создает имитацию рационального управления, снимает необходимость понимать предмет, размывает ответственность и позволяет управлять сложными системами, не погружаясь в их суть. То есть помогает имитировать деятельность.

Именно поэтому так важно не подменять разговор о сути образования, науке и мышлении разговором о технологиях. Печать