«ПДД» искусственного интеллекта

Математик и математический экономист, член-корреспондент РАН, популяризатор математики среди детей и взрослых, профессор МФТИ и АГУ Алексей Савватеев, доктор экономических наук Сергей Дзюба и учитель физики МАОУ «СОШ 4» города Гай Оренбургской области Светлана Лаушкина – о влиянии ИИ на систему образования.

В «Монокле» № 36 за 2025 год вышла очень важная и интересная статья «ИИ в школе: инструмент или угроза?». Нельзя не согласиться с вынесенной в аннотацию постановкой вопроса: «России важно сделать выбор в пользу суверенной модели [ИИ] и определиться с ролью учителя». Эти два ключевых вопроса и станут предметом обсуждения в настоящей статье. И вот здесь мы не можем сказать, что во всем согласны с аргументами, предложенными автором. Сразу оговоримся: мы не собираемся отрицать, что искусственный интеллект (хотя правильно говорить о «языковых моделях») стал неотъемлемой прогрессивной частью нашей жизни, включая образование. Но, как и в случае с другими явлениями прогресса, например повсеместным распространением автомобилей, оно не может существовать вне «правил дорожного движения». Поэтому и обсуждать мы будем не ИИ, а «ПДД ИИ».

Начнем с роли учителя. Автор справедливо обозначает полярные подходы, условно названные «Учитель — незаменимый центр образовательного процесса» и «ИИ берет на себя весь процесс обучения», а далее философски заключает: «Несмотря на всю радикальность позиций, можно предположить, что в итоге истина в этом споре окажется где-то посередине и будет найден баланс». Конечно, взвешенная точка зрения всегда выглядит более мудрой и выигрышной, но мы готовы отстаивать справедливость только первой позиции — о принципиальной незаменимости учителя.

Предположим, мы располагаем самой неполживой моделью ИИ с 0% «галлюцинаций». Даже в этом случае относительно использования ИИ должен исповедоваться подход, эквивалентный принципу половой неприкосновенности: знакомиться с ним можно только на определенном уровне зрелости. И достичь требуемого уровня возможно только с Учителем. Который научит критическому мышлению, отличать правду от лжи, что такое «хорошо» и что такое «плохо», и чтобы «Волга впадает в Каспийское море» отскакивало от зубов. Человек не обладает монополией на истину, и в этом океане неопределенности проложить путь поможет только Учитель. В то время как ИИ предложит единственный «верифицированный» кем-то вариант. Или несколько, но тогда из них придется делать выбор, а это уже задача и ответственность Человека, но никак не языковой модели.

Кстати, зачем нужно, чтобы «от зубов отскакивало», когда можно спросить у услужливого ИИ? Потому что ИИ — это, образно говоря, флешка с внешней памятью, которая работает только при подключении. При обрыве «провода» останется только «оперативная память», а там может оказаться зияющая пустота. Или, что еще хуже, свалка из клипов, котиков и лайков. Но еще важнее то, что только в «оперативной памяти» происходит сложнейшее комбинирование находящихся там объектов, которое мы называем мыслительной деятельностью.

Если отойти от образов к более структурированному представлению, какое воздействие оказывает использование ИИ на неокрепшее (это важно) сознание, то получим следующее.

Когнитивная атрофия. Глубокая переработка информации не запускается; рабочая память и внимание не тренируются; знания не «впечатываются», а скользят по поверхности. Возникает привычка к готовому ответу вместо построения решения.

Боязнь неопределенности. Любая «затычка» — повод бежать к подсказке. Теряется интеллектуальная выносливость, снижается порог фрустрации.

Деградация речи и письма. Текст «гладкий», но чужой: обмеление аргументации, исчезновение личного стиля, бедная синтаксическая моторика, устные ответы пустеют.

Смещение норм. Закрепляется установка «важен результат, а не способ его достижения». Растрачивается ценность личного вклада и размываются границы академической честности.

Мотивационный перекос. Внутренняя мотивация замещается инструментальной: «зачем напрягаться, если можно нажать». Без ИИ — беспомощность и тревога; с ИИ — бездумная зависимость.

Планирование и критика решений не формируются. Ребенок учится принимать вывод машины на веру, не умеет ставить задачу, разбивать ее на шаги, проверять корректность ответа и качество источников.

Кстати, этот список подготовлен одной из моделей ИИ. Так и хочется воскликнуть: «Ну вот же! И зачем с этим бороться?» Но, повторимся, мы и не говорим, что с ИИ нужно бороться. Мы говорим о зрелом отношении. А оно формируется только в «интерфейсе» Ученик — Учитель, но никак не Ученик — ИИ. При этом ИИ, конечно, может выступать помощником учителя, чтобы не только облегчать проверку заданий, но и заполнять журналы, журнал ведения журналов и прочую рутину, которой вышестоящее начальство в изобилии учителя «снабжает» и будет продолжать это делать.

Вернемся к статье, которой мы оппонируем. На наш взгляд, в ней присутствует ложные тезисы, позволяющие в пошаговой форме обосновать допустимость и необходимость замены учителя компьютерной лингвистической моделью.

«ИИ не только не снижает требования к уровню общего образования, а наоборот, значительно повышает их, потому что, если вы хотите получить умные ответы, вы должны уметь задавать умные вопросы, а это требует глубоких фундаментальных знаний». Это неверно, поскольку желание получать умные ответы возникает только как результат самостоятельного поиска и выраженной мотивации, которую ИИ не формирует, а наоборот, размывает. По этой же причине является ложным тезис, что «возможности ИИ-технологий позволяют создать практически безграничное пространство для индивидуального творчества без ущерба для качества усвоения знаний, наоборот, только усиливая такие требования. Особенно это будет ярко проявляться в проектной деятельности, которая требует от учащихся творческого подхода к изучаемым предметам и, что очень важно, развивает умение находить междисциплинарные взаимосвязи». Уже сейчас на наших глазах использование ИИ приводит к деградации проектной деятельности, и вовсе не по причине несовершенства ИИ.

«Если мы исходим из позиции сохранения учителя как основного актора в процессе передачи знаний, ИИ должен выполнять роль помощника учителя во время проведения урока». Этот тезис неверен в части «во время проведения урока». Использование ИИ прямо на уроке только повышает риски срыва из-за нештатных ситуаций. Преимущества того, что «появляется возможность голосом вызывать необходимые иллюстрации, анимированные карты, видеосюжеты на интерактивной доске» иллюзорны, поскольку все то же самое можно получить, подготовив заранее медиаматериал и представив его теми же техническими средствами, но контролируемым образом. Другими словами, использование ИИ на уроках бессмысленно, поскольку не имеет никаких преимуществ по сравнению с его использованием учителем при подготовке, но при этом повышает риски неконтролируемого хода урока.

Однако, в чем мы полностью согласны с автором, так это в том, что в части самостоятельной работы и подготовки домашних заданий ИИ полностью «переворачивает доску», поскольку мы уже неспособны препятствовать его использованию в этой части учебного процесса. Это вызов для современной педагогики, и простых решений тут нет. Определенно можно сказать только то, что это будет увеличивать роль живого Учителя, прививающего ученику самостоятельность, честность и ответственность. И здесь мы тоже согласны с автором: эволюционное распространение ИИ в образовании в любой форме неизбежно потребует еще большего числа учителей.

Теперь разберем концепцию суверенного ИИ. Здесь у нас тоже нет расхождений с автором в том, что российская модель ИИ должна быть суверенной. Среди специалистов также практически сформирован консенсус относительно того, что помимо общих универсальных языковых моделей должны развиваться модели специализированные отраслевые. Остановимся на тезисе автора, что образовательный ИИ должен быть одной из таких моделей. Он ошибочен.

Предположим, Россия обладает суверенным универсальным и образовательным ИИ. При этом все, что мы можем найти в образовательном ИИ, мы точно так же можем найти и в универсальном (образовательный ИИ является подмножеством универсального). Это свойство не может не выполняться, поскольку иначе эти ИИ либо противоречивы (существуют утверждения, которые верны в образовательном ИИ и неверны в универсальном, или наоборот), либо универсальный ИИ неполон. Заметим, что иные специализированные ИИ (например, области археологии, химии, молекулярной биологии и т. п.) не обязаны быть подмножествами универсального, поскольку будут содержать знания, востребованные только узкими специалистами и по этой причине отсутствующие в универсальном ИИ.

Итак, если образовательный ИИ является подмножеством универсального, то он будет нужен только для использования на уроках. Однако выше мы показали, что это несет только риски и никаких выгод. Вне стен школы все участники образовательного процесса неизбежно будут иметь доступ к универсальному ИИ. Отсюда следует, что специализированный образовательный ИИ просто не нужен.

С другой стороны, нельзя не согласиться с мнением автора, что «ответы ИИ должны полностью соответствовать учебной программе, использовать корректные источники и отражать одобренную Минпросвещения трактовку событий, особенно в гуманитарных предметах. Все факты, даты, формулы, цитаты должны быть проверяемыми. Образовательная ИИ-модель ни при каких условиях не должна допускать воспроизведение деструктивного контента, обязана иметь высокий уровень эмпатии и стремиться исключительно к позитивному взаимодействию с ребенком». Однако все эти свойства должны в точности так же выполняться в универсальном суверенном ИИ. Поэтому утверждение, что «важным требованием к школьной ИИ-модели будет ее автономность — иными словами, эту модель необходимо полностью изолировать от контента в интернете», избыточно. Здесь задача состоит не в изоляции от интернета, а в настройке ИИ по суверенным источникам. Суверенная языковая модель ведь не является спонтанным коллекционером всего, что попадется в интернете, а только того, что вложат в нее обучающие ее разработчики.

Из этого следует, что все государственные средства, потраченные на «изолированный от интернета» образовательный ИИ, — это деньги, выброшенные на ветер. Они должны быть перенаправлены на создание суверенного российского ИИ, который будет выверенным, взвешенным, эмпатичным и не будет деструктивным. К сожалению, такого пока не существует. А если бы существовал, обладая такими свойствами, он был бы сильнейшим инструментом мягкой силы России в дружественных и сочувствующих странах. Кроме того, суверенный ИИ выступает надежной страховкой от опасности выхода из-под контроля глобальных «всеядных» и неразборчивых ИИ.

Тезисно подведем черту под нашей точкой зрения.

Учитель — незаменимый центр образовательного процесса.

Развитие ИИ будет увеличивать потребность в «живых» учителях и росте их квалификации.

ИИ не должен использоваться в стенах школы. Это не мракобесие, а естественное условие тренировки интеллекта и воспитания души молодого поколения.

Трата денег на создание школьного ИИ — это нецелевое использование государственных ресурсов.

Первостепенной задачей является создание суверенного российского ИИ.

Печать