Наталья Касперская: Нет однозначного доказательства полезности ИИ

От Натальи Касперской . Нет однозначного доказательства или хотя бы демонстрации полезности ИИ.

Исследования, которые сейчас уже массово ведутся на Западе, дают разочаровывающие результаты. Так, производительность труда при внедрении ИИ — вроде бы — в среднем растёт на 1-1,5%, но каждому, кто занимался управлением, известно, что простое наведение порядка и налаживание бизнес-процессов даёт гораздо больший результат.

‼ В образовании риски уже реализовались: повсеместная фальсификация ученических работ с помощью ИИ — установленный факт. Так куда и зачем нам спешить?

✔ Помимо перегретости темы, ИИ имеет некий флёр «божественности», особенно у гуманитариев. Их приводит в восторг способность машины выдавать тексты или картинки как бы «не хуже человека». Отсюда возникает почти религиозная вера в могущество этой технологии. И предположения, что она сможет учить людей, понимать людей, возвышать людей. Нет, технология этого не может и не сможет никогда. Оставьте Богу Богово.

✔ То, что у нас сейчас повсеместно понимается под ИИ — это генеративные большие лингвистические модели (хотя это неверно, это один из многих видов ИИ, просто самый модный). Они у нас — все сплошь иностранные, за исключением двух — от Сбера и Яндекса. Строго говоря, большая лингвистическая модель Яндекса — тоже не совсем отечественная, полученная «дистилляцией весов» у китайских Квен и Дипсика, но при представителе Яндекса я не стала это уточнять.

‼ А иностранное ПО заведомо несёт много рисков: от навязанной идеологической повестки до целенаправленных закладок и искажений. Не говоря уж о том, что западные генеративные ИИ-сервисы блокируют российские IP, а наши регуляторы в свою очередь блокируют VPN, позволяющие пользователям из России ходить на эти ИИ-сервисы. Это у нас такое «импортозамещение»? Или сейчас внедрим иностранное и цельнотянутое, а замещать будем когда-нибудь потом?

И несколько слов конкретно про ИИ в образовании:

✔ Образование – консервативная отрасль. И это правильно. Оно отвечает за передачу накопленных знаний. А не за самое модное и новенькое, которого завтра уже может не быть. Если немедленно внедрять в образование все, что мимо пробежало, это будет не образование, а профанация.

✔ Знания, преподаваемые в учебных заведениях, должны проходить проверку истинности. А генеративный ИИ — технология исключительно вероятностная, галлюцинирующая, обученная — надо честно признать — неизвестно на чем и неизвестно кем. Значит, надо результаты её работы сначала подвергать перепроверке человеком или тестами на достоверность, чужую идеологию, ценности. А напрямую ИИ для преподавания использовать нельзя.

✔ Если оценка знаний ученика делается при помощи ИИ и — в 90% случаев — пишется студентом при помощи ИИ же, то никакой объективной оценки знаний не происходит. Да и усвоения знаний — тоже. Опросы студентов, применявших ИИ для написания учебных работ, показывают, что они не помнят не только содержания сданных работ, но даже запросов, которые делали к ИИ. Это и называется «цифровая амнезия». И вуз, в результате, выпускает неизвестно кого. (Тогда я ещё не знала про призыв г-на Орешкина доверять экзамены искусственному интеллекту. Хорошо, что он не министр образования).

✔ Многие исследования показывают, что постоянное использование ИИ снижает когнитивные способности. У студентов — потому, что те вставляют в работу выдачу ИИ, не задумываясь, и перестают учиться. У преподавателей — потому что те перестают вручную проверять работы, доверяя ИИ. ИИ пишет, ИИ проверяет, а люди — притворяются, что участвуют в процессе обучения.

‼ В пределе мы получим всеобщее отупение и привычку всё фальсифицировать. Что, кстати, говорил и Президент в конце ноября на выставке ИИ.

Интересно, что аудитория после моего выступления внезапно зааплодировала, что навело меня на подозрение, что не все так уж любят этот ИИ.

Лучше бы, вместо внедрения ИИ в образование, заняться демографией. Вот чего ИИ точно не сможет делать в обозримой перспективе — так это людей. Эта задача пока под силу только людям.

Источник: ТГ Наталья Касперская Печать