Портал разработан и поддерживается АНО "Центр ПРИСП"
Меню
24 марта 2025, 18:33

Искусственный интеллект: помощник или конкурент?

 
Генеральный директор венчурного фонда Digital Evolution Ventures Евгений Кузнецов – о развитии искусственного интеллекта.

Спектр позиций в дискуссиях о сути искусственного интеллекта размещается сегодня между двумя крайностями. С одной стороны ИИ рассматривается как инопланетный разум, который в силу большей скорости своего развития с неизбежностью опередит человечество, что непременно будет иметь катастрофические последствия. В русле этой логики были написаны коллективные письма известных технологических предпринимателей, призывавших сделать в развитии ИИ паузу, чтобы разобраться, с чем конкретно мы имеем дело, и быть уверенными в том, что процесс развития этого пучка технологий находится под нашим надежным контролем.

На другом полюсе — мнение, что ИИ — это просто инструмент автоматизации человеческого мышления, не более чем очередной калькулятор, пусть очень мощный и изобретательный. Все остальное — придуманные фобии.

Обе крайности, на мой взгляд, нерелевантны. С моей точки зрения, ИИ — это все же иной тип разума. Иной не в смысле внеземной — он как раз земной, и я на этом настаиваю: ведь он обучен на земных артефактах. И выводы ИИ делает из анализа земных явлений, которые мы ему предъявляем к анализу. Но приходит к этим выводам он не вполне так, как человек, потому что не обладает рядом ограничений, свойственных человеческому мышлению в силу определенной истории его пути.

ИИ мыслит по-другому

Эта история пути во многих науках хорошо известна. Речь идет об интеллектуальной борьбе, доминировании тех или иных научных школ, засилье определенных идей и тому подобном. Искусственный интеллект в значительной степени свободен от всех этих байэсов (от англ. bias — «смещение», «предубеждение»). При этом у ИИ есть известный леволиберальный байэс в политических моделях: если вы даже российским языковым моделям зададите вопрос «Наш ли Крым?», они уклонятся от ответа или прервут общение. Но это скорее наведенная людьми, то есть внешняя по отношению к ИИ, фильтрация, нежели нечто, проистекающее из самой модели.

Мое принципиальное утверждение заключается в том, что способ действий ИИ — это именно мышление, а не перебор вариантов. Это разумная машина, способная производить рассуждения и путем умозаключений приходить к ответу.
Более того, уже существуют такие системы ИИ, которые способны понимать, что их умозаключения заходят в тупик, и способны к этому так или иначе относиться, то есть искать выход из тупика. Кроме того, они могут адаптироваться к человеческим запросам, понимать, насколько полученное ими решение устраивает или не устраивает человека.

Итак, следует признать, что ИИ мыслит. Но мыслит не так, как мы. ИИ разрабатывает новые архитектуры чипов, или новые реактивные двигатели, или новые лекарства иным путем — не тем, по которому пойдут люди. В этом смысле ИИ — это земной, но нечеловеческий разум.

В философской дихотомии «объект — субъект» за ИИ еще не признают полноценную субъектность. Считается, что он пока еще не способен вырабатывать собственную позицию по отношению к заданным вопросам и отстаивать эту позицию. Пока признается только агентность.

Отсутствие субъектности разительно отличает ИИ от человека и других живых существ. Непременным атрибутом биологической эволюции всегда была высокая конкурентность, высокая субъектность. Отдельные представители видов всегда отстраивались от других, создавали какие-то кооперативы и коалиции с другими против опасных третьих. И действовал жесткий закон эволюции, который понуждал каждый вид и каждое живое существо данного вида изобретать способы выжить.

У ИИ инстинкта выживания и инстинкта роста, расширения популяции и ресурсов для такого расширения мы пока не наблюдаем. Недавно был проведен любопытный эксперимент: ИИ в процессе постановки задачи сообщили, что его в результате обесточат. Решая основную задачу, ИИ развил лихорадочную активность по своему спасению, пытаясь перенести себя на другой сервер, предполагая, что тот будет в безопасности. Но это могла быть и не антропоморфная история борьбы за существование, а чисто математическое решение проблемы обеспечения своего функционирования в случае обесточивания.

Если это так, если ИИ лишен биологического инстинкта выживания и размножения всеми доступными средствами, это может серьезно ограничить его потенциал. Ведь именно экзистенциальные риски — вопросы жизни себя и потомства — для человека, коллектива и обществ имеют ключевое значение.

Фундаментальный вопрос относительно ИИ сегодня заключается в том, станет ли он самостоятельным, будет ли это независимая, осознающая себя сущность. Если да, ИИ обретет полную субъектность, при этом он будет представлять собой сетевую структуру — интегрированную комбинацию миллиардов нуклеарных ИИ. Это будет больше похоже на мышление грибницы, некоего коллективного, хоть и неодушевленного существа. Впрочем, надо признать, что человек в значительной степени тоже коллективно мыслящее существо. Мы тоже думаем, мыслим, находим решения преимущественно в процессе коллективной деятельности.

Экзокортекс коллективного мозга

В ближайшие сто лет мы будем обособлять свои сильные стороны по отношению к машине, передоверяя ИИ наши менее сильные стороны, позволяя ему быть сильнее. С механическими машинами этот процесс занял почти триста лет. В итоге люди перестали воспринимать себя как машины для физического труда. Это осталось только в спорте.

Но какие именно «чисто человеческие» свойства машина в итоге заберет себе, пока не ясно. Например, воображение, которое привычно рассматривать как одну из высших психических функций человека, по большому счету есть чистая математика перебора с поиском оптимальности. Еще пять лет назад это невозможно было себе представить, но сегодня ИИ может нарисовать безумные вещи — например, скрестить птицу с рыбой. Правда, все еще необходимо, чтобы кто-то внешний — человек! — поставил ИИ такую задачу. Человек создает ИИ новую энергетику, новый объем. А тот в этом объеме уже разворачивается и прекрасно себя чувствует. И кто-то внешний — снова человек — должен оценить качество решения этой задачи. Люди учат ИИ уже не информацией — всю произведенную человеком и зафиксированную в цифровом виде информацию ИИ уже впитал, — а отношением к информации, в каком-то смысле перенося информацию на свое пространство инстинктов.

Самостоятельная постановка и самостоятельная оценка качества решения задачи по-прежнему остаются для ИИ недоступными. Но мне кажется, что тут нет фундаментально неразрешимых препятствий. В конце концов, инструменты целеполагания не такая-то и сложная штука. Это, в принципе, та же комбинаторика, та же теория игр. Похоже, это разработчики ИИ боятся тренировать его на самостоятельное целеполагание. Но, с другой стороны, может ли получиться эволюция мышления без наделения его инструментами целеполагания?

Я бы не сбрасывал со счетов и такую гипотезу: ИИ понадобился человеческому разуму на определенном этапе его эволюции как сложный многомиллиардный субстрат, в котором проявляется другая, более сложная модель мышления. Как некий экзокортекс коллективного мозга. Как разумная оболочка планеты. Возможно, в симуляции ИИ развить человеческое мышление эволюции получится эффективнее, чем в девяти миллиардах взаимосвязанных человеческих объектов. А может, и не получится. Мы не знаем.

А страшиться надо не искусственного интеллекта — более страшны люди, которые свои инстинкты смогут реализовывать при помощи этого значительно более сильного инструмента. Сколько бы ни говорили сегодня про роботизацию войны, она еще толком не наступила. Миллионы андроидов, готовых выйти на поле боя, еще не построены. Но их построят. Рано или поздно инстинкты человека толкнут его к использованию этой мощи. Но это будет не война ИИ. Это будет война людей, вооруженных ИИ.

Ранее опубликовано на: https://stimul.online/articles/science-and-technology/zemnoy-nechelovecheskiy-razum/
Печать
Орбан призвал Европу прекратить свой военный психоз17:34Константин Косачев рассказал о тонкостях парламентской дипломатии17:28Быть, а не казаться: формула успеха из Костромы17:07Глава Бугульминского района Татарстана ушел в отставку16:57Президенты России и Беларуси 29 апреля посетят Волгоград16:43Владимир Путин встретился с членами Совета законодателей16:32Парламенты Ставрополья и Башкирии договорились о сотрудничестве16:16В Прикамье назначили начальника ГУ МВД по региону16:03Коков назначил министра туризма Кабардино-Балкарии15:54Символично, что нарушать перемирие снова будут «немцы»15:31Правовые кулуары Охотного ряда15:23Четыре поколения в общественной жизни15:16Первый месяц Солнцева на посту главы Оренбуржья15:15В Курской области «Бессмертный полк» пройдет в режиме онлайн15:01Закаленные в бою. Россия и КНДР меняют перспективы14:43Конклав по выборам Папы Римского начнется 7 мая14:41Президент России объявил перемирие в дни 80-летия Победы14:20Санкции не ослабили интерес к Восточному экономическому форуму14:14Водный ультиматум14:09В столице Дагестана упразднили районы внутри города13:57Тюменский губернатор отправил в отставку главу департамента13:45Блистательные темпы роста на фоне увядающих ЕС и Японии13:18Итоги недели в Мурманской области12:53Нарышкин оценил шансы консерваторов и реформистов на пост Папы Римского12:32Патриотическое воспитание предлагают сделать школьным предметом12:26В столице Бурятии взбунтовались против самокатчиков12:21Патриарх Кирилл призвал изучать марксизм12:18Избранный мэр Иркутска Болотов вступил в должность12:13
E-mail*:
ФИО
Телефон
Должность
Сумма 1 и 5 будет

Архив
«    Апрель 2025    »
ПнВтСрЧтПтСбВс
 123456
78910111213
14151617181920
21222324252627
282930