Куда ведет гонка за сверхразумом

Политолог, директор лаборатории новых технологий ЭИСИ, эксперт Центра ПРИСП Александр Асафов – отехнологической гонке XXI века.

Ведущие мировые ИТ-корпорации прямо сейчас участвуют в гонке по созданию искусственного сверхразума (ASI), который, как обещают эксперты, «превзойдет человека во всех отношениях».

Проблема в том, что движение по нынешней траектории якобы с высокой вероятностью ведет либо к вымиранию человечества, либо к монополизации власти в руках узкой группы элит. Аналитики из AI Futures Project представили доклад AI 2040, в котором называют точкой невозврата 2030 год: именно тогда ИИ сможет автоматизировать собственную разработку.

Каким станет мир будущего, зависит от политических шагов США и других мировых держав.

Сценарий A — сотрудничество

США и Китай к 2029 году временно останавливают обучение новых моделей, декларируют свои вычислительные мощности и договариваются об инспекциях дата-центров. Основой для сотрудничества становится «гарантированное взаимное уничтожение вычислительных мощностей»: инфраструктура размещается в уязвимых третьих странах (Канада, Монголия), чтобы в случае нарушения соглашения стороны могли физически лишить друг друга возможности начать неконтролируемое развитие ИИ.

Затем создается международный консорциум, внутри которого исследования становятся практически полностью прозрачными, а передовые модели разрабатывают десятки компаний из разных стран. К 2035 году развитием моделей занимается узкая группа высококвалифицированных экспертов, горизонт создания ASI — 2040 год. Идет роботизация, мировая экономика растет взрывными темпами, люди получают базовый доход.

Сценарий B — саботаж

США формируют собственную ИИ-коалицию и пытаются силой удержать свою монополию. Американские ИИ-компании переходят под контроль президента, осуществляются кибератаки на китайские дата-центры, кластеры по производству чипов и цепочки поставок. К 2031 году Вашингтон оказывается перед выбором: передать нейросетям дальнейшую разработку ИИ либо начать Третью мировую войну, чтобы не позволить Китаю первым создать ASI.

Сценарий C — замедление

Под давлением общественности власти США вводят жесткое регулирование ИИ, а ведущие компании приостанавливают автоматизацию исследований. Высвободившееся время направляется на тестирование моделей ИИ и разработку механизмов их контроля. Полноценного механизма международного контроля за ИИ не возникает: США не допускают китайских инспекторов, Китай продолжает сокращать отставание, а технологические корпорации требуют возобновить автоматизацию разработки ИИ. Спустя некоторое время мир возвращается к неконтролируемой гонке за ИИ.

Сценарий D — гонка

США вводят мягкое регулирование, компании продолжают секретные разработки передового ИИ. К 2030 году разработка моделей полностью автоматизируется, после чего начинается стремительное самоусовершенствование систем. В начале 2031 года создается ASI и появляется риск потерять над ним контроль. После вмешательства правительства контроль над ASI сосредоточен в руках нескольких корпораций и политиков. На этом фоне другие великие державы объединяются против США.

Сценарий S — отказ от ИИ

США и Китай договариваются о моратории на развитие передовых систем. Существующие модели ИИ продолжают работать, но разработка новых моделей запрещается. К концу 2030 года соглашение охватывает 99% мировых вычислительных мощностей и все производство передовых чипов. Существуют секретные проекты по развитию ИИ, однако они реализуются примерно в 10 раз медленнее. Главная угроза — односторонний отказ от моратория и возобновление технологической гонки при значительном расширении вычислительной инфраструктуры.

Впрочем, как утопичные, так апокалиптические прогнозы пока остаются скорее фантазиями технооптимистов из Кремниевой долины. В то же время трудно отрицать, что борьба за лидерство в сфере ИИ уже идет: государства и корпорации конкурируют за передовые чипы, редкоземельные металлы и контроль над цепочками их поставок.

Именно от исхода этой борьбы будет зависеть, в чьих руках окажутся технологии и мощности для дальнейшего развития ИИ — независимо от того, появится ASI или нет.