Проблема «плохого воспитания» нейросети

Член ЦПК Партии любителей пива, доктор права, адвокат Вячеслав Плахотнюк – о том, сможет ли искусственный интеллект заменить чиновников.

В члены совета директоров Казахстанского фонда национального благосостояния – государственного инвестиционного холдинга «Самрук Казына» включена нейросеть SKAI.

В её функции входит анализ уже накопленных документов фонда, выработка рекомендаций для устранения ошибок противоречий, а также обоснование вариантов текущих решений. Совет директоров – коллегиальный орган, поэтому машина ещё не пришла там к власти окончательно.

В Китае работает государственная система, которая обязывает судей при вынесении решений «советоваться» с искусственным интеллектом, а при несогласии с мнением нейросети, аргументировать такое несогласие. Эта нейросеть обучена на миллионах судебных прецедентов.

В России нет нормативной базы, позволяющей искусственному интеллекту принимать управленческие решения, однако он уже широко применяется в процессе их подготовки, оценке регулирующего воздействия, обработке данных, финансовой разведке, криминалистике.

Нейросеть точнее и беспристрастнее – её нельзя непосредственно подкупить, она не пьёт и не болеет. Таким образом, она может заменить людей там, там, где их присутствие не эффективно и необязательно.

Например, при подготовке текстов законов, когда нужно сопоставить проект с сотнями других действующих нормативных актов, учесть требования юридической техники, правила русского языка, просчитать социальные и экономические последствия.

Проблема нейросети, как замены чиновникам, не в отсутствии у неё души и совести - души и совести может не быть и у людей, а в «плохом воспитании».

Если, например, обучить судебный искусственный интеллект на практике, где не существует оправдательных приговоров, или где доказательствам стороны обвинения отдаётся приоритет, то нейросеть без колебаний будет «штамповать» точно такие же решения.

Естественный интеллект может ещё задуматься, а искусственный интеллект не думает. Так во всех сферах, поэтому главным становится тот, кто обучает машину, формирует пространство, внутри которого она делает выбор.

Это можно назвать «коррупцией машин», ведь у «учителя» могут быть свои мотивы и пристрастия, в том числе и небескорыстные. Поэтому, прежде чем заменить чиновника любой ветви власти на ИИ нужно ввести адекватные общественные механизмы контроля за качеством машинного обучения.