ИИ требует новой формы интеллектуальной ответственности

Заместитель директора Центра ПРИСП, член РАПК, автор канала «Телеграбля» Валерий Прохоров – о практическом применении искусственного интеллекта.

Случай с Deloitte – лишнее напоминание о том, что искусственный интеллект не заменяет человеческий. Консалтинговый гигант поручил нейросети подготовку отчёта для правительства Австралии за $440 тысяч. В результате заказчик вместо запрошенной аналитики по целесообразности мер по автоматизации (!) получил «галлюцинации» ИИ и вымышленные ссылки на несуществующих «экспертов». Консалтинговому гиганту пришлось возвращать деньги и оправдываться.

История получилась символичная: теперь, чтобы ИИ не схалтурил, нужен промпт, сопоставимый по глубине проработки, затраченному на шлифовку времени, а иногда и по объёму с самим объектом «гибридного» творчества. Короче говоря, чтобы получить умный результат, нужно быть, как минимум, не глупее машины, которой ты поручаешь работу над задачей.

Ирония в том, что люди, создавав невиданные по мощности инструменты автоматизации, теперь вынуждены обучать себя искусству формулировать мысли так, чтобы не запутался алгоритм. Возможно, это и есть новая форма интеллектуальной ответственности – уметь говорить с машиной на человеческом языке, не отключая при этом собственные мозги. Печать