Может ли ИИ стать мэром или губернатором? Что?! Да! Об этом постоянно говорят, а кое-где даже попытались осуществить!

«Нельзя спорить с прогрессом, ИИ входит в нашу жизнь. Но мне не хотелось бы, чтобы депутаты использовали искусственный интеллект, чтобы выражать мнение… Думаю, что до такого не дойдет… губернатора города искусственный интеллект тоже заменить не сможет», — так глава петербургского ЗакСа отреагировал на вопрос журналистки «Парламентской газеты», сможет ли в будущем ИИ стать депутатом или петербургским градоначальником.

Разговор о том, может ли искусственный интеллект возглавить город, этим летом перестал быть сугубо теоретическим. Так, в июне 2024 года библиотечный сотрудник Виктор Миллер подал документы и уплатил взнос, чтобы баллотироваться на пост мэра города Шайенн, столицы штата Вайоминг. При этом он заявил, что является лишь «скромным мясным аватаром» для VIC (от Virtual Integrated Citizen — Виртуально интегрированный горожанин) — алгоритма на основе GPT 4.0. По словам Миллера, в случае победы он будет лишь перерезать ленточки на официальных церемониях, а реальные решения останутся за чат-ботом.

Выдвижение VIC в мэры вызвало горячие, в том числе юридические, споры. Так, OpenAI сообщили, что Виктор Миллер нарушил пользовательское соглашение, и отключили ему доступ к ChatGPT (правда, библиотекарь еще ранее отметил, что готов перенести VIC на другую ИИ-платформу).

В свою очередь власти штата заявили, что по законам Вайоминга избираться на пост градоначальника может лишь зарегистрированный избиратель, которым ИИ, безусловно, не является. В итоге было решено, что никакого Virtual Integrated Citizen в бюллетенях для голосования не появится (хотя в списке подавших документы он все еще значится), однако сам Миллер может быть зарегистрирован в качестве кандидата. Свое отношение к его задумке жители города смогут высказать в ходе ноябрьского голосования.

В чем плюсы ИИ во главе города?

Как говорили разработчики AI Steve, кандидат-ИИ должен «заново изобрести демократию» и вернуть политике доверие избирателей, которое пошатнулось в последнее время, в том числе в Европе и США. Однако на этом весьма расплывчатом аргументе заявляемые достоинства такой идеи не заканчиваются. К примеру, издание The Conversation отмечало, что чат-бот интерфейс AI Steve доступен круглосуточно, что невозможно для реальных кандидатов.

В свою очередь Виктор Миллер в своем интервью изданию Wired говорил: «маловероятно, что человек сможет прочитать, скажем, 400 с лишним [необходимых для принятия решения] документов между встречами — VIC может это сделать». «Мое главное предвыборное обещание заключается в том, что [Virtual Integrated Citizen] будет принимать 100% решений, опираясь именно на эти толстые папки бумаг, которые я не собираюсь читать и которые, думаю, на самом деле не читает никто из тех, что сейчас у власти».

Есть и другие потенциальные плюсы. Как отмечает в беседе с «Собака.ru» Линда Рыжих, доцент кафедры менеджмента Президентской академии в Санкт-Петербурге, ИИ в кресле губернатора мог бы успешно справляться с многочисленными чисто техническими задачами, которые хуже даются человеку. «В число таких задач входят: систематизация задач и контроль за их своевременным решением, оптимизация процессов распределения и использования в отраслевом разрезе различных ресурсов (финансовых, трудовых, материальных, информационных). ИИ мог бы помочь в оптимизации расходов городского бюджета, повышении устойчивости города к кризисам», — приводит примеры Рыжих.

Наконец, добавляет Дмитрий Кутейников, юрист и исследователь в сфере AI Governance, главным преимуществом ИИ является то, что он не является человеком и, стало быть, лишен людских слабостей. «У него нет родственников и друзей, — говорит Кутейников, — Гипотетически отсутствие подверженности эмоциональным или личным пристрастиям может обеспечить большую взвешенность и справедливость в принятии решений, а также по понятным причинам снизить коррупционные риски».

В чем минусы ИИ во главе города?

Самые разные эксперты сходятся во мнении, что главным недостатком ИИ в качестве кандидата на пост градоначальника является то же, что считается его основным козырем — искусственный интеллект не является человеком. Это хорошо, когда речь идет о необходимости за ночь проанализировать бюджет города за последние полвека, однако вызывает много вопросов во всех остальных отношениях.

«Часть ценности демократии заключается в том, чтобы вами управляли равные вам, — говорит в интервью CNBC сотрудница Института этики в области ИИ Оксфордского университета Карисса Велис, — ИИ нам не равен. Он не знает, каково быть человеком, не понимает, что значит быть выселенным из квартиры, каково иметь плохую работу или мерзнуть на улице».

Также, по мнению Линды Рыжих из Президентской академии в Санкт-Петербурге, использование ИИ в качестве градоначальника, как ни странно на первый взгляд, не снижает, а повышает риск принятия необоснованных решений. «ИИ, я считаю, был бы склонен к использованию каких-то обобщенных алгоритмов для решения различных задач и проблем (как бы "все под одну гребенку"). А ведь в разных сферах и отраслях в различных экономических, социальных, политических ситуациях необходимо применять индивидуальный подход к решению проблемы в зависимости от влияния тех или иных факторов», — полагает она.

«Важнейшая роль и ответственность руководителя — это утверждение решений в сложных и нестандартных ситуациях, — продолжает Александр Бухановский, директор мегафакультета трансляционных информационных технологий Университета ИТМО. —  К сожалению, именно здесь современный ИИ начинает галлюцинировать, и потому доверие к его решениям резко падает».

Наконец, добавляет Екатерина Смирнова, партнер Digital & Analogue Partners, принятие искусственным интеллектом власти над городом нарушило бы один из главных принципов использования ИИ — необходимость верификации решений человеком. «Если мы посмотрим, например, регулирование ИИ, недавно принятое в Европе, то там как раз внедрен риск-ориентированный подход при использовании ИИ. Применение ИИ-технологий в зонах с высоким риском — там, где высока вероятность поставить под угрозу жизнь, здоровье и иные права граждан, — серьезным образом ограничено», — объясняет она.

Есть ли будущее у идеи ИИ-градоначальника?

«В качестве полноценного руководителя города искусственный интеллект, на мой взгляд, выступить не сможет, — говорит Линда Рыжих из Президентской академии в Санкт-Петербурге. — Губернатор — это не просто компетентный менеджер и администратор, обладающий определенными качествами, это ещё и специалист, который должен уметь использовать гибкость и творческий подход в своей работе при принятии управленческих и организационных решений. Искусственный интеллект на это не способен, его возможности в этом плане существенно ограничены».

 «Идея об ИИ в качестве губернатора сама по себе достаточно интересная, но на данный момент максимально футуристичная и далекая от реальности, — соглашается Екатерина Смирнова из Digital & Analogue Partners. — Ни уровень развития технологии в настоящее время, ни этические проблемы, о которых сказано выше, не позволяют, чтобы ИИ выносил суждение по любому более или менее чувствительному вопросу. Не может ИИ принимать решение ни о реформе здравоохранения, ни о правилах набора детей в школу, ни об утверждении образовательной программы».

Такой же точки зрения придерживается и Александр Бухановский из Университета ИТМО. «Для современного города лучше всего подойдет гибридный подход, когда градоначальником является человек, но у него под рукой есть "цифровой член администрации города" — интеллектуальный ассистент, помогающий ему в оценке ситуации и принятии решений».

«В настоящее время создание таких систем ИИ стало технически возможным благодаря появлению больших фундаментальных моделей, — добавляет Бухановский. — Однако для управления городом недостаточно взять просто языковую модель типа GPT4, ЯндексGPT или GigaChat — ее нужно дообучить на специфических городских данных, заблокировать возможности галлюцинаций. К примеру, мы в ИТМО разрабатываем "Цифрового члена администрации СПб" — он уже умеет содержательно отвечать на разнообразные вопросы о городе и горожанах. Однако перспективы его внедрения зависят от готовности самих городских властей».