Однако некоторые из этих политических экспериментов также предусматривали массовое участие граждан, как, например, конституционные процессы, организованные в 1980-х и 1990-х годах в Бразилии, Кении, Никарагуа, Уганде и Южной Африке, а также относительно недавно в Египте, Исландии и Чили, в ходе которых для работы с рядовыми гражданами использовались консультации с широкой общественностью и краудсорсинг. Конечно, не все попытки были успешными, но все они являются частью важной тенденции.
Правительства некоторых стран также развернули кампании по проведению масштабных многоформатных консультаций. В качестве примера можно привести «Большие национальные дебаты» 2019 года, которые президент Франции Эмманюэль Макрон инициировал в ответ на движение «желтых жилетов»; в них приняло участие около 1,5 миллиона человек. Другой пример — общеевропейская Конференция о будущем Европы, в рамках которой гражданам стран — членов ЕС было предложено высказать свое мнение по поводу реформ, касающихся политики и институтов ЕС, в результате чего 5 миллионов человек посетило веб-сайт и 700 тысяч человек приняло участие в дебатах.
Несмотря на некоторые онлайн-элементы, в этих экспериментах в основном применялись низкотехнологичные, аналоговые процессы, в которых ИИ не использовался вовсе. Политики, получив слишком большой объем необработанных и многомерных данных или будучи не уверенными в их значении, в результате легко игнорировали мнение граждан. Людям дали возможность высказаться, но их не всегда слышали. А уровень обсуждения проблем даже самими участниками часто был поверхностным.
Повышение качества дискуссий
Теперь у нас есть возможность существенно расширить масштабы проведения таких совещательных процессов и усовершенствовать их, с тем чтобы голоса граждан во всем их изобилии и многообразии могли влиять на ситуацию. Примером такого процесса служит провинция Китая Тайвань.
После «революции подсолнухов» 2014 года, в результате которой к власти пришли технически подкованные политики, была создана онлайн-платформа с открытым исходным кодом pol.is. Эта платформа позволяет пользователям подробно выражать свои мнения по любой теме, от регулирования Uber до политики в отношении COVID, и голосовать за или против мнений других участников. Эти голоса также используются для получения общей статистики общественного мнения, которая помогает участникам понять, какие предложения позволят достичь консенсуса, и в то же время четко определить мнения меньшинства и несогласных и даже выявить группы лоббистов, придерживающихся очевидной партийной линии. Это помогает людям лучше понимать друг друга и уменьшает поляризацию. Затем политики используют полученную информацию для разработки ответных мер государственной политики, учитывающих все точки зрения.
За последние несколько месяцев pol.is получила дальнейшее развитие за счет интеграции машинного обучения с некоторыми ее функциями с целью позволить участникам взаимодействовать с платформой в форме более активной дискуссии. Теперь пользователи платформы могут взаимодействовать с большой языковой моделью, или LLM (разновидность ИИ), которая генерирует информацию от имени групп, представляющих различные мнения, и помогает участникам изучить позицию своих союзников, оппонентов и промежуточные мнения. Это позволяет пользователям платформы участвовать в более глубоких дискуссиях и еще больше способствует деполяризации. Сегодня этот инструмент часто используется для консультаций с общественностью, в которых участвуют 12 миллионов человек, или почти половина населения.
Корпорации, которые сталкиваются с собственными трудностями управления, также отмечают потенциал проведения масштабных консультаций с использованием ИИ. После создания своего более традиционного технократического Наблюдательного совета, в который вошли юристы и эксперты, ответственные за принятие решений по контенту, в 2022 году компания Meta (ранее Facebook) начала экспериментировать с форумами сообществ Meta: случайно выбранным группам пользователей из нескольких стран было предложено обсудить регулирование контента, связанного с изменением климата. Еще более амбициозный эксперимент состоялся в декабре 2022 года, когда 6000 пользователей из 32 стран в течение нескольких дней на 19 языках обсуждали проблему кибербуллинга в метавселенной. Обсуждения в рамках эксперимента Meta проводились на разработанной Стэнфордским университетом платформе с помощью (пока еще базового) ИИ, который назначал продолжительность выступлений, помогал группе определиться с темами и советовал, когда дискуссию следует отложить.
На данный момент нет доказательств того, что ИИ-координаторы справляются со своей работой лучше, чем люди, но это может скоро измениться. И когда это произойдет, ИИ-координаторы будут иметь явное преимущество в виде значительно более низкой стоимости, что будет иметь важное значение, если мы хотим однажды расширить охват глубоких совещательных процессов между людьми (а не между людьми и имитаторами LLM, как в примере Тайваня) с 6000 до нескольких миллионов человек.
Перевод, резюмирование, анализ
Вопросы применения ИИ в области совещательной демократии пока находятся на стадии изучения. Следующим рубежом будет мгновенный перевод речи между многоязычными группами, а также резюмирование коллективных обсуждений. Согласно недавним исследованиям, резюме текста, выполненное ИИ, на 50 процентов точнее резюме, выполненного человеком (по оценкам обученных студентов, сравнивших резюме стенограмм обсуждений, выполненные ИИ и специалистами по анализу текстовой информации). Однако для решения многих из этих задач, вероятно, потребуется определенная доля человеческого суждения. В таких случаях ИИ может стать полезным инструментом для аналитиков, координаторов и переводчиков.
На горизонте возникают новые способы укрепления демократии с помощью ИИ. Компания OpenAI, запустившая ChatGPT, недавно представила программу грантов под названием «Демократический вклад в ИИ». Гранты были предоставлены 10 самым перспективным группам в мире, работающим над разработкой алгоритмов, призванных содействовать дискуссии между людьми (в целях раскрытия информации отмечу, что я вхожу в совет кураторов, который помог сформулировать условия программы и выбрать победителей). Хотелось бы надеяться, что скоро эти инструменты можно будет начать использовать, в частности, для организации глобального обсуждения вопросов управления ИИ.
Снижение рисков
Внедрение ИИ в демократические процессы связано с определенными рисками, такими как необъективность данных, проблемы конфиденциальности, возможность слежки и юридические сложности, практически во всех областях. При этом также возникает проблема информационного разрыва и потенциального исключения из процесса лиц, не имеющих образования, и групп, скептически настроенных по отношению к технологиям. Многие из этих вопросов необходимо решать в первую очередь на уровне политики, экономики, права и общества, а не только на уровне технологий. Но и здесь могут помочь технологии.
Например, проблемы конфиденциальности и слежки можно решить с помощью таких методов, как протокол с нулевым разглашением (также называемый доказательством с нулевым разглашением, или ZKP), который служит для проверки или «подтверждения» личности без сбора данных об участниках (например, путем аутентификации с помощью текстовых сообщений или через блокчейн). ZKP может использоваться как для участия в онлайн-голосовании, так и в контексте обсуждений, например для передачи конфиденциальной информации или исполнения роли анонимного разоблачителя. В то же время генеративный ИИ может обеспечить доступ к ранее дефицитным знаниям и обучающим ресурсам для всех, кто в них нуждается. Этот инструмент, выполняющий роль индивидуального собеседника, готового к общению с гражданами, может разъяснять технические вопросы политики в специфическом когнитивном стиле, понятном человеку (в том числе с помощью изображений), и при необходимости преобразовывать устную речь в письменную.
Несмотря на существующие ограничения и риски, ИИ обладает потенциалом для создания лучшей, более инклюзивной версии демократии, которая, в свою очередь, обеспечит правительствам легитимность и знания, необходимые для контроля за развитием ИИ. Требования регулирования ИИ, вероятно, будут лучше соблюдаться и иметь более высокую эффективность в демократических странах, использующих возможности ИИ.
Тем не менее существует риск того, что сама демократия может стать жертвой революции ИИ. Необходимы срочные инвестиции в такие инструменты ИИ, которые безопасным образом дополняют возможности наших государств по вовлечению общественности и проведению обсуждений.
