Укрепление инклюзивной демократии с помощью искусственного интеллекта

Source details

Canonical URL

Укрепление инклюзивной демократии с помощью искусственного интеллекта

Other formats

• Markdown version
• Structured JSON version
• Bundle manifest

Bibliographic details

• Authors: HELENE LANDEMORE
• Published: December 11, 2023

Основная идея и контекст

• ИИ может укрепить демократические институты, обеспечив условия для того, чтобы голоса граждан действительно были услышаны.
• Текущие опасения: угроза рабочих мест, дестабилизация экономики, рост неравенства, концентрация влияния у технологических компаний, ослабление государственных структур, переход к «алгократии».
• Контрточка зрения автора: общества сохраняют политические и технологические возможности направлять развитие ИИ, предотвращать вред и использовать ИИ для улучшения демократических процессов.
• Управление ИИ требует не только экспертного вмешательства и регулирования, но и активного участия граждан; голос демократии должен быть услышан и на уровне международных организаций.

История и примеры общественных экспериментов

• В течение 40 лет проводились эксперименты по более широкому вовлечению граждан в разработку политики и законодательства.
• По данным при подготовке доклада ОЭСР за 2020 год, выявлено примерно 600 случаев, когда случайная выборка граждан подробно исследовала проблему и формулировала рекомендации по политике.
• Примеры массового участия в конституционных процессах: Бразилия, Кения, Никарагуа, Уганда, Южная Африка (1980-х и 1990-х годах), а также Египет, Исландия и Чили в более позднее время.
• Примеры масштабных многоформатных консультаций:
  • «Большие национальные дебаты» во Франции, 2019 год: около 1,5 миллиона человек.
  • Конференция о будущем Европы: 5 миллионов посетило веб-сайт и 700 тысяч человек приняло участие в дебатах.
• Многие прежние эксперименты были низкотехнологичными; ИИ в них почти не использовался, что приводило к проблеме игнорирования большого объема необработанных данных и поверхностности обсуждений.

Как ИИ повышает качество совещаний

• Платформа pol.is (развилась в Тайване после 2014 года) позволяет подробно выражать мнения, голосовать за/против мнений других и получать общую статистику общественного мнения.
• Интеграция машинного обучения в pol.is:
  • пользователи могут взаимодействовать с большой языковой моделью (LLM), которая генерирует информацию от имени групп, представляющих разные мнения;
  • инструмент помогает изучить позиции союзников, оппонентов и промежуточных мнений, способствует деполяризации;
  • сегодня инструмент часто используется для консультаций с участием 12 миллионов человек, или почти половины населения.
• Корпоративные эксперименты:
  • Meta в 2022 году экспериментировала с форумами сообществ и использовала ИИ для координации обсуждений по регулированию контента;
  • декабрь 2022 года: 6000 пользователей из 32 стран в течение нескольких дней обсуждали проблему кибербуллинга в метавселенной на 19 языках с помощью платформы, разработанной Стэнфордским университетом, и базового ИИ.
• Перспектива: пока нет доказательств, что ИИ-координаторы работают лучше людей, но у них преимущество значительно более низкой стоимости, что важно для масштабирования с 6000 до нескольких миллионов участников.

Перевод, резюмирование и аналитика

• Следующий рубеж: мгновенный перевод речи между многоязычными группами и резюмирование коллективных обсуждений.
• Исследования показывают: резюме текста, выполненное ИИ, на 50 процентов точнее резюме, выполненного человеком (по оценкам обученных студентов, сравнивших резюме стенограмм обсуждений, выполненные ИИ и специалистами по анализу текстовой информации).
• Для многих задач потребуется доля человеческого суждения; ИИ может быть полезным инструментом для аналитиков, координаторов и переводчиков.
• OpenAI запустила программу грантов «Демократический вклад в ИИ»: гранты предоставлены 10 самым перспективным группам, работающим над алгоритмами, призванными содействовать дискуссии между людьми.

Риски и способы их снижения

• Основные риски внедрения ИИ в демократические процессы:
  • необъективность данных,
  • проблемы конфиденциальности,
  • возможность слежки,
  • юридические сложности,
  • информационный разрыв и исключение лиц без образования или скептически настроенных по отношению к технологиям.
• Многие из этих вопросов требуют политических, экономических, правовых и общественных решений, а не только технических.
• Технические меры, помогающие снижать риски:
  • протокол с нулевым разглашением (ZKP, Proof of Zero-Knowledge) для проверки или подтверждения личности без сбора данных об участниках (например, аутентификация посредством текстовых сообщений или через блокчейн);
  • ZKP может использоваться для участия в онлайн-голосовании, передачи конфиденциальной информации или роли анонимного разоблачителя.
• Генеративный ИИ может повысить доступ к знаниям и обучающим ресурсам, разъяснять технические вопросы политики в понятном стиле (включая изображения) и преобразовывать устную речь в письменную.

Выводы и политические приоритеты

• При всех ограничениях и рисках ИИ обладает потенциалом создать более инклюзивную демократию, что, в свою очередь, даст правительствам легитимность и знания для контроля за развитием ИИ.
• Требуется срочно инвестировать в такие инструменты ИИ, которые безопасным образом дополняют возможности государств по вовлечению общественности и проведению обсуждений.
• Требования регулирования ИИ, вероятно, будут лучше соблюдаться и иметь более высокую эффективность в демократических странах, использующих возможности ИИ.
• Управление ИИ должно сочетать:
  • экспертное регулирование,
  • активное участие граждан,
  • международное взаимодействие.

Элен Ландемор. Декабрь 2023 года. Укрепление инклюзивной демократии с помощью искусственного интеллекта.

Content in this bundle

• glossaryr
  • glossaryr (Markdown version)
  • glossaryr (PDF)