## Составные элементы управления ИИ

## Source details

**Canonical URL:** [Составные элементы управления ИИ](https://www.imf.org/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman)

## Other formats

- [Markdown version](/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/index.md)
- [Structured JSON version](/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/index.json)
- [Bundle manifest](/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/bundle-manifest.json)

## Bibliographic details
- Authors: Ian Bremmer, MUSTAFA SULEYMAN
- Published: December 11, 2023

---

### Контекст и вызовы
- Искусственный интеллект приведет к революционным научным достижениям, небывалому доступу к технологиям, вредной дезинформации, подрывающей демократию, и экономическим потрясениям.
- ИИ вызовет фундаментальный сдвиг в структуре и балансе глобальных сил, что ставит перед политическими институтами беспрецедентную задачу по установлению новых норм, снижению рисков и балансированию интересов разнородных геополитических субъектов.
- В 2023 году правительства во всем мире осознали эту задачу; законодатели от Брюсселя до Пекина и Бангкока заняты разработкой нормативно-правовой базы для управления ИИ.
- Примеры международной и многосторонней активности:
  - В Японии лидеры Группы семи инициировали «Хиросимский процесс» для решения вопросов, связанных с генеративным ИИ.
  - ООН учредила новый консультативный орган высокого уровня по ИИ.
  - На саммите Группы 20-ти в Нью-Дели премьер-министр Индии Нарендра Моди призвал к созданию новой основы ответственного управления ИИ, ориентированного на человека.
  - Председатель Европейской комиссии Урсула фон дер Ляйен выступила за создание нового органа по отслеживанию рисков ИИ по образу Межправительственной группы экспертов по изменению климата.
  - В ноябре правительство Великобритании провело первый в мире саммит на уровне лидеров, посвященный устранению рисков для безопасности, связанных с ИИ.
  - В США регулирование ИИ рассматривается как вопрос времени и редкий пример двухпартийного консенсуса.

### Парадокс могущества ИИ — технические и институционные особенности
- Сверхэволюционный характер:
  - В отличие от закона Мура (удвоение вычислительной способности каждые два года), объем вычислений, используемых для обучения самых мощных моделей ИИ, увеличивается в 10 раз каждый год в течение последних 10 лет.
  - Процессы, которые раньше занимали недели, теперь происходят за считанные секунды.
  - Базовые технологии будут становиться все меньше, дешевле и доступнее.
- Самоулучшаемость и квазиавтономность:
  - Системы могут стать способными к квазиавтономии и, возможно, улучшать саму себя.
- Легкость размножения и распространения:
  - Алгоритмы ИИ проще и дешевле копировать и распространять, чем физические активы; предельные издержки доставки равны нулю, поэтому после выпуска модели ИИ смогут быть и будут повсюду.
  - Большинство моделей будут безопасными, но достаточно одной злонамеренной или вышедшей из-под контроля модели, чтобы посеять хаос.
- Стимулы для ускоренного развития:
  - ИИ — технология двойного назначения; её низкая стоимость делает возможным широкое гражданское и военное применение.
  - Превосходство в области ИИ является стратегической целью правительств и компаний; конкуренция между США и Китаем рассматривается как стремление к недостижению преимущества другой стороны.
  - Геополитическое соперничество стимулирует ускорение разработки ИИ, а не его замедление.
- Частный сектор как основной контролер:
  - Почти каждый аспект ИИ в настоящее время контролируется частным сектором.
  - Хотя небольшой набор крупных технологических компаний в настоящий момент доминирует, постепенное распространение ИИ приведет к появлению множества мелких игроков, усложняя управление.
  - У частного бизнеса и отдельных технических специалистов мало стимулов для саморегулирования.
- Вывод: традиционные модели управления не подходят; сочетание перечисленных особенностей делает задачу управления ИИ уникальной и особенно сложной.

### Рекомендации: принципы управления ИИ
- Общая цель: режимы управления должны отражать уникальные характеристики ИИ и быть адаптируемыми к его непредсказуемому сверхэволюционному прогрессу.
- Необходимость принципов как основы для политики:
  - Предосторожность.
    - Соотношение рисков и выгод ИИ несимметрично; директивные органы должны обеспечить защиту от потенциально катастрофических недостатков.
    - Принцип предосторожности должен быть адаптирован к ИИ и закреплен в режиме управления.
  - Гибкость.
    - Политические структуры должны быть гибкими, адаптивными и самокорректирующимися, чтобы соответствовать динамичности и самоулучшающемуся характеру ИИ.
  - Инклюзивность.
    - Регулирование должно осуществляться в сотрудничестве с коммерческим сектором; компании следует вовлекать в международные соглашения и дипломатические отношения на высоком уровне.
    - Исключение ключевых частных субъектов из механизмов управления обречет эти механизмы на провал.
  - Непроницаемость.
    - Механизмы соблюдения должны быть непроницаемыми; участие — доступным, а выход — дорогостоящим, чтобы предотвратить несоблюдение, поскольку одно отступление может позволить опасной модели выйти из-под контроля.
  - Адресность.
    - Универсального режима недостаточно; требуется обновляемая, действенная таксономия дискретных потенциальных воздействий ИИ.
    - Управление должно быть целенаправленным, основанным на оценке рисков и модульным, а не универсальным.

### Заключение — институциональные требования
- Управление ИИ в ближайшие десятилетия станет одной из самых сложных задач для международного сообщества.
- Важность не только регулирования ИИ, но и правильного регулирования: ложная дихотомия между прогрессом и снижением рисков неприменима.
- Необходима концептуальная основа и соответствующие институты; предложенные принципы служат отправной точкой для формирования такой основы.

*ИЭН БРЕММЕР — президент и основатель компаний Eurasia Group и GZERO Media. МУСТАФА СУЛЕЙМАН — генеральный директор и соучредитель компании Inflection AI.*

---

## Content in this bundle

- **glossaryr**
  - [glossaryr (Markdown version)](/external/np/term/rus/pdf/glossaryr.pdf.md){rel="alternate" type="text/markdown"}
  - [glossaryr (PDF)](/external/np/term/rus/pdf/glossaryr.pdf){rel="external" type="application/pdf"}

---

_Source: https://www.imf.org/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman_