{
  "title": "Составные элементы управления ИИ",
  "sourceUrl": "https://www.imf.org/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman",
  "canonical": "https://www.imf.org/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman",
  "overlayPath": "/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/index.md",
  "summary": "Искусственный интеллект приведет к революционным научным достижениям, небывалому доступу к технологиям, вредной дезинформации, подрывающей демократию, и экономическим потрясениям.",
  "sections": [
    {
      "heading": "Контекст и вызовы",
      "content": "- Искусственный интеллект приведет к революционным научным достижениям, небывалому доступу к технологиям, вредной дезинформации, подрывающей демократию, и экономическим потрясениям.\n- ИИ вызовет фундаментальный сдвиг в структуре и балансе глобальных сил, что ставит перед политическими институтами беспрецедентную задачу по установлению новых норм, снижению рисков и балансированию интересов разнородных геополитических субъектов.\n- В 2023 году правительства во всем мире осознали эту задачу; законодатели от Брюсселя до Пекина и Бангкока заняты разработкой нормативно-правовой базы для управления ИИ.\n- Примеры международной и многосторонней активности:\n  - В Японии лидеры Группы семи инициировали «Хиросимский процесс» для решения вопросов, связанных с генеративным ИИ.\n  - ООН учредила новый консультативный орган высокого уровня по ИИ.\n  - На саммите Группы 20-ти в Нью-Дели премьер-министр Индии Нарендра Моди призвал к созданию новой основы ответственного управления ИИ, ориентированного на человека.\n  - Председатель Европейской комиссии Урсула фон дер Ляйен выступила за создание нового органа по отслеживанию рисков ИИ по образу Межправительственной группы экспертов по изменению климата.\n  - В ноябре правительство Великобритании провело первый в мире саммит на уровне лидеров, посвященный устранению рисков для безопасности, связанных с ИИ.\n  - В США регулирование ИИ рассматривается как вопрос времени и редкий пример двухпартийного консенсуса."
    },
    {
      "heading": "Парадокс могущества ИИ — технические и институционные особенности",
      "content": "- Сверхэволюционный характер:\n  - В отличие от закона Мура (удвоение вычислительной способности каждые два года), объем вычислений, используемых для обучения самых мощных моделей ИИ, увеличивается в 10 раз каждый год в течение последних 10 лет.\n  - Процессы, которые раньше занимали недели, теперь происходят за считанные секунды.\n  - Базовые технологии будут становиться все меньше, дешевле и доступнее.\n- Самоулучшаемость и квазиавтономность:\n  - Системы могут стать способными к квазиавтономии и, возможно, улучшать саму себя.\n- Легкость размножения и распространения:\n  - Алгоритмы ИИ проще и дешевле копировать и распространять, чем физические активы; предельные издержки доставки равны нулю, поэтому после выпуска модели ИИ смогут быть и будут повсюду.\n  - Большинство моделей будут безопасными, но достаточно одной злонамеренной или вышедшей из-под контроля модели, чтобы посеять хаос.\n- Стимулы для ускоренного развития:\n  - ИИ — технология двойного назначения; её низкая стоимость делает возможным широкое гражданское и военное применение.\n  - Превосходство в области ИИ является стратегической целью правительств и компаний; конкуренция между США и Китаем рассматривается как стремление к недостижению преимущества другой стороны.\n  - Геополитическое соперничество стимулирует ускорение разработки ИИ, а не его замедление.\n- Частный сектор как основной контролер:\n  - Почти каждый аспект ИИ в настоящее время контролируется частным сектором.\n  - Хотя небольшой набор крупных технологических компаний в настоящий момент доминирует, постепенное распространение ИИ приведет к появлению множества мелких игроков, усложняя управление.\n  - У частного бизнеса и отдельных технических специалистов мало стимулов для саморегулирования.\n- Вывод: традиционные модели управления не подходят; сочетание перечисленных особенностей делает задачу управления ИИ уникальной и особенно сложной."
    },
    {
      "heading": "Рекомендации: принципы управления ИИ",
      "content": "- Общая цель: режимы управления должны отражать уникальные характеристики ИИ и быть адаптируемыми к его непредсказуемому сверхэволюционному прогрессу.\n- Необходимость принципов как основы для политики:\n  - Предосторожность.\n    - Соотношение рисков и выгод ИИ несимметрично; директивные органы должны обеспечить защиту от потенциально катастрофических недостатков.\n    - Принцип предосторожности должен быть адаптирован к ИИ и закреплен в режиме управления.\n  - Гибкость.\n    - Политические структуры должны быть гибкими, адаптивными и самокорректирующимися, чтобы соответствовать динамичности и самоулучшающемуся характеру ИИ.\n  - Инклюзивность.\n    - Регулирование должно осуществляться в сотрудничестве с коммерческим сектором; компании следует вовлекать в международные соглашения и дипломатические отношения на высоком уровне.\n    - Исключение ключевых частных субъектов из механизмов управления обречет эти механизмы на провал.\n  - Непроницаемость.\n    - Механизмы соблюдения должны быть непроницаемыми; участие — доступным, а выход — дорогостоящим, чтобы предотвратить несоблюдение, поскольку одно отступление может позволить опасной модели выйти из-под контроля.\n  - Адресность.\n    - Универсального режима недостаточно; требуется обновляемая, действенная таксономия дискретных потенциальных воздействий ИИ.\n    - Управление должно быть целенаправленным, основанным на оценке рисков и модульным, а не универсальным."
    },
    {
      "heading": "Заключение — институциональные требования",
      "content": "- Управление ИИ в ближайшие десятилетия станет одной из самых сложных задач для международного сообщества.\n- Важность не только регулирования ИИ, но и правильного регулирования: ложная дихотомия между прогрессом и снижением рисков неприменима.\n- Необходима концептуальная основа и соответствующие институты; предложенные принципы служат отправной точкой для формирования такой основы.\n\nИЭН БРЕММЕР — президент и основатель компаний Eurasia Group и GZERO Media. МУСТАФА СУЛЕЙМАН — генеральный директор и соучредитель компании Inflection AI.\n\n---\n\n Content in this bundle\n\n- glossaryr\n  - glossaryr (Markdown version){rel=\"alternate\" type=\"text/markdown\"}\n  - glossaryr (PDF){rel=\"external\" type=\"application/pdf\"}\n\n---\n\nSource: https://www.imf.org/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman"
    }
  ],
  "bullets": [
    "[Markdown version](/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/index.md)",
    "[Structured JSON version](/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/index.json)",
    "[Bundle manifest](/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/bundle-manifest.json)",
    "Authors: Ian Bremmer, MUSTAFA SULEYMAN",
    "Published: December 11, 2023",
    "Искусственный интеллект приведет к революционным научным достижениям, небывалому доступу к технологиям, вредной дезинформации, подрывающей демократию, и экономическим потрясениям.",
    "ИИ вызовет фундаментальный сдвиг в структуре и балансе глобальных сил, что ставит перед политическими институтами беспрецедентную задачу по установлению новых норм, снижению рисков и балансированию интересов разнородных геополитических субъектов.",
    "В 2023 году правительства во всем мире осознали эту задачу; законодатели от Брюсселя до Пекина и Бангкока заняты разработкой нормативно-правовой базы для управления ИИ.",
    "Примеры международной и многосторонней активности:",
    "Сверхэволюционный характер:",
    "Самоулучшаемость и квазиавтономность:",
    "Легкость размножения и распространения:",
    "Стимулы для ускоренного развития:",
    "Частный сектор как основной контролер:",
    "Вывод: традиционные модели управления не подходят; сочетание перечисленных особенностей делает задачу управления ИИ уникальной и особенно сложной.",
    "Общая цель: режимы управления должны отражать уникальные характеристики ИИ и быть адаптируемыми к его непредсказуемому сверхэволюционному прогрессу.",
    "Необходимость принципов как основы для политики:",
    "Управление ИИ в ближайшие десятилетия станет одной из самых сложных задач для международного сообщества.",
    "Важность не только регулирования ИИ, но и правильного регулирования: ложная дихотомия между прогрессом и снижением рисков неприменима.",
    "Необходима концептуальная основа и соответствующие институты; предложенные принципы служат отправной точкой для формирования такой основы.",
    "**glossaryr**"
  ],
  "related": [
    {
      "title": "glossaryr",
      "role": "document",
      "sourceUrl": "https://www.imf.org/external/np/term/rus/pdf/glossaryr.pdf",
      "summary": {
        "path": "/external/np/term/rus/pdf/glossaryr.pdf.md",
        "mime": "text/markdown"
      },
      "binary": {
        "path": "/external/np/term/rus/pdf/glossaryr.pdf",
        "mime": "application/pdf"
      }
    }
  ],
  "alternates": {
    "markdown": "/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/index.md",
    "json": "/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/index.json",
    "bundleManifest": "/ru/publications/fandd/issues/2023/12/pov-building-blocks-for-ai-governance-bremmer-suleyman/bundle-manifest.json"
  },
  "generatedAtUtc": "2026-09-16T01:42:33.872Z"
}