Составные элементы управления ИИ
Source details
- Canonical URL
- Составные элементы управления ИИ
Other formats
Bibliographic details
- Authors: Ian Bremmer, MUSTAFA SULEYMAN
- Published: December 11, 2023
Контекст и вызовы
- Искусственный интеллект приведет к революционным научным достижениям, небывалому доступу к технологиям, вредной дезинформации, подрывающей демократию, и экономическим потрясениям.
- ИИ вызовет фундаментальный сдвиг в структуре и балансе глобальных сил, что ставит перед политическими институтами беспрецедентную задачу по установлению новых норм, снижению рисков и балансированию интересов разнородных геополитических субъектов.
- В 2023 году правительства во всем мире осознали эту задачу; законодатели от Брюсселя до Пекина и Бангкока заняты разработкой нормативно-правовой базы для управления ИИ.
- Примеры международной и многосторонней активности:
- В Японии лидеры Группы семи инициировали «Хиросимский процесс» для решения вопросов, связанных с генеративным ИИ.
- ООН учредила новый консультативный орган высокого уровня по ИИ.
- На саммите Группы 20-ти в Нью-Дели премьер-министр Индии Нарендра Моди призвал к созданию новой основы ответственного управления ИИ, ориентированного на человека.
- Председатель Европейской комиссии Урсула фон дер Ляйен выступила за создание нового органа по отслеживанию рисков ИИ по образу Межправительственной группы экспертов по изменению климата.
- В ноябре правительство Великобритании провело первый в мире саммит на уровне лидеров, посвященный устранению рисков для безопасности, связанных с ИИ.
- В США регулирование ИИ рассматривается как вопрос времени и редкий пример двухпартийного консенсуса.
Парадокс могущества ИИ — технические и институционные особенности
- Сверхэволюционный характер:
- В отличие от закона Мура (удвоение вычислительной способности каждые два года), объем вычислений, используемых для обучения самых мощных моделей ИИ, увеличивается в 10 раз каждый год в течение последних 10 лет.
- Процессы, которые раньше занимали недели, теперь происходят за считанные секунды.
- Базовые технологии будут становиться все меньше, дешевле и доступнее.
- Самоулучшаемость и квазиавтономность:
- Системы могут стать способными к квазиавтономии и, возможно, улучшать саму себя.
- Легкость размножения и распространения:
- Алгоритмы ИИ проще и дешевле копировать и распространять, чем физические активы; предельные издержки доставки равны нулю, поэтому после выпуска модели ИИ смогут быть и будут повсюду.
- Большинство моделей будут безопасными, но достаточно одной злонамеренной или вышедшей из-под контроля модели, чтобы посеять хаос.
- Стимулы для ускоренного развития:
- ИИ — технология двойного назначения; её низкая стоимость делает возможным широкое гражданское и военное применение.
- Превосходство в области ИИ является стратегической целью правительств и компаний; конкуренция между США и Китаем рассматривается как стремление к недостижению преимущества другой стороны.
- Геополитическое соперничество стимулирует ускорение разработки ИИ, а не его замедление.
- Частный сектор как основной контролер:
- Почти каждый аспект ИИ в настоящее время контролируется частным сектором.
- Хотя небольшой набор крупных технологических компаний в настоящий момент доминирует, постепенное распространение ИИ приведет к появлению множества мелких игроков, усложняя управление.
- У частного бизнеса и отдельных технических специалистов мало стимулов для саморегулирования.
- Вывод: традиционные модели управления не подходят; сочетание перечисленных особенностей делает задачу управления ИИ уникальной и особенно сложной.
Рекомендации: принципы управления ИИ
- Общая цель: режимы управления должны отражать уникальные характеристики ИИ и быть адаптируемыми к его непредсказуемому сверхэволюционному прогрессу.
- Необходимость принципов как основы для политики:
- Предосторожность.
- Соотношение рисков и выгод ИИ несимметрично; директивные органы должны обеспечить защиту от потенциально катастрофических недостатков.
- Принцип предосторожности должен быть адаптирован к ИИ и закреплен в режиме управления.
- Гибкость.
- Политические структуры должны быть гибкими, адаптивными и самокорректирующимися, чтобы соответствовать динамичности и самоулучшающемуся характеру ИИ.
- Инклюзивность.
- Регулирование должно осуществляться в сотрудничестве с коммерческим сектором; компании следует вовлекать в международные соглашения и дипломатические отношения на высоком уровне.
- Исключение ключевых частных субъектов из механизмов управления обречет эти механизмы на провал.
- Непроницаемость.
- Механизмы соблюдения должны быть непроницаемыми; участие — доступным, а выход — дорогостоящим, чтобы предотвратить несоблюдение, поскольку одно отступление может позволить опасной модели выйти из-под контроля.
- Адресность.
- Универсального режима недостаточно; требуется обновляемая, действенная таксономия дискретных потенциальных воздействий ИИ.
- Управление должно быть целенаправленным, основанным на оценке рисков и модульным, а не универсальным.
Заключение — институциональные требования
- Управление ИИ в ближайшие десятилетия станет одной из самых сложных задач для международного сообщества.
- Важность не только регулирования ИИ, но и правильного регулирования: ложная дихотомия между прогрессом и снижением рисков неприменима.
- Необходима концептуальная основа и соответствующие институты; предложенные принципы служат отправной точкой для формирования такой основы.
ИЭН БРЕММЕР — президент и основатель компаний Eurasia Group и GZERO Media. МУСТАФА СУЛЕЙМАН — генеральный директор и соучредитель компании Inflection AI.
Content in this bundle
- glossaryr