## Потенциал и опасность искусственного интеллекта

## Source details

**Canonical URL:** [Потенциал и опасность искусственного интеллекта](https://www.imf.org/ru/publications/fandd/issues/2023/12/b2b-artificial-intelligence-promise-peril-tourpe)

## Other formats

- [Markdown version](/ru/publications/fandd/issues/2023/12/b2b-artificial-intelligence-promise-peril-tourpe/index.md)
- [Structured JSON version](/ru/publications/fandd/issues/2023/12/b2b-artificial-intelligence-promise-peril-tourpe/index.json)
- [Bundle manifest](/ru/publications/fandd/issues/2023/12/b2b-artificial-intelligence-promise-peril-tourpe/bundle-manifest.json)

## Bibliographic details
- Authors: HERVE TOURPE
- Published: December 5, 2023

---

### Определение и общий смысл
- Генеративный ИИ определяется как «самое впечатляющее достижение в технологиях машинного обучения на сегодняшний день», способный «понимать сложные структуры данных и взаимодействовать с ними» и «вызвать всплеск творчества и производительности».
- Основное отличие генеративного ИИ от традиционных форм ИИ — способность более глубоко анализировать и более творчески интерпретировать сложные данные, выдавая не только прогнозы, но и альтернативные сценарии, показательные диаграммы и даже фрагменты кода.

### Технологические этапы и ключевые вехи
- 1950: Алан Тьюринг впервые предположил возможность создания машинами уровня мастерства, имитирующего человеческий интеллект.
- 1960-х: программа ELIZA воспроизвела реакции, подобные человеческим; предшествовала современным чат-ботам.
- «Спустя два десятилетия» появились искусственные нейронные сети, расширившие возможности машин в понимании языка и распознавании изображений, но прогресс сдерживали ограниченность наборов данных и вычислительной мощности.
- 2000-х: третья волна ИИ — глубокое обучение — стала возможна благодаря постоянному ежегодному увеличению данных и вычислительных ресурсов.
- 2014: появление генеративно-состязательных сетей (GAN), где «генератор» создаёт имитационные данные, а «дискриминатор» пытается отличить подделку от реального продукта.
- 2017: публикация статьи «Все, что вам нужно, — внимание», внедрившей механизмы внимания в обучение ИИ и заметно улучшившей способность моделей «понимать» вводные данные.
- November 2022: запуск ChatGPT компанией OpenAI; вскоре после этого другие крупные технологические фирмы представили собственных чат-ботов на основе генеративного ИИ.

### Влияние на экономику и финансы
- Традиционные формы ИИ давно используются для обработки числовой информации, оценки рыночных тенденций и адаптации финансовых продуктов.
- Генеративный ИИ предлагает:
  - более глубокий анализ и творческую интерпретацию сложных данных;
  - выработку альтернативных сценариев и наглядных материалов;
  - автоматизированную разработку фрагментов кода, меняющих рабочие процессы отрасли.
- Примеры применения:
  - органы государственного управления используют инструменты для улучшения обслуживания граждан и преодоления нехватки рабочей силы;
  - центральные банки рассматривают ИИ для анализа больших банковских данных с целью уточнения экономических прогнозов и повышения эффективности мониторинга рисков, включая мошенничество;
  - инвестиционные компании используют генеративный ИИ для обнаружения незначительных изменений в ценах акций и настроениях участников рынка, создавая возможности для потенциально более прибыльных инвестиционных стратегий;
  - страховые компании исследуют генеративные модели для создания персонализированных полисов.

### Риски и общественные опасения
- Галлюцинации: генеративный ИИ может создавать бессмысленные и ложные факты, явление, называемое «галлюцинациями», и не «понимать» значения слов; знания ChatGPT ограничены последней датой обучения.
- Укрепление предубеждений и непрозрачность решений: традиционные проблемы ИИ — усиление существующих предубеждений в данных и отсутствие прозрачности — остаются актуальными.
- Манипуляции и дезинформация:
  - генеративный ИИ способен «рассказывать истории, которые тесно переплетаются с ранее существовавшими убеждениями и точками зрения людей», потенциально усиливая эхо-камеры;
  - March 2022: появление видео, сгенерированного ИИ, с изображением якобы капитуляции президента Украины Владимира Зеленского, иллюстрирует использование ИИ как оружия для манипулирования политикой, рынками и общественным мнением.
- Экономические и социальные последствия:
  - ликвидация рабочих мест вследствие автоматизации задач, ранее выполнявшихся людьми, требует стратегий трудоустройства и переподготовки.
- Экзистенциальные риски:
  - ведущие эксперты по ИИ, включая создателя ChatGPT, подписали письмо, предупреждающее, что «снижение риска уничтожения искусственным интеллектом должно стать глобальной приоритетной задачей наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».
  - Тьюринг предупреждал, что «существует опасность того, что машины в конечном итоге возьмут под контроль нашу жизнь».

### Выводы и политические императивы
- Генеративный ИИ — монументальный сдвиг с огромными перспективами и глубокими экзистенциальными вопросами; его развитие «уже нельзя повернуть вспять».
- Необходимые меры:
  - неусыпный надзор;
  - новая нормативно-правовая база;
  - непоколебимая приверженность этическим, прозрачным, поддающимся контролю инновациям, сочетаемым с общечеловеческими ценностями.
- Подчёркивается важность баланса между использованием преобразующей силы генеративного ИИ и соблюдением советов, напоминающих о рисках, высказанных Тьюрингом.

*Источник: ФИНАНСЫ И РАЗВИТИЕ — ЭРВЕ ТУРП, Декабрь 2023 года.*

---

## Content in this bundle

- **glossaryr**
  - [glossaryr (Markdown version)](/external/np/term/rus/pdf/glossaryr.pdf.md){rel="alternate" type="text/markdown"}
  - [glossaryr (PDF)](/external/np/term/rus/pdf/glossaryr.pdf){rel="external" type="application/pdf"}

---

_Source: https://www.imf.org/ru/publications/fandd/issues/2023/12/b2b-artificial-intelligence-promise-peril-tourpe_