Потенциал и опасность искусственного интеллекта
Source details
- Canonical URL
- Потенциал и опасность искусственного интеллекта
Other formats
Bibliographic details
- Authors: HERVE TOURPE
- Published: December 5, 2023
Определение и общий смысл
- Генеративный ИИ определяется как «самое впечатляющее достижение в технологиях машинного обучения на сегодняшний день», способный «понимать сложные структуры данных и взаимодействовать с ними» и «вызвать всплеск творчества и производительности».
- Основное отличие генеративного ИИ от традиционных форм ИИ — способность более глубоко анализировать и более творчески интерпретировать сложные данные, выдавая не только прогнозы, но и альтернативные сценарии, показательные диаграммы и даже фрагменты кода.
Технологические этапы и ключевые вехи
- 1950: Алан Тьюринг впервые предположил возможность создания машинами уровня мастерства, имитирующего человеческий интеллект.
- 1960-х: программа ELIZA воспроизвела реакции, подобные человеческим; предшествовала современным чат-ботам.
- «Спустя два десятилетия» появились искусственные нейронные сети, расширившие возможности машин в понимании языка и распознавании изображений, но прогресс сдерживали ограниченность наборов данных и вычислительной мощности.
- 2000-х: третья волна ИИ — глубокое обучение — стала возможна благодаря постоянному ежегодному увеличению данных и вычислительных ресурсов.
- 2014: появление генеративно-состязательных сетей (GAN), где «генератор» создаёт имитационные данные, а «дискриминатор» пытается отличить подделку от реального продукта.
- 2017: публикация статьи «Все, что вам нужно, — внимание», внедрившей механизмы внимания в обучение ИИ и заметно улучшившей способность моделей «понимать» вводные данные.
- November 2022: запуск ChatGPT компанией OpenAI; вскоре после этого другие крупные технологические фирмы представили собственных чат-ботов на основе генеративного ИИ.
Влияние на экономику и финансы
- Традиционные формы ИИ давно используются для обработки числовой информации, оценки рыночных тенденций и адаптации финансовых продуктов.
- Генеративный ИИ предлагает:
- более глубокий анализ и творческую интерпретацию сложных данных;
- выработку альтернативных сценариев и наглядных материалов;
- автоматизированную разработку фрагментов кода, меняющих рабочие процессы отрасли.
- Примеры применения:
- органы государственного управления используют инструменты для улучшения обслуживания граждан и преодоления нехватки рабочей силы;
- центральные банки рассматривают ИИ для анализа больших банковских данных с целью уточнения экономических прогнозов и повышения эффективности мониторинга рисков, включая мошенничество;
- инвестиционные компании используют генеративный ИИ для обнаружения незначительных изменений в ценах акций и настроениях участников рынка, создавая возможности для потенциально более прибыльных инвестиционных стратегий;
- страховые компании исследуют генеративные модели для создания персонализированных полисов.
Риски и общественные опасения
- Галлюцинации: генеративный ИИ может создавать бессмысленные и ложные факты, явление, называемое «галлюцинациями», и не «понимать» значения слов; знания ChatGPT ограничены последней датой обучения.
- Укрепление предубеждений и непрозрачность решений: традиционные проблемы ИИ — усиление существующих предубеждений в данных и отсутствие прозрачности — остаются актуальными.
- Манипуляции и дезинформация:
- генеративный ИИ способен «рассказывать истории, которые тесно переплетаются с ранее существовавшими убеждениями и точками зрения людей», потенциально усиливая эхо-камеры;
- March 2022: появление видео, сгенерированного ИИ, с изображением якобы капитуляции президента Украины Владимира Зеленского, иллюстрирует использование ИИ как оружия для манипулирования политикой, рынками и общественным мнением.
- Экономические и социальные последствия:
- ликвидация рабочих мест вследствие автоматизации задач, ранее выполнявшихся людьми, требует стратегий трудоустройства и переподготовки.
- Экзистенциальные риски:
- ведущие эксперты по ИИ, включая создателя ChatGPT, подписали письмо, предупреждающее, что «снижение риска уничтожения искусственным интеллектом должно стать глобальной приоритетной задачей наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».
- Тьюринг предупреждал, что «существует опасность того, что машины в конечном итоге возьмут под контроль нашу жизнь».
Выводы и политические императивы
- Генеративный ИИ — монументальный сдвиг с огромными перспективами и глубокими экзистенциальными вопросами; его развитие «уже нельзя повернуть вспять».
- Необходимые меры:
- неусыпный надзор;
- новая нормативно-правовая база;
- непоколебимая приверженность этическим, прозрачным, поддающимся контролю инновациям, сочетаемым с общечеловеческими ценностями.
- Подчёркивается важность баланса между использованием преобразующей силы генеративного ИИ и соблюдением советов, напоминающих о рисках, высказанных Тьюрингом.
Источник: ФИНАНСЫ И РАЗВИТИЕ — ЭРВЕ ТУРП, Декабрь 2023 года.
Content in this bundle
- glossaryr