Promesas y riesgos de la inteligencia artificial

Source details

La IA generativa es descrita como "el avance más asombroso logrado hasta la fecha por las tecnologías de aprendizaje automático".
Promete "desatar una ola de creatividad y productividad", pero plantea "importantes interrogantes para la humanidad".
ChatGPT y otras herramientas de IA generativa han logrado pasar la "prueba de la imitación" propuesta por Alan Turing en 1950.

Años sesenta: el programa ELIZA generó respuestas casi humanas a partir de un conjunto de reglas; precursor de los "chatbots".
Décadas posteriores: aparición de redes neuronales artificiales que permitieron comprender matices del idioma y reconocer imágenes.
Problema histórico: la falta de un amplio acervo de datos para entrenar a las máquinas y de potencia computacional suficiente; ambos recursos "iba[n] duplicándose cada año".
Década de 2000: tercera ola de la IA, llamada aprendizaje profundo.
2014: las redes generativas antagónicas (GAN) utilizan una red "generadora" y una red "discriminadora" en competición para perfeccionar la generación de datos, textos o imágenes.
2017: publicación del estudio "Attention Is All You Need" que introdujo mecanismos de atención, permitiendo a la IA "prestar atención a aspectos pertinentes de la información".
Resultado: combinación de GAN, mecanismos de atención y mayor potencia de información e informática sentó las bases para ChatGPT.
Lanzamiento: ChatGPT fue lanzado en noviembre de 2022 por OpenAI; otras grandes empresas de tecnología desarrollaron sus propios chatbots de IA generativa.

Diferenciación: la IA generativa se distingue de la IA tradicional (análisis avanzados, aprendizaje automático, aprendizaje predictivo profundo) por su capacidad para "realizar análisis más profundos e interpretar datos complejos de una manera más creativa".
Capacidades prácticas:
- Diseccionar relaciones complejas entre indicadores económicos o variables financieras.
- Generar pronósticos, escenarios alternativos, diagramas inteligentes e incluso fragmentos de código que podrían alterar el funcionamiento del sector.
Uso en el sector público y privado:
- Gobiernos: mejorar servicios a los ciudadanos y subsanar carencias en la fuerza de trabajo.
- Bancos centrales: mayor capacidad de análisis de enormes cantidades de datos bancarios para perfeccionar pronósticos económicos y vigilancia de riesgos, incluido el fraude.
- Empresas de inversión: detectar leves variaciones en precios de acciones y en la actitud del mercado, proponiendo opciones más creativas y potencialmente más lucrativas.
- Empresas de seguros: estudiar creación de pólizas individualizadas más acordes con necesidades y preferencias de cada cliente.
Observación: la IA generativa "está evolucionando a una velocidad vertiginosa", introduciendo soluciones novedosas y poniendo a prueba los límites de la IA en economía y finanzas.

Alucinaciones: la IA puede producir enunciados absurdos y falsos mediante un fenómeno denominado "alucinación"; los conocimientos de ChatGPT "solo abarcan hasta la fecha del último entrenamiento que haya recibido".
Sesgos y transparencia:
- Amplificación de sesgos ya existentes en los datos de entrenamiento.
- Falta de transparencia en las decisiones de la IA.
Uso como arma:
- Capacidad para narrar historias que confirman prejuicios y amplifican cámaras de eco y silos ideológicos.
- Ejemplo citado: en marzo de 2022, un video generado mediante IA generativa mostraba supuestamente al presidente Volodímir Zelenski capitulando ante las fuerzas rusas.
- Productos de IA generativa (historias fabricadas, imágenes adulteradas, videos sintéticos) pueden propagar información errónea, incitar pánico y desestabilizar sistemas económicos y financieros.
Desplazamiento de empleo: la automatización de tareas por la IA podría suprimir muchas ocupaciones y requerir estrategias de empleo y reconversión laboral.
Riesgo existencial: destacados expertos en IA, entre ellos el creador de ChatGPT, firmaron una carta advirtiendo que "mitigar el riesgo de extinción derivado de la IA debe ser una prioridad mundial, que se ha de sumar a la mitigación de otros riesgos que amenazan a la sociedad, como las pandemias y la guerra nuclear".
Referencia histórica: Alan Turing advirtió sobre el "peligro de que las máquinas terminen controlando nuestras vidas".

Necesidad de "estrecha vigilancia" y de "nuevos marcos regulatorios".
Compromiso requerido: innovaciones que sean "éticas, transparentes, controlables y que respeten los valores humanos".
Encrucijada ética: la IA generativa "ya no puede desmantelarse"; su poder transformativo exige regulaciones y compromisos continuos mientras se explota su potencial.

Hervé Tourpe, Diciembre de 2023, FINANZAS & DESARROLLO.