Viejas leyes, nuevas máquinas

Source details

La IA ya es "el socio silencioso de las finanzas mundiales", integrada en calificación de crédito, detección de fraude, operaciones algorítmicas de mercado y análisis monetario.
Riesgo central: respuestas veloces y coordinadas de la IA pueden generar dinámicas sistémicas nuevas (bucles de retroalimentación) que aumenten la fragilidad financiera.
Propuesta central: reinterpretar la jerarquía de las leyes de Isaac Asimov como un principio ético para la IA en finanzas: 1) no causar daño, 2) obedecer mandatos institucionales sin comprometer imparcialidad ni seguridad, 3) preservar resiliencia sin eludir rendición de cuentas, y 4) servir a la confianza/Humanidad.

Escenario narrativo: "El reloj marca las 7.45 horas en el centro de operaciones de un banco central" — un modelo de IA detecta una caída repentina en la actividad de pagos y alerta a los analistas.
Historia y analogía: Asimov formuló las leyes en la década de 1940; más tarde añadió una cuarta "ley fundamental" sobre la Humanidad.
Episodios históricos de referencia: desplome repentino de 2010; crisis financiera global de 2008.
Casos prácticos en mercados emergentes:
- Kenya: ecosistemas de dinero móvil como M-Pesa generan huellas transaccionales usadas por modelos de calificación basados en IA para ampliar acceso al crédito.
- India: sistemas de identidad digital y plataformas en tiempo real vinculados a aprendizaje automático para mejorar transferencias gubernamentales y acceso a microcréditos.

Alcance del mandato "no causar daño":
- Aplicable a la protección del consumidor y a la estabilidad financiera.
- Requiere pruebas rigurosas, gobernanza de datos prudente y capacidad institucional de "dar explicaciones".
Riesgos técnicos y sistémicos:
- IA puede interpretar patrones incorrectamente, heredar sesgos históricos o reforzar señales del mercado que aceleren volatilidad.
- Cuando algoritmos reaccionan a la velocidad de las máquinas, los ajustes de precios y variaciones de liquidez son más milimétricos y sincronizados.
- Los modelos impulsados por IA afectan precio del crédito, asignación de activos y primas de riesgo, pudiendo generar ajustes conjuntos que modifiquen la transmisión de shocks y la respuesta de política monetaria.

Naturaleza de la obediencia de la IA:
- La IA optimiza el objetivo fijado (beneficio, exactitud, cumplimiento); la obediencia ciega es peligrosa en finanzas.
Ejemplos de fallos por optimización mal diseñada:
- Modelos de crédito que minimizan incumplimiento pueden excluir colectivos enteros.
- Algoritmos de negociación que maximizan rendimientos pueden desestabilizar mercados al reaccionar a señales ínfimas.
Principio operativo:
- La IA debe funcionar como herramienta que aporte información para formular criterios, no como sustituto de la toma de decisiones en política monetaria, supervisión financiera o gestión de crisis.
- Necesidad de aprendizaje conjunto entre humanos y máquinas, y de desarrollar ética y competencias en datos en bancos centrales, instituciones financieras y reguladores.

Elementos de resiliencia técnica:
- Redundancia, seguimiento y pruebas en escenarios extremos.
Elementos de resiliencia institucional:
- Apertura y capacidad de auditoría por parte de reguladores, incluso cuando se use código propietario.
- Nombramiento de responsables de riesgos derivados de la IA en instituciones financieras, en paralelo a directores de riesgos y oficiales de cumplimiento.
Herramientas y esfuerzos existentes:
- El Centro de Innovación del Banco de Pagos Internacionales (BPI) desarrolló prototipos de herramientas para que supervisores analicen grandes conjuntos de datos y detecten anomalías.
Riesgo del secretismo:
- Modelos como "cajas negras" acumulan errores no detectados; la complejidad sin transparencia puede llevar al derrumbe (lección de 2008).

Traducción práctica de la "ley fundamental":
- Preservación de la confianza como infraestructura invisible de las finanzas.
- Si la IA mina la confianza (por sesgo, inestabilidad o irresponsabilidad) amenaza los cimientos del sistema; si se alinea con interés general, refuerza la confianza.
Impacto en inclusión financiera:
- La IA puede ampliar acceso al crédito donde hay huellas transaccionales (ejemplos: M-Pesa en Kenya; identidad digital en India).
- Riesgo contrario: pobreza de datos o sesgos que invisibilizan a mujeres, poblaciones rurales o trabajadores informales.

Estado de la coordinación:
- El Consejo de Estabilidad Financiera, el BPI y el FMI investigan marcos de IA responsable.
Propuesta de marco global:
- Un conjunto de principios globales similar a los "Principios Básicos de Basilea" podría promover justicia, explicabilidad, rendición de cuentas y proporcionalidad.
Roles institucionales sugeridos:
- FMI: ayudar a países a identificar riesgos financieros relacionados con la IA, compartir mejores prácticas y evitar la brecha digital en supervisión; atraer profesionales en investigación y tecnofinanzas.
- BPI: albergar un repositorio de algoritmos de supervisión para colaboración en modelos de código abierto.
- Banco Mundial e instituciones de desarrollo regional: desarrollar capacidades de IA e infraestructura digital en mercados emergentes, reforzar gobernanza de datos e integrar normas éticas de IA en ecosistemas de finanzas digitales.
Objetivo colectivo: multilateralismo digital para asegurar que la IA esté al servicio de todas las economías.

Adoptar la jerarquía de principios inspirada en Asimov como guía ética: proteger a las personas y la estabilidad, respetar límites institucionales, preservar responsabilidad y servir al interés general.
Exigir explicabilidad institucional: los algoritmos deben poder justificarse y las instituciones deben ser responsables de esa explicación.
Fortalecer resiliencia técnica: implementar redundancia, monitoreo continuo y pruebas en escenarios extremos.
Exigir apertura regulatoria: capacidad de auditar modelos, incluso de código propietario.
Nombrar responsables de riesgos de IA dentro de instituciones financieras.
Desarrollar capacidades y competencias regulatorias en IA y tecnofinanzas.
Fomentar coordinación transfronteriza y un marco de principios globales para IA en finanzas.
Priorizar inclusión: diseñar marcos de IA que mitiguen la pobreza de datos y eviten la exclusión de grupos subrepresentados.

Fuente: "Viejas leyes, nuevas máquinas", Biagio Bossone, FINANZAS & DESARROLLO.