Los principios de la robótica del autor de ciencia ficción Isaac Asimov ayudan a marcar el rumbo ético de la IA en las finanzas
BIAGIO BOSSONE es asesor principal de diversas organizaciones internacionales, agencias gubernamentales e instituciones financieras.
Las opiniones expresadas en los artículos y otros materiales pertenecen a los autores; no reflejan necesariamente la política del FMI.
El reloj marca las 7.45 horas en el centro de operaciones de un banco central. Resplandecen en las pantallas los colores de los mapas que representan el sistema financiero. Durante la noche, un modelo de IA dedicado al seguimiento de las condiciones de liquidez ha analizado miles de datos sobre bancos, agentes y procesadores de pagos. Un puntito rojo parpadea junto al nombre de un banco cuya actividad de pagos ha caído repentinamente. Los analistas alzan la vista. La máquina ha detectado algo inusual, tal vez se trate de un error pasajero, o tal vez sea un primer indicio de tensión.
Momentos como este se han convertido en mera rutina en los centros financieros de todo el mundo. La IA —integrada en la calificación de crédito, la detección de fraude, las operaciones algorítmicas de mercado e incluso el análisis monetario— es ya el socio silencioso de las finanzas mundiales: forma parte del telón de fondo de todas las transacciones y rastrea vastos océanos de datos en busca de patrones imperceptibles para el ojo humano.
Y, además, nos deslumbra con su promesa de hallazgos más rápidos, alertas tempranas y mercados más eficientes. Ahora bien, los peligros que entraña son igualmente considerables. Las veloces respuestas coordinadas de la IA pueden generar dinámicas que afecten a todo el sistema y para las que no existe equivalente humano, incluidos bucles de retroalimentación que nadie controla. Los mismos sistemas que hacen las finanzas más eficaces pueden volverlas más frágiles.
¿Cómo asegurarnos de que esta nueva inteligencia esté al servicio del sistema en vez de socavarlo? Curiosamente, un viejo concepto de la ciencia ficción podría tener la respuesta.
En la década de 1940, Isaac Asimov imaginó unos robots inteligentes gobernados por tres leyes sencillas: evitar causar daño a los seres humanos, obedecer órdenes salvo que causaran daño y proteger su propio funcionamiento sin descuidar las otras dos leyes superiores. Más adelante, Asimov añadiría una cuarta “ley fundamental” que establecía que los robots no debían causar daño a la Humanidad en su conjunto.
En la actualidad, las finanzas se enfrentan a un desafío similar. Los modelos de aprendizaje automático cada vez influyen más en cuestiones tales como a quién se concede crédito, cómo se ajustan las carteras y cómo detectan los riesgos los supervisores; afectan pues a cómo fluye la información y cómo se ajustan los precios en toda la economía.
La jerarquía de leyes que establece Asimov, reinterpretada en el contexto de la supervisión financiera, se convierte en un principio ético para el uso de la IA en el ámbito de las finanzas: en primer lugar, la IA no debería perjudicar a la estabilidad financiera ni a la integridad del consumidor; además debe obedecer los mandatos institucionales sin comprometer ni la imparcialidad ni la seguridad; asimismo, debería preservar su propia resiliencia sin eludir la rendición de cuentas. Y, sobre todo, debería estar al servicio del objetivo primordial de resguardar la confianza sobre la que se erigen las finanzas.
No obstante, cualquier tipo de analogía con las leyes de Asimov exige cautela. Los sistemas de IA carecen de brújula moral. Más bien, su naturaleza generativa hace que les resulte fácil soslayar principios generalmente aceptados. Los fracasos del mundo real ilustran la fragilidad de las restricciones impuestas a través de la codificación rígida.
La verdad es que un banco comercial grande no cierra nunca. Sus sistemas operan ininterrumpidamente en distintas zonas horarias, procesando transacciones, actualizando exposiciones y oteando el escenario de operaciones en busca de anomalías que pudieran indicar fraude o tensión. Y, sin embargo, siempre hay algún error. La IA puede interpretar los patrones incorrectamente, heredar sesgos históricos o reforzar señales del mercado que aceleren la volatilidad.
El mandato de Asimov de no causar daño adquiere un significado operativo: la obligación de evitar causar daño no se aplica únicamente a los consumidores sino también a la estabilidad misma del sistema, lo que exige pruebas rigurosas, una gobernanza de datos prudente y, lo más importante de todo, capacidad de dar explicaciones, porque si un algoritmo no es capaz de justificar sus decisiones, lo mismo puede decirse de la institución que depende de él. Los actuales modelos de IA no alcanzan a explicar su razonamiento propio, aunque saben generar narrativas a posteriori, y esto convierte la capacidad de dar explicaciones en un requisito institucional, no técnico.
Los efectos macrofinancieros de la IA pueden ser enormes. Cuando los algoritmos reaccionan a la información nueva a la velocidad de las máquinas, los ajustes de precios y las variaciones de liquidez resultan más milimétricos y sincronizados que en los mercados gestionados por humanos. Episodios como el desplome repentino de 2010 demuestran que los sistemas automatizados pueden afectar a los mercados mucho antes de que las autoridades logren intervenir.
Hoy por hoy, el entorno es todavía más complejo. La cuestión no es solo que la IA reacciona más rápido, sino que además lo hace de manera diferente. Su lógica interna no solo acelera la retroalimentación entre información y acción, sino que le confiere una forma nueva. Los modelos impulsados por la IA influyen en el precio del crédito, la asignación de activos y las primas de riesgo de un modo en que todos esos movimientos se refuerzan entre sí. Cuando, en todos esos frentes, se produce un ajuste conjunto de las estrategias —porque se interpretan las señales de forma parecida o porque convergen las rutinas de optimización—, esto puede afectar la transmisión de los shocks económicos y la respuesta de política económica por parte de los bancos centrales.
La obediencia es intrínseca a la IA. La inteligencia artificial optimiza cualquier objetivo que se le fije, ya sea beneficio, exactitud o cumplimiento, pero la obediencia ciega es peligrosa en finanzas, un ámbito en el que las disyuntivas son tanto morales como técnicas. Un modelo de crédito diseñado para minimizar el incumplimiento puede responder excluyendo colectivos enteros por considerarlos de alto riesgo, con lo que se agravaría la desigualdad en vez de gestionarla. Un algoritmo de negociación destinado a maximizar los rendimientos podría ser tan sensible a señales ínfimas de los precios que desestabilizaría los mercados.
No hay por qué dudar de la legitimidad de los usos de la IA, pero han de circunscribirse a funcionar como herramientas y no atribuírseles la toma de decisiones. La IA debería aportar información para formular criterios, no para sustituirlos. La política monetaria, la supervisión financiera y la gestión de crisis requieren discernimiento humano. Los modelos no pueden ser los encargados de dirigir estas funciones, sobre todo si están entrenados con datos desactualizados y no son capaces de predecir nuevos shocks. Además, debido a que la IA altera las expectativas, podría debilitar los canales tradicionales de señalización a través de los cuales operan las políticas. Los humanos también se equivocan o, como suele decirse, los encargados de formular políticas siempre están mejor preparados para la crisis que ya pasó. La lección no es que las máquinas —o los humanos— fallen, sino que unos y otros deben aprender juntos, siendo ambos conscientes de los puntos ciegos del otro.
Pese al gran avance de la programación y la informática, las finanzas siguen siendo una empresa humana. El discernimiento, la empatía y la responsabilidad no son automatizables. Así pues, bancos centrales, instituciones financieras y reguladores deben cultivar no solo el conocimiento y las competencias en materia de datos, sino también en el plano de la ética. La IA puede reforzar la supervisión, pero la gobernanza sigue siendo una tarea de orden moral.
La ley del instinto de supervivencia se traduce en resiliencia. Los sistemas de IA deben funcionar de manera confiable en situaciones de tensión y las instituciones han de responsabilizarse de sus algoritmos.
La resiliencia técnica implica redundancia, seguimiento y pruebas en escenarios extremos. La resiliencia institucional implica apertura: los reguladores deberían poder auditar las decisiones de la IA, incluso cuando se utilice código propietario. Todo esto requiere contar con competencias y herramientas que permitan validar y cuestionar los modelos de IA utilizados por las empresas.
El Centro de Innovación del Banco de Pagos Internacionales (BPI) ha desarrollado prototipos de herramientas que ayudan a los supervisores a analizar grandes conjuntos de datos y detectar anomalías. Estos esfuerzos son prometedores, y además el principio subyacente es simple: todo algoritmo que afecte a la estabilidad financiera debería ser susceptible de supervisión.
El secretismo engendra fragilidad. Cuando los modelos son cajas negras, se acumulan los errores no detectados. La crisis financiera mundial de 2008 es un recordatorio de cómo la complejidad sin transparencia lleva al derrumbe. La IA presenta el mismo tipo de advertencia, solo que en forma digital.
La rendición de cuentas también afecta a la gobernanza. Las instituciones financieras deberían nombrar responsables de riesgos derivados de la IA, en paralelo a los directores de riesgos o los oficiales de cumplimiento, para así garantizar que los algoritmos puedan explicarse y auditarse. Los reguladores, por su parte, deben desarrollar el conocimiento sobre IA para interpretar y cuestionar los resultados que se les presenten. El objetivo no es ralentizar la innovación sino hacerla más segura, justa y comprensible.
En el mundo real, la ley fundamental —no causar daño a la Humanidad en su conjunto— se traduce en la preservación de la confianza. La confianza es la infraestructura invisible de las finanzas.
Si la IA —por sesgada, inestable o irresponsable— mina la confianza, entonces supone una amenaza para los cimientos del sistema. En cambio, si se alinea con el interés general, la IA fortalecería la confianza, pues puede detectar el fraude más rápidamente, hacer la supervisión más proactiva y ampliar el acceso financiero para que llegue a quienes durante largo tiempo han permanecido excluidos.
La ley superior de la IA, por tanto, consiste en ponerse al servicio del contrato social, que es en definitiva el dinero, a fin de reforzar la confianza, la justicia y la estabilidad. Todas y cada una de las instituciones que utilizan la IA deberían ser juzgadas en función de si fortalecen o debilitan ese contrato.
El impacto de la IA se hace particularmente visible en los mercados emergentes, donde las finanzas digitales están evolucionando rápidamente y la escasez de datos lleva ya largo tiempo restringiendo el acceso al crédito y los servicios públicos. En lugar de reemplazar las herramientas digitales existentes, la IA amplifica lo que estos sistemas son capaces de hacer gracias a que extrae de grandes conjuntos de datos desestructurados unos patrones que los modelos tradicionales no alcanzan a interpretar.
En Kenya, por ejemplo, los ecosistemas de dinero móvil como M-Pesa generan una huella transaccional muy reveladora que, cada vez más, es objeto de análisis mediante modelos de calificación basados en IA. Los patrones conductuales y los comportamientos regulares detectados en los flujos de efectivo que resultan de ese análisis permiten a los prestamistas evaluar el riesgo atribuible a prestatarios sin un historial crediticio formal. Gracias a todo esto se ha ampliado el acceso al crédito de los pequeños empresarios y otros grupos de población que anteriormente no estaban bancarizados. En la India, los sistemas de identidad digital y las plataformas en tiempo real se vinculan con herramientas de aprendizaje automático cuyo objetivo es enfocarse mejor en las transferencias gubernamentales y ampliar el acceso a los microcréditos.
Sin embargo, la IA también puede hacer más pronunciada la exclusión. La pobreza de datos, datos limitados o sesgados, implica que hay comunidades enteras que siguen siendo invisibles para los algoritmos. Si las mujeres, las poblaciones rurales o los trabajadores informales están infrarrepresentados en los conjuntos de datos, también lo estarán en los resultados.
Las organizaciones internacionales están respondiendo. El FMI y el Banco Mundial incluyen cada vez más los temas de las finanzas digitales y la gobernanza de la IA en sus programas de fortalecimiento de capacidades.
La IA evoluciona a más velocidad que la regulación y cruza fronteras más rápidamente que el dinero, pero aun así y mientras la legislación se pone al día, hay mucho que las autoridades pueden hacer sin salirse de los mandatos y los marcos legales actuales. La coordinación transfronteriza es fundamental para evitar la fragmentación y garantizar un enfoque regulatorio mundial para la IA en el ámbito de las finanzas, sobre la base de unas mejores prácticas internacionales en constante evolución.
El Consejo de Estabilidad Financiera, el BPI y el FMI están investigando posibles marcos de IA responsable. Un conjunto de principios globales —similares a los Principios Básicos de Basilea para el sector bancario— podría garantizar la coherencia y la flexibilidad al mismo tiempo. Un marco así favorecería la justicia, la posibilidad de explicar, la rendición de cuentas y la proporcionalidad.
El FMI, mediante su supervisión y asistencia técnica, podría ayudar a los países a identificar los riesgos financieros relacionados con la IA, compartir las mejores prácticas y evitar la brecha digital en la supervisión. A tal efecto, debería atraer a profesionales capacitados en los ámbitos de la investigación y las tecnofinanzas. El BPI podría albergar un repositorio de algoritmos de supervisión, lo que a su vez permitiría a los reguladores colaborar en modelos de código abierto.
El Banco Mundial y las instituciones de desarrollo regional pueden complementar estas iniciativas mediante el desarrollo de capacidades en materia de IA y de infraestructura digital en los mercados emergentes. Por medio de su asistencia técnica, el diálogo en torno a las políticas y los instrumentos de financiamiento pueden ayudar a los países a diseñar marcos de IA para la inclusión financiera, reforzar la gobernanza de los datos e integrar normas éticas de IA en los ecosistemas de las finanzas digitales.
Juntas, todas estas instituciones pueden garantizar que los beneficios de la IA lleguen más allá de las economías avanzadas. El objetivo es el multilateralismo digital: asegurarse de que la IA esté al servicio de todas las economías. Ningún país puede gestionar estas dinámicas en solitario.
Las leyes de Asimov sintetizan la complejidad moral en cuatro prioridades claras: proteger a las personas, respetar los límites, preservar la responsabilidad y servir a la Humanidad. En una época en la que la tecnología va más rápido que las leyes, esa simplicidad no tiene precio.
La elección que se plantea no es entre progreso y prudencia sino entre gobernanza inteligente y automatización ciega, teniendo presente que, incluso a medida que las máquinas aprenden, los humanos siguen siendo los responsables. Cada vez más, el futuro de las finanzas se escribirá en lenguaje de programación, pero los principios que hay detrás siguen siendo humanos. Un sistema que primara la seguridad por encima de la obediencia, la transparencia por encima del secretismo y la confianza por encima de los beneficios no eliminaría los riesgos, pero los haría fáciles de gestionar y les daría un matiz moral.
Si los bancos centrales, los reguladores y las instituciones financieras adoptan estos principios, la IA podría convertirse en una fuerza estabilizadora más que en una fuente de fragilidad, pues ampliaría la inclusión financiera, mejoraría la supervisión y reforzaría la legitimidad de los sistemas monetarios.
Estos mismos principios deben consolidarse a través de la cooperación internacional, asegurándose de que la IA respalde un sistema financiero más seguro y más justo, pero que además resulte más coherente a nivel mundial. El desafío, tanto para la supervisión como para la definición de políticas, es garantizar que, a medida que la inteligencia se vuelve artificial, el discernimiento siga siendo real.
Las máquinas están aprendiendo. Nosotros debemos hacer lo mismo.
© 2026 Fondo Monetario Internacional. Todos los derechos reservados.
