{
  "title": "Viejas leyes, nuevas máquinas",
  "sourceUrl": "https://www.imf.org/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone",
  "canonical": "https://www.imf.org/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone",
  "overlayPath": "/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone/index.md",
  "summary": "Los principios de LA robótica del autor de ciencia ficción Isaac Asimov ayudan a marcar el rumbo ético de la IA en las finanzas",
  "sections": [
    {
      "heading": "Resumen ejecutivo",
      "content": "- La IA ya es \"el socio silencioso de las finanzas mundiales\", integrada en calificación de crédito, detección de fraude, operaciones algorítmicas de mercado y análisis monetario.\n- Riesgo central: respuestas veloces y coordinadas de la IA pueden generar dinámicas sistémicas nuevas (bucles de retroalimentación) que aumenten la fragilidad financiera.\n- Propuesta central: reinterpretar la jerarquía de las leyes de Isaac Asimov como un principio ético para la IA en finanzas: 1) no causar daño, 2) obedecer mandatos institucionales sin comprometer imparcialidad ni seguridad, 3) preservar resiliencia sin eludir rendición de cuentas, y 4) servir a la confianza/Humanidad."
    },
    {
      "heading": "Contexto y ejemplos operativos",
      "content": "- Escenario narrativo: \"El reloj marca las 7.45 horas en el centro de operaciones de un banco central\" — un modelo de IA detecta una caída repentina en la actividad de pagos y alerta a los analistas.\n- Historia y analogía: Asimov formuló las leyes en la década de 1940; más tarde añadió una cuarta \"ley fundamental\" sobre la Humanidad.\n- Episodios históricos de referencia: desplome repentino de 2010; crisis financiera global de 2008.\n- Casos prácticos en mercados emergentes:\n  - Kenya: ecosistemas de dinero móvil como M-Pesa generan huellas transaccionales usadas por modelos de calificación basados en IA para ampliar acceso al crédito.\n  - India: sistemas de identidad digital y plataformas en tiempo real vinculados a aprendizaje automático para mejorar transferencias gubernamentales y acceso a microcréditos."
    },
    {
      "heading": "No causar daño: implicaciones operativas y macrofinancieras",
      "content": "- Alcance del mandato \"no causar daño\":\n  - Aplicable a la protección del consumidor y a la estabilidad financiera.\n  - Requiere pruebas rigurosas, gobernanza de datos prudente y capacidad institucional de \"dar explicaciones\".\n- Riesgos técnicos y sistémicos:\n  - IA puede interpretar patrones incorrectamente, heredar sesgos históricos o reforzar señales del mercado que aceleren volatilidad.\n  - Cuando algoritmos reaccionan a la velocidad de las máquinas, los ajustes de precios y variaciones de liquidez son más milimétricos y sincronizados.\n  - Los modelos impulsados por IA afectan precio del crédito, asignación de activos y primas de riesgo, pudiendo generar ajustes conjuntos que modifiquen la transmisión de shocks y la respuesta de política monetaria."
    },
    {
      "heading": "Obediencia, discernimiento humano y límites de la automatización",
      "content": "- Naturaleza de la obediencia de la IA:\n  - La IA optimiza el objetivo fijado (beneficio, exactitud, cumplimiento); la obediencia ciega es peligrosa en finanzas.\n- Ejemplos de fallos por optimización mal diseñada:\n  - Modelos de crédito que minimizan incumplimiento pueden excluir colectivos enteros.\n  - Algoritmos de negociación que maximizan rendimientos pueden desestabilizar mercados al reaccionar a señales ínfimas.\n- Principio operativo:\n  - La IA debe funcionar como herramienta que aporte información para formular criterios, no como sustituto de la toma de decisiones en política monetaria, supervisión financiera o gestión de crisis.\n  - Necesidad de aprendizaje conjunto entre humanos y máquinas, y de desarrollar ética y competencias en datos en bancos centrales, instituciones financieras y reguladores."
    },
    {
      "heading": "Resiliencia técnica e institucional y rendición de cuentas",
      "content": "- Elementos de resiliencia técnica:\n  - Redundancia, seguimiento y pruebas en escenarios extremos.\n- Elementos de resiliencia institucional:\n  - Apertura y capacidad de auditoría por parte de reguladores, incluso cuando se use código propietario.\n  - Nombramiento de responsables de riesgos derivados de la IA en instituciones financieras, en paralelo a directores de riesgos y oficiales de cumplimiento.\n- Herramientas y esfuerzos existentes:\n  - El Centro de Innovación del Banco de Pagos Internacionales (BPI) desarrolló prototipos de herramientas para que supervisores analicen grandes conjuntos de datos y detecten anomalías.\n- Riesgo del secretismo:\n  - Modelos como \"cajas negras\" acumulan errores no detectados; la complejidad sin transparencia puede llevar al derrumbe (lección de 2008)."
    },
    {
      "heading": "Ley superior: preservar la confianza y la inclusión",
      "content": "- Traducción práctica de la \"ley fundamental\":\n  - Preservación de la confianza como infraestructura invisible de las finanzas.\n  - Si la IA mina la confianza (por sesgo, inestabilidad o irresponsabilidad) amenaza los cimientos del sistema; si se alinea con interés general, refuerza la confianza.\n- Impacto en inclusión financiera:\n  - La IA puede ampliar acceso al crédito donde hay huellas transaccionales (ejemplos: M-Pesa en Kenya; identidad digital en India).\n  - Riesgo contrario: pobreza de datos o sesgos que invisibilizan a mujeres, poblaciones rurales o trabajadores informales."
    },
    {
      "heading": "Coordinación internacional y gobernanza",
      "content": "- Estado de la coordinación:\n  - El Consejo de Estabilidad Financiera, el BPI y el FMI investigan marcos de IA responsable.\n- Propuesta de marco global:\n  - Un conjunto de principios globales similar a los \"Principios Básicos de Basilea\" podría promover justicia, explicabilidad, rendición de cuentas y proporcionalidad.\n- Roles institucionales sugeridos:\n  - FMI: ayudar a países a identificar riesgos financieros relacionados con la IA, compartir mejores prácticas y evitar la brecha digital en supervisión; atraer profesionales en investigación y tecnofinanzas.\n  - BPI: albergar un repositorio de algoritmos de supervisión para colaboración en modelos de código abierto.\n  - Banco Mundial e instituciones de desarrollo regional: desarrollar capacidades de IA e infraestructura digital en mercados emergentes, reforzar gobernanza de datos e integrar normas éticas de IA en ecosistemas de finanzas digitales.\n- Objetivo colectivo: multilateralismo digital para asegurar que la IA esté al servicio de todas las economías."
    },
    {
      "heading": "Recomendaciones de política y gobernanza (implícitas en el texto)",
      "content": "- Adoptar la jerarquía de principios inspirada en Asimov como guía ética: proteger a las personas y la estabilidad, respetar límites institucionales, preservar responsabilidad y servir al interés general.\n- Exigir explicabilidad institucional: los algoritmos deben poder justificarse y las instituciones deben ser responsables de esa explicación.\n- Fortalecer resiliencia técnica: implementar redundancia, monitoreo continuo y pruebas en escenarios extremos.\n- Exigir apertura regulatoria: capacidad de auditar modelos, incluso de código propietario.\n- Nombrar responsables de riesgos de IA dentro de instituciones financieras.\n- Desarrollar capacidades y competencias regulatorias en IA y tecnofinanzas.\n- Fomentar coordinación transfronteriza y un marco de principios globales para IA en finanzas.\n- Priorizar inclusión: diseñar marcos de IA que mitiguen la pobreza de datos y eviten la exclusión de grupos subrepresentados.\n\nFuente: \"Viejas leyes, nuevas máquinas\", Biagio Bossone, FINANZAS & DESARROLLO.\n\n---\n\n\nSource: https://www.imf.org/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone"
    }
  ],
  "bullets": [
    "[Markdown version](/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone/index.md)",
    "[Structured JSON version](/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone/index.json)",
    "[Bundle manifest](/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone/bundle-manifest.json)",
    "Authors: BIAGIO BOSSONE",
    "Published: March 3, 2026",
    "La IA ya es \"el socio silencioso de las finanzas mundiales\", integrada en calificación de crédito, detección de fraude, operaciones algorítmicas de mercado y análisis monetario.",
    "Riesgo central: respuestas veloces y coordinadas de la IA pueden generar dinámicas sistémicas nuevas (bucles de retroalimentación) que aumenten la fragilidad financiera.",
    "Propuesta central: reinterpretar la jerarquía de las leyes de Isaac Asimov como un principio ético para la IA en finanzas: 1) no causar daño, 2) obedecer mandatos institucionales sin comprometer imparcialidad ni seguridad, 3) preservar resiliencia sin eludir rendición de cuentas, y 4) servir a la confianza/Humanidad.",
    "Escenario narrativo: \"El reloj marca las 7.45 horas en el centro de operaciones de un banco central\" — un modelo de IA detecta una caída repentina en la actividad de pagos y alerta a los analistas.",
    "Historia y analogía: Asimov formuló las leyes en la década de 1940; más tarde añadió una cuarta \"ley fundamental\" sobre la Humanidad.",
    "Episodios históricos de referencia: desplome repentino de 2010; crisis financiera global de 2008.",
    "Casos prácticos en mercados emergentes:",
    "Alcance del mandato \"no causar daño\":",
    "Riesgos técnicos y sistémicos:",
    "Naturaleza de la obediencia de la IA:",
    "Ejemplos de fallos por optimización mal diseñada:",
    "Principio operativo:",
    "Elementos de resiliencia técnica:",
    "Elementos de resiliencia institucional:",
    "Herramientas y esfuerzos existentes:",
    "Riesgo del secretismo:",
    "Traducción práctica de la \"ley fundamental\":",
    "Impacto en inclusión financiera:",
    "Estado de la coordinación:",
    "Propuesta de marco global:",
    "Roles institucionales sugeridos:",
    "Objetivo colectivo: multilateralismo digital para asegurar que la IA esté al servicio de todas las economías.",
    "Adoptar la jerarquía de principios inspirada en Asimov como guía ética: proteger a las personas y la estabilidad, respetar límites institucionales, preservar responsabilidad y servir al interés general.",
    "Exigir explicabilidad institucional: los algoritmos deben poder justificarse y las instituciones deben ser responsables de esa explicación.",
    "Fortalecer resiliencia técnica: implementar redundancia, monitoreo continuo y pruebas en escenarios extremos.",
    "Exigir apertura regulatoria: capacidad de auditar modelos, incluso de código propietario.",
    "Nombrar responsables de riesgos de IA dentro de instituciones financieras.",
    "Desarrollar capacidades y competencias regulatorias en IA y tecnofinanzas.",
    "Fomentar coordinación transfronteriza y un marco de principios globales para IA en finanzas.",
    "Priorizar inclusión: diseñar marcos de IA que mitiguen la pobreza de datos y eviten la exclusión de grupos subrepresentados."
  ],
  "alternates": {
    "markdown": "/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone/index.md",
    "json": "/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone/index.json",
    "bundleManifest": "/es/publications/fandd/issues/2026/03/old-laws-for-new-machines-biagio-bossone/bundle-manifest.json"
  },
  "generatedAtUtc": "2026-09-15T22:36:41.345Z"
}