foto: Joan Wong
Las autoridades deben atenerse a cinco principios rectores para gobernar la IA de manera eficaz
IAN BREMMER es presidente y fundador de Eurasia Group y GZERO Media.
MUSTAFA SULEYMAN es director ejecutivo y cofundador de Inflection AI.
Las opiniones expresadas en los artículos y otros materiales pertenecen a los autores; no reflejan necesariamente la política del FMI.
La inteligencia artificial traerá a la vida de los ciudadanos y a las sociedades avances científicos revolucionarios, un acceso sin precedentes a la tecnología, información falsa y nociva que perturbará las democracias y turbulencias económicas. Al mismo tiempo, desencadenará una transformación radical de la estructura y el equilibrio de poder a escala mundial.
Esto sitúa a las instituciones políticas de todo el mundo ante un reto sin igual: tendrán que establecer normas nuevas para regular una tecnología novedosa y dinámica, mitigar sus posibles riesgos y reconciliar los intereses dispares de unos actores geopolíticos que, cada vez más, procederán del sector privado. Asimismo, hará falta una gran coordinación entre los gobiernos, algunos de los cuales pueden ser rivales estratégicos y adversarios.
En 2023, los gobiernos de todo el mundo comenzaron a reaccionar ante este desafío. De Bruselas a Beijing y Bangkok, los legisladores están trabajando en la elaboración de marcos regulatorios para gobernar la IA, al mismo tiempo que la tecnología que pretenden regular avanza a un ritmo exponencial. Reunidos en Japón, los líderes del Grupo de los Siete pusieron en marcha el “Proceso de Hiroshima”, con el fin de abordar algunas de las dificultades más complejas que plantea la IA generativa; por su parte, las Naciones Unidas crearon un nuevo órgano asesor de alto nivel sobre IA. En la reunión del Grupo de los Veinte celebrada en Nueva Delhi, el Primer Ministro indio Narendra Modi instó a los países a establecer un nuevo marco para una gobernanza de la IA responsable y centrada en el ser humano, mientras que Ursula von der Leyen, Presidenta de la Comisión Europea, abogó por crear un nuevo órgano de supervisión del riesgo de la IA basado en el modelo del Grupo Intergubernamental de Expertos sobre el Cambio Climático.
En noviembre, el Gobierno del Reino Unido acogió la primera cumbre de líderes mundiales dedicada a los riesgos para la seguridad generados por la IA. Incluso en Estados Unidos, país que alberga a las mayores empresas de IA y que tradicionalmente es reacio a regular las nuevas tecnologías, se da por seguro que se aprobará regulación para la IA y esta cuestión suscita un consenso poco frecuente entre los dos principales partidos.
Esta intensa actividad es alentadora. En un plazo notablemente breve, los líderes mundiales han dado prioridad a la necesidad de gobernanza de la IA. Con todo, convenir en que la regulación es necesaria es solo el requisito mínimo. Determinar qué tipo de regulación se debe establecer es igual de importante. El reto que plantea la IA no se parece a ningún otro que hayamos afrontado, y sus características singulares, unidas a los incentivos geopolíticos y económicos de los principales actores, obligan a ser creativos en el diseño de los regímenes de gobernanza.
La gobernanza de la IA no es un problema único. En el caso del cambio climático, puede haber muchas vías para lograr el objetivo último de reducir las emisiones de gases de efecto invernadero, pero el objetivo principal es único. La IA es diferente, ya que las políticas de IA han de estimular la innovación para solucionar problemas irresolubles y, al mismo tiempo, evitar una proliferación peligrosa, y deben contribuir a lograr una ventaja geopolítica, pero evitando que el mundo se encamine a ciegas hacia una nueva carrera armamentística.
La naturaleza de la propia tecnología constituye una complicación adicional. La IA no puede regularse como las tecnologías anteriores porque no se parece a ninguna de ellas. No solo plantea retos para las políticas públicas; sus características singulares hacen que resolver esos problemas sea cada vez más difícil. Esa es la paradoja de la potencia de la IA.
Para empezar, todas las tecnologías evolucionan, pero la IA es hiperevolutiva. El ritmo de mejora de la IA superará con creces la ya potente Ley de Moore, que predijo, acertadamente, que la potencia computacional se duplicaría cada dos años. En lugar de duplicarse cada dos años, la cantidad de computación utilizada para entrenar los modelos de IA más potentes se ha multiplicado por 10 cada año del último decenio. Algo que antes tardaba varias semanas en procesarse se procesa ahora en segundos. Sin duda, las tecnologías que permiten la aplicación de la IA van a ser cada vez más pequeñas, más baratas y más accesibles.
No obstante, el carácter único de la IA no está relacionado solo con el crecimiento de la capacidad computacional. Pocas personas predijeron su evolución, desde su capacidad para entrenar grandes modelos lingüísticos hasta su capacidad para resolver problemas complejos o incluso componer música. Es posible que pronto estos sistemas puedan funcionar de forma casi autónoma. Esto ya sería revolucionario en sí mismo, pero además tendría una consecuencia aún más espectacular: la IA podría convertirse en la primera tecnología capaz de mejorarse a sí misma.
La IA prolifera fácilmente. Como ocurre con cualquier software, los algoritmos de la IA son mucho más fáciles y baratos de copiar y de compartir (o robar) que los activos físicos. Además, a medida que adquieran mayor potencia —y la computación se abarate—, pronto esos modelos podrán utilizarse en los teléfonos inteligentes. Ninguna tecnología tan potente ha sido nunca tan accesible, para tantas personas y de forma tan rápida. Y como su costo marginal —por no hablar del costo marginal de la entrega— es cero, una vez se dan a conocer, los modelos de IA pueden utilizarse, y se utilizarán, en cualquier parte. La mayoría serán seguros y muchos se han entrenado de manera responsable. Pero, como con los virus, basta con un modelo malintencionado (o un “brote”) para causar estragos.
Como consecuencia de la naturaleza de la IA, los incentivos de los actores en torno a esta tecnología también son distintos. Las tecnologías de doble uso no son nuevas (por eso la proliferación nuclear para uso civil se vigila estrechamente), y la IA tampoco es la primera tecnología cuyos usos civiles y militares no están claramente delimitados. Pero mientras que tecnologías como el enriquecimiento nuclear son altamente complejas y requieren mucho capital, el bajo costo de la IA permite su aplicación ilimitada, ya sea con fines civiles o militares. Por eso la IA va mucho más allá que el desarrollo de software; se trata de un medio totalmente nuevo y peligroso de proyectar el poder.
Restringir la IA es suficientemente difícil por motivos tecnológicos. Pero su potencial para proporcionar más riqueza y poder a actores ya de por sí poderosos hace que los gobiernos y las empresas privadas que desarrollan la IA tengan incentivos para hacer exactamente lo contrario. En pocas palabras, la supremacía en el ámbito de la IA es un objetivo estratégico de todos los gobiernos y las empresas que cuentan con los recursos necesarios para competir. Si la Guerra Fría se caracterizó por la carrera en pos de las armas nucleares, la actual confrontación geopolítica reflejará la competencia mundial por la IA. Estados Unidos y China consideran la supremacía en IA un objetivo estratégico que deben alcanzar, y evitar que logre el otro. La consecuencia de esta dinámica de suma cero es que Beijing y Washington centran sus esfuerzos en acelerar el desarrollo de la IA, y no en ralentizarlo.
Si la supervisión y verificación nucleares resultaron sumamente complicadas hace 30 años, aplicarlas ahora al ámbito de la IA será aún más difícil. Incluso si las potencias mundiales estuvieran dispuestas a frenar la IA, no hay garantía de que pudieran lograrlo, puesto que, como en la mayoría del mundo digital, todos los aspectos de la IA están actualmente bajo el control del sector privado. Además, aunque el puñado de grandes empresas tecnológicas que controlan la IA pueda preservar su ventaja en el futuro previsible, es igualmente probable que la proliferación gradual de esta tecnología atraiga a un número cada vez mayor de actores pequeños a este espacio, lo que complicaría la gobernanza. Sea como sea, las empresas privadas y los tecnológos que controlarán la IA tienen pocos incentivos para la autorregulación.
Cualquiera de las características que acabamos de describir tensaría por sí sola los modelos tradicionales de gobernanza; todas juntas hacen que esos modelos sean del todo inadecuados y que el desafío de gobernar la IA no se parezca a ninguno de los afrontados por los gobiernos en el pasado.
Para que la gobernanza mundial de la IA tenga éxito, deberá reflejar sus características únicas. La primera de ellas es que, en su condición de tecnología hiperevolutiva, el progreso de la IA es intrínsecamente impredecible. Las autoridades deben tener en cuenta que, dada esa imprevisibilidad, las normas que aprueben hoy pueden no ser eficaces o incluso pertinentes dentro de unos meses, y mucho menos dentro de unos años. Restringir la capacidad de actuación de los reguladores con regímenes inflexibles sería un error.
La mejor forma de contribuir a una buena gobernanza sería establecer una serie de principios básicos a partir de los cuales se formularían las políticas en materia de IA.
Gobernar la IA será uno de los desafíos más difíciles que la comunidad internacional tendrá que afrontar en las próximas décadas. Tan importante como la necesidad perentoria de regular la IA es el deber inexcusable de regularla correctamente. Los debates actuales sobre la política de IA tienden con demasiada frecuencia a centrarse en una falsa disyuntiva entre el progreso y la catástrofe (o las ventajas geopolíticas y económicas frente a la mitigación de riesgos). En lugar de pensar con creatividad, demasiado a menudo se conciben soluciones que parecen paradigmas para problemas del pasado. Eso no va a funcionar en la era de la IA.
La formulación de políticas acertadas será vital, pero para lograr ese objetivo se necesitan instituciones sólidas. Para crear esas instituciones, la comunidad internacional tendrá que acordar un marco conceptual que determine el modo en que pensamos sobre la IA. Los principios que proponemos en este artículo se ofrecen como un punto de partida.
© 2026 Fondo Monetario Internacional. Todos los derechos reservados.
