Pilares fundamentales para la gobernanza de la IA

Source details

Autoría: IAN BREMMER, MUSTAFA SULEYMAN.
Fecha: Diciembre de 2023.
Mensaje central: La IA traerá avances científicos revolucionarios, acceso sin precedentes a la tecnología, información falsa y nociva que perturbará las democracias y turbulencias económicas; al mismo tiempo, transformará radicalmente la estructura y el equilibrio de poder global.
Contexto 2023: Gobiernos de todo el mundo han comenzado a reaccionar —de Bruselas a Beijing y Bangkok— con marcos regulatorios; el “Proceso de Hiroshima” surgió en el Grupo de los Siete; la ONU creó un órgano asesor de alto nivel sobre IA; en el Grupo de los Veinte Narendra Modi instó a un marco de gobernanza responsable y centrado en el ser humano; Ursula von der Leyen propuso un órgano de supervisión del riesgo de la IA basado en el modelo del Grupo Intergubernamental de Expertos sobre el Cambio Climático; el Reino Unido organizó la primera cumbre de líderes mundiales dedicada a los riesgos para la seguridad generados por la IA.

Hiperevolutividad:
- El ritmo de mejora de la IA superará la Ley de Moore; mientras esta predijo que la potencia computacional se duplicaría cada dos años, "la cantidad de computación utilizada para entrenar los modelos de IA más potentes se ha multiplicado por 10 cada año del último decenio."
- Procesos que antes tardaban varias semanas ahora se procesan en segundos.
Potencial de auto-mejora:
- Los sistemas podrían funcionar de forma casi autónoma y podrían convertirse en la primera tecnología capaz de mejorarse a sí misma.
Proliferación y accesibilidad:
- Los algoritmos son fáciles y baratos de copiar y compartir; con la reducción de costos de la computación, modelos potentes podrán utilizarse en teléfonos inteligentes.
- El costo marginal de entrega es cero; una vez conocidos, los modelos pueden y se utilizarán en cualquier parte.
- Riesgo de un solo modelo malintencionado (“brote”) capaz de causar estragos.

Doble uso y bajo costo:
- A diferencia de tecnologías como el enriquecimiento nuclear, la IA tiene bajo costo que permite aplicaciones ilimitadas con fines civiles o militares.
Incentivos estratégicos:
- La supremacía en IA es un objetivo estratégico de gobiernos y empresas con recursos; la dinámica de suma cero lleva a acelerar el desarrollo en lugar de ralentizarlo.
- Estados Unidos y China consideran la supremacía en IA un objetivo estratégico.
Control privado y proliferación:
- Todos los aspectos de la IA están actualmente bajo el control del sector privado.
- Aunque un puñado de grandes empresas pueda conservar una ventaja, la proliferación gradual atraerá a más actores pequeños, complicando la gobernanza.
- Empresas privadas y tecnólogos que controlan la IA tienen pocos incentivos para la autorregulación.
Supervisión y verificación:
- Si la supervisión nuclear resultó compleja hace 30 años, aplicarla a la IA será aún más difícil.

Enfoque general: Establecer principios básicos desde los cuales formular políticas, porque la imprevisibilidad y rapidez de la IA hacen que regímenes inflexibles sean inadecuados.
Precaución:
- El perfil de riesgo-recompensa es asimétrico; las autoridades deben establecer sistemas que protejan frente a desventajas potencialmente catastróficas.
- Adaptar el principio de precaución a la IA y consagrarlo en cualquier régimen de gobernanza.
Agilidad:
- La gobernanza debe ser ágil, adaptativa y permitir la autocorrección dada la hiperevolutividad de la IA.
Inclusividad:
- Regulación eficaz requiere colaboración con el sector comercial y empresas tecnológicas privadas.
- Dado el carácter transfronterizo de la IA, los gobiernos deberían lograr que las empresas suscriban convenios internacionales.
- Incluir a empresas privadas en la alta diplomacia, pese a ser inaudito, es necesario para la eficacia del régimen.
Impermeabilidad:
- Los mecanismos de cumplimiento deben ser herméticos; un solo actor que incumpla crearía un precedente peligroso.
- Diseñar un sistema de adhesión sencillo que fomente la participación y un mecanismo de salida costoso que disuada el incumplimiento.
Focalización:
- Un régimen único es insuficiente; se requiere una taxonomía viva y activa de los distintos efectos potenciales de la IA.
- La gobernanza debe ser modular, basada en los riesgos y focalizada, no un régimen universalmente válido.

Urgencia y calidad de la regulación:
- Regular la IA es perentorio, pero es igualmente inexcusable hacerlo correctamente; evitar enfoques que planteen una falsa disyuntiva entre progreso y catástrofe.
Necesidad institucional:
- La formulación de políticas acertadas requiere instituciones sólidas y un marco conceptual internacional para pensar la IA.
Propósito de los principios:
- Los principios propuestos sirven como punto de partida para construir regímenes de gobernanza coherentes con la naturaleza única de la IA.

Fondo Monetario Internacional — FINANZAS & DESARROLLO, artículo de IAN BREMMER y MUSTAFA SULEYMAN (Diciembre de 2023).