Barreras de comunicación
Asimilar el potencial de IA probablemente será más difícil en los países de ingreso más bajo, donde las tasas de alfabetización y aritmética elemental de la población son más bajas y las personas están menos familiarizadas con los datos digitales y los algoritmos que procesan esta información. Por ejemplo, en un experimento realizado en Nairobi, Kenya, fue difícil explicar a personas de ingreso bajo los conceptos de algoritmos simples con números negativos y fracciones. Pero nuestro equipo buscó maneras más sencillas de comunicar estos conceptos, y cuando las personas respondieron al algoritmo no cabía duda de que los habían comprendido. De todos modos, los sistemas de IA complejos son difíciles de entender, incluso para los propios investigadores.
Algunas aplicaciones no requieren que los usuarios sepan cómo funcionan los algoritmos. Por ejemplo, las recomendaciones de películas de Netflix pueden ayudar a los usuarios incluso si estos no entienden cómo el algoritmo selecciona lo que intuye que podría resultarles interesante. De igual forma, en una crisis humanitaria, las autoridades pueden considerar aceptable recurrir a un algoritmo inescrutable de “caja negra”, como lo hizo el gobierno de Togo en respuesta a la crisis de la COVID-19.
La transparencia a veces es crucial. Al momento de focalizar las ayudas sociales cuando no se está en una situación de emergencia, es esencial explicar a los posibles beneficiarios los criterios de acceso. Pero del dicho al hecho hay un gran trecho: decenas de entrevistas y grupos de enfoque revelan diferencias fundamentales en las normas y los valores sobre datos y privacidad entre un entorno rural como el de Togo y el de los países ricos donde los sistemas basados en IA son más comunes. Por ejemplo, pocas personas con las que hablamos se mostraron preocupadas de que el gobierno o las empresas tuvieran acceso a sus datos (una de las principales preocupaciones en Europa y Estados Unidos), pero muchas se preguntaban en qué medida y de qué manera la información se compartiría con sus vecinos.
Conforme el uso de la IA se va masificando, las poblaciones tienen que comprender sus efectos más amplios en la sociedad. Por ejemplo, la IA puede generar fotos provocativas que son absolutamente falsas y llamadas robotizadas que imitan voces. Estos rápidos cambios afectarán el grado en que las personas han de confiar en la información que ven en línea. Incluso los habitantes en zonas remotas tienen que ser puestos al corriente de estas posibilidades para evitar que sean engañados, y para garantizar que sus intereses se tengan en cuenta al momento de elaborar las regulaciones.
Establecer conexiones
Las soluciones de IA dependen de la infraestructura digital física ya existente: desde las enormes bases de datos en servidores hasta los teléfonos móviles que usan las personas, pasando por los cables de fibra óptica y las torres de telefonía celular. En los últimos 20 años, las economías en desarrollo han invertido mucho en comunicar zonas alejadas mediante conexiones celulares y de Internet, lo cual ha sentado las bases para estas nuevas aplicaciones.
Las aplicaciones de IA se benefician de la infraestructura digital, pero algunas podrían explotar mejor los recursos existentes. Por ejemplo, muchos docentes en Sierra Leona luchan contra un acceso a Internet deficiente. Para ciertas tareas quizá resulte más fácil obtener las ideas de un chatbot y validar luego las respuestas que cotejar información extraída de distintos recursos en línea.
Sin embargo, algunos sistemas de IA requerirán inversiones en infraestructura del conocimiento, sobre todo en países avanzados, donde persisten las deficiencias de datos y los pobres no están lo suficientemente cubiertos desde el punto de vista digital. Los modelos de IA disponen de información incompleta sobre las necesidades y las aspiraciones de los ciudadanos de menores ingresos, su estado de salud, el aspecto de las personas y los poblados, y la estructura de los idiomas menos comunes.
Para recopilar estos datos quizá sea necesario integrar clínicas, colegios y empresas en sistemas de registro digital, incentivar su uso y establecer derechos legales sobre los datos resultantes.
Además, los sistemas de IA deben adaptarse a los valores y las condiciones locales. Por ejemplo, es posible que los sistemas de IA occidentales recomienden a los profesores usar recursos costosos como pizarras digitales o presentaciones de diapositivas digitales. Estos sistemas han de modificarse de modo que resulten útiles para los profesores que carecen de estos recursos. Invertir en la capacidad y la capacitación de los programadores y diseñadores locales de IA puede ayudar a garantizar que la próxima ola de innovación técnica refleje mejor los valores y las prioridades de cada lugar.
La IA encierra la promesa de muchas aplicaciones útiles para los pobres en las economías en desarrollo. La encrucijada no está en soñar a lo grande —es fácil imaginar cómo estos sistemas pueden beneficiar a los pobres—, sino en garantizar que estos sistemas colmen las necesidades de las personas, se adapten a las condiciones locales y no causen ningún daño.