Entre la amenaza de agravar las desigualdades y un motor de desarrollo, la innovación más popular en este momento plantea un escenario incierto en el continente africano

“La mayor amenaza no es la tecnología, sino sus creadores”, advierte Emsie Erastus, especialista en derechos digitales de la red Internews en Zambia, y añade: “La mayor amenaza son los creadores de inteligencia artificial (IA) que siguen teniendo una visión estrecha de África. Los prejuicios en la tecnología se originan en las construcciones que existen en los círculos sociales de estos creadores. Si estamos creando una tecnología que pretende ‘servir’ a todo el mundo, tenemos que descolonizar la tecnología”. Erastus expresa de una manera sencilla cómo los estereotipos, las ideas preconcebidas y el imaginario deformado sobre el continente permea la creación de desarrollos tecnológicos y cómo estas creencias pueden hacer no solo que algunas de esas tecnologías sean ineficientes, sino que, incluso, puedan llegar a ser perjudiciales. Esta periodista e investigadora de los medios y la comunicación, que ha investigado la representación mediática de las mujeres, ha profundizado también en el impacto de la IA generativa en las redacciones africanas.

Precisamente, mientras los diversos sistemas de IA generativa centran la atención, mientras las hiperrealistas fotos del Papa Francisco ataviado con un plumífero como si se tratase de una celebridad de la música provocan fascinación, mientras los textos de los modelos de lenguaje más populares como Chat GPT sorprenden por su naturalidad aparente y por su verosimilitud, mientras algunas voces se alzan en torno al impacto de las deslumbrantes IA generativas en el contexto del norte global… no se presta la misma atención a las demoledoras consecuencias de estas tecnologías en otros contextos diferentes, como los de los sures o, más precisamente, los contextos africanos con todas las particularidades sociales, culturales y políticas del continente. Los despliegues de la IA aparecen de nuevo como una moneda con dos caras, pero la narrativa construida por la poderosa industria tecnológica tiende a obviar o a enterrar los impactos negativos de sus últimos productos de moda.

Las voces que desde el continente africano tratan de acercarse de manera crítica y rigurosa a esta nueva realidad tecnológica no menosprecian sus beneficios. Al contrario, la certeza de las aportaciones que la IA puede hacer les llevan a poner el acento en los posibles perjuicios para poder aprovechar al máximo su potencial. “La IA ofrece numerosas ventajas para el continente”, afirma rotunda la misma Erastus antes de listar experiencias como las de la lucha contra las voraces y devastadoras langostas del desierto, las del seguimiento de la propagación de enfermedades, las que están permitiendo preservar lenguas o las que, a través de las bibliotecas, permiten salvaguardar el patrimonio cultural o trazar los linajes. Todas esas experiencias “demuestran claramente los efectos positivos de la IA”, a juicio de esta periodista e investigadora. “Sin embargo, la preocupación surge cuando la tecnología es desarrollada por empresas tecnológicas cuyo principal objetivo parece ser únicamente el lucro, mientras se presentan como salvadoras frente a los problemas africanos”, advierte Emsie Erastus, que continúa: “Este tipo de empresas tecnológicas suelen manifestarse de forma social y sus diseños plantean graves sesgos, ya que los procesos de creación suelen ser opacos y, predominantemente, están dirigidos por hombres blancos que pueden albergar fuertes prejuicios”.

Las palabras de esta experta destilan una importante lista de temas clave en el desarrollo tecnológico, desde la carga colonial de la innovación hasta las lógicas y los desequilibrios de poder en una industria con una enorme capacidad para modelar el futuro, pasando por la necesidad de localizar los desarrollos, la transmisión del complejo del blanco salvador a sectores emergentes o la persistencia de una imagen deformada sobre el continente que tiene un gran potencial de condicionar las acciones y de hacer naufragar sus aparentes beneficios.

De las conversaciones con las expertas en la tecnología se desprende una sensación evidente: la IA tiene la capacidad para hacer cambiar las cosas, pero también para perpetuar las desigualdades más arraigadas. “Los sesgos algorítmicos deberían ser una preocupación urgente para África”, advierte Diana Nyakundi, “porque no solo alimentan las desigualdades existentes, especialmente entre el norte y el sur global, sino también porque afianzan las narrativas erróneas y equivocadas sobre el continente y su gente”. Nyakundi es una jurista especializada en derecho relacionado con tecnología e investigadora en el Research ICT Africa, en el que lidera el proyecto African Observatory on Responsible AI, entre otros. Esta investigadora de la IA asegura: “Cuando la IA se utiliza para automatizar ciertos procesos y la toma de decisiones y se ha alimentado con percepciones racialmente sesgadas de los datos y la resolución de problemas, el resultado final suele estar lejos de ser justo y plantea el riesgo de perder el acceso a los servicios sociales, como escuelas, salud o vivienda. En el caso de las tecnologías de reconocimiento facial, los que sufren falsas identificaciones y sus consecuencias acostumbran a ser abrumadoramente negros”.

En este punto, la clave, en la que también coinciden diversas expertas, radica en la autonomía del continente para producir sus propias tecnologías y en la localización de datos que se usen para el entrenamiento de la IA. “Es crucial que los sistemas de IA desplegados en África den prioridad a conjuntos de datos diversos que reflejen las experiencias de los miembros más marginados de nuestra sociedad. Con esta labor podemos trabajar para mitigar los prejuicios y garantizar un trato justo para todos. El contexto importa, y comprender las circunstancias sociales, culturales y económicas específicas de los países y las comunidades africanas es crucial para crear soluciones de IA que sean relevantes, efectivas y respetuosas”, sostiene con contundencia Chenai Chair, que es una de las responsables del programa para África Mradi de la Mozilla Foundation.

Chair recuerda que “una de las amenazas más importantes para los países africanos en la actualidad es la proliferación de campañas de desinformación, sobre todo a través de las plataformas de las redes sociales y, potencialmente, de los principales medios de comunicación tradicionales”. Esta experta que ha desarrollado una amplia actividad como investigadora observa ejemplos como los de Kenia y Sudáfrica para advertir que “la difusión de información falsa no solo alimenta tensiones y conflictos en las redes sociales, sino que puede influir en los procesos de toma de decisiones políticas”. El análisis de Chair relata un efecto cascada con consecuencias desastrosas: “Las democracias africanas, muchas de ellas frágiles, son vulnerables a los efectos de la desinformación, que puede instigar el malestar social y político. Estos disturbios pueden provocar inestabilidad en los mercados, incertidumbre entre los inversores y pérdida de confianza, afectando al comercio y al crecimiento económico. Estas consecuencias acaban agravando las desigualdades, afectan especialmente a las poblaciones marginadas y amplían las divisiones sociales”.

Nyakundi ofrece una lectura determinante de la situación actual: “África se encuentra en un punto de inflexión. Dado el incipiente desarrollo de la IA en el continente, tenemos la oportunidad de decidir y controlar cómo queremos utilizar esta tecnología y asegurarnos de que funcione para nosotros”. Esta jurista experta en inteligencia artificial considera que se trata de una tecnología que puede cambiar “la adquisición de conocimientos y permitir jugar en igualdad de condiciones con el resto del mundo a la hora de innovar y aprovecharla para el crecimiento y el desarrollo de las economías”. Pero advierte: “Solo puede lograrse con supervisión e impulsando algoritmos abiertos y auditorías de terceros. La capacidad de la IA para convertirse en una amenaza o en una oportunidad depende en gran medida de nosotros”.

Artículo redactado por Carlos Bajo Erro.