OSMANI REDONDO – MADRID
Hace unos meses mi hermana me preguntó en qué estaba trabajando. Le expliqué lo que podía. Se quedó pensando y me dijo: oye, ¿me mandas algo para leer? Busqué. Vídeos en inglés. Hilos en inglés. Newsletters en inglés. Comunidades en inglés. No encontré nada que pudiera mandarle a ella, que no está en tecnología y simplemente quería entender de qué le estaba hablando.
Ese momento me hizo pensar en cuánta gente está en la misma situación. No fuera del tema por falta de interés, sino fuera por falta de acceso. Lo que está pasando con la inteligencia artificial no es un tema técnico reservado a quienes trabajamos en el sector. Es la conversación más importante que estamos teniendo como humanidad. Y tú ya formas parte de ella, aunque nadie te lo haya dicho.
Tus búsquedas, tus comentarios, tus fotos en la nube, ese vídeo que subiste pensando que nadie lo vería, esas conversaciones públicas que tuviste hace años y que siguen ahí. Todo eso ha alimentado sistemas que ahora toman decisiones sobre millones de personas.
Los modelos de inteligencia artificial que usamos cada día han aprendido del contenido que hay en la red. Tus búsquedas, tus comentarios, tus fotos en la nube, ese vídeo que subiste pensando que nadie lo vería, esas conversaciones públicas que tuviste hace años y que siguen ahí. Todo eso ha alimentado sistemas que ahora toman decisiones sobre millones de personas. Has contribuido a entrenar a la inteligencia artificial sin saberlo, sin que nadie te lo preguntara, sin que nadie te explicara para qué.
Eso te da algo más que curiosidad legítima sobre el tema. Te da derecho a opinar. Esta conversación te necesita. Quién decide cómo se desarrolla la IA, qué valores se le enseñan, qué idiomas entiende bien y cuáles ignora, qué personas quedan dentro de esa sala y cuáles se quedan en el pasillo esperando a que alguien les cuente qué se ha decidido.
Ahora mismo, 636 millones de hispanohablantes están en el pasillo. No porque no les importe, sino porque la conversación ocurre en inglés, la piensan en inglés, la publican en inglés y la debaten en inglés. Los organismos que diseñan los estándares, los laboratorios que construyen los modelos, los reguladores que redactan las normas: todos operan en inglés.
Cuando una inteligencia artificial aprende a entender el mundo, aprende principalmente desde textos en inglés, con referencias culturales en ese idioma y con una visión del mundo que no es la nuestra. Eso tiene consecuencias concretas: los sistemas de reconocimiento facial fallan más con personas de piel oscura¹. Los algoritmos de selección de empleo penalizan nombres que no suenan anglosajones. Y los modelos de lenguaje que usamos cada día entienden el español de España o de México razonablemente bien, pero el español de Chile, de Guinea Ecuatorial, de las comunidades hispanohablantes en Estados Unidos, ya no tanto.
Un estudio reciente de la Universidad de Tokyo lo ha demostrado con datos: no es un problema de cantidad de información disponible; es un problema de a quién se ha considerado importante incluir.
Hacerlo bien como humanidad con la inteligencia artificial podría ser nuestra última gran meta, la última vez que tenemos la oportunidad de decidir, antes de que los sistemas sean tan capaces que la decisión ya no sea enteramente nuestra.
Esto no es solo injusto, es peligroso. Una inteligencia artificial que no nos conoce bien no puede tomar buenas decisiones sobre nosotros. Y las está tomando: en sanidad, en justicia, en educación, en acceso al crédito, en seguridad nacional. Hacerlo bien como humanidad con la inteligencia artificial podría ser nuestra última gran meta, la última vez que tenemos la oportunidad de decidir, antes de que los sistemas sean tan capaces que la decisión ya no sea enteramente nuestra.
No es catastrofismo. Es la valoración de los mejores investigadores del campo, de los propios directivos de las empresas que construyen estos sistemas, de organismos internacionales que llevan años advirtiendo de lo que está en juego. Y a esa conversación, el mundo hispanohablante no puede llegar tarde. Es necesario avanzar desde el primer hub hispanohablante de seguridad en inteligencia artificial, comunidad, formación y recursos, en castellano, para cualquier hispanohablante en cualquier lugar del mundo, sin jerga, para que lo entienda tu hermana, y desde Madrid, la capital de una lengua global de 636 millones de personas en cuatro continentes.
Alguien tenía que empezar.
*Osmani Redondo, especialista en AI Safety & Gobernanza, es directora de IAS aisafety.es, que celebra su primer evento presencial en Madrid el 28 de abril.
¹ El sesgo racial en sistemas de reconocimiento facial ha sido documentado extensamente. El estudio de referencia es el de Joy Buolamwini y Timnit Gebru (2018), Gender Shades, que demostró tasas de error significativamente más altas en personas de piel oscura y mujeres.
