Sesgo por omisión: cómo la IA deja fuera a América Latina

Durante años, adoptar tecnología fue sencillo: se elegía un proveedor, se instalaba el sistema, se capacitaba al personal. Los mainframes, las bases de datos, los CRMs... eran herramientas neutras, ajenas al contexto cultural. Funcionaban igual en Monterrey que en Madrid, sin importar los matices sociales, históricos o lingüísticos del entorno donde se usaban.

Pero la inteligencia artificial no es así.

Los modelos actuales no solo ejecutan instrucciones: interpretan, predicen, responden. Y lo hacen en función de los datos con los que fueron entrenados—datos que reflejan culturas, idiomas y sesgos específicos. Importar estos sistemas sin adaptarlos al entorno local es repetir, en versión acelerada, los errores que ya vimos en la ciencia de datos: modelos de scoring que no funcionaban en América Latina, algoritmos entrenados en economías formales que no entendían nuestras realidades.

Aquel momento fue el primer aviso: los modelos necesitan contexto. La ciencia de datos nos enseñó que no basta con tener la técnica; hace falta entender a quién se aplica y en qué condiciones. Sin embargo, hoy seguimos replicando el mismo patrón, ahora también con los marcos éticos. Gobiernos y empresas adoptan frameworks diseñados en el norte global sin preguntarse si reflejan nuestras propias prioridades, nuestros valores sociales, nuestras brechas digitales.

Como he dicho antes, “a menos que hayas escrito algo significativo en internet, eres invisible para la mayoría de las inteligencias artificiales.” Y eso aplica para millones en América Latina: personas que no aparecen en los datos, que no publican papers, que no existen en los sets de entrenamiento. Han sido borradas por omisión. ¿Cómo hablar de ética si ni siquiera están representados?

La ética, igual que la tecnología que busca regular, no es neutral. Se funda en ideas de justicia, equidad, responsabilidad. Y esas ideas no son universales: varían según el contexto, la historia, las heridas colectivas. Una ética que no toma en cuenta lo local corre el riesgo de ser irrelevante o, peor aún, dañina.

Además, estos marcos éticos no pueden implementarse únicamente desde el deseo normativo. Deben construirse desde una comprensión sólida tanto ética como tecnológica. Muchas de las personas encargadas de diseñar o aplicar estas guías carecen de entendimiento profundo sobre cómo funcionan realmente los modelos de inteligencia artificial, lo que genera un desfase entre la intención y el impacto. Ética sin comprensión técnica puede ser ingenua; técnica sin ética, peligrosa.

Por eso, la solución no pasa solo por importar marcos bienintencionados. Necesitamos construir capacidades éticas desde dentro: formar a los futuros desarrolladores, diseñadores de políticas y líderes sociales en una comprensión crítica y situada de lo que significa una IA justa. Una que no solo evite el daño, sino que contribuya activamente a reducir las desigualdades que ya existen.

No se trata de rechazar la tecnología, sino de exigirle más. De recordarle que no puede responder por nosotros si no sabe quiénes somos. Y que el verdadero progreso no es importar inteligencia, sino desarrollar conciencia.

Porque si la inteligencia artificial va a hablar con nuestras voces, primero debe aprender a escucharlas.