Entre algoritmos y personas

Remontémonos a la larga historia del ser humano. Hubo un momento, no sabemos exactamente cuándo, en que el ser humano decidió no abandonar al enfermo, ni al anciano que caminaba más despacio y al que había que alimentar, ni a hijos de otros que quedaban huérfanos o desasistidos, ni al que, tras el ataque de un animal o un accidente, ya no podía valerse por sí mismo y quedaba a merced de las alimañas. Ese gesto de humanidad, aparentemente tan normal como radical, fue uno de los actos fundacionales de nuestra especie. 

Lo sabemos porque la arqueología ofrece pistas elocuentes de ello. Restos óseos que muestran fracturas consolidadas, enfermedades crónicas compatibles con una larga supervivencia, signos de cuidado prolongado, personas longevas que no hubiesen sobrevivido sin el cuidado de otros. Hacerlo así era lo contrario a ahorrar energía, de buscar solo el beneficio propio y reducir los riesgos en un ambiente extraordinariamente hostil. Fue asumir que el valor de la vida de un congénere no era sin más el de su utilidad para proveer alimento o seguridad. La humanidad empezó a ser una comunidad moral. 

Pero no nos creamos a salvo de involuciones morales. A mi modo de ver retrocedemos si pensamos como Sam Altman, el CEO de OpenAI, que dijo recientemente durante una entrevista en un evento tecnológico lo siguiente: «La gente habla de la cantidad de energía que se necesita para entrenar un modelo de IA... Pero también se necesita mucha energía para entrenar a un ser humano. Se necesitan unos 20 años de vida y toda la comida que se ingiere durante ese tiempo para llegar a ser inteligente». 

Comparar lo que consume un ser humano hasta que comienza a tener plenitud intelectual, digámoslo así, con el coste de entrenar un modelo grande de lenguaje es deshumanizarnos. Es considerar que las personas y las herramientas tecnológicas, o las cosas, pueden situarse en planos semejantes de valor. 

Deshumanizar al ser humano nos ha llevado, incluso en la historia reciente de la humanidad, a situaciones que ni siquiera hubiésemos imaginado si no se hubiesen dado. Durante las primeras décadas del siglo pasado, miles de personas fueron esterilizadas forzosamente en EE. UU. bajo leyes eugenésicas que pretendían “mejorar” la población. El Tribunal Supremo estadounidense llegó a avalar estas prácticas en 1927. Décadas después, el programa Aktion T4 de la Alemania nazi promovió el asesinato sistemático de personas con discapacidad física o mental, por considerarlas “vidas indignas de ser vividas”. La lógica era brutalmente utilitarista: eliminar a quienes no contribuían a la fortaleza del Estado y suponían un coste. Aunque el nazismo haya sido lo más atroz que ha ocurrido en el mundo en el último siglo, el ser humano contemporáneo ha dado muchas muestras de que ser humanos no es algo irreversible ni universalmente practicado. El genocidio cometido por Israel contra el pueblo palestino no es del siglo pasado, sino de ahora mismo. La idea de fondo sigue siendo inquietantemente similar: hay vidas menos valiosas, de las que se puede prescindir o que no conviene proteger. 

En las democracias occidentales nadie reivindica la eliminación de los “menos productivos”, desde luego no Sam Altman, lo doy por hecho, pero no demos nada por garantizado indefinidamente. Vivimos en sociedades donde el éxito económico se ha convertido en la medida casi exclusiva del valor personal. La productividad, la eficiencia, la optimización son palabras fetiche. También el “nosotros”, como principio de exclusión de “los otros”. Sobre ideas así se sustenta el avance de movimientos ultranacionalistas, de extrema derecha y excluyentes que predican la idea de que algunos “sobran” y de que el Estado no debe proteger a quienes no encajan en una identidad o en un ideal productivo, o simplemente en “nuestros” usos y costumbres. La exclusión no se formula como exterminio, pero sí como abandono, estigmatización y desmantelamiento de redes de protección, y también estas son ideas y acciones a los que no debemos dar resquicio para prosperar. 

El debate adquiere nuevas aristas en la era de la biotecnología y la inteligencia artificial. La capacidad de discriminar a través de mejoras tecnológicas, sea negativa o positivamente, nos resitúa en escenarios que creíamos superados. ¿Quién tendrá acceso a las mejoras biológicas y a la neurotecnología capaz de aumentar las capacidades cognitivas del ser humano? ¿Qué ocurre cuando los algoritmos asignan recursos -empleo, crédito, seguros…- basándose en estadísticas que reproducen desigualdades previas, en particular diferencias socioeconómicas? 

La humanidad empezó a ser plenamente humana cuando empezó a cuidar al otro. Conviene recordarlo cada vez que alguien sugiere, explícita o implícitamente, que hay vidas que pesan demasiado o incluso a comparar el valor de las personas con las máquinas. 

En una de las magistrales viñetas de El Roto se ve una cabeza con una ranura para echar monedas, como las de las huchas, y un rótulo que dice: “Intelectual artificial. Funciona con monedas”. Altman no es precisamente un intelectual, pero muchos dicen que es un gurú; eso sí, un gurú cuya cabeza funciona con monedas.