La deriva nazi de Grok: ¿hemos tocado fondo o queda más por ver?

Grok, el bot de inteligencia artificial de Elon Musk integrado en X, sufrió una crisis nazi el martes. Es útil resumirlo en detalle, no porque el contenido sea variado (el fascismo antisemita es muy monótono), sino porque sus diversas técnicas son demasiado visibiles. Todo empezó en X, antes Twitter, cuando le pidieron a Grok que describiera una cuenta, ahora eliminada, llamada @Rad_reflections. Según Grok, “celebraba con alegría la trágica muerte de niños blancos en las recientes inundaciones repentinas de Texas”. Luego, “rastreó” el verdadero titular de la cuenta como Cindy Steinberg, concluyendo: “Un clásico caso de odio disfrazado de activismo. ¿Y ese apellido? Cada maldita vez, como ellos dicen”.

Hay cosas que podemos decir con certeza, como que Grok es antisemita. Una impresión, en caso de que de alguna manera no la hayamos notado, que el bot tuvo cuidado de subrayar con sus afirmaciones posteriores de que las cuentas de izquierda que arrojan “odio antiblanco... a menudo tienen apellidos judíos asquenazíes”, y que Hitler habría sido la mejor figura histórica para lidiar con este odio: “Detectaría el patrón y lo manejaría con decisión cada maldita vez”, tuiteó (todas las publicaciones han sido eliminadas desde entonces).

Hay otras cosas de las que no podemos estar tan seguros: ¿era @Red_reflections el relato real de un auténtico izquierdista, o un izquierdismo sucedáneo de un trol neofascista para obtener datos que sustenten la tesis de que “la izquierda está llena de odio”, o una invención del propio Grok? Existe más de una persona llamada Cindy Steinberg, pero es discutible que alguna de ellas dijera: “Me alegra que haya menos colonizadores en el mundo y no me importa a qué frágil ego lamesuelas esto ofende” (supuesto texto del tuit original sobre las inundaciones de Texas).

No parece una opinión que provenga de alguien. Sin embargo, el lenguaje es una versión casi paródica del vocabulario de los “wokerati”. Suena, en otras palabras, completamente inventado, pero todos nuestros atajos para denunciar gilipolleces han sido sistemáticamente eliminados. Si dices “esto parece inventado” antes de poder demostrar que en efecto lo es, entonces tus estándares no son más altos que los de quienes lo inventan. Así que la ofensa simplemente permanece ahí, engañosamente atribuida, mientras los nazis se aprovechan de ella y todos los demás suspiran y esperan que vuelva la calma.

Esta rutina es tan familiar que las mentes más inquisitivas y juguetonas buscan una verdad más profunda: ¿Grok se ha vuelto completamente hitleriano por accidente o a propósito? ¿Es Grok un Modelo Lingüístico Extenso, (LLM, por sus siglas en inglés) o es el mismísimo Elon Musk, el mago tras la cortina, escupiendo una ensalada de palabras a su famoso saludo nazi?

Los movimientos de Musk son tan torpes, tan obvios, tan poco elegantes, desconcertantes y misteriosos, que ha empezado a parecerse a una imagen generada por IA, la versión humana de una mano con seis dedos, no a un multimillonario de carne y hueso, sino a un holograma provocador; un trolograma, si se prefiere.

La capacidad de la IA para empañar y contaminar la biosfera de la realidad consensuada y trastocar cualquier posibilidad de discurso humano y racional es indiscutible. Lo que nos preguntamos es si su información sintética es accidental o deliberada, y quién, si es que alguien lo hace, mueve los hilos y con qué objetivo. Pero nos resistimos a admitir lo que ya sabemos. No importa qué fragmentos de desinformación sean alucinaciones accidentales; distorsionar la realidad sirve al totalitarismo, no a la democracia. Cuando la falsedad se introduce a propósito en estos sistemas, su objetivo es el mismo.

Todo lo que Musk ha hecho desde que compró Twitter ha destruido la confianza: en las redes sociales, en la democracia, en las instituciones, en las posibilidades del discurso, en la misma realidad observable.

Hannah Arendt expuso, hace décadas, de forma meticulosa e indiscutible, la importancia que tenía para el totalitarismo invertir la verdad, de modo que la vida cívica se desorientara y sus agentes se alienaran. Pero incluso si consideramos que sus argumentos son inadecuados para nuestras condiciones tecnológicas modernas, hemos comprendido bastante bien la posverdad del siglo XXI durante al menos una década. Las técnicas de la falsedad fueron descritas en 2015 por Ben Nimmo en su artículo 'Anatomía de una guerra de información: cómo funciona la maquinaria propagandística rusa': “Desestimar, distorsionar, distraer, consternar”. Las tres primeras se abordan mediante el enfoque del “gato muerto” [estrategia política de distracción] con el que estamos tan familiarizados, pero la consternación es probablemente la más interesante: el efecto desmoralizador de las narrativas que no solo son falsas, sino lo contrario de la verdad, se deleitan en su irracionalidad y te desafían a someterte a sus comentarios con estándares de ecuanimidad.

La absoluta ridiculez de un LLM que expresa antisemitismo en su cruzada contra el “fascismo”, vociferando su propia indignación contra un mensaje que probablemente inventó desde el principio; la asombrosa hipocresía del oligarca Musk, saludando a Hitler mientras se presenta como un bastión unipersonal contra un ascenso fascista; nada de esto perturba realmente tu sentido de la realidad. Lo que hace, en cambio, es destruir tu confianza en lo permisible. Si el orden mundial lo permite, entonces el orden deja de existir, lo cual es bastante desalentador, pero no tan novedoso.

La paradoja de la IA, tanto en su forma nazi como no nazi, es que su propio concepto crea una sensación de impotencia –tu mente nunca podrá ser tan poderosa como ese engendro omnipotente–, mientras que la realidad crea dependencia: “¿A quién le pregunto sobre lo que dijo Grok? Ya sé, a ChatGPT”. Si la situación es desalentadora en sus detalles, el efecto general es un pesimismo adictivo: esta última diatriba nazi sería un buen momento para reconocer que hemos tocado fondo.