Anthropic retira su IA más avanzada después de que EE.UU. tratase de bloquear su uso por extranjeros

Anthropic ha retirado del mercado sus dos herramientas de inteligencia artificial más potentes, Fable 5 y Mythos 5. La empresa ha tomado esta decisión después de recibir una orden del Gobierno de Estados Unidos para suspender el acceso de cualquier extranjero a dicha tecnología, con independiencia de que resida o no en el país norteamericano. La compañía ha señalado en un comunicado que la orden no detalla los motivos específicos de la restricción del Gobierno, aunque deduce que las autoridades podrían haber descubierto un método para eludir los límites de seguridad de su modelos. «Hoy recibimos la directiva del Gobierno. La carta no especificaba los motivos de su preocupación por la seguridad nacional. Entendemos que el Gobierno cree haber descubierto un método para eludir, o desbloquear, Fable 5», ha señalado Anthropic. La empresa anunció el lanzamiento de los dos modelos de inteligencia artificial afectados por la orden esta misma semana. Ambos están basados en la tecnología que mueve a Mythos Preview , otra herramienta de la empresa que, desde su lanzamiento, solo ha estado disponible para un reducido número de empresas debido a su gran capacidad para encontrar vulnerabilidades en sistemas y formas de atacarlas. En el anunció de lanzamiento, la compañía remarcaba que tanto Fable 5 como Mythos 5 incorporaban estrictas salvaguardas para evitar que pudieran se empleadas con malos fines. Por esta razón, eran incapaces de responder a preguntas sensibles relacionadas con la ciberseguridad, la biología o la química. «En las semanas previas al lanzamiento, Anthropic trabajó con el Gobierno de EE. UU., el AI Security Institute de Reino Unido y múltiples organizaciones privadas externas y equipos internos para poner a prueba las medidas de seguridad de Fable durante miles de horas», dicen desde la empresa. En dichas pruebas, se habría demostrado que las medidas de seguridad aplicadas a la tecnología fueron «sustancialmente más efectivas que las de cualquier modelo implementado anteriormente». Anthropic critica que el Gobierno norteamericano solo ha proporcionado a la compañía «información verbal sobre una posible vulnerabilidad limitada» en su tecnología. Este «consiste básicamente en solicitar al modelo que lea un código fuente específico y corrija cualquier fallo de software»; algo que pueden hacer otras herramientas basadas en inteligencia artificial que están abiertamente disponibles al público, según la compañía. «No estamos de acuerdo en que el descubrimiento de una posible vulnerabilidad limitada deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas. Si este criterio se aplicara a toda la industria, creemos que paralizaría prácticamente todos los nuevos lanzamientos de modelos para todos los proveedores de modelos de vanguardia», ha lamentado Anthropic.