Streit mit Hersteller: Pentagon will Killer-KI ohne Sicherheitsvorkehrungen

Das US-Kriegsministerium befindet sich in einem Streit mit dem KI-Entwickler Anthropic über Beschränkungen, die den Einsatz von KI-Systemen durch das Militär einschränken würden, unter anderem für autonome Waffensysteme und die Überwachung im Inland.

Laut einem Reuters-Bericht, der sich auf sechs mit der Angelegenheit vertraute Personen beruft, hat diese Auseinandersetzung den Abschluss eines Vertrags im Wert von bis zu 200 Millionen US-Dollar verzögert. Pentagon-Beamte wehren sich gegen die ihrer Ansicht nach überzogenen Beschränkungen, die das in San Francisco ansässige Unternehmen für die Nutzung seiner Technologie auferlegt hat.

Anthropic äußerte Bedenken, dass seine KI-Werkzeuge für tödliche Operationen ohne ausreichende menschliche Aufsicht oder zur Überwachung von US-Bürgern eingesetzt werden könnten, wie Quellen gegenüber Reuters erklärten.

Beamte des Pentagon argumentieren hingegen, dass kommerzielle KI-Systeme unabhängig von den internen Nutzungsrichtlinien eines Unternehmens für militärische Zwecke eingesetzt werden sollten, solange sie mit US-amerikanischem Recht vereinbar sind.

Der Streit entbrannte inmitten der Bestrebungen der Trump-Regierung, künstliche Intelligenz (KI) rasch in die Streitkräfte zu integrieren. Anfang des Monats skizzierte das US-Kriegsministerium eine neue Strategie, die darauf abzielt, das Militär in eine KI-gestützte Streitmacht zu verwandeln.

Das Pentagon ist der Ansicht, die volle Kontrolle über den Einsatz von KI-Werkzeugen im Gefecht und bei Geheimdienstoperationen behalten zu müssen. US-Kriegsminister Pete Hegseth bekräftigte, keine Modelle einzusetzen, die "Kriege unmöglich machen".

Ein Sprecher von Anthropic erklärte, die KI des Unternehmens werde "umfangreich für nationale Sicherheitsmissionen der US-Regierung eingesetzt", und man befinde sich weiterhin in "produktiven Gesprächen mit dem US-Kriegsministerium über die Fortsetzung dieser Zusammenarbeit". Das Pentagon hat sich zu dem gemeldeten Konflikt bisher nicht geäußert.

Dario Amodei, CEO von Anthropic, hat wiederholt vor den Gefahren eines unkontrollierten KI-Einsatzes gewarnt, insbesondere im Bereich der Massenüberwachung und vollautonomer Waffensysteme. In einem kürzlich erschienenen Essay argumentierte er, KI solle die nationale Verteidigung "in jeder Hinsicht unterstützen, außer in solchen, die uns unseren autokratischen Gegnern ähnlicher machen würden".

Die festgefahrenen Vertragsverhandlungen mit dem Pentagon bergen Risiken für Anthropic, das massiv in die Akquise von Regierungs- und Sicherheitskunden investiert hat und sich auf einen möglichen Börsengang vorbereitet. Das Unternehmen gehörte neben OpenAI, Google und Elon Musks xAI zu den führenden KI-Entwicklern, die im vergangenen Jahr Aufträge des Pentagons erhielten.

Mehr zum Thema – Europol-Studie: Polizei mit Drohnen, Robotern und KI?