Künstliche Intelligenz? Nein, 700 lebende Inder!
1,5 Milliarden US-Dollar war das Unternehmen Builder.ai, ansässig in London, einmal wert, und Microsoft und der Staatsfonds von Katar zählten zu den Großanlegern. Dann kam es erst zu Berichten über fiktive Umsatzzahlen, die einen Großinvestor zum Ausstieg brachten, und nun, ausgelöst durch Recherchen der India Times, wurde bekannt, dass die vermeintlich künstliche Intelligenz alles andere als künstlich war.
Die KI sollte die Entwicklung von Software durch ihren Assistenten "Natascha" "so einfach wie eine Pizzabestellung" machen; so das Werbeversprechen von Builder.ai. "Die Technologie der Firma war weitgehend Schall und Rauch, menschliche Entwickler in Indien schrieben von Hand den Code nach den Anforderungen der Kunden, während die Firma deren Arbeit als von einer KI erzeugtes Produkt vermarktete", so die India Times.
Das Unternehmen hatte seine Umsätze für 2024 mit 220 Millionen US-Dollar angegeben, eine Wirtschaftsprüfung ergab aber nur 50 Millionen. Die Wirtschaftsprüfung veranlasste der im Februar neu eingesetzte Geschäftsführer. Das Ergebnis dieser Prüfung führte dann zu Ermittlungen der New Yorker Staatsanwälte. Eine Vollstreckung durch einen Gläubiger führte dann zur Insolvenz der Firma.
Das Ende von Builder.ai ist der bisher größte Zusammenbruch eines der unzähligen Start-ups, die versuchen, vom Boom Künstlicher Intelligenz zu profitieren, der mit dem Start von ChatGPT im November 2022 begann. Dabei ist es kein Einzelphänomen, dass sich hinter einer KI unzählige, oft indische, Mitarbeiter verbergen. Selbst Firmen, die nicht so weit gehen, menschliche Tätigkeiten als KI-erzeugt zu verkaufen, benötigen für das Training ihrer KI in der Regel doch unzählige Personen, die die dafür erforderlichen Daten eingeben.
Im Jahr 2024 hatte Amazon seinen Versuch eines automatisierten Bezahlsystems, "Just Walk Out", abgebrochen. Das System habe laut Medienberichten vielfach manuelle Überprüfung benötigt und sich letztlich dadurch als so teuer erwiesen, dass es sich nicht lohnte. Diese Überprüfung erledigten mehr als 1.000 Beschäftigte eines indischen Subunternehmens.
Die Forscherin Milagros Miceli hatte schon 2023 gegenüber dem Magazin Netzpolitik auf die Zustände aufmerksam gemacht, die sich oft hinter KI-Systemen verbergen. Als Beispiel nannte sie ein vermeintlich KI-gesteuertes Kameraüberwachungssystem:
"Wenn man hinter den Vorhang schaut, handelt es sich nur um eine Gruppe von Menschen, die rund um die Uhr Kameras überwachen. Diese Menschen sind unterbezahlt und arbeiten in der Regel unter furchtbaren Bedingungen, etwa in Afrika oder Süd- und Mittelamerika. Mein Forscherkollege Antonio Casilli hat gerade einen solchen Fall aus Madagaskar vorgestellt: 35 Menschen leben in einem Haus mit nur einer Toilette. Diese Menschen stecken in Wirklichkeit hinter einem vermeintlich intelligenten Kamerasystem."
Die Insolvenz von Builder.ai macht nun diese verborgenen Menschen hinter der vermeintlich künstlichen Intelligenz sichtbar.
Mehr zum Thema - Oberlandesgericht Köln erlaubt Meta die Nutzung von privaten Kundendaten für "KI-Training"