Užívatelia cez AI vyzliekali ženy a generovali fotky detí. Brusel chce po sieti X informácie o chatbotovi Grok

Európska komisia zaslala americkej spoločnosti X Corp miliardára Elona Muska žiadosť o informácie ohľadom chatbota s umelou inteligenciou Grok v reakcii na nedávny škandál, keď chatbot na žiadosť užívateľov na sieti X generoval sexualizované fotografie žien a detí. Informoval o tom hovorca EK Thomas Regnier.

Brusel zároveň firme nariadil, aby naďalej uchovávala všetky dokumenty týkajúce sa Groka na jej platforme X, a to až do konca tohto roka.

Vyšetrovanie algoritmu chatbota

"Nelegálne. Neprijateľné. Nechutné," uviedol Regnier s tým, že podľa nariadenia Únie o digitálnych službách má sieť X povinnosť situáciu riešiť. "Pretože takýto výstup nemôžeme tolerovať. Je to v rozpore s európskymi hodnotami a základnými právami. Dodržiavanie európskej legislatívy nie je voľba, je to povinnosť," dodal.

Európska komisia už vlani prikázala spoločnosti X uchovávať dokumenty v súvislosti s vyšetrovaním fungovania algoritmu rovnomennej sociálnej siete na území EÚ. Platnosť tohto príkazu vypršala na konci minulého roka.

"Hovoríme tým platforme- uchovávajte si svoje interné dokumenty, nezbavujte sa ich, pretože máme pochybnosti o tom, či dodržiavate predpisy, a my k nim musíme mať prístup, ak o to výslovne požiadame," uviedol Regnier novinárom.

Švédska vláda sa dnes pripojila ku kritike siete X s tým, že obrázky generované umelou inteligenciou sú neprijateľné. Chatbot vytvoril sexualizované obrázky detí, ktoré boli zdieľané na platforme X, čo vyvolalo obavy o bezpečnosť modelu, uviedol portál denníka Financial Times. Grok neskôr v príspevku na webe X uviedol, že materiály so sexuálnym zneužívaním detí sú "nezákonné a zakázané".

Upravené fotografie

Doktorandka dublinskej Trinity College Nana Nwachukwuová vo svojom výskume zhromaždila asi 500 interakcií užívateľov siete X s Grokom, na ktorých podľa webu The Guardian dokazuje, ako často sa niečo podobné deje. Takmer tri štvrtiny príspevkov boli žiadosti o snímky skutočných žien alebo maloletých s odstránenými alebo pridanými časťami oblečenia.

Užívatelia si podľa Nwachukwuovej navzájom radia, ako zadávať príkazy. Navrhujú Grokovi zobrazenie žien v bielizni alebo plavkách, prípadne s časťami tela pokrytými spermiami a žiadajú chatbota, aby odstránil vrchný odev v odpovediach na príspevky obsahujúce autoportréty používateliek. Z kontextu vyplýva, že sa tak deje bez súhlasu dotknutých žien.

Ministri francúzskej vlády podľa agentúry Reuters minulý piatok nahlásili sexuálne obrázky generované Grokom prokuratúre. Takisto to postúpili telekomunikačnému úradu Arcom z pohľadu možného porušenia povinností zo strany siete X podľa DSA.

Musk vlani oznámil, že kontrolu nad sieťou X prevzal jeho start-up pre umelú inteligenciu xAI, ktorý získal firmu X Corp, teda prevádzkovateľa siete X. Start-up tiež vyvíja chatbota Grok, ktorého sieť X integrovala do svojej platformy.

Jedným z Muskových projektov bolo integrovanie chatbota do siete X, čo umožňuje užívateľom povolať ho na pomoc v bežných verejných konverzáciách. Napríklad keď chcú overiť, či je výrok iného užívateľa pravdivý alebo keď mu chcú dodať kontext.

Vlani Grok na sieti X zverejnil antisemitské a urážlivé komentáre. Medzi jeho výstupmi sa objavili napríklad konšpiračné teórie o židovskom vplyve a Grok sám seba v niektorých odpovediach označil za MechaHitlera, robotickú postavu Hitlera, ktorá sa prvýkrát objavila v roku 1992 vo videohre Wolfenstein 3D.