ChatGPT tvrdil, že Nór zabil svoje deti. Organizácia sa sťažuje na OpenAI kvôli šíreniu lživých informácií
Rakúska spotrebiteľská organizácia NOYB podala v Nórsku sťažnosť na americkú spoločnosť OpenAI kvôli šíreniu lživých informácií o konkrétnych ľuďoch prostredníctvom chatbotu ChatGPT.
Oznámila to v dnešnej tlačovej správe. Podľa spotrebiteľskej organizácie tento jazykový model s prvkami umelej inteligencie opakovane generuje nepravdivé a poškodzujúce informácie, vrátane falošných obvinení z trestnej činnosti, čím vraj porušuje legislatívu na ochranu osobných údajov.
Vymyslený príbeh
Konkrétny prípad, na ktorý NOYB upozorňuje, sa týka nórskeho občana Arveho Hjalmara Holmena, v ktorého v mene organizácie podala sťažnosť.
Ten zistil, že ChatGPT o ňom vytvoril vymyslený príbeh, podľa ktorého bol odsúdený za vraždu svojich dvoch detí a pokus o vraždu tretieho potomka. Okrem týchto nepravdivých informácií chatbot zahrnul do odpovede aj Norove skutočné osobné údaje, vrátane jeho rodiska a počtu jeho detí.
NOYB požaduje, aby OpenAI odstránila zavádzajúce informácie, upravila svoj model tak, aby podobným chybám predchádzala, a zaviedla mechanizmus na opravu chybných údajov. Organizácia zároveň navrhla, aby nórsky úrad pre ochranu osobných údajov OpenAI udelil pokutu ako varovanie pred ďalšími podobnými prípadmi.
Podľa právnikov organizácie NOYB umožňuje OpenAI vedome šírenie zavádzajúcich informácií, čím porušuje zásadu presnosti dát podľa jedného z článkov európskeho nariadenia GDPR.
Chybné informácie
"Obyčajní ľudia sa môžu stať obeťou falošných obvinení, ktoré môžu vážne poškodiť ich povesť," uviedol právnik NOYB Joakim Söderberg špecializujúci sa na ochranu osobných údajov.
OpenAI navyše podľa Söderberga neposkytuje žiadny mechanizmus, ako chybné informácie opraviť alebo odstrániť. Podľa NOYB sa v dôsledku nesprávneho dátumu naďalej šíri a nemožno sa proti tomu účinne brániť.
Prípad zrejme súvisí s takzvanými halucináciami. Halucinácie sú v kontexte AI a jazykových modelov označením pre vygenerované odpovede, ktoré obsahujú nepravdivé alebo zavádzajúce informácie. Môže ísť aj o výsledok nedostatočných, neaktuálnych alebo skreslených tréningových dát.
NOYB, čo je skratka z anglických slov None of Your Business (Do toho vám nič nie je) je rakúska spotrebiteľská organizácia sídliaca vo Viedni. Založená bola v roku 2017 a zaoberá sa ochranou súkromia naprieč Európou.
Spotrebiteľská organizácia stojí tiež za vlaňajšími sťažnosťami vo viacerých krajinách Únie a Nórsku na firmu Meta kvôli zámeru využívať užívateľské dáta na sieti Facebook na trénovanie AI a na platformu X kvôli spôsobu, akým zbiera dáta užívateľov pre trénovanie svojich systémov AI.