Profesor Waldo s Harvarda: Tehnologija ne razlikuje dobro od lošeg, to moramo sami

"Internet nas je doveo u neku vrstu paradoksa, s jedne strane je iznimno fleksibilan mehanizam za razmjenu informacija. A dio njegove moći je i to što ne poštuje granice. Dakle, omogućuje slobodan protok informacija diljem svijeta. No dok su neke od tih informacija zaista korisne, neke nisu, čak suprotno", kaže Jim Waldo, američki informatičar i glavni tehnološki direktor Univerziteta Harvard.

Za Radio Slobodna Evropa profesor kompjuterskih nauka govorio je nakon što je ubistvo Nizame Hećimović u Gradačcu u Bosni i Hercegovini uživo na Instagramu prenosio počinitelj, njen bivši partner Nermin Sulejmanović.

Videozapis ubistva, kao i drugi live video i kojem Sulejmanović govori o ubistvima, bio je dostupan više sati, a prema informacijama Federalne policije, kopije se i dalje dijele online.

"U isto vrijeme, internet će prenositi vrstu štetnog sadržaja, live streaming nasilnih radnji, vrstu sadržaja koji se koristi za regrutiranje za džihadističke skupine i druge stvari. Sve su to nepoželjni sadržaji, ali tehnologija ne može razlikovati nepoželjan od dobrog. I to je moralna prosudba koju mogu donijeti ljudska bića, ali ne i mašine. I ne bismo trebali očekivati da strojevi rade naš posao umjesto nas. Moramo to učiniti sami", kaže Waldo.

RSE: Dakle, više se radi o našoj (ljudskoj) inteligenciji, a manje o umjetnoj inteligenciji.

Waldo: Da. Radi se o stvarnoj inteligenciji, a ne o umjetnoj inteligenciji. Umjetna inteligencija je ono što koristimo kada nemamo dovoljno stvarne stvari.

RSE: U svojoj prvoj reakciji nakon slučaja ubistva žene uživo na Instagramu, Meta nije odgovorila zašto je, za prvi snimak na kojem muškarac ubija ženu koju je prethodno brutalno pretukao, bilo potrebno više od tri sata, da bude uklonjen.

Rekli su da su učinili sve da uklone sadržaj koji krši smjernice i spriječili širenje. Kako komentirate činjenicu da je prošlo toliko vremena i da se ista osoba u međuvremenu javila uživo, pa i podijelila fotografije na Instagramu?

Waldo: Moderiranje ovakvog sadržaja nije jednostavna stvar. A to nije jednostavno ponajviše zbog obima na kojima Meta djeluje. Dakle, oni imaju, znate, bukvalno hiljade sati videa koji se postavljaju cijelo vrijeme. I zaista ne postoji način da oni mogu pratiti sve ove videozapise prije nego što se prvi put pojave. Jedini način na koji to mogu učiniti je algoritamski. Imaju programe koji provjeravaju sadržaj, ali provjera videosadržaja je u osnovi neriješen problem u umjetnoj inteligenciji. Možete dobiti neka upozorenja zbog toga, ali je vrlo teško reći.

Dakle, i drugi aspekt algoritamske provjere je da je to uvijek statistički mehanizam. Tako ćete dobiti lažno pozitivne rezultate, a to je mjesto gdje je video označen kao nasilan ili ekstremistički sadržaj kada nije. I dobijete lažne negativne rezultate kada nešto prođe jer algoritam nije dovoljan da biste mogli vidjeti kakav je sadržaj zapravo.

S obzirom na to, pravo pitanje je koliko je prošlo između vremena kada je Facebook bio svjestan od strane bilo koga o ovom sadržaju i vremena kada su ga uklonili?

RSE: To ne znamo, ne znamo kad su korisnici počeli prijavljivati video kao nasilan. Ali iz Federalne policije su rekli da je od njihovog zahtjeva Meti do uklanjanja prošlo 20 minuta.

Waldo: A drugi problem koji imamo s ovakvim stvarima je taj što je proces, interni proces koji Facebook (Meta) koristi da odluči hoće li ili ne ukloniti video, potpuno neproziran.

Nemamo pojma kako to rade, ko donosi odluke, da li ovo mora da prođe kroz jednu osobu ili skup ljudi, koliko ima vremena, a sve to znači da je vrlo teško vjerovati Facebooku da radi pravu stvar. Sada postoje i tehnički problemi sa skidanjem videa jer ovakav video, kada jednom dođe na Facebook servere, nije na jednom serveru, biće na stotinama servera.

Stoga može biti teško pronaći sva mjesta na kojima su kopije tog videa bile postavljene. Sada, sve što je rečeno, čini se da je tri plus sata nakon što se ovaj video pojavio dugo vremena.

I treba se zapitati ima li Facebook i dovoljne procese i dovoljan broj ljudi koji govore lokalne jezike i mogu li pratiti ove stvari nakon što su na ovaj ili onaj način označene kako bi zaista pružio bilo kakvu razumnu moderaciju sadržaja.

RSE: Nekoliko stručnjaka s kojima je razgovarao Radio Slobodna Europa kažu da su razlozi u Metinom nedostatku osoblja i ograničenjima umjetne inteligencije. Prema vašem mišljenju, koji je glavni uzrok? Koje alate ima Meta i rade li? Možemo li govoriti o jezičkim nedostacima s obzirom na to da je video na bosanskom jeziku?

Waldo: Pa, ovo je dio problema razmjera na kojem Meta radi, da su mašine u konačnici jeftinije od ljudi. I tako su se jako trudili automatizirati sve te procese. A ovo se vraća na algoritamsku detekciju nasilnog sadržaja.

Mislim da se Meta još uvijek suočava s činjenicom da su oni svjetska tvrtka, a ne samo američka tvrtka, i moraju se nositi s predstavnicima na raznim mjestima koja smatraju skrajnutim. Ali, ali oni su vitalni za ta područja.

Ne znam kakva je njihova prisutnost u Bosni ili Rumunjskoj ili bilo kojoj istočnoeuropskoj zemlji. Znam da imaju prilično malo osoblja u Južnoj Aziji na raznim mjestima, nemam pojma kakvo im je osoblje u Africi, ali prisutni su na svim tim mjestima gdje postoji mnogo, mnogo različitih jezika i kultura koje koriste Metu.

I čini se da iako pokušavaju uštedjeti i to rade smanjenjem osoblja, smanjenje osoblja tako da nemaju predstavnike kojima se ljudi mogu obratiti na svim tim mjestima čini se u najmanju ruku čini upitnim, ako ne i neodgovornim.

RSE: S druge strane, postoji i činjenica da Bosna i Hercegovina ima kompliciranu administraciju, pa tako i policijske agencije. Prema informacijama iz Federalne uprave policije, od otkrivanja snimka i njegovog uklanjanja prošlo je previše vremena, jer se čekalo odobrenje lokalne policije, odnosno zahtjev da federalna policija kontaktira Metu? Koje su mogućnosti razmatranja digitalne sigurnosti i sigurnosti na internetu i društvenim mrežama kada je riječ o policijskim agencijama? Kakva su vaša iskustva?

Waldo: Internet je transnacionalna "korisnost". Internet razmišlja u terminima topologije, odnosno veza između raznih mjesta na internetu, i zapravo nema pojma o nacionalnim granicama.

Dakle, ako postoji sadržaj koji je objavljen u Bosni, a koji se gleda u Sjedinjenim Državama preko poslužitelja u Francuskoj, gdje je nadležnost za ovaj određeni sadržaj?

Nalazimo se u čudnoj situaciji u kojoj tvrtke poput Mete i Googlea zapravo više nisu američke tvrtke. Oni su skoro kao manje nacije.

Nismo imali ovakvu situaciju u povijesti od doba istraživanja kada je, na primjer, East India Company bila više poput nacionalne države nego engleske tvrtke. A ako ste nacionalna država, morate imati zastupljenost u svim drugim nacijama s kojima komunicirate. No čini se da tvrtke poput Mete i Googlea to ne rade. Bilo bi malo čudno da Meta imenuje veleposlanika u Bosni, na primjer.

Ali to je u biti ono što trebaju učiniti, barem imati predstavnika na svim mjestima gdje posluju koji mogu komunicirati s lokalnom upravom i također komunicirati s lokalnom bazom korisnika. Ali to nije korak koji možemo očekivati u bliskoj budućnosti.

RSE: Mislite li da to može ići još teže u zemljama poput BiH koja recimo još nema zakonske regulative za online oblast? Recimo, BiH nema zakon o govoru mržnje online?

Waldo: To je temeljni problem cyber sigurnosti jednako kao i moderiranja sadržaja. Ako hakerska skupina u, da odaberem nasumični primjer, Rusiji, koristi poslužitelje u Južnoj Americi da napadne tvrtku u Sjedinjenim Državama. Gdje se zločin događa?

A kako zapravo prepoznati ko su kriminalci? Čak i ako to učinite, je li vjerovatno da će postojati ugovor o izručenju između Sjedinjenih Država i Rusije koji bi omogućio izvlačenje hakera? I najbolje što možemo učiniti je staviti pojedinačne sankcije koje ograničavaju njihova putovanja. Čini se da ovo nije dovoljan policijski napor.

RSE: Moje sljedeće pitanje bit će o TikToku. Nakon ubistava, video je uklonjen s Instagrama i s Facebooka, ali i dalje se dijeli uglavnom na TikToku. Mislite li da postoje mehanizmi da se to spriječi, imajući u vidu činjenicu da je publika na ovoj društvenoj mreži najmlađa i da dijeljenje i gledanje ovakvog videa može imati ozbiljne posljedice?

Waldo: Pa, opet se vraćamo na problematiku ko ima nadležnost nad svim ovim kompanijama jer pokrivaju toliko zemalja. I jednom kada se sadržaj pojavi na internetu, ako ga je moguće kopirati, to je veoma lako za uraditi.

Pitanje njegovog pronalaska i uklanjanja postaje gotovo nemoguće. To smo vidjeli u slučajevima tzv. osvetničke pornografije, gdje intimni videosnimci partnera nakon prekida budu podijeljeni na porno stranicama. I vi ih možete ukloniti s određene stranice, ali se onda pojave na drugim stranicama.

To je kao igra "Udari krticu". Video se našao na TikToku, sada kada odete TikToku, količina vremena koja vam je potrebna da natjerate TikTok da ukloni sadržaj dopušta kopiranje drugdje, pojavit će se na drugim stranicama. Postoje i stranice kojima neki ljudi nemaju pristup jer su zatvorene za određene zajednice. Tako da, kada se jednom pojavi, veoma je teško to obuzdati.

RSE: Policija je najavila procesuiranje osoba koje su podržavale ubistva putem interneta, ali BiH nema zakone koji u potpunosti reguliraju ovu oblast, osim u slučajevima poticanja na terorizam ili slično, što može biti problem u istrazi i procesuiranju takvih osoba? Koliko je važno da zakonska regulativa barem donekle prati razvoj tehnologije? Mislite li da agencija zaista mogu upratiti ove osobe?

Waldo: Može se upratiti nešto iz "digitalnog ponašanja". Ali opet je pitanje jurisdikcije. Kada idete iz jedne u drugu jurisdikciju, nije jasno koji će vam zakoni pomoći u nekoj određenoj jurisdikciji. U Sjedinjenim Državama, imamo Prvi amandman, koji pruža snažnu zaštitu slobode govora i izražavanja. Tako da je to otvoreno pitanje da li bi se čak i kopiranje ekstremističkog sadržaja poput ovog smatralo ilegalnim.

Znate, s tim smo se suočili mjesecima unazad na Novom Zelandu. Trenutno se radi na mnogim međunarodnim nivoima da bi se vidjelo šta se može učiniti da se zaustavi ili ograniči širenje ovakvog sadržaja, ali je to veoma teško uzimajući u obzir različitosti u zakonima raznih zemalja.

RSE: Postoji li način da se pojedinac zaštiti od "slučajnog" gledanja takvog videa. Postoje informacije da se, osim na TikToku, dijeli i u grupama chat aplikacija, poput Vibera, WhatsAppa… posebno među mladima?

Waldo: Ovo će zvučati i bespomoćno i otrcano. Ali jedini savjet koji mogu dati jest da dobro podučavate svoju djecu i da nauče ukloniti, isključiti, obrisati stvari. Kad prime video, nemaju pojma što je u tom videu. Ne postoji ništa u vašem računalu što mu omogućuje razlikovanje između jedne i druge vrste videa. A za ovakav sadržaj, znate, vrlo je težak za algoritam. Razlikovati između osobe koja puca u svoju ženu i nekoga ko dijeli isječak igre koju igra, a koja je poput Call of Duty.

Dakle, sposobnost razumijevanja sadržaja nešto je u čemu su ljudi vrlo dobri, a računari vrlo loša.

I stoga tražiti od računara da učini nešto u čemu nije baš dobar, kako bi nas zaštitilo od gledanja stvari koje prepoznajemo, nekako je pogrešno. I mislim da ono što trebamo učiniti je trenirati ne samo našu djecu, već i jedni druge da imaju malo suzdržanosti i ukusa u dijeljenju sadržaja kako bismo bili pronicljiviji u tim vrstama sadržaja i razumjeli da ako ćemo staviti ograničenja na ovo, moramo staviti ograničenja i na sebe.

Mislim da nailazimo na neku vrstu paradoksa u koji nas je internet doveo.

Što znači da je to iznimno fleksibilan mehanizam za razmjenu informacija. A dio njegove moći je i to što ne poštuje granice. Dakle, omogućuje slobodan protok informacija diljem svijeta. No dok su neke od tih informacija zaista korisne, zar ne? Na Harvardu susrećemo studente koje nikad prije ne bismo vidjeli jer... pohađaju nastavu na internetu koja ih je izložila predmetima koje mogu učiti, a u kojima im njihove lokalne škole nikad ne bi mogle pomoći.

I to je primjer koliko internet može biti oslobađajući.

U isto vrijeme, prenosit će vrstu sadržaja o kojoj ste govorili, live streaming nasilnih radnji, vrstu sadržaja koji se koristi za regrutiranje za džihadističke skupine i druge vrste stvari. Sve su to nepoželjni sadržaji, ali tehnologija ne može razlikovati nepoželjan od dobrog. I to je moralna prosudba koju mogu donijeti ljudska bića, ali ne i strojevi. I ne bismo trebali očekivati da strojevi rade naš posao umjesto nas. Moramo to učiniti sami.

RSE: Dakle, u konačnici, više se radi o našoj inteligenciji, a manje o umjetnoj inteligenciji.

Waldo: Da. Radi se o stvarnoj inteligenciji, a ne o umjetnoj inteligenciji. Umjetna inteligencija je ono što koristimo kada nemamo dovoljno stvarne stvari.