Expert na globálne riziká: Ľudstvo sa môže kvôli AI stať rýchlo stádom kráv

Podľa tejto štúdie umelá inteligencia môže čoskoro zničiť ľudstvo tým, že bude mať iné ciele, než aké preferujú ľudia, a ľudstvo sa rozhodne zahubiť. Jan Kulveit, spoluautor štúdie o nebezpečenstve AI, však v rozhovore pre Lidovky.cz tvrdí, že nie je nutné, aby sa objavila „zákerná“ umelá inteligencia.

Stačí, aby ľudia sami dobrovoľne pristúpili na obmedzenie svojho rozhodovania a politického vplyvu a prenechali ho umelej inteligencii, a stanú sa nevýznamnými bez vplyvu na svoj osud. Asi ako je hovädzí dobytok odkázaný na dobrú vôľu svojich chovateľov.

Veľa sa teraz hovorí o tom, že umelá inteligencia môže zničiť ľudstvo. Je to skutočne taká veľká hrozba, väčšia ako napríklad pád asteroidu podobného tomu, čo údajne vyhubil dinosaury?

Áno, ide o to, že takzvané antropogénne riziká, čiže riziká, za ktoré si môžu ľudia sami, sú v súčasnosti oveľa väčšie ako prírodné riziká ako napríklad pád veľkého asteroidu. Sú to technológie, ktoré by skutočne mohli vyhubiť ľudstvo. Prírodné riziká vedúce k zániku celého ľudstva sú pomerne nepravdepodobné. Z antropogénnych rizík vychádza ako najrizikovejšia umelá inteligencia, rizikovejšia ako jadrová vojna či globálne otepľovanie.

„V roku 2030 bude po všetkom.“ Filozofi predpovedali, ako zlé mysliace stroje ovládnu svet

Čo je na AI také rizikové? Je tu síce scenár štúdie AI 2027, ktorý popisuje, aká umelá inteligencia môže vyhubiť ľudstvo, pretože bude vyvíjať sama seba a nebude mať nakoniec rovnaké ciele ako ľudia a to možno už v roku 2030. Ale je to skutočne možné? Veď to, čo dnes používame ako umelú inteligenciu, nie je až také múdre a navyše tu chýba presah do fyzického sveta. AI s ničím sama nemanipuluje, nemá „ruky“.

Scenár, ktorý opisuje AI 2027, môže nastať, ale považujem za pravdepodobnejší iný vývoj, ktorý môže viesť ku katastrofe. Ale k tomu neskôr. Predovšetkým je dôležité si uvedomiť, že AI systémy a ľudia majú odlišný profil schopnosti. U ľudí je veľa schopností korelovaných spôsobom, na ktorý sme zvyknutí. Keď je niekto všeobecne šikovný, tak zároveň vie prečítať a pochopiť nejakú zložitejšiu literatúru, zároveň si vie obje...