O ideji da umjetna inteligencija svrgne čovječanstvo raspravlja se desetljećima, au siječnju 2021. znanstvenici su dali svoj sud o tome možemo li kontrolirati računalnu superinteligenciju visoke razine. Odgovor? Gotovo sigurno ne.
Problem je u tome što bi kontroliranje superuma daleko iznad ljudskog razumijevanja zahtijevalo simulaciju tog superuma koju bismo mogli analizirati. Ali ako to nismo u stanju razumjeti, nemoguće je stvoriti takvu simulaciju.
Pravila poput "nemoj nauditi ljudima" ne mogu se uspostaviti ako ne razumijemo kakve će scenarije smisliti umjetna inteligencija (AI), vjeruju autori rada iz 2021. godine. Čim računalni sustav bude radio na razini koja premašuje mogućnosti naših programera, više nećemo moći postavljati ograničenja.
"Superinteligencija je fundamentalno drugačiji problem od onih koji se obično proučavaju pod zastavom 'etike robota'", pišu istraživači. "To je zato što je superum višestruk i stoga potencijalno sposoban mobilizirati različite resurse za postizanje ciljeva koji su ljudima potencijalno nedokučivi, a kamoli kontrolirani."
Dio razmišljanja tima dolazi iz problemi sa zaustavljanjem, koju je predložio Alan Turing 1936. Izazov je otkriti hoće li računalni program doći do zaključka i odgovoriti (i zaustaviti se) ili će samo ostati zauvijek pokušavajući pronaći odgovor.
Kao što je Turing dokazao uz pomoć inteligentna matematika, iako to možemo znati za neke specifične programe, logično je nemoguće pronaći način koji bi nam omogućio da to znamo za svaki potencijalni program koji bi ikada mogao biti napisan. To nas vraća na umjetnu inteligenciju koja bi u superinteligentnom stanju mogla u svoju memoriju istovremeno pohraniti sve moguće računalne programe.
Također zanimljivo:
- OpenAI je naučio umjetnu inteligenciju pretvarati naredbe u programski kod
- Umjetna inteligencija će tražiti gravitacijske valove
Bilo koji program napisan, na primjer, da spriječi umjetnu inteligenciju da naudi ljudima i uništi svijet može, ali i ne mora donijeti zaključak (i zaustaviti se) - matematički je nemoguće biti apsolutno siguran u bilo kojem slučaju, što znači da se ne može obuzdati. "To u osnovi čini algoritam odvraćanja neupotrebljivim", rekao je u siječnju računalni znanstvenik Iyad Rahwan s Instituta Max Planck za ljudski razvoj u Njemačkoj.
Alternativa podučavanju AI etici i zabranama protiv uništavanja svijeta, u što niti jedan algoritam ne može biti apsolutno siguran, kažu istraživači, jest ograničavanje sposobnosti superuma. Na primjer, može biti odsječen od dijela interneta ili određenih mreža.
Autori nedavne studije odbacuju i tu ideju, smatrajući da će ograničiti domete umjetne inteligencije - kažu, ako je nećemo koristiti za rješavanje problema koji nadilaze ljudske mogućnosti, zašto je onda uopće stvarati?
Ako ćemo unaprijediti umjetnu inteligenciju, možda nećemo ni znati kada će se pojaviti superinteligencija, izvan naše kontrole, toliko je to nedokučivo. To znači da moramo početi postavljati ozbiljna pitanja o tome kamo idemo.
"Superinteligentni stroj koji upravlja svijetom zvuči kao znanstvena fantastika", kaže računalni znanstvenik Manuel Kebrian s Instituta Max Planck za ljudski razvoj. Ali već postoje strojevi koji samostalno obavljaju neke važne zadatke, dok programeri ne razumiju u potpunosti kako su to naučili.
Stoga se postavlja pitanje može li ono u jednom trenutku postati nekontrolirano i opasno za čovječanstvo...
Pročitajte također:
- Umjetna inteligencija uspjela je reproducirati naslikanu Picassovu sliku
- Umjetna inteligencija pomoći će u predviđanju prometnih nesreća prije nego što se dogode