Bivši šef Googlea usporedio je umjetnu inteligenciju s nuklearnim oružjem

Bivši izvršni direktor Googlea Eric Schmidt usporedio je umjetnu inteligenciju (AI) s nuklearnim oružjem i pozvao na režim odvraćanja, sličan uzajamnom sigurnom uništenju, koji sprječava najmoćnije nacije svijeta da se međusobno unište.

Schmidt je govorio o opasnostima umjetne inteligencije na Aspenskom sigurnosnom forumu 22. srpnja tijekom rasprave o nacionalnoj sigurnosti i umjetnoj inteligenciji. Na pitanje o vrijednosti morala u tehnologiji, Schmidt je objasnio da je i sam bio naivan u pogledu moći informacija u ranim danima Googlea. Potom je pozvao na to da tehnologija bolje odgovara etici i moralu ljudi kojima služi, te napravio čudnu usporedbu između umjetne inteligencije i nuklearnog oružja.

Nismo spremni za pregovore koji su nam potrebni. – @ericschmidt #AspenSecurity slikatwitter.com/As749t6ZyU

— Aspenov sigurnosni forum (@AspenSecurity) Srpanj 22, 2022

Schmidt je govorio o bliskoj budućnosti, u kojoj Kina i Sjedinjene Države trebaju sklopiti sporazum o umjetnoj inteligenciji. "U '50-ima i '60-ima, završili smo stvarajući svijet u kojem je postojalo pravilo 'bez iznenađenja' za nuklearna testiranja, i kao rezultat toga, ona su bila zabranjena", rekao je Schmidt. “Ovo je primjer ravnoteže povjerenja ili nepovjerenja, ovo je pravilo ‘bez iznenađenja’. Jako sam zabrinut da će američki pogled na Kinu kao korumpiranu ili komunističku ili što već, i kineski pogled na Ameriku kao gubitnika... dopustiti ljudima da kažu, "O moj Bože, nešto smjeraju," i onda počet će nešto neshvatljivo... .

AI i strojno učenje je fascinantna i često pogrešno shvaćena tehnologija. On u biti nije tako pametan kao što ljudi misle. Može stvoriti umjetnička djela na razini remek-djela, pobijediti ljude u Starcraftu II i obavljati rudimentarne telefonske pozive za korisnike. Međutim, pokušaji da ga se natjera da obavlja teže zadatke, poput vožnje automobila u velikom gradu, nisu bili uspješni.

Schmidt govori o imaginarnoj bliskoj budućnosti u kojoj će i Kina i SAD biti zabrinuti zbog sigurnosnih pitanja, što će ih prisiliti da sklope neku vrstu ugovora o suzbijanju umjetne inteligencije. Prisjetio se 1950-ih i 60-ih, kada je diplomacija razvila niz kontrola oko najsmrtonosnijih oružja na planetu. Ali bilo je potrebno desetljeće nuklearnih eksplozija i, što je najvažnije, uništenje Hirošime i Nagasakija, da dođe do mira prije sklapanja Ugovora o zabrani nuklearnih proba, SALT II, ​​​​i drugih značajnih zakona.

Dva japanska grada koje je Amerika uništila na kraju Drugog svjetskog rata odnijela su živote desetaka tisuća ljudi i dokazala svijetu vječni užas nuklearnog oružja. Tada su vlade Rusije i Kine požurile nabaviti oružje. Način na koji živimo s mogućnošću da će to oružje biti korišteno je ono što je poznato kao uzajamno osigurano uništenje (MAD), teorija odvraćanja koja osigurava da ako jedna zemlja lansira nuklearno oružje, moguće je da će to učiniti bilo koja druga zemlja. Ne koristimo najrazornije oružje na planetu zbog mogućnosti da ono uništi barem civilizaciju diljem svijeta.

Unatoč Schmidtovim živopisnim komentarima, ne želimo niti trebamo MAD za AI. Prvo, umjetna inteligencija još nije dokazala svoju razornu moć u usporedbi s nuklearnim oružjem. Ali ljudi na vlasti boje se ove nove tehnologije, i to obično iz pogrešnih razloga. Ljudi su čak predlagali prepuštanje kontrole nad nuklearnim oružjem umjetnoj inteligenciji, vjerujući da bi ona bila bolji arbitar njegove uporabe od čovjeka.

Problem s umjetnom inteligencijom nije u tome što ima potencijalno razornu moć nuklearnog oružja. Poanta je da je umjetna inteligencija dobra onoliko koliko su dobri ljudi koji su je razvili i da nosi vrijednosti svojih kreatora. AI pati od klasičnog problema "smeće unutra, smeće van": rasistički algoritmi stvaraju rasističke robote, a sva umjetna inteligencija nosi predrasude svojih kreatora.

Demis Hassabis, izvršni direktor DeepMinda, tvrtke koja je istrenirala AI koji pobjeđuje igrače Starcrafta II, čini se da ovo razumije bolje od Schmidta. U srpanjskom intervjuu o podcastu Lexa Friedmana, Friedman je pitao Hassabis kako se moćna tehnologija poput umjetne inteligencije može kontrolirati i kako sam Hassabis može izbjeći korumpiranost tom moći.

Khasabisov odgovor je o njemu samom. “Umjetna inteligencija je prevelika ideja”, rekao je. “Važno je tko stvara AI, iz koje kulture dolazi i koje su im vrijednosti. AI sustavi će učiti sami... ali sustav će ostati utisnut kulturom i vrijednostima autora sustava."

Umjetna inteligencija je odraz svog autora. Ne može sravniti grad sa zemljom eksplozijom od 1,2 megatona. Osim ako ga osoba tome ne nauči.

Možete pomoći Ukrajini u borbi protiv ruskih osvajača. Najbolji način da to učinite je donirati sredstva Oružanim snagama Ukrajine putem Savelife ili putem službene stranice NBU.

Pročitajte također:

• Nova aplikacija Samsung koristi AI za poboljšanje vaših fotografija
• Umjetna inteligencija pomaže u identifikaciji astronomskih objekata