Tehnološki čelnici i istaknuti istraživači umjetne inteligencije potpisali su otvoreno pismo, koji poziva AI laboratorije i tvrtke da "odmah obustave" svoj rad.
Potpisnici, uključujući Stevea Wozniaka i Elona Muska, slažu se da rizici zahtijevaju najmanje šest mjeseci stanke u proizvodnji tehnologija koje nadilaze opseg GPT-4. Namjera je izvući radost i zadovoljstvo iz AI sustava koji sada postoje i omogućiti ljudima da im se prilagode i uvide da su korisni.
U pismu se dodaje da su potrebni oprez i promišljenost kako bi se osigurala sigurnost sustava umjetne inteligencije, ali oni se ignoriraju. Referenca na GPT-4, novi OpenAI model koji može odgovoriti tekstom na pisane ili vizualne poruke, dolazi u trenutku kada se tvrtke utrkuju u izgradnji sofisticiranih sustava za chat koristeći tu tehnologiju. Primjer, Microsoft nedavno je potvrdio da njegova ažurirana tražilica Bing radi na modelu GPT-4 više od 7 tjedana, a Google je nedavno službeno predstavio Bard – vlastiti sustav generativne umjetne inteligencije temeljen na LaMDA.
Zabrinutost oko umjetne inteligencije postoji već dugo, ali utrka za usvajanje najnaprednije tehnologije je očita umjetna inteligencija prvi je već alarmantan. "Posljednjih mjeseci, laboratoriji umjetne inteligencije bili su upleteni u nekontroliranu utrku za razvoj i implementaciju sve moćnijih digitalnih umova koje nitko - čak ni njihovi autori - ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati", stoji u pismu.
Pismo je objavila neprofitna organizacija Future of Life Institute (FLI), koja radi na minimiziranju globalnih katastrofalnih i egzistencijalnih rizika i zlouporabe novih tehnologija, posebice umjetne inteligencije. Prethodno je Musk donirao 10 milijuna dolara FLI-ju za istraživanje sigurnosti umjetne inteligencije. Osim njega i Wozniaka, među potpisnicima su i brojni svjetski lideri na području umjetne inteligencije, poput predsjednika Centra za umjetnu inteligenciju i digitalne politike Marka Rothenberga, fizičara MIT-a i predsjednika FLI-ja Maxa Tegmarka te autora Yuvala Noaha Hararija.
Harari je također bio koautor članka u New York Timesu prošli tjedan upozoravajući na rizike povezane s umjetna inteligencija, na kojem su s njim radili osnivači Centra za humane tehnologije i drugi potpisnici otvorenog pisma, Tristan Harris i Aza Raskin.
Poziv je uslijedio nakon prošlogodišnjeg istraživanja više od 700 istraživača strojnog učenja u kojem je gotovo polovica rekla da postoji oko 10% šanse za "izuzetno loše posljedice" umjetne inteligencije, uključujući izumiranje ljudi. Na pitanje o sigurnosti u istraživanju umjetne inteligencije, 68% ispitanika reklo je da treba učiniti više ili puno više.
Pročitajte također: