Tajanstveno Projekt Q* iz OpenAI-ja izaziva zabrinutost među stručnjacima. Može li on doista biti opasan za čovječanstvo? Što se zna o njemu? Nakon što je Sam Altman prvi tjedan dobio otkaz prošli tjedan i on i ekipa su se skoro preselili u Microsoft, onda se ipak vratio na svoje radno mjesto (o tome napisali smo ovdje), OpenAI je ponovno u vijestima. Ovaj put zbog onoga što neki istraživači nazivaju mogućom prijetnjom čovječanstvu. Da, dobro ste pročitali, prijetnja čovječanstvu.
Pravi potres u svijetu tehnologije izazvao je Project Q* - neotkriveni projekt opće umjetne inteligencije (AGI) - izgovara se Q-Star. Iako je ovaj projekt u ranoj fazi, smatra se istinski revolucionarnim u AGI razvoju. Međutim, neki to vide kao opasnost za čovječanstvo.
Tajni projekt umjetne inteligencije koji je razvio poznati laboratorij za umjetnu inteligenciju OpenAI ima potencijal revolucionirati tehnologiju i društvo općenito. Ali također postavlja neka etička pitanja o rizicima. Kako se pojavljuju pojedinosti o zadivljujućim sposobnostima Projekta Q*, pojavljuje se sve više nagađanja o tome što bi to moglo značiti za budućnost čovječanstva.
Također zanimljivo: Povijest OpenAI-ja: što je to bilo i što je pred tvrtkom
Što je umjetna opća inteligencija (AGI)?
Da bismo razumjeli pompe oko Projekta Q* (Q-Star), pokušajmo najprije shvatiti što je koncept Opće umjetne inteligencije (AGI). Dok se trenutni sustavi umjetne inteligencije ističu u uskim, specifičnim zadacima kao što je igranje šaha ili generiranje slika, opća umjetna inteligencija odnosi se na strojeve koji mogu učiti i razmišljati na ljudskoj razini u mnogim domenama. Odnosno, mogu učiti kao mala djeca u školi, na primjer, osnove matematike, kemije, biologije itd.
Opća umjetna inteligencija (AGI) vrsta je strojne inteligencije koja može hipotetski oponašati ljudsku inteligenciju ili ponašanje, sa sposobnošću učenja i primjene tog potencijala za rješavanje raznih problema. AGI se još naziva i snažna umjetna inteligencija, potpuna umjetna inteligencija ili umjetna inteligencija na ljudskoj razini. Opća umjetna inteligencija razlikuje se od slabe ili uske AI, koja je sposobna obavljati samo specifične ili specijalizirane zadatke unutar zadanih parametara. ZHI će moći samostalno rješavati različite složene probleme iz različitih područja znanja.
Stvaranje umjetne inteligencije glavni je fokus istraživanja umjetne inteligencije tvrtki kao što su DeepMind i Anthropic. CSI je vrlo popularna tema u literaturi znanstvene fantastike i mogla bi utjecati na buduća istraživanja. Neki tvrde da je moguće stvoriti UCI unutar godina ili desetljeća, dok drugi tvrde da bi za to moglo biti potrebno stoljeće ili više. Ali ima i onih koji vjeruju da se to nikada neće postići. Neki su vidjeli početak URI-ja u GPT-3, ali čini se da je još uvijek daleko od ispunjavanja osnovnih kriterija.
Stvaranje opće umjetne inteligencije (AGI) istraživači smatraju svetim gralom umjetne inteligencije, što je teoretska mogućnost koja je dugo zaokupljala njihovu maštu. Stoga je pojava takvog projekta kao što je OpenAI Project Q* izazvala veliku rezonanciju u svijetu istraživanja algoritama umjetne inteligencije. Iako svi razumiju da su ovo samo prvi koraci, gotovo naslijepo, u svijet u kojem će umjetna inteligencija imati iste sposobnosti kao ljudi, ili čak i više.
Također zanimljivo: Sve o Microsoft Kopilot: budućnost ili krivi put?
Što je Project Q*?
Projekt Q* nije tipičan algoritam jer se radi o modelu umjetne inteligencije koji se sve više približava modelu umjetne opće inteligencije (AGI). To znači da, za razliku od ChatGPT-a, Project Q* pokazuje bolje razmišljanje i kognitivne vještine u usporedbi s drugim algoritmima. ChatGPT trenutačno odgovara na upite temeljene na ogromnoj količini činjeničnog materijala, ali uz AGI, AI model naučit će razmišljanje i sposobnost razmišljanja i razumijevanja za sebe. Već je poznato da je Project Q* sposoban rješavati jednostavne matematičke probleme koji nisu bili dio njegovog materijala za obuku. U tome neki istraživači vide značajan korak prema stvaranju opće umjetne inteligencije (AGI). OpenAI definira AGI kao sustave umjetne inteligencije koji su pametniji od ljudi.
Razvojem Projekta Q* upravlja glavni znanstvenik OpenAI-ja Ilya Sutzkever, a njegovu su osnovu potkrijepili istraživači Jakub Pakhotsky i Shimon Sidor.
Sposobnost algoritma da sam rješava matematičke probleme, čak i ako ti problemi nisu bili dio skupa podataka za obuku, smatra se probojem u području umjetne inteligencije. Nesuglasice u timu oko ovog projekta povezane su s privremenom smjenom izvršnog direktora OpenAI-ja Sama Altmana. Poznato je da je prije otpuštanja Altmana skupina istraživača tvrtke poslala pismo upravnom odboru upozoravajući na otkriće umjetne inteligencije koja bi mogla predstavljati prijetnju čovječanstvu. To pismo, koje je navodno raspravljalo o algoritmu Project Q*, navedeno je kao jedan od čimbenika koji su doveli do Altmanova otkaza. Međutim, mogućnosti projekta Q* i potencijalni rizici koje on može predstavljati nisu u potpunosti shvaćeni jer su detalji nepoznati. Ništa nije objavljeno široj javnosti.
U svojoj jezgri, Project Q* je metoda učenja za potkrepljivanje bez modela koja odstupa od tradicionalnih modela ne zahtijevajući prethodno poznavanje okoline. Umjesto toga, uči kroz iskustvo, prilagođava radnje na temelju nagrada i kazni. Tehnički stručnjaci vjeruju da će Projekt Q* moći steći izvanredne sposobnosti stjecanjem sposobnosti sličnih ljudskim kognitivnim sposobnostima.
Međutim, upravo je ta značajka najdojmljivija u novom modelu umjetne inteligencije koja zabrinjava istraživače i kritičare i budi njihove strahove o primjeni tehnologije u stvarnom svijetu i uključenim rizicima. Čega se toliko boje znanstvenici i istraživači? Hajdemo shvatiti.
Također zanimljivo: Kako ažurirati svoje kućne uređaje da podržavaju Wi-Fi 6
Boje se nepoznatog
Ljudi su se uvijek bojali nepoznatog, nespoznatljivog. To je ljudska bit, obilježje našeg karaktera i načina života.
Svijet tehnologije saznao je za Project Q* u studenom 2023. nakon Reutersa prijavio o internom pismu koje su napisali zabrinuti istraživači OpenAI-ja. Sadržaj pisma bio je nejasan, ali je navodno ozbiljno analizirao mogućnosti Projekta Q*. Kao što sam već spomenuo, čak se nagađa da je upravo ovo pismo izazvalo ostavku Sama Altmana.
Ovo eksplozivno otkriće dovelo je do raznih hipoteza o prirodi Projekta Q*. Znanstvenici su sugerirali da bi ovo mogao biti revolucionarni model prirodnog jezika za AI. Svojevrsni izumitelj novih algoritama koji će ih kreirati za druge oblike umjetne inteligencije, ili nešto sasvim drugo u ovoj oblasti.
Altmanovi provokativni komentari o općenitoj umjetnoj inteligenciji kao "prosječnom zaposleniku" već su izazvali zabrinutost oko sigurnosti posla i nezaustavljivog širenja utjecaja umjetne inteligencije. Ovaj misteriozni algoritam definiran je kao prekretnica u razvoju opće umjetne inteligencije (AGI). Međutim, svi razumiju da je ova prekretnica skupa. I nije sada u pitanju novac. Razina kognitivnih vještina koju obećava novi AI model sa sobom nosi neizvjesnost. OpenAI znanstvenici obećavaju da će AI imati način razmišljanja na ljudskoj razini. A to znači da mnoge stvari ne možemo znati i predvidjeti posljedice. I što je nepoznatije, to se teže pripremiti za kontrolu ili popravljanje. To jest, novi algoritam je sposoban za samopoboljšanje i razvoj. Ovo smo već negdje vidjeli...
Također zanimljivo: Windows 12: Koji će biti novi OS
Nevjerojatni detalji o mogućnostima Project Q-a*
Kada se počelo pojavljivati više informacija, to je šokiralo mnoge istraživače. Prve naznake bile su da je Project Q* imao nevjerojatan smisao za matematiku. Za razliku od kalkulatora koji izvodi mehaničke izračune, Project Q* navodno može koristiti logiku i razmišljanje za rješavanje složenih matematičkih problema. Ova matematička sposobnost generalizacije ukazuje na razvoj široke inteligencije.
Autonomna obuka Projekta Q*, bez specifičnih skupova podataka koji se koriste za obuku tipičnih AI-ova, također će biti veliki korak naprijed. Ostaje nepoznato je li Project Q* savladao neke druge vještine. Ali njegove su matematičke sposobnosti toliko nevjerojatne same po sebi da zbunjuju čak i iskusne istraživače.
Pročitajte također: Projekt ljudskog mozga: pokušaj oponašanja ljudskog mozga
Put projekta Q* do dominacije?
Postoje i optimistični i pesimistični scenariji po ovom pitanju. Optimisti će reći da bi projekt Q* mogao biti iskra koja vodi do tehnološkog iskoraka. Kako se sustav rekurzivno samopoboljšava, njegova bi nadnaravna inteligencija mogla pomoći u rješavanju nekih od najvažnijih problema čovječanstva, od klimatskih promjena do kontrole bolesti. Project Q* može automatizirati dosadan posao i osloboditi naše slobodno vrijeme za druge aktivnosti.
Iako ima mnogo pesimističnijih opcija. Ponekad su sasvim razumne i imaju određeno značenje.
Gubitak poslova
Brzi pomaci u razvoju tehnologije mogu nadmašiti individualnu prilagodbu ljudi. To će dovesti do gubitka jedne ili više generacija koje neće moći steći potrebne vještine ili znanja za prilagodbu novoj stvarnosti. Odnosno, to pak znači da će manje ljudi moći zadržati svoja radna mjesta. Umjesto toga to će obavljati strojevi, automatizirani sustavi i roboti. Međutim, odgovor nije tako jasan kada su u pitanju kvalificirani stručnjaci. Osim toga, mogu se pojaviti nova zanimanja vezana upravo za razvoj algoritama umjetne inteligencije. Ali još uvijek postoje rizici i čovječanstvo ih nema pravo ignorirati.
Opasnost od nekontrolirane moći
Ako tako moćna umjetna inteligencija kao što je Projekt Q* padne u ruke onih s podlim namjerama, riskira katastrofalne posljedice za čovječanstvo. Čak i bez potencijalno zlonamjerne namjere, razina donošenja odluka Projekta Q* može dovesti do štetnih ishoda, naglašavajući kritičnu važnost pažljive evaluacije njegove primjene.
Ako je Project Q* loše optimiziran za ljudske potrebe, može uzrokovati štetu svojom sposobnošću maksimiziranja nekih proizvoljnih metrika. Ili može imati političku dimenziju, kao što je korištenje za državni nadzor ili represiju. Otvorena rasprava oko analize utjecaja Projekta Q* pomoći će u definiranju mogućih scenarija za razvoj ZHI-ja.
Čeka li nas obračun "Čovjek protiv stroja"?
Hollywood je u svojim filmovima već stvorio mnoge scenarije takvog sukoba. Svi se sjećamo famoznog SkyNeta i posljedica takvog otkrića. Možda bi istraživači OpenAI-ja trebali ponovno pogledati ovaj film?
Čovječanstvo treba prihvatiti signale i izazove i biti spremno na ono što se može dogoditi. Model umjetne inteligencije sposoban razmišljati kao čovjek mogao bi jednog dana postati naš neprijatelj. Mnogi bi tvrdili da će u budućnosti znanstvenici točno znati kako držati situaciju pod kontrolom. Ali kada je riječ o strojevima, ne možete potpuno isključiti mogućnost da će pokušati preuzeti ljude.
Također zanimljivo: Nije sve što nazivamo AI zapravo umjetna inteligencija. Evo što trebate znati
Zašto OpenAI šuti?
Unatoč pomami javnog interesa za Project Q*, uprava OpenAI-ja šuti o specifičnostima algoritma. Ali interno curenje pokazuje rastuće napetosti u laboratoriju oko prioriteta i otvorenosti razvoja. Iako mnogi OpenAI insajderi podržavaju stvaranje Projekta Q*, kritičari tvrde da je transparentnost zauzela mjesto u ubrzavanju znanstvenog napretka pod svaku cijenu. A neki su istraživači zabrinuti da se nevjerojatna moć daje sustavima čiji se ciljevi ne moraju nužno poklapati s ljudskim vrijednostima i etikom. Ovi istraživači vjeruju da su rasprave oko nadzora i odgovornosti opasno utihnule. Oni zahtijevaju više publiciteta i detalja.
Kao tvorci Projekta Q*, OpenAI moraju shvatiti da imaju tehnologiju koja može uvelike proširiti mogućnosti razvoja društva ili je nemilosrdno uništiti. Takve značajne inovacije zaslužuju puno veću transparentnost kako bi se izgradilo povjerenje javnosti. Svi prognostičari doba strojeva moraju pažljivo odvagnuti rizike i koristi. A razvojni programeri Projekta Q* moraju pokazati dovoljno mudrosti i brige kako bi sigurno uveli društvo u novu eru opće umjetne inteligencije koja bi mogla nastupiti ranije nego što smo ikada mogli zamisliti.
Kako bi opća umjetna inteligencija bila korisna i sigurna za čovječanstvo, mora se osigurati da djeluje sigurno, etično i u skladu s vrijednostima i ciljevima čovječanstva. To zahtijeva razvoj i provedbu odgovarajućih regulatornih akata, standarda, pravila i protokola koji će kontrolirati i obuzdati djelovanje i ponašanje CSI-ja. Osim toga, moraju se eliminirati potencijalne prijetnje i rizici povezani sa zloporabama, nesrećama, nekompatibilnostima, manipulacijama i sukobima koji bi mogli dovesti do uništenja čovječanstva. U međuvremenu, investitori i Microsoft željno iščekujući tržišni proizvod koji bi mogao donijeti profit, što je nedvojbeno u suprotnosti s potrebom odgovornog ponašanja. Nadajmo se da će prevladati zdrav razum.
Pročitajte također: