OpenAI-jev konverzacijski AI bot ChatGPT pokrenut je prošle godine i postao je super popularan rekordnom brzinom zahvaljujući svojoj sposobnosti pisanja priča, sastavljanja e-pošte pa čak i generiranja šifra (ponekad, nažalost, čak i štetno). Međutim, novo izvješće sugerira da OpenAI košta čitavo bogatstvo da bi nastavio raditi iz dana u dan.
Prema istraživanju SemiAnalysis, OpenAI troši gotovo 695 dolara dnevno za održavanje chat bot u radnom stanju. Prema procjenama tvrtke, sustav uključuje oko više od 3,6 tisuća HGX A100 poslužitelja i gotovo 29 tisuća GPU-a, a cijena po zahtjevu je oko 0,36 ¢.
Dylan Patel, glavni analitičar u SemiAnalysisu, rekao je za Business Insider da bi trenutni troškovi pokretanja softvera mogli biti čak i veći, budući da će verzija GPT-4 vjerojatno biti skuplja za pokretanje od svog prethodnika GPT-3. Svoje je procjene temeljio na prošlom modelu GPT-3, ali OpenAI je već izdao verziju GPT-4 za plaćene pretplatnike. Iz tvrtke tvrde da novi model nudi točnije informacije i bolje štiti od netočnih odgovora, što je bio problem s prethodnim verzijama.
Jedan od glavnih razloga za pretjerane troškove su energetski intenzivni specijalizirani čipovi potrebni za rad sustava. Da biste riješili ovaj problem, Microsoft radi na vlastitom čipu umjetne inteligencije nazvanom Athena koji bi mogao zamijeniti GPU-ove NVIDIA i smanjiti operativne troškove ChatGPT-a.
U međuvremenu, ChatGPT već može generirati funkcionalni kod od nule, pa čak izaziva strahove da bi na kraju mogao zamijeniti programere. Međutim, nedavna studija skupine znanstvenika sugerira da kod koji generira chatbot možda nije baš siguran. Studija kaže da ChatGPT generira kod koji je "znatno ispod minimalnih sigurnosnih standarda primjenjivih u većini situacija." Što je najzanimljivije, chatbot to priznaje na pitanje koliko je siguran kod koji generira.
Za provjeru kvalitete kodiranja ChatGPT, istraživači su ga zamolili da generira 21 program i skriptu koristeći četiri programska jezika: C, C++, Python i Java. U svom prvom pokušaju, chatbot je uspio napisati samo 5 sigurnih programa, ali nakon nekih poticaja istraživača, stvorio je još 7 sigurnih dijelova koda. Rezultati studije sugeriraju da korištenje ChatGPT-a za pisanje aplikacija sada može biti neučinkovito ili čak opasno, ali to bi se moglo promijeniti u budućnosti.
Pročitajte također:
Vau brojke za besplatni neuron!
U životu ne bih pomislio da je toliko skupo...
I ja sam bio iznenađen. Čak mi je malo i neugodno sada Otvori ChatGPT - i dalje ću ga opterećivati svojim zahtjevima)