NVIDIA - prva tvrtka u povijesti industrije čipova, čija je kapitalizacija premašila trilijun dolara. U čemu je tajna uspjeha?
Siguran sam da su mnogi od vas čuli za tvrtku NVIDIA i većina vas to povezuje upravo s grafičkim procesorima, jer izraz "NVIDIA GeForce" čuli su gotovo svi.
NVIDIA nedavno ušao u financijsku povijest IT industrije. To je prva tvrtka s integriranim krugovima čija je tržišna vrijednost premašila trilijun dolara. To je također peta tehnološka tvrtka u povijesti koja je postigla tako velik (prema tržišnoj kapitalizaciji) uspjeh. Prije su se samo ljudi mogli pohvaliti tako visokom ocjenom Apple, Microsoft, Alphabet (vlasnik Googlea) i Amazona. Zbog toga su ga financijeri ponekad nazivali "Klub četvorice", koji je sada proširen NVIDIA.
Osim toga, po tržišnoj kapitalizaciji daleko je iza AMD-a, Intela, Qualcomma i drugih tehnoloških tvrtki. To ne bi bilo moguće bez vizionarske politike tvrtke, uvedene prije desetak godina.
Pročitajte također: Ima li budućnosti za TruthGPT Elona Muska?
Nevjerojatna potražnja za NVIDIA H100 Tensor Core
U čemu je tajna tolikog povećanja kapitalizacije? Prije svega, to je reakcija burze na uspjeh čipa NVIDIA H100 Tensor Core, koji je u velikoj potražnji među vodećim pružateljima cloud infrastrukture i online usluga. Ove čipove kupuju Amazon, Meta i Microsoft (za vlastite potrebe i potrebe partnera - tvrtke OpenAI). Posebno su energetski učinkoviti u ubrzavanju izračuna tipičnih za generativnu umjetnu inteligenciju, kao što su ChatGPT ili Dall-E. Ovo je nevjerojatan skok reda veličine za ubrzano računalstvo. Dobivamo performanse bez presedana, skalabilnost i sigurnost za bilo koje radno opterećenje NVIDIA H100 Tensor Core GPU.
Korištenje sklopnog sustava NVIDIA NVLink se može spojiti na do 256 H100 GPU-a za ubrzavanje radnih opterećenja na exa skali. GPU također uključuje namjenski Transformer Engine za rješavanje jezičnih modela s trilijunima parametara. Kombinirane tehnološke inovacije H100 mogu ubrzati velike jezične modele (LLM) za nevjerojatnih 30x u usporedbi s prethodnom generacijom, isporučujući konverzacijski AI vodeći u industriji. Programeri ga smatraju gotovo idealnim za strojno učenje.
No, H100 se nije pojavio niotkuda. I, istinu govoreći, nije nešto posebno revolucionarno. NVIDIA, kao nijedna druga tvrtka, već dugi niz godina ulaže golema sredstva u umjetnu inteligenciju. Kao rezultat toga, tvrtka prvenstveno povezana s markom GeForce grafičkih kartica može potrošačko tržište tretirati gotovo kao hobi. Time se ipak stvara stvarna moć na tržištu IT divova NVIDIA već mogu razgovarati s njima kao s ravnopravnim.
Također zanimljivo: Što su 6G mreže i zašto su potrebne?
Je li umjetna inteligencija budućnost?
Danas su u to uvjereni gotovo svi, čak i skeptični stručnjaci u ovom području. Sada je to gotovo aksiom, istina. Iako NViDIA znao za to prije 20 godina. Jesam li te iznenadio?
Tehnički, prvi bliski kontakt NVIDIA s umjetnom inteligencijom dogodilo se 1999. godine, kada se na tržištu pojavio procesor GeForce 256, sposoban ubrzati izračune strojnog učenja. Međutim NVIDIA počela je ozbiljno ulagati u umjetnu inteligenciju tek 2006. godine, kada je predstavila CUDA arhitekturu, koja je omogućila korištenje mogućnosti paralelne obrade grafičkih procesora za obuku i istraživanje.
Što je CUDA? Najbolje se definira kao paralelna računalna platforma i sučelje za programiranje aplikacija (API) koje softveru omogućuje korištenje grafičkih procesorskih jedinica opće namjene (GPGPU). Ovaj pristup se naziva računalstvo opće namjene na GPU-u. Osim toga, CUDA je softverski sloj koji omogućuje izravan pristup virtualnom skupu instrukcija i paralelnim računalnim elementima grafičkog procesora. Dizajniran je za rad s programskim jezicima kao što su C, C++ i Fortran.
Upravo ta pristupačnost olakšava paralelnim programerima da iskoriste GPU resurse, za razliku od prethodnih API-ja kao što su Direct3D i OpenGL, koji su zahtijevali napredne vještine grafičkog programiranja.
Važan napredak bila je opskrba tvrtke NVIDIA računalna snaga za revolucionarnu neuronsku mrežu AlexNet. Riječ je o konvolucijskoj neuronskoj mreži (CNN), koju je razvio Ukrajinac Alex Kryzhevskyi u suradnji s Ilyom Sutzkeverom i Jeffreyjem Gintonom.
Konvolucijske neuronske mreže (CNN) oduvijek su bile glavni model za prepoznavanje objekata - to su moćni modeli koje je lako kontrolirati, a još ih je lakše trenirati. Kod upotrebe na milijunima slika ne dolazi do alarmantnog pretjeranog opremanja. Njihova je izvedba gotovo identična standardnim feed-forward neuronskim mrežama iste veličine. Jedini je problem što ih je teško primijeniti na slike visoke rezolucije. Razmjer ImageNet-a zahtijevao je inovacije koje bi bile optimizirane za GPU-ove i smanjile vrijeme obuke uz poboljšanje performansi.
30. rujna 2012. AlexNet je sudjelovao u ImageNet Large Scale Visual Recognition Challenge. Mreža je postigla rezultat od 15,3% u testu prvih pet pogrešaka, preko 10,8% niže od rezultata na drugom mjestu.
Glavni zaključak iz izvornog rada bio je da je složenost modela rezultat njegovih visokih performansi, koje su također bile računalno skupe, ali su bile moguće korištenjem grafičkih procesorskih jedinica (GPU) tijekom procesa obuke.
Sama konvolucijska neuronska mreža AlexNet sastoji se od osam slojeva; prvih pet su konvolucijski slojevi, od kojih nekima prethode maksimalno spregnuti slojevi, a zadnja tri su potpuno povezani slojevi. Mreža je, osim posljednjeg sloja, podijeljena u dvije kopije, od kojih svaka radi na jednom GPU-u.
Odnosno zahvaljujući NVIDIA i još uvijek većina stručnjaka i znanstvenika vjeruje da je AlexNet nevjerojatno moćan model sposoban postići visoku točnost na vrlo složenim skupovima podataka. AlexNet je vodeća arhitektura za svaki zadatak otkrivanja objekata i može imati vrlo široku primjenu u sektoru računalnog vida za probleme umjetne inteligencije. AlexNet bi se u budućnosti mogao koristiti više od CNN-a u području slikanja.
Također zanimljivo: Fenomen Bluesky: kakva usluga i je li to na dugo vrijeme?
Umjetna inteligencija nije samo u laboratorijima i podatkovnim centrima
В NVIDIA vidio velike izglede za AI iu tehnologijama potrošačkih uređaja i Interneta stvari. Dok konkurenti tek počinju razmatrati šire ulaganje u novu vrstu integriranog kruga, NVIDIA već radi na njihovoj minijaturizaciji. Vjerojatno je posebno važan čip Tegra K1, razvijen u suradnji s Teslom i drugim automobilskim kompanijama.
Procesor Tegra K1 jedan je od prvih procesora NVIDIA, dizajniran posebno za AI aplikacije u mobilnim i ugrađenim uređajima. Tegra K1 koristi istu GPU arhitekturu kao serija grafičkih kartica i sustava NVIDIA GeForce, Quadro i Tesla, koji pruža visoke performanse i kompatibilnost s grafičkim i računalnim standardima kao što su OpenGL 4.4, DirectX 11.2, CUDA 6.5 i OpenCL 1.2. Zahvaljujući tome, procesor Tegra K1 može podržati napredne algoritme umjetne inteligencije kao što su duboke neuronske mreže, učenje s pojačanjem, prepoznavanje slike i govora te analiza podataka. Tegra K1 ima 192 CUDA jezgre.
U 2016 NVIDIA izdao niz Pascal procesora optimiziranih za podršku dubokim neuronskim mrežama i drugim modelima umjetne inteligencije. U roku od godinu dana na tržištu se pojavila serija Volta procesora za aplikacije vezane uz umjetnu inteligenciju, koji su još učinkovitiji i štedljiviji. U 2019 NVIDIA kupuje Mellanox Technologies, proizvođača računalnih mreža visokih performansi za podatkovne centre i superračunala.
Kao rezultat toga, svi oni koriste procesore NVIDIA. Na potrošačkom tržištu, na primjer, igrači koriste revolucionarni DLSS algoritam za rekonstrukciju slike, koji im omogućuje da uživaju u oštrijoj grafici u igrama bez trošenja puno novca na grafičku karticu. Na poslovnom tržištu prepoznato je da čips NVIDIA na mnoge načine izvan onoga što nude konkurenti. Iako nije da su Intel i AMD potpuno prespavali intelektualnu revoluciju.
Također zanimljivo: Najbolji alati temeljeni na umjetnoj inteligenciji
Intel i AMD u području umjetne inteligencije
Razgovarajmo o izravnim konkurentima NVIDIA u ovom segmentu tržišta. Intel i AMD ovdje rade sve aktivnije, ali s velikim zakašnjenjem.
Intel je kupio nekoliko AI tvrtki kao što su Nervana Systems, Movidius, Mobileye i Habana Labs kako bi ojačao svoj portfelj AI tehnologija i rješenja. Intel također nudi hardverske i softverske platforme za umjetnu inteligenciju, kao što su Xeon procesori, FPGA, NNP čipovi i biblioteke za optimizaciju. Intel također surađuje s partnerima iz javnog i privatnog sektora kako bi unaprijedio inovacije i obrazovanje AI.
AMD je razvio seriju Epyc procesora i Radeon Instinct grafičkih kartica koje su optimizirane za AI i aplikacije dubokog učenja. AMD također surađuje s tvrtkama kao što su Google, Microsoft, IBM i Amazon, pružajući rješenja u oblaku za AI. AMD također nastoji sudjelovati u istraživanju i razvoju umjetne inteligencije kroz partnerstva s akademskim institucijama i industrijskim organizacijama. Ipak je sve to jako dobro NVIDIA već daleko ispred njih, a njen uspjeh na području razvoja i podrške AI algoritama je neusporedivo veći.
Također zanimljivo: Sažetak Google I/O 2023.: Android 14, Pixel i mnogo AI
NVIDIA već je desetljećima povezan s videoigrama
Ni ovo ne treba zaboraviti. NVIDIA ne daje točnu raspodjelu svojih prihoda na potrošačko i poslovno tržište, ali ih je moguće procijeniti na temelju poslovnih segmenata koje tvrtka objavljuje u svojim financijskim izvješćima. NVIDIA odvaja četiri operativna segmenta: Gaming, Professional Visualization, Data Centers i Automotive.
Može se pretpostaviti da je segment igara uglavnom usmjeren na potrošačko tržište, budući da uključuje prodaju GeForce video kartica i Tegra čipova za igraće konzole. Segment profesionalne vizualizacije uglavnom je usmjeren na poslovno tržište, jer uključuje prodaju Quadro video kartica i RTX čipova za radne stanice i profesionalne aplikacije. Segment podatkovnih centara također je uglavnom usmjeren na poslovno tržište, jer uključuje prodaju GPU-a i NPU-a (odnosno, čipova sljedeće generacije - više nisu GPU-i, već dizajnirani isključivo za AI) za poslužitelje i usluge u oblaku. Automobilski segment cilja i na potrošačka i na poslovna tržišta, budući da uključuje prodaju Tegra i Drive sustava za infotainment i autonomnu vožnju.
Na temelju ovih pretpostavki moguće je procijeniti udio prihoda od potrošačkih i poslovnih tržišta u ukupnim prihodima NVIDIA. Prema posljednjem financijskom izvješću za 2022. godinu prihodi tvrtke NVIDIA po poslovnim segmentima bili su sljedeći:
- Igre: 12,9 milijardi dolara
- Profesionalna vizualizacija: 1,3 milijarde dolara
- Podatkovni centri: 9,7 milijardi dolara
- Automobili: 0,8 milijardi dolara
- Svi ostali segmenti: 8,7 milijardi dolara
Ukupni prihod NVIDIA iznosio 33,4 milijarde dolara. Ako pretpostavimo da je automobilski segment približno jednako podijeljen između potrošačkog i poslovnog tržišta, mogu se izračunati sljedeći omjeri:
- Prihod od potrošačkog tržišta: (12,9 + 0,4) / 33,4 = 0,4 (40%)
- Prihod od poslovnog tržišta: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)
To znači da oko 40% prihoda NVIDIA dolazi s potrošačkog tržišta, a oko 60% s poslovnog tržišta. Odnosno, glavni smjer je poslovni segment. Ali industrija igara također donosi prilično dobre prihode. Najvažnije je da svake godine rastu.
Također zanimljivo: Dnevnik mrzovoljnog starog štrebera: Bing protiv Googlea
Što će nam donijeti budućnost?
Očito je da NVIDIA već postoji plan za sudjelovanje u razvoju algoritama umjetne inteligencije. I puno je širi i perspektivniji od bilo kojeg od svojih izravnih konkurenata.
Samo u zadnjih mjesec dana NVIDIA najavio brojna nova ulaganja u umjetnu inteligenciju. Jedan od njih je mehanizam GET3D koji je sposoban generirati složene trodimenzionalne modele različitih objekata i likova koji vjerno odražavaju stvarnost. GET3D može generirati oko 20 objekata u sekundi korištenjem jednog grafičkog čipa.
Treba spomenuti još jedan zanimljiv projekt. O Israel-1 je superračunalo za programe umjetne inteligencije, koje NVIDIA nastaje u suradnji s Ministarstvom znanosti i tehnologije Izraela i tvrtkom Mellanox. Očekuje se da će stroj imati više od 7 petaflopa računalne snage i koristiti više od 1000 GPU-a NVIDIA A100 Tensor Core. Israel-1 će se koristiti za istraživanje i razvoj u poljima kao što su medicina, biologija, kemija, fizika i kibernetička sigurnost. A to su već vrlo obećavajuća kapitalna ulaganja, s obzirom na dugoročne izglede.
Također, već postoji još jedan projekt - NVIDIA AS. To je nova tehnologija koja će napraviti revoluciju u industriji igara dopuštajući igraču interakciju s likom koji nije igrač (NPC) na prirodan i realan način. Ovi likovi moći će voditi otvoreni dijalog s igračem, reagirati na njegove emocije i geste, pa čak i izraziti vlastite osjećaje i misli. NVIDIA ACE koristi napredne jezične modele i generatore slika temeljene na umjetnoj inteligenciji.
Prvi trilijun dolara u NVIDIA. Čini se da će ih uskoro biti još. Svakako ćemo pratiti napredak tvrtke i obavijestiti vas.
Pročitajte također: