Danas ćemo pokušati otkriti što su neuronske mreže, kako funkcioniraju i koja je njihova uloga u stvaranju umjetne inteligencije.
Neuronske mreže. Ovu frazu čujemo gotovo posvuda. Dolazi do toga da ćete neuronske mreže pronaći čak iu hladnjacima (ovo nije šala). Neuronske mreže naširoko koriste algoritmi strojnog učenja, koji se danas mogu naći ne samo u računalima i pametnim telefonima, već iu mnogim drugim elektroničkim uređajima, na primjer, u kućanskim aparatima. A jeste li se ikada zapitali što su to neuronske mreže?
Ne brinite, ovo neće biti akademsko predavanje. Postoje mnoge publikacije, uključujući i na ukrajinskom jeziku, koje vrlo stručno i pouzdano objašnjavaju ovu problematiku na području egzaktnih znanosti. Takve publikacije stare su više od desetak godina. Kako je moguće da su te stare publikacije još uvijek aktualne? Činjenica je da se osnove neuronskih mreža nisu promijenile, a sam koncept - matematički model umjetnog neurona - nastao je tijekom Drugog svjetskog rata.
Isto je i s internetom, današnji internet je neusporedivo napredniji nego kada je poslana prva e-pošta. Temelji interneta, temeljni protokoli, postojali su od samog početka njegovog nastanka. Svaki složeni koncept izgrađen je na temeljima starih struktura. Isto je i s našim mozgom, najmlađi cerebralni korteks ne može funkcionirati bez najstarijeg evolucijskog elementa: moždanog debla, koje je u našim glavama mnogo ranije nego što je naša vrsta postojala na ovom planetu.
Jesam li te malo zbunio? Pa shvatimo detaljnije.
Također zanimljivo: ChatGPT: Jednostavne upute za korištenje
Što su neuronske mreže?
Mreža je skup određenih elemenata. Ovo je najjednostavniji pristup u matematici, fizici ili tehnologiji. Ako je računalna mreža skup međusobno povezanih računala, onda je neuronska mreža očito skup neurona.
Međutim, ovi elementi po složenosti nisu ni izdaleka usporedivi sa živčanim stanicama našeg mozga i živčanog sustava, ali na određenoj razini apstrakcije, neke značajke umjetnog neurona i biološkog neurona su zajedničke. No, potrebno je zapamtiti da je umjetni neuron mnogo jednostavniji koncept od njegovog biološkog dvojnika, o kojem još uvijek ne znamo sve.
Pročitajte također: 7 najboljih upotreba ChatGPT-a
Prvo je postojao umjetni neuron
Prvi matematički model umjetnog neurona razvila su 1943. (da, nije greška, tijekom Drugog svjetskog rata) dvojica američkih znanstvenika, Warren McCulloch i Walter Pitts. To im je uspjelo na temelju interdisciplinarnog pristupa, kombinirajući osnovna znanja iz fiziologije mozga (sjetimo se vremena nastanka ovog modela), matematike i tada mladog informatičkog pristupa (koristili su, između ostalog, i teoriju izračunljivosti Alana Turinga). ). McCulloch-Pittsov model umjetnog neurona je vrlo jednostavan model, ima mnogo ulaza, gdje ulazne informacije prolaze kroz težine (parametre), čije vrijednosti određuju ponašanje neurona. Rezultirajući rezultat šalje se na jedan izlaz (vidi dijagram McCulloch-Pittsovog neurona).
Takva stablolika struktura povezuje se s biološkim neuronom, jer kada pomislimo na crteže koji prikazuju biološke živčane stanice, na pamet nam pada karakteristična stablolika struktura dendrita. No, ne treba podlijegati iluziji da je umjetni neuron barem donekle blizak pravoj živčanoj stanici. Ova dva istraživača, autori prvog umjetnog neurona, uspjeli su pokazati da se bilo koja izračunljiva funkcija može izračunati pomoću mreže međusobno povezanih neurona. Međutim, podsjetimo da su ovi prvi koncepti nastali samo kao ideje koje su postojale samo „na papiru“ i nisu imale pravu interpretaciju u vidu operativne opreme.
Pročitajte također: O kvantnim računalima jednostavnim riječima
Od modela do inovativnih implementacija
McCulloch i Pitts razvili su teorijski model, no na stvaranje prve prave neuronske mreže moralo se čekati više od deset godina. Njegovim tvorcem smatra se još jedan od pionira istraživanja umjetne inteligencije, Frank Rosenblatt, koji je 1957. stvorio mrežu Mark I Perceptron, a sami ste pokazali da je zahvaljujući toj strukturi stroj dobio sposobnost koja je prije bila svojstvena samo životinjama i ljudima: može naučiti. Međutim, sada znamo da je zapravo bilo i drugih znanstvenika koji su došli na ideju da stroj može učiti, uključujući i prije Rosenblatta.
Mnogi istraživači i pioniri računalne znanosti 1950-ih došli su na ideju kako natjerati stroj da radi ono što sam ne može. Na primjer, Arthur Samuel razvio je program koji je igrao dame s čovjekom, Allen Newell i Herbert Simon stvorili su program koji je mogao neovisno dokazati matematičke teoreme. Čak i prije nastanka Rosenblattove prve neuronske mreže, druga dva pionira istraživanja na području umjetne inteligencije, Marvin Minsky i Dean Edmonds, 1952. godine, dakle i prije pojave Rosenblattovog perceptrona, izgradili su stroj nazvan SNARC (Stochastic Neural Analog Reinforcement Calculator) - pojačanje stohastičkog neuralnog analognog kalkulatora, koji mnogi smatraju prvim računalom stohastičke neuronske mreže. Treba napomenuti da SNARC nije imao nikakve veze s modernim računalima.
Snažni stroj, koristeći više od 3000 elektroničkih cijevi i rezervni mehanizam autopilota iz bombardera B-24, uspio je simulirati rad 40 neurona, što se pokazalo dovoljnim za matematičku simulaciju štakorove potrage za izlazom iz labirinta . Naravno, nije bilo štakora, bio je to samo proces dedukcije i traženja optimalnog rješenja. Ovaj je automobil bio dio doktorata Marvina Minskyja.
Još jedan zanimljiv projekt u području neuronskih mreža bila je mreža ADALINE koju je 1960. godine razvio Bernard Withrow. Stoga se može postaviti pitanje: budući da su prije više od pola stoljeća istraživači poznavali teorijske temelje neuronskih mreža i čak stvorili prve radne implementacije takvih računalnih okvira, zašto je trebalo tako dugo vremena, sve do 21. stoljeća, stvoriti stvarna rješenja temeljena na neuronskim mrežama? Odgovor je jedan: nedovoljna računalna snaga, ali to nije bila jedina prepreka.
Iako su 1950-ih i 1960-ih mnogi pioniri umjetne inteligencije bili fascinirani mogućnostima neuronskih mreža, a neki od njih predviđali su da je strojni ekvivalent ljudskog mozga udaljen samo deset godina. Ovo je danas čak i smiješno čitati, jer još uvijek se nismo ni približili stvaranju strojnog ekvivalenta ljudskog mozga, a još smo daleko od rješenja tog zadatka. Brzo je postalo jasno da je logika prvih neuronskih mreža bila fascinantna i ograničena. Prve implementacije umjetne inteligencije pomoću umjetnih neurona i algoritama strojnog učenja mogle su riješiti određeni uzak raspon zadataka.
No, kada se radilo o širim prostorima i rješavanju nečeg stvarno ozbiljnog, kao što je prepoznavanje uzoraka i slika, simultano prevođenje, prepoznavanje govora i rukopisa itd., odnosno stvari koje računala i umjetna inteligencija mogu već danas, pokazalo se da prve implementacije neuronskih mreža to jednostavno nisu mogle učiniti. Zašto je to tako? Odgovor je dalo istraživanje Marvina Minskyja (da, onog istog iz SNARC-a) i Seymoura Papert-a koji su 1969. godine dokazali ograničenost perceptronske logike i pokazali da povećanje mogućnosti jednostavnih neuronskih mreža isključivo zahvaljujući skaliranju ne funkcionira. Postojala je još jedna, ali vrlo važna, prepreka – računalna snaga dostupna u to vrijeme bila je premala da bi se neuronske mreže mogle koristiti kako je predviđeno.
Također zanimljivo:
- Dakle, govoriti ili ne govoriti? Musk negira da je razgovarao s Putinom. Ali postoji "ali"
- Moderna artiljerija je super oružje Ukrajine. I zašto je Elon Musk ovdje?
Renesansa neuronskih mreža
Sedamdesetih i osamdesetih godina prošlog stoljeća neuronske mreže bile su praktički zaboravljene. Tek krajem prošlog stoljeća raspoloživa računalna snaga postala je tolika da su joj se ljudi počeli vraćati i razvijati svoje sposobnosti na ovom polju. Tada su se pojavile nove funkcije i algoritmi koji su mogli prevladati ograničenja prvih najjednostavnijih neuronskih mreža. Tada je nastala ideja o dubokom strojnom učenju višeslojnih neuronskih mreža. Što se zapravo događa s tim slojevima? Danas su gotovo sve korisne neuronske mreže koje rade u našem okruženju višeslojne. Imamo ulazni sloj čija je zadaća primanje ulaznih podataka i parametara (težina). Broj ovih parametara varira ovisno o složenosti računalnog problema koji mreža treba riješiti.
Osim toga, imamo takozvane "skrivene slojeve" - tu se događa sva "magija" povezana s dubokim strojnim učenjem. Upravo su skriveni slojevi odgovorni za sposobnost ove neuronske mreže da uči i izvodi potrebne izračune. Konačno, posljednji element je izlazni sloj, odnosno sloj neuronske mreže koji daje željeni rezultat, u ovom slučaju: prepoznati rukopis, lice, glas, formiranu sliku na temelju tekstualnog opisa, rezultat tomografske analize dijagnostička slika i još mnogo toga.
Pročitajte također: Testirao sam i intervjuirao Bingov chatbot
Kako neuronske mreže uče?
Kao što već znamo, pojedini neuroni u neuronskim mrežama obrađuju informacije uz pomoć parametara (težina), kojima se dodjeljuju pojedinačne vrijednosti i veze. Te se težine mijenjaju tijekom procesa učenja, što vam omogućuje da prilagodite strukturu ove mreže na takav način da generira željeni rezultat. Kako točno mreža uči? Očito je, mora se stalno trenirati. Neka vas ova izreka ne iznenadi. I mi učimo, a taj proces nije kaotičan, nego, recimo, uređen. Mi to zovemo obrazovanje. U svakom slučaju, neuronske mreže se također mogu trenirati, a to se obično radi pomoću odgovarajuće odabranog skupa inputa, koji na neki način priprema mrežu za zadatke koje će obavljati u budućnosti. I sve se to ponavlja korak po korak, ponekad proces učenja donekle nalikuje samom procesu treninga.
Na primjer, ako je zadatak ove neuronske mreže prepoznavanje lica, ona je unaprijed obučena na velikom broju slika koje sadrže lica. U procesu učenja mijenjaju se težine i parametri skrivenih slojeva. Stručnjaci ovdje koriste izraz "minimizacija funkcije troškova". Troškovna funkcija je veličina koja nam govori koliko je određena neuronska mreža sklona pogreškama. Što više možemo minimizirati funkciju troškova kao rezultat obuke, to će ova neuronska mreža bolje funkcionirati u stvarnom svijetu. Najvažnija značajka koja razlikuje bilo koju neuronsku mrežu od zadatka programiranog pomoću klasičnog algoritma je da, u slučaju klasičnih algoritama, programer mora korak po korak osmisliti koje će radnje program izvoditi. U slučaju neuronskih mreža, sama mreža je sposobna sama naučiti ispravno izvršavati zadatke. I nitko ne zna točno kako složena neuronska mreža izvodi svoje izračune.
Danas se neuronske mreže široko koriste i, što je možda iznenađujuće, vrlo često bez razumijevanja kako računalni proces u određenoj mreži zapravo funkcionira. Nema potrebe za ovim. Programeri koriste gotove strojno naučene neuronske mreže koje su pripremljene za unos podataka određene vrste, obrađuju ih na samo njima poznat način i proizvode željeni rezultat. Programer ne mora znati kako proces zaključivanja funkcionira unutar neuronske mreže. Odnosno, osoba ostaje podalje od velikog broja izračuna, metode dobivanja informacija i njihove obrade neuronskim mrežama. Odakle određeni strahovi čovječanstva u pogledu modela umjetne inteligencije. Jednostavno se bojimo da će neuronska mreža jednog dana postaviti sebi određeni zadatak i samostalno, bez pomoći osobe, pronaći načine da ga riješi. To zabrinjava čovječanstvo, izaziva strah i nepovjerenje u korištenje algoritama strojnog učenja.
Ovaj utilitaristički pristup danas je uobičajen. Tako je i kod nas: znamo kako nekoga osposobiti za određenu aktivnost i znamo da će proces osposobljavanja biti učinkovit ako se pravilno izvede. Osoba će steći željene vještine. No razumijemo li točno kako se proces dedukcije odvija u njegovom mozgu, što je uzrokovalo ovaj učinak? Nemamo pojma.
Zadatak znanstvenika je proučavati te probleme što je više moguće, kako bi nam služili i pomogli tamo gdje je to potrebno, i što je najvažnije, ne bi postali prijetnja. Kao ljudi, bojimo se onoga što ne poznajemo.
Također zanimljivo: