Umjetna inteligencija (AI), odnosno njen razvoj i utjecaj na našu svakodnevnicu danas i u budućnosti, trenutno je svakako vrlo aktualna i vruća „tema“ o kojoj se puno priča. Ne samo u digitalnom svijetu, već i uopće. Ubrzan razvoj umjetne inteligencije i ponajprije najnovijih algoritama strojnog učenja, „dubokog“ učenja i neuronske mreže donio nam je velik broj novih potencijalnih mogućnosti primjene umjetne inteligencije u svakodnevnom životu, ali i posebice u poslovnom okruženju.
Dakako, neki oblici umjetne inteligencije već su dulje vremena prisutni u digitalnom svijetu, međutim, tek su sada daljnjim razvojem strojnog učenja i analize podataka dobili svoj novi uzlet. Za ovo je u dobroj mjeri zaslužna platforma odnosno inicijativa OpenAI, pri čemu je u posljednje vrijeme strelovitu popularnost doživio famozni ChatGPT koji je mogućnosti moderne umjetne inteligencije približio velikom broju znatiželjnih korisnika. Dovoljno je reći kako je Microsoft (uzgred budi rečeno, trenutno jedan od glavnih financijera OpenAI-ja) nedavno integrirao neke ChatGPT mogućnosti unutar Windowsa i svojih aplikacija u obliku AI asistenta pod nazivom Copilot.
Generativni AI - umjetna inteligencija novog doba
Premda je ChatGPT sam po sebi poprilično zanimljiva stvar i mnogima je prilično cool čavrljati s naprednim AI chatbotom, po nama daleko zanimljiviju primjenu mogućnosti moderne umjetne inteligencije predstavlja napredniji tzv. stvaralački AI (Generative AI). Ovdje govorimo o mogućnostima umjetne inteligencije da samostalno stvara posve novi sadržaj, bilo da je riječ o slikama, videu, animacijama ili glazbi, koji u dobroj mjeri sliči originalnom sadržaju kakav se koristi za „treniranje“ umjetne inteligencije pomoću algoritama dubokog učenja.
Premda autor ovog teksta možda pomalo naivno i prepotentno smatra kako ga još dugo u budućnosti neće moći zamijeniti nekakva umjetna inteligencija, stvaralački AI svakako donosi neke do sada teško zamislive mogućnosti u sferu digitalnog svijeta. Koliko god uzbudljive, toliko i pomalo zastrašujuće.
Nvidijine najnovije grafičke kartice serije RTX 4000 posjeduju odlične AI mogućnosti, s obzirom da se temelje na naprednoj arhitekturi Ada Lovelace i posjeduju četvrtu generaciju zasebnih AI hardverskih sklopova - Tensor jezgri
Napredna umjetna inteligencija i najmoderniji algoritmi strojnog učenja za uspješno funkcioniranje svakako zahtijevaju popriličnu hardversku snagu. Već sada postoji veliki broj internet aplikacija i servisa temeljenih na generativnom AI-ju (ChatGPT, Stable Diffusion, Midjourney, Dall-E i sl.) koji se oslanjaju na snagu moćnih superračunala koja se nalaze negdje u „oblaku“ i kojima pristupate na daljinu. Međutim, ovakvi servisi ovisni su o pristupu internetu, te se već sada sve više komercijaliziraju, što uključuje, primjerice, ograničenja po pitanju broja generiranih slika, veličine i njihovog spremanja.
Ovakve se usluge temelje na poslužiteljima koji se sastoje od velikog broja specifično dizajniranih grafičkih procesora posebno optimiziranih za primjenu kod strojnog učenja. Međutim, nas je zanimalo mogu li nam klasična mainstream računala omogućiti korištenje mogućnosti stvaralačkog AI-ja. Koliko su moderna računala doista pogodna za ovakvo nešto i kakve su im AI performanse? Kako bismo zadovoljili svoju znatiželju, pribavili smo dva stolna računala, srednje i nešto više klase, te jedan hardverski moćan laptop, te ih testirali po pitanju AI performansi. Koliko su moderni glavni i grafički procesor stvarno brzi u procesiranju zadataka koje pred njih postavlja stvaralačka umjetna inteligencija?
Koliko moćan hardver nam treba?
Ovdje valja naglasiti kako smo zapravo na samom početku razvoja glavnih i grafičkih procesora u smislu podrške za napredno procesiranje AI-ja. Nadalje, posve je jasno kako nije realno očekivati da jedno moderno, ma kako moćno mainstream računalo, ponudi iste mogućnosti kao velika superračunala. Svejedno, moderni grafički procesori već neko vrijeme sadrže zasebne hardverske AI sklopove, a od ove godine nešto slično prvi puta možemo vidjeti i kod glavnih procesora. Dakako, ovakvi AI hardverski sklopovi su do sada korišteni za sasvim drugačije funkcije (recimo, upscaling kada je u pitanju Nvidijina DLSS tehnologija). Posve smo, međutim, sigurni kako će podrška za AI performanse po pitanju stvaralačkog AI-ja biti itekako u prvom planu u bližoj budućnosti. Po tom pitanju smo tek na samom početku i zapravo trenutno ni nema mnogo aplikacija i testova koje možemo koristiti lokalno na svome računalu.
AMD-ov mainstream procesor Ryzen 7 7700 postigao je vrlo dobre rezultate u AI Inference benchmarku u kojem je nešto brži od Intelovog Core i5 13600K
Mi smo AI performanse testirali pomoću jednog benchmark alata unutar UL Procyon aplikacije pod nazivom AI Inference benchmark koji mjeri AI performanse procesora i grafičke kartice unutar Windows okruženja. Nadalje, koristili smo dostupne distribucije Stable Diffusiona namijenjene instalaciji lokalno na računalo. Stable Diffusion je trenutno najpoznatija i najpopularnija platforma, odnosno model „dubokog“ učenja, namijenjen stvaralačkom AI-ju koji je pritom u potpunosti open-source i vrlo se brzo razvija.
Na ovaj način smo putem jednog više općenitog testa performansi i jednog stvarnog testa primjene stvaralačkog AI-ja mogli dobiti zanimljiv uvid u AI performanse modernih računala. Ovdje smo, dakako, kao operacijski sustav odabrali Windowse, s obzirom da je ovo i najrasprostranjeniji OS kada govorimo o mainstream računalima i prosječnim korisnicima. Dakako da je Linux itekako opcija ukoliko se ozbiljnije mislite baviti mogućnostima stvaralačkog AI-ja, no mi smo se ovdje fokusirali na prosječnog korisnika i jednostavnost korištenja.
AI Inference Benchmark namijenjen je testiranju AI performansi procesora i grafičkih kartica pod Windowsima, a dio je Procyon softverskog paketa koji je razvila tvrtka UL
Windows ML - Microsoftova AI platforma
S obzirom da smo testiranja proveli koristeći Windows 11 i da smo ovdje fokusirani na Microsoftovo moderno OS okruženje, jedna od ključnih tehnologija koje su razvijene za potrebe strojnog učenja i AI performansi u Windowsima svakako je Windows ML, odnosno low-level API Direct ML. Što je zapravo Direct ML?
Ono što je Direct X u svijetu razvoja igara, odnosno grafičkih 3D mogućnosti, to je Direct ML kada govorimo o strojnom učenju i AI performansama. Direct ML je programsko sučelje koje omogućuje razvoj aplikacija i modela temeljenih na strojnom učenju i umjetnoj inteligenciji u Windowsima. Direct ML omogućuje korištenje mogućnosti modernih grafičkih procesora na pravi način, kao i zasebnih AI sklopova kod modernih čipova. Ove se mogućnosti mogu integrirati unutar „enginea“, primjerice, modernih igara, no mogu se koristiti i za neke druge aplikacije.
Postoje, dakako, i specifični alati koji su vezani za pojedine proizvođače hardvera, prvenstveno grafičkih procesora. Tako je Nvidia razvila CUDA razvojno okruženje koje je namijenjeno razvoju aplikacija koje koriste hardversku akceleraciju pomoću grafičkih procesora. Nadalje, Nvidijin TensorFlow je softverska biblioteka za dizajniranje i implementaciju numeričkih izračuna s primarnim fokusom na strojno učenje. Nvidijini grafički procesori već unatrag nekoliko generacija posjeduju zasebne AI sklopove tzv. Tensor jezgre, pa ovakvi razvojni alati pomažu boljem iskorištenju potencijala ovakvih zasebnih AI sklopova. Sve ove mogućnosti mogu utjecati na AI performanse. Odgovarajuće softversko okruženje i ponajprije optimizacija za procesiranja AI-ja i algoritama povezanih sa strojnim učenjem su u konačnici ključni za postizanje optimalnih performansi.
Za što bolje AI performanse bit će vam potrebna što moćnija, moderna grafička kartica s minimalno 8 GB video memorije. Nvidijine RTX 4000 kartice trenutno su najbolji izbor za AI
AI akceleracija na mainstream računalima – san ili java?
Hardverski gledano, na AI performanse kod modernih računala ponajviše će utjecati procesor i grafička kartica. Dakako, i ostale komponente računala (količina radne memorije, brzina diska) utjecat će sveukupno na brzinu rada, no ne toliko na brzinu izvođenja AI aplikacija.
Pritom glavnu ulogu u cijeloj priči svakako igra grafička kartica. Naime, tehnološki gledano, najnoviji grafički procesori su najpogodniji za brzo procesiranje AI zadataka. Posljedica je ovo njihovog kompleksnog i visoko paraleliziranog dizajna koji uključuje ogroman broj manjih efikasnih FP32 jedinica, što najnovijim grafičkim procesorima omogućuje veliku računalnu snagu. Ne treba, dakako, zaboraviti ni iznimno brz pristup jednako tako brzoj videomemoriji, što će biti od ključnog značaja za brzinu u aplikacijama koje se oslanjaju na „duboko“ i strojno učenje.
AMD po prvi put s najnovijom serijom RDNA3 grafičkih kartica, odnosno Radeonima RX 7000, donosi zasebne hardverske sklopove za akceleraciju AI performansi
Nadalje, već smo spomenuli zasebne hardverske AI sklopove. Zasad nije možda sasvim jasno na koji način oni utječu na AI performanse, ali svakako mogu pomoći ukoliko ih zadane aplikacije znaju iskoristiti. Nvidia već od svoje RTX 2000 serije kartica kod svojih grafičkih procesora integrira zasebne Tensor jezgre, odnosno hardverske sklopove primarno namijenjene AI akceleraciji. AMD tek s najnovijom RDNA3 generacijom grafičkih procesora, odnosno Radeonima serije RX 7000, uvodi nešto slično u smislu zasebnih AI jezgri (akceleratora). U principu će za što bolje AI performanse biti uputno koristiti što noviju grafičku karticu, međutim, to ne znači da nekoliko godina staro računalo nećete moći koristiti, primjerice, za Stable Diffusion.
Kada govorimo o procesorima, oni već u startu s obzirom na svoju arhitekturu i dizajn nisu toliko pogodni za primjenu kod AI aplikacija. Međutim, bez glavnog procesora računalo vam neće raditi, tako da će brži procesor svakako pomoći. Također smo ove godine mogli po prvi put vidjeti integraciju zasebnih hardverskih sklopova kod glavnih procesora. Zasad je riječ o Ryzen 7000 procesorima namijenjenim isključivo korištenju kod prijenosnih računala.
Moderni procesori visoke klase sve su više optimizirani za AI performanse, a najnovije generacije procesora posjedovat će zasebne AI hardverske sklopove
Međutim, priča je tek na samom početku. Intel je već najavio svoju najnoviju generaciju Meteor Lake procesora koji će posjedovati zaseban dio isključivo namijenjen izvođenju AI operacija. Gotovo smo sigurni kako će u bližoj budućnosti svi procesori biti opremljeni nekom verzijom zasebnog AI hardverskog sklopa.
Što se tiče konkretno računala na kojima smo ovog puta testirali AI performanse, trudili smo se uključiti Intelove i AMD-ove najnovije procesore, kao i Nvidijine i AMD-ove grafičke kartice. Tako smo, primjerice, testirali računala s Intelovim Core i5 13600K procesorom i AMD-ovim Ryzenom 7 7700. Također smo testirali Nvidijinu grafičku karticu RTX 4060 Ti i AMD-ov Radeon RX 6950XT. Za potrebe testiranja koristili smo i Asusov gaming laptop koji je bio opremljen Intelovim procesorom Core i7 13650HX i Nvidijinom grafičkom karticom RTX 4070 u laptop izdanju.
AI Inference benchmark - 3DMark za AI
Prvi testni alat koji nam je poslužio za testiranje općenitih AI performansi je AI Inference benchmark koji je dio većeg paketa UL-ovih benchmark alata pod nazivom Procyon. Tvrtka koju sada znamo pod nazivom UL ranije je bila poznatija pod imenom Futuremark. Već je dugo vremena prisutna u IT svijetu i razvila je neke od najpopularnijih benchmark alata za računala kao što su PCMark i 3DMark.
UL-ov Procyon set benchmark alata ponajprije je namijenjen poslovnim i profesionalnim korisnicima. AI Inference benchmark je dostupan u verziji za Android uređaje, te u varijanti koja radi pod Windowsom koju smo mi koristili. Trenutno je jedan od rijetkih ovakvih alata, ako ne i jedini, koji na jednostavan način omogućuje mjerenje i procjenu AI performansi modernog računala.
Za generiranje nešto kompleksnijih slika više rezolucije pomoću Stable Diffusiona trebat će vam osjetno više vremena, no konačan rezultat je impresivan
AI Inference benchmark se za procjenu AI performansi oslanja na više modela neuronske mreže kao što su MobileNet V3, Inception V4, YOLO V3, DeeLab V3, Real-ESRGN i ResNet 50. Ovi se modeli odnose na vizualno prepoznavanje, klasifikaciju slika, modele detekcije i prepoznavanja objekata na slici i sl.
AI Inference benchmark omogućuje testiranje AI performansi pomoću više softverskih modela i platformi kao što su Nvidia TensoRT, Qualcomm SNPE, Intel OpenVINO i Microsoft Windows ML.
Jedan od modela koje smo generirali pomoću Stable Diffusiona pokazuje nam što može stvaralački AI pogonjen mainstream grafičkom karticom
Mi smo pomoću AI Inference benchmark testa testirali ukupno tri procesora i tri grafičke kartice, a test omogućuje mjerenje AI performansi za cjelobrojne izračune i izračune s pomičnim zarezom. Prilikom testiranja koristili smo Float32, Float16 i Integer verzije testova za svaki pojedini procesor i grafičku karticu. Testirali smo primarno korištenjem Windows ML testa, dok smo za Nvidijine kartice proveli testiranje i pomoću TensorRT testa koji podržavaju isključivo novije Nvidijine kartice.
Ukoliko pogledamo rezultate AI Inference benchmark testa, ono što je odmah vidljivo jest koliko su grafičke kartice brže od procesora. Dakako, ovo nije nimalo neočekivano, no razlike su doista iznimno velike.
Mainstream Nvidijina kartica najnovije generacije RTX 4060 Ti pokazala se poprilično sposobnom po pitanju AI performansi i postigla je vrlo solidne rezultate u AI Inference benchmarku
Grafički procesor u službi umjetne inteligencije
Ukoliko pak usporedimo AMD-ove i Intelove procesore, u ovom se slučaju AMD-ov Ryzen 7 7700 pokazao bržim od Intelovog Core i5 13600K. U oba slučaja, riječ je o mainstream procesorima koji su inače po općenitim performansama dosta usporedivi. Moguće je da AI Inference benchmark ne prepoznaje pravilno Intelove energetski učinkovitije E jezgre, jer se ovaj Intelov procesor temelji na hibridnom dizajnu koji uključuje brže P i sporije te energetski efikasnije E jezgre.
AMD-ov procesor, s druge strane, ima ukupno osam Zen 4 jezgri. Vidljivo je također kako broj jezgri dosta utječe na AI performanse, barem ako je suditi prema ovom testu. Intelov mobilni procesor Core i7 13650HX ima identičnu konfiguraciju jezgri (6P+8E) kao i desktop Core i5 13600K, pa su im AI performanse gotovo podjednake. Iz ovoga bi se moglo zaključiti kako radni takt ne utječe previše na performanse, jer desktop Core i5 13600K radi na osjetno višem radnom taktu od procesora unutar laptopa.
Što se tiče grafičkih kartica, pogledamo li prije svega Windows ML test, Nvidijina RTX 4060 Ti je postigla vrlo dobre rezultate. Posebno u odnosu na AMD-ovog Radeona RX 6950 XT koji je inače u igrama osjetno brži. Međutim, kada su u pitanju AI performanse, RTX 4060 Ti se odlično drži i u nekim testovima je čak i ispred Radeona. Nismo sigurni koristi li Windows ML dio testa sve mogućnosti Nvidijinih Tesor AI jezgri, no zato smo proveli testiranja koristeći TensorRT testove. Pokazalo se da neke velike razlike u AI performansama nema, osim u slučaju Integer testova gdje smo zabilježili veliki porast performansi korištenjem TensorRT verzije testa.
Zanimljivo je također kako je RTX 4070 u laptop verziji postigla nešto slabije rezultate od RTX 4060 Ti unutar stolnog računala, premda su im hardverske osobine vrlo slične. Moguće je da osjetno manji limit potrošnje energije kod prijenosne RTX 4070 kartice ograničava performanse.
Moderna: računala s vrhunskim komponenatama mogu nam danas omogućiti stvaranje impresivnih slika i ilustracija pomoću umjetne inteligencije
Kako smo testirali
Za potrebe testiranja AI performansi na modernim računalima koristili smo dva stolna računala i jedno prijenosno računalo. Jedno stolno računalo bilo je temeljeno na Intelovom procesoru Core i5 13600K, 32 GB DDR4 memorije i AMD-ovoj grafičkoj kartici RX 6950 XT. Drugo je pak sadržavalo AMD-ov procesor Ryzen 7 7700, 32 GB DDR5 memorije i Nvidijinu karticu RTX 4060 TI. Što se tiče laptopa, on je posjedovao Intelov procesor Core i7 13650HX i Nvidijinu grafičku karticu RTX 4070 u laptop izvedbi.
Na sva računala instalirali smo Windows 11 Pro 22H2 sa svim najnovijim nadogradnjama, te najnovije dostupne upravljačke programe za grafičke kartice.
Kao općeniti AI test koristili smo AI Inference benchmark, gdje smo testirali AI performanse procesora i grafičkih kartica. Za test performansi stvaralačkog AI-ja u praktičnoj primjeni koristili smo Stable Diffusion. Ovaj test se fokusirao isključivo na brzinu grafičkih kartica. Testirali smo generirajući slike određena dva modela na osnovu jednostavnih uputa u rezoluciji 512 x 512 piksela, kao i generiranjem nove slike iz postojeće.
Stable Diffusion - stvaralački AI u open-source izdanju
Nakon općenitog testa AI performansi, došlo je vrijeme za zanimljiviji dio testiranja koji se odnosio na testiranje performansi u jednom od najpopularnijih i najpoznatijih modela za stvaralački AI, Stable Diffusionu. Stable Diffusion je model „dubokog“ učenja koji omogućuje kreiranje novog sadržaja pomoću mogućnosti umjetne inteligencije, bilo da je riječ o slikama, animacijama, ili videu.
Posebnost Stable Diffusiona je u tome što, usprkos velikoj popularnosti i profesionalnom korištenju, zapravo za ovaj model ne postoji komercijalno razvijen softver, već se kompletna implementacija bazira na velikom broju open-source aplikacija. Nadalje, Stable Diffusion možete koristiti lokalno na svojem računalu, no podržava isključivo grafičke kartice. Zahtijeva modernije grafičke kartice s poželjno 8 GB videomemorije ili više.
Pritom smo način instalacije na računalu lokalno proveli na najjednostavniji način koji je prikladan širem krugu korisnika. Aplikacije i datoteke koje smo preuzeli temelje se u potpunosti na web sučelju, za koje je korištenje jednostavnije. Kako biste najbrže i najjednostavnije instalirali te pokrenuli Stable Diffusion lokalno na svojem računalu, preporuka je preuzeti s GitHuba određene repozitorije datoteka koje omogućuju dobrim dijelom automatsku instalaciju.
Za instalaciju Stable Diffusiona lokalno na računalo s Nvidijinom karticom mi smo koristili Automatic1111 web UI, a upute i potrebne datoteke za preuzimanje možete vidjeti na ovom web linku: https://github.com/AUTOMATIC1111/stable-diffusion-webui. Nakon što preuzmete potrebne datoteke, valja pokrenuti update.bat i run.bat datoteke koje dalje omogućuju nadogradnju i automatsku instalaciju Stable Diffusiona i drugog softvera potrebnog kako bi sve radilo kako treba. Poznato je kako Automatic1111 najbolje radi s Nvidijinim karticama i omogućuje ponajbolje performanse.
Moderno hardverski moćnije prijenosno računalo također omogućuje solidne AI performanse, iako će stolna računala ponuditi veću brzinu, posebno za stvaralački AI
Neograničene mogućnosti
Za AMD-ovu karticu smo pak koristili nod-AI SHARK, dostupan na ovom web linku: https://github.com/nod-ai/SHARK. Instalacija je također prilično jednostavna i brza nakon što pokrenete odgovarajuću .exe datoteku. Nod-AI Shark daje puno bolje rezultate s AMD-ovim karticama u Stable Diffusionu.
Moramo ovdje reći kako se AI performanse u Stable Diffusionu mogu u nekim slučajevima osjetno poboljšati korištenjem nekih dodatnih ekstenzija i odgovarajućih optimizacija. Što se tiče Nvidije, prvenstveno mislimo na ekstenzije koje omogućuju korištenje Tensor jezgri, kao i korištenje Xformers biblioteke koja omogućuje bolje performanse kod nekih Nvidijinih kartica.
Kada govorimo pak o najnovijim AMD-ovim karticama, posebice Radeonima RX 7000 serije, moguće je višestruko poboljšati performanse u Stable Diffusionu ukoliko slijedite dosta kompliciranu instalaciju i optimizaciju pojedinih komponenata, a detaljne upute možete pronaći na ovom web linku: https://community.amd.com/t5/ai/how-to-running-optimized-automatic1111-stable-diffusion-webui-on/ba-p/625585.
Dakako, da je poželjno koristiti i što noviju verziju upravljačkih programa. Treba reći kako Nvidia i AMD konstantno s novim upravljačkim programima uvode nove optimizacije za AI performanse; prvenstveno kada su u pitanju aplikacije poput Stable Diffusiona. Tako da vjerujemo da već kada budete čitali ovaj tekst, nove verzije upravljačkih programa će moći omogućiti i bolje performanse. Intelove grafičke kartice također je moguće koristiti za Stable Diffusion, no nismo imali nijednu dostupnu tijekom testiranja, a i sama instalacija je nešto kompliciranija.
Naš cilj je bio testirati performanse u Stable Diffusionu na način na koji će ga vjerojatno koristiti većina prosječnih korisnika, hobista i entuzijasta. Za profesionalniju uporabu svakako vjerujemo kako ćete koristiti možda i neki drugi OS, kao i uložiti odgovarajuće vrijeme u dodatne optimizacije za postizanje optimalnih performansi.
Nakon instalacije Stable Diffusiona lokalno na računalo, pokrenut će se odgovarajući web UI koji omogućuje generiranje slike i nudi hrpu opcija za prilagodbu
Kakve su AI performanse?
Brzinu pojedinih grafičkih kartica u Stable Diffusionu testirali smo tako što smo AI-ju dali zadatak da generira određene slike i pritom smo mjerili vrijeme koje je za to potrebno. Ovdje smo testirali s dva modela, pri čemu stvar funkcionira na način da umjetna inteligencija na osnovu vaših tekstualnih uputa (prompts) generira željenu sliku (text-to-image). Ovako smo testirali s dva različita modela. Drugi dio testiranja odnosio se na generiranje nove slike na temelju postojeće (image-to-image).
Slike smo generirali u rezoluciji 512 x 512 piksela uz korištenje 100 koraka (steps). Kao metodu sampliranja koristili smo Euler. Dakako, web sučelje nudi i veliki broj drugih opcija za prilagodbu, no mi smo stvari pokušali maksimalno pojednostaviti.
U konačnici, pokazalo se da Stable Diffusion, konfiguriran na način na koji smo ranije naveli, radi prilično dobro na modernim računalima. Brzina i stabilnost su po našem mišljenju na vrlo zadovoljavajućoj razini.
Jedna od slika koju smo generirali u Stable Diffusionu za potrebe testiranja brzine grafičkih kartica
Prilično je impresivno kako ovakav model relativno kompleksnog stvaralačkog AI-ja temeljenog na „dubokom“ učenju funkcionira sasvim dobro lokalno na modernom mainstream računalu. Trebat će vam modernija i novija grafička kartica, ali rezultati su ohrabrujući. Pritom recimo kako ovdje nismo imali na raspolaganju nekakve iznimno skupe hardverske high end komponente.
Dakako, mi smo ovdje koristili relativno jednostavne tekstualne upute za generiranje slika, primjerice životinja, auta, prirode. Međutim, svakako veseli kako vam za ovakvu primjenu umjetne inteligencije ne treba nužno superračunalo.
Kada govorimo o samim performansama u Stable Diffusionu, Nvidijine kartice jesu u određenoj prednosti. Nvidijine kartice su općenito nešto bolje optimizirane za bilo koju vrstu aplikacija koje se oslanjaju na akceleraciju pomoću grafičkog procesora. Međutim, ono što je najvažnije za ovakvu AI primjenu je da posjedujete dovoljno novu i modernu grafičku karticu s barem 8 GB videomemorije. Poželjno je, dakako, imati grafičku karticu sa što više videomemorije. AMD-ove kartice će vam također ponuditi više nego dobre performanse u Stable Diffusionu.
Moramo napomenuti kako smo tek na samom početku optimizacije upravljačkih programa i cjelokupnog hardverskog okruženja za optimalne performanse kada je u pitanju stvaralački AI.
Osim generiranja sadržaja pomoću tekstualnih uputa (text-to-image), testirali smo i performanse generiranjem nove slike iz postojeće (image-to-image)
Što nas čeka u budućnosti?
U trenutku kada budete ovo čitali, vjerojatno će se već pojaviti nove verzije upravljačkih programa za AMD-ove i Nvidijine kartice s daljnjim optimizacijama performansi. Općenito, ukoliko se mislite na ovaj ili onaj način baviti stvaralačkim AI-jem na vlastitom računalu, preporučamo da pribavite najnovije serije grafičkih kartica, poput nekih od kartica Nvidijine RTX 4000 serije ili AMD-ove Radeone RX 7000. Ove kartice potencijalno nude ponajbolje performanse za AI primjenu, a posebno Radeoni RX 7000 predstavljaju prvu generaciju AMD-ovih grafičkih procesora s integriranim zasebnim hardverskim sklopovima za AI akceleraciju.
Zanimljivo je svakako naglasiti kako smo sa stolnim računalom s Nvidijinom karticom RTX 4060 Ti zabilježili osjetno bolje rezultate u Stable Diffusionu, nego je to bio slučaj s RTX 4070 u laptop verziji. Pritom su ove kartice po specifikacijama dosta slične (koriste istu najnoviju Ada Lovelace arhitekturu) i imaju istu količinu videomemorije. Iz ovoga bi se moglo zaključiti kako radni takt grafičkog procesora igra dosta veliku ulogu po pitanju performansi u Stable Diffusionu, jer je laptop kartica dosta ograničena po pitanju maksimalne potrošnje, a samim time i visine radnog takta.
Međutim, ovdje govorimo o prvim dojmovima i preliminarnim rezultatima. Tek smo na samom početku priče što se tiče AI performansi i vjerujemo kako će u budućnosti AI performanse biti itekako važan faktor u svijetu računala. Već sada je nedvojbeno započelo doba stvaralačkog AI-ja u računalnom svijetu.
Gotovo smo sigurni kako će u bližoj budućnosti svi moderni grafički i glavni procesori biti opremljeni zasebnim AI hardverskim sklopovima. Šef Intela Pat Gelsinger je nedavno najavio kako Intel očekuje do 2025. godine isporuku 100 milijuna računala s njihovim najnovijim procesorima koji donose napredne AI mogućnosti. Za sve hardverske tvrtke AI je golema prilika za novi uzlet i povećanje profita.
Posve je sigurno i kako nas očekuje daljnji ubrzani razvoj AI mogućnosti kod modernih računala, te kako će AI mogućnosti i funkcije povezane s umjetnom inteligencijom i strojnim učenjem biti sastavni dio mainstream računala u vrlo skoroj budućnosti.
Za testiranje performansi AMD-ovih grafičkih kartica u Stable Diffusionu koristili smo nod-AI SHARK
