Kao sugovornika u našoj AI kuharici imali smo i eminentnog stručnjaka s FER-a. Marko Horvat sa Zavoda za primjenjeno računarstvo autor je nekoliko radova o umjetnoj inteligenciji i ima podosta praktičnog znanja u radu s različitim AI altima.
Marko horvat: približio je korisne primjene umjetne inteligencije, probleme koje izaziva, ali i objasnio zašto je još daleko od ljudske razine razumijevanja
Koliko su još sustavi UI-a daleko od ljudske razine razumijevanja, a koliko su i u kojim segmentima blizu?
Razmišljanje o tome mogu li UI programi nadmašiti ljudsku inteligenciju i razinu razumijevanja često se veže uz pojam tehnološke singularnosti kao trenutka u kojem bi se AI razvio do te mjere da samostalno nastavlja vlastito usavršavanje eksponencijalnom brzinom i time vrlo brzo prestiže ljudske mogućnosti spoznaje, pa i sposobnosti našeg razumijevanja takvog rasta, što sve on uključuje i koji su njegove implikacije. Brojna djela znanstvene fantastike odavno koriste ove premise za razne distopijske zaplete koji neumitno uključuju uništenje ljudske vrste ili nadzor ljudi, u ulozi primitivnih divljaka, od strane savršeno logičnih računala superiorne inteligencije koju ne možemo dokučiti. Međutim, stvarnost je daleko složenija i bitno manje dramatična nego što takvi scenariji opisuju.
Kao što je već navedeno, ali iznimno je važno pa valja ponoviti: današnja generativna umjetna inteligencija, pogotovo jezični modeli, funkcioniraju statistički. Model pokušava predvidjeti najvjerojatniju sljedeću riječ u nizu na temelju golemog korpusa tekstova. Iako su ti modeli iznimno uspješni i generiraju složene rečenice često toliko uvjerljive da se stječe dojam da „razmišljaju“, u srži je riječ o izračunu vjerojatnosti i interpretaciji naučenih obrazaca u tekstu. Drugim riječima, takav UI model nema informaciju što je dobro, loše, ispravno ili pogrešno – on samo statistički povezuje nizove riječi iz podataka koje je prethodno dobio. To se može proširiti i na druge medije (npr. generiranje slika i videa), no princip ostaje isti: prepoznavanje ili generiranje obrazaca na temelju onoga što je prethodno naučio iz primjera.
Nadalje, UI sustavi nemaju modele fizičke stvarnosti i time niti dubinsko razumijevanje stvarnog svijeta. Primjerice, ne razumiju što je gravitacija, kako fizikalne sile djeluju na objekte u prostoru, kako se prenosi zvuk kroz medij, ili da vatra može zapaliti papir. Sve što zna, naučeno je iz tekstova ili podataka koje su mu ljudi omogućili. Osim toga, često rezultati sadržavaju tzv. „halucinacije“ što nije greška, već inherentno svojstvo dubokih neuronskih modela da generiraju podatke koji ne postoje.
Istina, istraživanje novih arhitektura poput Mixture of Experts i višeagentskih sustava sugerira da će UI postajati sve učinkovitiji, pogotovo u uskim domenama. No, s druge strane, statistički pristup u temeljima AI sustava implicira da su još uvijek daleko od ljudske razine razumijevanja i odlučivanja, i po svojoj prilici biti će tako u dogledno vrijeme.
Što se tiče domena primjene, osim svima očitih postignuća u obradi prirodnoga jezika (Natural Language Processing, NLP) korištenih u razgovornim agentima treniranima na velikim količinama općih podataka, i u računalnom vidu, prepoznavanju objekata i interpretaciji scene demonstrirano u samoupravljivim vozilima već svima dostupnima, a ne samo istraživačkim laboratorijima, umjetna inteligencija pokazuje snažan napredak u cijelom nizu drugih područja primjene, iako ih možda šira javnost ne primjećuje.
Primjerice, u medicini i biotehnologiji UI se koristi za brže otkrivanje novih lijekova, personaliziranu terapiju te inteligentnu podržanu radiološku dijagnostiku. U analizi podataka i prediktivnom modeliranju važnu ulogu imaju brojne primjene UI pri optimizaciji energetskih, ekoloških i financijskih procesa, uključujući logistiku i transport. U graditeljstvu UI modeli analiziraju i predlažu lakše, čvršće i energetski učinkovitije konstrukcije. Prediktivno održavanje je postalo standard visokotehnoloških industrija, a sve se više uvodi pametna automatizacija. Također, UI sve više pronalazi svoje mjesto u edukaciji i obrazovanju, detekciji pažnje, zamora i afektivnih stanja osoba, te za personalizaciju nastavnih sadržaja. Ovo su tek neke primjene.
Manje ili više poslova?
Koji poslovi su prvi ugroženi pojavom raširenijih AI alata i zašto AI nije prijetnja te na koji način bi ljudi trebali razmišljati o njegovoj uporabi/učenju pravilnog korištenja?
Prvi ugroženi poslovi su oni koji su visoko repetitivni, odnosno temelje se na stalnom ponavljanju istih radnji, uz vrlo ograničenu potrebu za kreativnošću, prosudbom ili interpretacijom. To uključuje različite administrativne poslove, osnovne uredske i pomoćne tehničke zadatke, inicijalnu obradu podataka, pa čak i neke rutinske oblike pisanja ili izrade vizualnih sadržaja.
Ipak, smatram da umjetna inteligencija nije prijetnja, nego izazov koji traži prilagodbu, a istodobno i prilika za osobni i profesionalni rast. Ključno je kako ćemo pristupiti njezinu korištenju. Umjesto da je se bojimo, trebali bismo je razumjeti i učiti koristiti promišljeno i odgovorno. U tom smislu, smatram da obrazovni sustav, ali i sustav cjeloživotnog učenja, moraju hitno reagirati i ponuditi sadržaje koji će omogućiti svakom pojedincu da razumije osnove rada velikih jezičnih modela, mogućnosti i ograničenja generativne AI, kao i vještine njezina pravilnog korištenja.
Trebamo imati na umu da UI program, ma kako bio složen ili se njegovo ponašanje nama činilo slično ljudskim (npr. igra šah, generira nama razumljive rečenice, upravlja osobnim automobilom) i dalje je samo računalni program, a računala nemaju samosvijest, volju, osjećaje, pa niti inteligenciju u ljudskom smislu. Dapače, otvoreno je pitanje da li uopće imaju inteligenciju.
Još 1979. god. IBM je na jednoj prezentaciji naveo: „Računalo nikad ne može biti odgovorno, stoga računalo nikad ne smije donijeti upravljačke odluke“. Isto vrijedi i danas. Svaki UI sustav nastaje na temelju programskog koda kojeg oblikuju ljudi – od definicije ciljeva i parametara rada, korištenih tehnologija, do odabira podataka, stoga odgovorni su oni koji su izradili ili oni koji koriste UI program.Ovo je otvoreno pitanje i stoga je važna učinkovita i snažna pravna regulacija. Primjerice, ako autonomno vozilo izazove prometnu nesreću, tko je odgovoran? Proizvođač vozila, vozač, sudionik u prometnoj nesreći ili možda vlasnik prometne infrastrukture? Isto možemo razmišljati za financijske i druge štete nastale greškama u radu bilo kojeg UI programa. Nedavno donesen pravni okvir EU Artificial Intelligence Act (EU AI Act) je prva sveobuhvatna regulativa o umjetnoj inteligenciji na svijetu i predstavlja važan korak u prevenciji i otklanjanju posljedica nastalih pogreškama AI sustava danas i u budućnosti.
U konačnici, ljudi su oni koju bi trebali znati postavljati prava pitanja, razumjeti širi kontekst i kritički vrednovati informacije. I takvi će uvijek imati prednost. Umjetna inteligencija može biti alat, ali čovjek je taj koji postavlja cilj.
Tko je odgovoran: u slučaju kada sustavi pokretani umjetnom inteligencijom naprave ozbiljne propuste poput nesreće u slučaju autonomnih vozila?
Neetičko korištenje AI-a
Koje su pozitivne i negativne posljedice primjene AI alata u znanosti i možete li navesti neki primjer?
Primjena alata generativne umjetne inteligencije u znanosti donosi niz pozitivnih pomaka, ali i izazove koje akademska zajednica mora sustavno riješiti.
Primarno s pozitivne strane, veliki jezični modeli su prvenstveno – kako i njihovo ime sugerira – jezični alati. Oni uvelike olakšavaju i ubrzavaju pisanje akademskih tekstova, osobito onima kojima engleski nije materinji jezik. Ovaj trend je itekako uočljiv s kontinuiranim porastom broja znanstvenih radova svih područja i polja od početka 2023. godine. Kvaliteta engleskog jezika, pravopisa i gramatike, sad je svima jednako dostupna. Međutim, uz ovu pogodnost dolazi i ozbiljna opasnost: uniformnost izražavanja. Sve više radova koristi iste riječi, jezične konstrukcije i fraze, ponekad bez jasnog razumijevanja sadržaja koji se prenosi u generiranom tekstu. Nažalost, svjedoci smo i takvih neodgovornih pojava gdje pojedini „znanstvenici“ (navodnici su namjerni) potpuno nekritički kopiraju cjelovit izlazni tekst dobiven modelom koji počinje s tipičnom frazom „I’m only a language model…“ i dalje nastavljaju sa sažetom ili uvodom „vlastitog autorskog“ članka.
Pa ipak, osim pisanja teksta generativna UI može značajno ubrzati brojne znanstvene procese, od pronalaska i klasifikacije relevantne literature, preko izrade konceptualnih prijedloga i nacrta znanstvenih radova, do pisanja programskog koda za simulacije i analize podataka statističkim metodama i strojnim učenjem, te generiranja vizualizacija.
Alati generativne UI omogućuju znanstvenicima da brže stignu do kvalitetnijih i opsežniji prezentacija nacrta istraživanja, brže analiziraju rezultate i lakše komuniciraju vlastite ideje.
Posebno možemo istaknuti uporabu generativnih modela za pisanje programskih skripti u Pythonu, obradu slika, simulacije ili oblikovanje znanstvenih postera i prezentacija. Uz to, smanjuje se administrativno opterećenje i povećava dostupnost stručne pomoći u područjima izvan primarne ekspertize istraživača (npr. kod statističke obrade podataka ili gramatičke dorade teksta na engleskom jeziku).
No, s druge strane, takva tehnologija nosi i potencijalne negativne posljedice. Osim već navedenog nekritičkog pisanja znanstvenih radova, postoji rizik od pasivizacije istraživača. Ako UI obavlja sve pripremne korake, može se dogoditi da znanstvenik ne razumije u potpunosti metodologiju koju primjenjuje. Ili područje s kojim se bavi. Drugo, sustavi generativne umjetne inteligencije skloni su tzv. halucinacijama, tj. izmišljanju podataka, činjenica, matematičkih izvoda i citata radova. To znači da je svaku tvrdnju generiranu takvim sustavom obavezno i nužno provjeriti! To traži dodatno znanje, vrijeme i pažnju, a ne manje angažmana. Dapače, po nekim nedavnim istraživanjima stariji (senior) programeri manje su efikasni ako koriste vibe programiranje, automatizirano generiranje programskog koda, nego kada tradicionalno programiraju.
Treće, primjena umjetne inteligencije u pisanju znanstvenih članaka otvara niz složenih etičkih pitanja. Prvi znanstveni radovi u kojima je korišten ChatGPT, objavljeni krajem 2022. godine, išli su toliko daleko da su AI agenta navodili kao jednog od autora, uz izraze zahvalnosti za njegovu „stručnost“ i „učinkovitost“. No postavlja se opravdano pitanje: je li prihvatljivo prepustiti generativnom alatu oblikovanje uvoda ili zaključka bez temeljite stručne revizije? Odgovor je nedvojbeno – ne, nije. Danas se u akademskoj zajednici takva praksa smatra neetičnom, a očekuje se da se vrlo precizno navede u kojim je segmentima rada korištena pomoć alata generativne umjetne inteligencije. Transparentnost u korištenju ovih alata postaje nova norma akademske čestitosti.
Recenziranje znanstvenih radova pomoću velikih jezičnih modela, kao i umetanje prikrivenih upita (prompt injection) u tekst ili slike članka s ciljem da LLM-ovi pozitivno ocijene rad, predstavlja dodatnu razinu neetičnog ponašanja. Riječ je o ozbiljnom problemu koji nadilazi okvire ovog pitanja i zaslužuje posebni osvrt u zasebnom članku.
Ovo je tek jedan od recepata iz naše VIDI AI kuharice
 |
Nastavite s čitanjem ostalih poglavlja i cjelina unutar serijala "VIDI AI kuharica"Početna prašina oko generativnog AI se donekle slegla i još nas većinom nije zamijenila umjetna inteligencija. No, i dalje je i sve više oko nas, a ti se alati s predznakom AI-a s malo znanja mogu iskoristiti kao nadogradnja vaših poslovnih ili privatnih alata. Zaronili smo u vrlo napućen svijet AI alata i izronili s našom kuharicom u kojoj možete naći gotove recepte ili samo sastojke s kojima uz malo truda vi možete stvoriti svoj recept. |
