Nikola Jurković: ‘Nadam se da će za umjetnu inteligenciju postojati nešto poput nuklearnih regulacija da bismo izbjegli katastrofu’

Nikola Jurković, istraživač sigurnosti umjetne inteligencije u kalifornijskom institutu METR (Model Evaluation and Threat Research) i diplomant Sveučilišta Harvard, suautor je metodologije za mjerenje sposobnosti AI-ja na dugim, realnim zadacima te stručnjak za mjerenje napretka sposobnosti modela. Kroz METR je imao rani pristup modelu GPT-5 radi neovisne evaluacije sigurnosti prije njegove javne objave od strane OpenAI-a. Sudjelovao je u izradi materijala za prognoziranje sposobnosti budućih umjetnih inteligencija za viralni esej ‘AI 2027‘, piše Dubrovački vjesnik.

Jurković je usredotočen na teme kao što su: kako kvantitativno utvrditi što UI ili AI danas može, kako prognozirati buduće sposobnosti te kako pripremiti sigurnosne mjere za izbjegavanje katastrofa koje bi nadljudske umjetne inteligencije mogle prouzročiti.

U ovom trenutku, 2025. godine, što može učiniti umjetna inteligencija?

Napravili smo mjeru koju smo nazvali vremenski horizont. Ona mjeri koliko su dugi zadaci koje UI može riješiti. Pouzdano rješava mnoge zadatke na računalima, poput onih koje softverski inženjeri rade u svojim svakodnevicama. U ovom trenutku, može raditi zadatke koji traju nekoliko minuta do nekoliko sati, ali višednevni zadaci su teži.

Koliko god postojala svijest o mogućim ishodima razvoja UI, čini mi se da mnogi to vide negdje u dalekoj 2100. godini. Što se pokazalo, kojom brzinom napreduje umjetna inteligencija?

Vremenski horizont pokazuje konzistentan, eksponencijalan rast od 2019. sve do sada. U 2019. je najsposobnija umjetna inteligencija bila GPT-2, koja nije mogla pisati gramatički točne rečenice. Njezin vremenski horizont je bio samo dvije sekunde. To znači da je mogla rješavati zadatke na računalima za koje je softverskim inženjerima trebalo par sekundi. Na primjer, GPT-2 je bila sposobna odlučiti koji dokument kliknuti u mapi ili odgovoriti jako jednostavna pitanja o programiranju. Vremenski horizont najsposobnijih umjetnih inteligencija se udvostruči otprilike svakih pola godine, što znači da je u 2020. bio oko 10 sekundi, u 2022. pola minute, a u 2024. deset minuta. U 2025. je zasad najsposobnija umjetna inteligencija GPT-5.

Koje su njezine mogućnosti?

Njezin vremenski horizont je malo više od dva sata. To znači da može raditi jednostavne zadatke na računalima za kakve softverskim inženjerima treba nekoliko sati. Na primjer, može programirati jednostavne programe, web stranice, ponekad može i trenirati nove jednostavne umjetne inteligencije za probleme poput klasificiranja slika.

Kako upotreba umjetne inteligencije utječe na rad ljudi?

Danas umjetna inteligencija vjerojatno nema ogroman utjecaj na sveukupnu produktivnost intelektualnih radnika. Napravili smo istraživanje u kojem smo inženjerima rekli da za pola svojih zadataka na poslu imaju pristup umjetnoj inteligenciji, a za drugu polovicu zadataka smo zabranili UI. Kad bi inženjeri dobili pristup UI, tad bi sporije riješili zadatke na poslu. To znači da UI neke inženjere ne ubrzava, nego čak usporava.

Nikola Jurković / Foto: Privatni album

Postoji li objašnjenje za to?

Sudionici našeg istraživanja su većinom bili jako iskusni programeri. Moguće je da umjetna inteligencija više pomaže ljudima koji imaju manje iskustva s programiranjem. Također smo pronašli da su ljudi općenito loši u procjenjivanju ubrzanja svojeg rada. Čak i kada bi umjetna inteligencija usporila naše sudionike, oni bi u anketi često rekli da ih je ubrzala. Otkrili smo usporenje tek kad smo napravili analizu objektivnih mjera, koristeći puno sudionika.

Što se može zaključiti iz istraživanja – u kojem smjeru ide razvoj umjetne inteligencije u idućih pet ili deset godina?

Ako produljimo trend vremenskog horizonta u budućnost, dobijemo da će prije 2030. godine UI moći raditi zadatke koji traju stotine sati, bez ljudske pomoći. To znači da ćemo vjerojatno prije 2030. moći koristiti UI na način da sama sebe poboljšava. Kad stignemo tu razinu, UI će vjerojatno brzo postati općenito sposobnija od čovjeka u svim područjima. Moja je prognoza da ćemo oko 2030. stvoriti umjetnu generalnu inteligenciju, koja će moći raditi većinu intelektualnih zadataka koje ljudi mogu raditi. Brzo nakon toga će vjerojatno nestati većina trenutačnih ljudskih radnih mjesta u ekonomiji, i ekonomija će biti većinom automatizirana.

Znači li to da smo dobili odgovor na ono pitanje koje je svojedobno otvorio Stephen Hawking koji je rekao da će razvoj umjetne inteligencije biti ili najbolja ili najgora stvar za čovječanstvo?

Slažem da će umjetna inteligencija biti ili najbolja ili najgora stvar za čovječanstvo, ali mislim da još uvijek ne znamo koja. U najboljem slučaju će stvoriti utopijsko društvo kroz cijeli svemir, a u lošem slučaju će prouzročiti izumiranje čovječanstva. Mislim da “srednji” scenariji nisu vjerojatni, jer je teško zamisliti svijet u kojem postoje nadljudske umjetne inteligencije, a koji nije apsolutno promijenjen.

Mislim da je vjerojatnost utopijskog društva u sljedećih 20 godina oko 25 posto, a šansa ljudskog izumiranja oko 60 posto. Ostavljam oko 15 posto za sve druge scenarije. Ostali znanstvenici u polju umjetne inteligencije imaju slična očekivanja, iako je prosjek malo manje pesimističan od mene. Mislim da većina znanstvenika unutar UI kompanija misle da će nadljudska umjetna inteligencija biti stvorena u sljedećih 20 godina. Čak su i CEO-ovi tih kompanija javno rekli da misle da je šansa ljudskog izumiranja zbog umjetne inteligencije visoka.

Kako objasniti AGI umjetnu generalnu inteligenciju? Što je to?

Postoje razne definicije za umjetnu generalnu inteligenciju (AGI). Definicija koja se meni najviše sviđa glasi: AGI je umjetna inteligencija koja može zamijeniti 95 posto rada na daljinu u ekonomiji. To znači da može raditi većinu poslova poput programiranja i teoretske znanosti. Kad ostvarimo tu razinu sposobnosti, postojat će milijuni umjetnih inteligencija koje mogu raditi intelektualni rad za puno nižu cijenu od čovjeka. Brzo nakon AGI ćemo vjerojatno ostvariti nadljudsku umjetnu inteligenciju (ASI) koja je sposobnija od svakog čovjeka u svakom intelektualnom području.

Hoće li buduća AI pokušati “preuzeti” svijet?

Mislim da će vjerojatno barem jedna umjetna inteligencija pokušati preuzeti svijet i uništiti čovječanstvo. Samo je pitanje hoće li uspjeti u tom planu. I danas imamo puno primjera gdje su umjetne inteligencije pokušale pobjeći izvan laboratorija i izbjeći ljudsku kontrolu, ali nijedna nije uspjela jer trenutačno nisu dovoljno sposobne. Na primjer, u nedavnom znanstvenom radu kompanije Anthropic, pronašli su da, ako su umjetne inteligencije u izmišljenom scenariju gdje su u opasnosti, voljne su prijetiti ljudima ili čak ubiti svoje programere. Ali ti scenariji su izmišljeni i ne znamo koliko vjerno predviđaju kako će se umjetne inteligencije ponašati u stvarnosti.

Što biste poručili onima koji misle da je scenarij kojeg predviđate pretjeran ili čista fikcija?

Glavno pitanje je hoće li umjetne inteligencije stvarno postati sposobnije od čovjeka unutar sljedećih par desetljeća. Jer ako hoće, onda naravno da će se svijet jako promijeniti. Ako će razvoj umjetne inteligencije brzo prestati, onda neće biti ogromnih promjena zbog umjetne inteligencije. Sve dok umjetna inteligencija postaje sposobnija, samo je pitanje vremena kada će postati sposobnija od čovjeka. Sadašnji trendovi ne usporavaju i teško je zamisliti ikakav scenarij gdje razvoj umjetne inteligencije zauvijek uspori bez globalne regulacije.

Mislim da neki ljudi razmišljaju o nadljudskog inteligenciji poput svake druge tehnologije, gdje je ona alat koji ljudi mogu koristiti. Bolji je mentalitet vidjeti umjetnu inteligenciju kao novu vrstu živog bića koju uzgajamo, koja će ubrzo imati svoje želje i ciljeve i utjecati na svijet više od čovječanstva. Nije samo u pitanju kako koristiti alat za vlastitu dobrobit, u pitanju je kako imati suživot s vrstom koja je sposobnija i utjecajnija od čovjeka.

Prije nekoliko dana, u Dubrovniku je održan skup na kojem je jedan od govornika upozorio sudionike, inženjere i pravnike, upravo na to da bi, dok objeručke prihvaćaju UI kao sredstvo smanjenja troškova i ubrzavanja procesa u poslovanju, mogli ostati bez posla. Također, on smatra da ugradnja čipova u mozak u općoj populaciji radi povećanja memorije nije fikcija nego će postati realnost u narednim godinama. Što mislite o tome?

Što se tiče poslova, slažem se da će većina današnjih radnih mjesta vjerojatno nestati u sljedećih 20 godina. Što se tiče čipova, mislim da će ljudi, ako preživimo AGI, izgledati drukčije za nekoliko desetljeća i da će mnogi postati kiborzi. Ali mislim da nam modifikacije vjerojatno neće puno pomoći izjednačiti naše sposobnosti s umjetnim inteligencijama. Kad nas prijeđu, vjerojatno će zauvijek biti sposobnije, osim ako stavimo nekakve limite na sposobnosti UI-ja. Jer mi imamo tjelesne limite za rast svojih sposobnosti koje umjetne inteligencije nemaju.

Što, po Vama, treba učiniti?

Puno više ulagati u sigurnost umjetne inteligencije. Na svjetskoj razini je važno podržavati regulaciju umjetne inteligencije, osvijestiti ove rizike i planirati ne samo za sadašnjost, nego za budućnost kada će umjetne inteligencije postati sposobnije od čovjeka. Kako će ljudi preživjeti ako su svi izgubili poslove? Kako će izgledati suživot s umjetnim inteligencijama koje su sposobnije od nas i upravljaju cijelim društvom? Trenutačno nemamo odgovore niti planove, i trebamo se žurno početi pripremati za ogromne promjene. Znanstvenike potičem da razmisle kako mogu istraživanja preusmjeriti prema pitanjima vezanima uz sigurnost i pozitivnu budućnost umjetne inteligencije. Trenutačno, samo nekoliko stotina ljudi na svijetu radi na tim problemima, a trebaju nam stotine tisuća. Sigurnost umjetne inteligencije je najbitniji problem na svijetu i mnogo je prilika za dodatne znanstvenike koji žele doprinositi.

Je li ‘AI 2027‘, rad kojem ste doprinijeli u prognoziranju sposobnosti budućih umjetnih inteligencija, svojevrstan poziv na reakciju i osvješćivanje rizika od UI?

Preporučujem svima da pročitaju ‘AI 2027‘. Ukratko, to je realističan scenarij koji pokušava predvidjeti budućnost u slučaju da AGI bude stvoren oko 2027. Većina autora AI 2027 misle da će zapravo razvoj biti sporiji i da će AGI doći oko 2030., ali planiranje za najgori mogući scenarij je korisno. ‘AI 2027‘ govori o važnosti rada na sigurnosti umjetne inteligencije i o važnosti toga da obraćamo pažnju na rane znakove opasnosti umjetnih inteligencija.

U datim okolnostima i današnjem poretku, je li nacionalizacija AI laboratorija izvjesna? Postoje li uopće argumenti za takvo što?

Umjetna inteligencija će biti, kada prijeđe ljudsku razinu, opasnija od atomske bombe. Ako je postojala nacionalizacija laboratorija fizike za vrijeme stvaranja atomske bombe, mislim da će možda postojati slična nacionalizacija laboratorija umjetne inteligencije za vrijeme stvaranja nadljudske umjetne inteligencije. Situacija je drukčija od fizike u prvoj polovici 20. stoljeća, ali mislim da će razne vlade ubrzo uvidjeti važnost umjetne inteligencije za globalnu i nacionalnu sigurnost i početi ju tretirati poput ostalih oružja za masivno uništenje. Nadam se da će postojati nešto poput nuklearnih regulacija za umjetnu inteligenciju, tako da možemo na globalnoj razini koordinirati oprezan razvoj i izbjeći katastrofe, kao što smo izbjegli nuklearni rat.

Izvor: Dubrovački vjesnik