Džefri Hinton, jedan od takozvanih kumova veštačke inteligencije (AI), pozvao je vlade da se umešaju i pobrinu da mašine ne preuzmu kontrolu nad društvom.
Hinton je dospeo na naslovne strane u maju, kada je objavio da je napustio Gugl posle decenije rada da bi slobodnije govorio o opasnostima veštačke inteligencije, ubrzo nakon što je objavljivanje ChatGPT (ČetDŽiPiTi) zaokupilo maštu sveta.
Veoma cenjeni naučnik u oblasti veštačke inteligencije, sa sedištem na Univerzitetu u Torontu, govorio je publici u prepunoj sali na konferenciji o tehnologiji "Koližn" ("Sudar") u tom kanadskom gradu.
Konferencija je okupila više od 30.000 osnivača startapa, investitora i tehnoloških radnika, od kojih većina žele da nauče kako da upravljaju talasom veštačke inteligencije i da ne slušaju lekcije o opasnostima koje on nosi.
"Pre nego što veštačka inteligencija bude pametnija od nas, mislim da ljude koji je razvijaju treba ohrabriti da ulože mnogo truda u razumevanje kako bi mogla da pokuša da preuzme kontrolu", rekao je Hinton.
"Trenutno postoji 99 veoma pametnih ljudi koji pokušavaju da poboljšaju veštačku inteligenciju i jedna veoma pametna osoba koja pokušava da shvati kako da zaustavi to da ona preuzme (sve) i koja možda želi da bude uravnoteženija", rekao je on.
AI bi mogao da produbi nejednakost, dodao je Hinton, upozoravajući da rizike koje donosi veštačka inteligencija treba shvatiti ozbiljno uprkos njegovim kritičarima koji veruju da preteruje sa pričom o rizicima.
"Mislim da je važno da ljudi shvate da ovo nije naučna fantastika, da ovo nije samo izazivanje straha", insistirao je on. "To je pravi rizik o kome moramo da razmišljamo i moramo unapred da smislimo kako da se nosimo sa njim".
Hinton je takođe izrazio zabrinutost da će veštačka inteligencija produbiti nejednakost, sa ogromnim povećanjem produktivnosti zbog njenog korišćenja u korist bogatih, a ne radnika.
"Bogatstvo neće ići ljudima koji rade. Ući će u to tako da bogatiji budu oni bogati, a ne oni siromašniji, a to je veoma loše za društvo", dodao je on.
Takođe je ukazao na opasnost od lažnih vesti koje kreiraju botovi u stilu ChatGPT-a i rekao da se nada da bi sadržaj generisan veštačkom inteligencijom mogao da bude obeležen na način sličan onome kako centralne banke označavaju vodenim žigom gotovinski novac.
"Veoma je važno da pokušamo, na primer, da sve što je lažno označimo kao lažno. Da li to možemo tehnički da uradimo, ne znam", rekao je on.
Evropska unija razmatra takvu tehniku u svom zakonu o veštačkoj inteligenciji, zakonu koji će postaviti pravila za veštačku inteligenciju u Evropi, o čemu pregovaraju zakonodavci.
"Prenaseljenost na Marsu"
Hintonova lista opasnosti od veštačke inteligencije u suprotnosti je sa diskusijama na konferencijama koje su bile manje o bezbednosti i pretnjama, a više o iskorištavanju prilike stvorene pojavom ChatGPT-a.
Investitorka rizičnog kapitala Sara Guo rekla je da je priča o AI kao egzistencijalnoj pretnji preuranjena i uporedila je sa "govorom o prenaseljenosti na Marsu", citirajući drugog gurua veštačke inteligencije, Endrua Nga.
Ona je takođe upozorila na "zarobljavanje putem propisa" koje bi dovelo do toga da vladina intervencija zaštiti aktuelne službenike pre nego što bude imala priliku da se koristi sektorima kao što su zdravstvo, obrazovanje ili nauka.
Mišljenja su se razlikovala o tome da li će trenutni generativni giganti veštačke inteligencije, koji uglavnom podržavaju Majkosoft OpenAI i Gugl, ostati bez premca ili će novi akteri proširiti polje sopstvenim modelima i inovacijama.
"Za pet godina i dalje zamišljam da ako želite da odete i pronađete najbolji, najtačniji, najnapredniji opšti model, verovatno ćete morati da idete u jednu od retkih kompanija koje imaju kapital da to urade", rekla je Li Mari Brasvel iz kompanije za rizični kapital Kleiner Perkins.
Zakari Bratun-Glenon iz Gredient Venčeresa rekao je da predviđa budućnost u kojoj će "postojati milioni modela širom mreže, slično kao što danas imamo mrežu veb stranica".
