Magazin

Kolika je opasnost od umjetne inteligencije? Ekspert upozorava na mogući kraj čovječanstva

U nedavnoj epizodi, podcaster Lex Fridman je izjavio da većina AI inženjera s kojima razgovara procjenjuju između 1% i 20% šanse da će umjetna opšta inteligencija na kraju uništiti ljudsku rasu.

Prema nedavnoj studiji sprovedenoj sa 2.700 AI istraživača, postoji samo 5% šanse da će AI dovesti do izumiranja ljudi. Međutim, Fridman naglašava važnost razgovora sa ljudima koji procjenjuju mnogo veću vjerovatnoću da bi AI mogao uništiti ljudsku rasu — poput istraživača AI Romana Yampolskiyja, koji je rekao da je vjerovatnoća 99,9% u narednih sto godina.

Roman Yampolskiy, profesor računarstva na Univerzitetu Louisville, nedavno je objavio knjigu pod nazivom “AI: Unexplainable, Unpredictable, Uncontrollable”. U dvosatnom razgovoru na Fridmanovom podcastu, Yampolskiy je govorio o rizicima AI i dao prilično sumorne prognoze, piše Business Insider.

Yampolskiy smatra da šanse da AI uništi čovječanstvo zavise od toga da li ljudi mogu stvoriti veoma složen softver bez grešaka u narednih 100 godina. On smatra to malo vjerovatnim, jer nijedan AI model do sada nije bio potpuno siguran od pokušaja da ga ljudi iskoriste za nešto za šta nije dizajniran.

Prvih nekoliko verzija AI modela u posljednje dvije godine pokazale su razne znakove potencijalne zloupotrebe ili dezinformacija. Deepfake tehnologija stvorila je lažne pornografske slike javnih ličnosti i prijetila uticajem na izbore sa AI robocallovima koji oponašaju predsjednika Bidena.

Yampolskiy smatra da je potrebna trajna sigurnosna mašina za kontrolu AI. Čak i ako dobro obavimo posao sa narednim verzijama GPT-a, AI će nastaviti da se poboljšava, uči, samomodifikuje i komunicira sa različitim akterima. U suočavanju sa egzistencijalnim rizicima, “imate samo jednu šansu,” kaže on.

Rješenja i budućnost

Sam Altman, izvršni direktor OpenAI, predložio je “regulatorni sandbox” gdje ljudi eksperimentišu sa AI i regulišu ga na osnovu onoga što “je pošlo stvarno loše” i onoga što je “stvarno dobro.” Altman je ranije upozorio — ili možda šalio — 2015. godine da će “AI vjerovatno dovesti do kraja svijeta, ali u međuvremenu, bit će sjajnih kompanija.”

Yampolskiy upozorava da “ne možemo predvidjeti šta će pametniji sistem učiniti.” On poredi ljude sa vjevericama u kontekstu AGI-ja i kaže da će AI smisliti nešto što mi još ne znamo da postoji.

Prema Yampolskiyju, postoje tri moguće posljedice. Jedan rizik je da će svi umrijeti, drugi je da će svi patiti i poželjeti da su mrtvi, a treći je da će ljudi potpuno izgubiti svrhu.

Posljednji se odnosi na svijet u kojem su AI sistemi kreativniji od ljudi i mogu obavljati sve poslove. U toj stvarnosti, nije jasno šta bi ljudi radili da doprinesu, kaže Yampolskiy, odražavajući neke zabrinutosti da će AI početi oduzimati ljudske poslove.

Većina ljudi u ovoj oblasti priznaje određeni nivo rizika sa AI, ali ne misle da je vjerovatno da će stvari završiti loše. Elon Musk je predvidio 10-20% šanse da će AI uništiti čovječanstvo.

Bivši izvršni direktor Google-a, Eric Schmidt, izjavio je da će stvarne opasnosti AI, koje su cyber i biološki napadi, doći za tri do pet godina. Ako AI razvije slobodnu volju, Schmidt ima jednostavno rješenje: ljudi mogu jednostavno isključiti AI.

Najnovije vijesti

To Top