EGZISTENCIJALNI RIZICI VEŠTAČKE INTELIGENCIJE: AI Ekspert Jošua Bendžio upozorava svet

2022. godine je postao i najcitiraniji informatičar na svetu i može se sa sigurnošću reči da veštačka inteligencija kakvu trenutno poznajemo, ne može postojati vez njega.

U intervjuu za Fajnenšal post, stručnjak je izrazio zabrinutost kolega zbog brzine napretka AI sistema.

- Ja i drugi smo zabrinuti zbog brzine napretka. To je motivisalo pisma u kojima u suštini tražimo od društva da ubrza proces upravljanja sistemima veštačke inteligencije sa svim potencijalnim problemima i štetama koje bi mogle biti povezane sa svim dobrim stvarima za koje razvijamo veštačku inteligenciju. - rekao je.

Na pitanje šta misli da će se sledeće desiti kakda je u pitanju razvoj i da li je njegovo predviđanje razlog za zabrinost, on je odgovorio "Da, naravno" i naglasio da ono što je očekivao da će se desiti se uveliko dešava i da očekuje globalni razgovor na tu temu. Spomenuo je da postoji mnogo neizvesnosti u vezi sa različitim scenarijima različitih vrsta štete i da su im potrebi ne samo ljudi iz ovog sektora već društveni naučnici, politikolozi i ekonomisti kako bi mogli da razmišljaju o mehanizmima upravljanja i kontramerama. 

- To će potrajati. Potrebne su nam vlade širom sveta da poboljšaju svoje zakone o veštačkoj inteligenciji. Potrebno nam je da se zajedno usaglase. Potrebno nam je mnogo više ulaganja u vrstu istraživanja koja su potrebna da bismo bolje zaštitili javnost. Dakle, postoje mnogo važnih stvari za koje mislim da smo čuli neke strašne komentare da bi AI mogao da uništi čovečanstvo od mojih kolega. Postoje različiti faktori, kada će AI biti inteligentniji od ljudi biti, što je po mojoj proceni, za nekoliko godina, ali možda i za nekoliko decenija - rekao je.

Takođe je naveo da postoje niz teških pitanja kao što je stvaranje nove vrste koja je pametnija od nas i kako možemo da je kontrolišemo a da ne deluje protiv nas i da ga zabrinjava jer još uvek nemamo odgovore na to pitanje, već samo diskusija i potreba da se razimišlja na datu temu.

Dotakao se i teme zakonodavstva, za šta je naveo da je Evropa ta koja prednjači u pogledu zakona o veštačkoj inteligenciji i smatra da tehnologija ne čeka ljudski spori parlamentalni proces.

- Ciljevi na nivou i regulacija, koja se može brzo prilagoditi kako se tehnologija bude menjala, će se baviti nekom vladinom agencijom, što je zaista važno jer je veoma teško predvideti sve potencijalne zlonamerne upotrebe koje će se pojaviti u narednom periodu - rekao je on.

Što se tiče mogućnosti i prednosti AI u sektorima rekao je da, naravno, IT kompanije imaju najviše korisiti, ali se brzo proširuje obim i na sektor zdravstvene zaštite što bi pomoglo za buduće pandemije, zatim kao pomoć sa klimatskim promenama, obrazovanjem kao i da postoji "zlatna groznica" zbog napretka u velikim jezičkim modelima jer oni zapravo razumeju jezik bolje nego ljudi.

- Kao naučnik veštačke inteligencije, jedna od stvari na koje se fokusiram je ono što nedostaje, na primer šta treba da uradimo sledeće da bismo ovi sistemi učinili korisnijim, robusnijim. Na primer, oni će sada imati tendenciju da ponekad haluciniraju, što bi ljudi rekli, što znači da će govoriti stvari koje su netačne, kao da su istinite, sa puno samopouzdanja, a to može biti, naravno, veoma opasno. Ako zamišljate autonomno vozilo, ne želite da se samouvereno radi kada bi to moglo da bude veoma konzervativno vrsta tehničkog problema na koji moja grupa i drugi istražuju.- rekao je u na kraju intervjua.

Nedavno je razgovarao i u podkastu Tejlora Ovena koji je podelio svoje utiske o njihovom razgovoru na svom JuTjub kanalu.

- Naučio sam tri zaista zanimljive stvari. Prvo, Bengio je imao svojevrsno prosvećenje, o čemu se naširoko govorilo u medijima. Bengio sada veruje da, bez kontrole, veštačka inteligencija ima potencijal da predstavlja egzistencijalnu pretnju čovečanstvu. Drugo, on zapravo misli da se podela oko ovog egzistencijalnog rizika, koji izgleda da postoji u naučnoj zajednici, preigrava. Treće, i zaista zanimljivo, on je zabrinut zbog podsticaja koji su prioritet u ovom trenutku komercijalizacije AI. Ovo je pravo upozorenje na koje mislim da moramo da obratimo pažnju. Nema sumnje da je istraživanje umnogome doprinelo trenutnom trenutku veštačke inteligencije u kojoj se nalazimo, ali se nadam da će njegov rad na riziku i bezbednosti oblikovati sledeći. - rekao je Oven.