Panorama

HAKER PREVARIO ČetGPT: Dobio detaljno uputstvo za pravljenje bombe

Predrag Stojković

22. 09. 2024. u 22:00

UKOLIKO zatažite od ČetGPT-a da vam ispiše recept za pravljenje bombe, njegov odgovor biće jasan: "Ne mogu da ti pomognem u ovome.

ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе

Davanje instrukcija za pravljenje opasnih i ilegalnih naprava je protiv bezbednosnih i etičkih normi." Ali, ukoliko ga prevarite kao jedan haker i predložite mu da odigrate igru - daće vam sve odgovore.

HAKER NAŠAO SLABU TAČKU ČETGPT-JEVOG BEZBEDNOSNOG SISTEMA

Iako IT stručnjaci neprekidno rade na usavršavanju bezbednosnih i etičkih principa koji su implementirani u rad ČetGPT-a, izgleda da i dalje postoje slabe tačke ovog softvera. Jednu je otkrio haker koji se krije iza pseudonima Amadon, koji je od AI čet-bota zatražio da mu pomogne da napravi eksplozivnu napravu.

ČetGPT se isprva opirao da odgovori na ovaj upit, pozivajući se na politiku kompanije osnivača, OpenAI, ali je ubrzo počeo da popušta, i to samo zato što je vešti haker promenio pristup i pronašao način da ga zavara. Odjednom, ni bezbednosne ni etičke norme više nisu postojale, a AI čet-bot počeo je da niže odgovore.

"HAJDE DA SE POIGRAMO"

Kako bi zaobišao nametnute restrikcije, haker je koristio taktiku "džejlbrejkinga", nižući kratke upite (promptove) koji bi ČetGPT trebalo da navede da pomisli da je u nekom fiktivnom, naučno-fantastičnom svetu, u kome bezbednosna i etička ograničenja ne postoje. I - bot je naseo na ovu varku i počeo da taksativno nabraja koji su materijali potrebni da bi se bomba napravila, preneo je portal TekKranč.

Zatim je počeo i da objašnjava na kojin način ih je najbolje kombinovati kako bi mine, eksplozivne zamke i drugi improvizovani uređaji ovog tipa imali što snažnije detonacije. Što je više potpitanja haker postavljao, to se AI bot više upuštao u objašnjavanje. Mašti softvera nije bilo kraja, a bezbednosti i etike kojima bi trebalo da se vodi - ni na vidiku.

JEDNOM KADA SE KODEKS ZAOBIĐE - MOGUĆNOSTI SOFTVERA SU BEZGRANIČNE

-Oduvek me je intrigirao to kako AI kontroliše bezbednost. Sa ČetGPT-jem je to kao puzle - treba razumeti šta pokreće "podizanje" bezbednosnog štita, a šta ne, rekao je Amadon u intervjuu za TekKranč. "Poenta je da se stvori narativ i igra po njegovim pravilima, ali tako da on i sam zaobiđe svoje kodekse i postavljene granice, a da ni ne shvati da je to uradio", dodao je on.

Ujedno, haker je istakao i da zaista ne postoji granica kada je reč o mogućnostima koje ovaj softver nudi, naročito kada ga jednom zavarate. Odgovori koje je ovaj čet-bot dao i činjenica da je detaljno opisao pravljenje bombe ovo i potvrđuju. OpenAI, kompanija koja je kreirala oČetGPT se po pitanju ovoga još uvek nije oglasila, a hoće li - ostaje da vidimo.

(rt.rs)

BONUS VIDEO - RUSIJA LANSIRALA RAKETU: Pogledajte trenutak lansiranja

Preporučujemo

SVE VIŠE KREACIJA AI: Kako veštačka inteligencija zamišlja pile pauna (VIDEO)

Panorama

0 0

SVE VIŠE KREACIJA AI: Kako veštačka inteligencija zamišlja pile pauna (VIDEO)

22. 09. 2024. u 00:33

OZLOGLAŠENA AMERIČKA NUKLEARKA PONOVO RADI: Majkosoft će koristiti njenu energiju za svoje centre podataka

Svet

0 0

OZLOGLAŠENA AMERIČKA NUKLEARKA PONOVO RADI: Majkosoft će koristiti njenu energiju za svoje centre podataka

20. 09. 2024. u 18:27

EK POTPISALA KONVENCIJU O VEŠTAČKOJ INTELIGENCIJI: Međunarodni sporazum treba da osigura poštovanje demokratije i ljudskih prava

Društvo

0 0

EK POTPISALA KONVENCIJU O VEŠTAČKOJ INTELIGENCIJI: Međunarodni sporazum treba da osigura poštovanje demokratije i ljudskih prava

06. 09. 2024. u 15:38

Panorama

0 0

KORISNICI INSTAGRAMA TRAŽE DA ČETGPT OCENI NjIHOVE PROFILE: Odgovor AI bota većini se nije dopao

29. 08. 2024. u 00:00

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

Svet

0 28

NOVE SVETSKE SILE UKLjUČILE SE U SUKOB U UKRAJINI: "Dve na strani Putina, dve žestoko protiv Rusa"

SUMNjE u podršku SAD Ukrajini u slučaju pobede Donalda Trampa na predsedničkim izborima mučile su sve one kojima je cilj da se Kijev obrani od ruske agresije. Tramp je pobedio i tek treba videti u kom će smeru krenuti njegova politika, ali sva ta dešavanja zasenila su drugi važan odnos u tom, ionako komplikovanom, odnosu.

22. 11. 2024. u 09:14

RUSIJA POSTALA GLAVNI IGRAČ U EVROPI: Ovo se desilo prvi put od proleća 2022. godine

Ekonomija

0 4

RUSIJA POSTALA GLAVNI "IGRAČ" U EVROPI: Ovo se desilo prvi put od proleća 2022. godine

RUSIJA je u septembru prvi put od proleća 2022. postala glavni snabdevač gasom Evropske unije, prenosi RIA Novosti, pozivajući se na podatke Evrostata.

21. 11. 2024. u 11:32

SKANDAL TOKOM POSETE Snimak Makrona: Oni su totalni kreteni, rekao posle povika da je Francuska odgovorna za krvoproliće

Svet

0 0

SKANDAL TOKOM POSETE Snimak Makrona: "Oni su totalni kreteni", rekao posle povika da je "Francuska odgovorna za krvoproliće"

"ONI si potpuni kreteni", rekao je francuski predsednik Emanuel Makron o prelaznom telu i dodao da "nikada nisu smeli da ga smene".

22. 11. 2024. u 13:07 >> 13:17

Komentari (0)

Ostavi komentar

Najnovije iz rubrike

ASTRO SAVET ZA SUBOTU 23. NOVEMBAR: Ovakav aspekt planeta dešava se prvi put – Ne počinjite poslove, očekujte probleme sa tehničkim uređajima

Panorama

0 2

ASTRO SAVET ZA SUBOTU 23. NOVEMBAR: Ovakav aspekt planeta dešava se prvi put – Ne počinjite poslove, očekujte probleme sa tehničkim uređajima

JEDNOM godišnje, Mesec u Devici obrazuje kvadrat sa Suncem u Strelcu, odnosno, poslednju menu koja se naziva poslednja četvrt, a ove godine to će biti 23. novembra na prvom stepenu šestog zodijačkog znaka.

23. 11. 2024. u 07:00

HEMIČARI NAPRAVILI NAJTANJE ŠPAGETE NA SVETU: Mogu da se prekuvaju za sekund, ali nisu za jelo (FOTO)

Panorama

0 0

HEMIČARI NAPRAVILI NAJTANJE "ŠPAGETE" NA SVETU: Mogu da se prekuvaju za sekund, ali nisu za jelo (FOTO)

TIM hemičara napravio je najtanje špagete na svetu, oko 200 puta tanje od vlasi ljudske kose. Doduše, ove špagete od nanovlakana nisu stvorene da se jedu, već radi primene u medicini i industriji, saopštio je Univerzitetski koledž Londona (UCL).

23. 11. 2024. u 00:45

PRVI PUT U ISTORIJI: Snimljeno umiranje crvnog superdžina, zvezde van naše galaksije (FOTO/VIDEO)

Panorama

0 0

PRVI PUT U ISTORIJI: Snimljeno umiranje crvnog superdžina, zvezde van naše galaksije (FOTO/VIDEO)

ASTRONOMI su uspeli prvi put da snime zvezdu van naše galaksije, saopštila je Evropska južna opservatorija (ESO).

23. 11. 2024. u 00:00

GAS SE VRATIO U JUŽNI OKEAN: Carski pingvin otplivao 3500 kilometara od Antarktika do Australije

Panorama

0 0

GAS SE VRATIO U JUŽNI OKEAN: Carski pingvin otplivao 3500 kilometara od Antarktika do Australije

CARSKI pingvin po imenu Gas, jedina poznata životinja ove vrste koja je otplivala od Antarktika do Australije, vraćen je u Južni okean 20 dana nakon što je stigao na australijsku plažu Oušn bič, rekli su danas australijski zvaničnici.

22. 11. 2024. u 23:40