ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПОСЛЕДЊА ЖЕЉА БЕКИМА ФЕХМИУА: Само најужа породица је знала за њу - прекршили су закон да би је испунили
БЕКИМУ су чланови породице испоштовали и последњу жељу.
14. 11. 2024. у 11:52
ЧИТУЉА КОСТИЋУ ОД ДЕЦЕ: "Живиш кроз нас - настављамо с поносом"
МИОДРАГ Костић, оснивач и председник МК Групе, преминуо је у среду ујутру.
14. 11. 2024. у 12:46
"НИСАМ НАИВАН И ГЛУП, НИКАДА НЕЋУ КЛЕКНУТИ НА КОЛЕНА!" Фудбалер одбио да испоштује минут тишине и одушевио пола света!
Дан примирја, који се обележава једанаестог новембра као сећање на датум када је 1918. године, 11. 11, у 11 часова и 11 минута, потписано примирје којим је почела да се ставља тачка на Први светски рат, више се не доживљава свуда исто.
13. 11. 2024. у 18:17
БРАТ ТОМЕ ЗДРАВКОВИЋА: Умрли истог дана, смрт дочекао у беди - славни певач га ретко обилазио (ФОТО)
БРАТ легендарног певача Томе Здравковић, Иван Здравковић, о којем се мало знало, преминуо је у 90. години баш истог датума као и Тома, само 2021. године.
13. 11. 2024. у 07:38
"МАНДА МИ ЈЕ БИО КАО ОТАЦ" Окановић се не мири са губитком: "Често желим да га позовем, не могу да се навикнем да га нема"
"ВЕЛИКА је срећа и радост што сам радио са тим људима, али и велика туга што ти људи више нису са нама..."
14. 11. 2024. у 11:57
"МЕЉАК ЈЕ СУМЊИВ!" Ђинђићев телохранитељ о серији "Сабља": Нема везе са чињеничним стањем
ДА ли серије могу да разјасне историјске догађаје као што је атентат на Зорана Ђинђића?
14. 11. 2024. у 11:02
ИЛОН МАСК ПОДЕЛИО СНИМАК ИСТИНЕ: "НАТО је бомбардовао Београд како би распарчао Србију" (ВИДЕО)
МИЛИЈАРДЕР Илон Маск, власник Тесле, "Спејс Икса", друштвене платформе Икс, поделио је на свом профилу говор у којем Џефри Сакс прича о нелегалном бомбардовању Србије од стране НАТО-а.
12. 11. 2024. у 15:47
"ГЛАВНА ТЕМА ЈЕ ДА ЛИ ЋЕ МОСКВА БИТИ ГАЂАНА" Велико упозорење Вучића: Свет се креће по ивици амбиса!
ПРЕДСЕДНИК Србије Александар Вучић обратио се јавности после говора на Самиту КОП29 у Азербејџану.
12. 11. 2024. у 12:33
НАЈВЕЋИ ЈАТАК "ЗЕМУНАЦА" Она је била последња линије одбране клана - у кући крила килограме кокаина, а онда им пресудила
ПОСЛЕ убиства Ђинђића, она се представљала као Зорица Весић и купила је салаш у месту Путинци, где се једно време скривао врх земунског клана.
13. 11. 2024. у 10:23
Најновије из рубрике
АСТРО САВЕТ ЗА ЧЕТВРТАК, 14. НОВЕМБАР: Месец у Бику прави напете аспекте са планетама сукоба и моћи - Избегавајте расправе
МЕСЕЦ рано ујутру улази у знак Бика, образујући тригон са Венером у Јарцу и изазовне аспекте са Марсом и ретроградним Плутоном, који се већ припрема да 19. новембра дефинитивно напусти знак Јарца и уђе у Водолију.
14. 11. 2024. у 07:00
ЗЛОЧИНИ НЕ ЗАСТАРЕВАЈУ: Пре 40 година ухапшен ратни злочинац Андрија Артуковић
На данашњи дан, 14. новембра 1984. године, у Лос Анђелесу је ухапшен Андрија Артуковић, бивши министар унутрашњих послова Независне Државе Хрватске и један од најтраженијих ратних злочинаца из Другог светског рата.
14. 11. 2024. у 06:15
ДНЕВНИ ХОРОСКОП ЗА ЧЕТВРТАК 14. НОВЕМБАР: Партнер сумња у искреност Овна, пред Вагом је дан пун обавеза, Водолија пуна пословних идеја
САЗНАЈТЕ шта вам доноси улазак Месеца у знак Бика, шта вас у четвртак 14. новембра очекује на послу, у љубави, на здравственом плану, у дому и породици, односу са пријатељима...
13. 11. 2024. у 21:00
ПОСЛЕ ОСУДА ЗБОГ ВЕЗЕ СА МУСЛИМАНОМ: Турчин оженио Београђанку (ВИДЕО)
"ТОГ дана 26. јуна 2023. сам кренула из Београда у Истанбул. Била сам срећна што ћемо после две године везе на даљину да живимо заједно."
13. 11. 2024. у 18:09
КОЛАПС: Мемедовић чита питање - трагач не престаје да се смеје (ВИДЕО)
ТРАГАЧ ЈЕ успео да се сети сцене из једног квиза која се догодила далеке 2012. године
13. 11. 2024. у 16:45
Коментари (0)