ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПОПОВИЋ ЋУТАО О СВЕМУ Са хемиотерапије право на "Грандова" снимања: "То је била тотална финансијска немоћ"
ЗА њен проблем тада је на послу знао само Саша Поповић.
24. 12. 2024. у 08:04
УСКОРО ПАДА КЉУЧНИ ГРАД, РУСИ НАДИРУ СА СЕВЕРА, ИСТОКА И ЈУГА: Детаљна анализа украјинских стручњака о стању на фронту
ЦЕЛА 2024. година протекла је у знаку повлачења украјинских трупа, које су губиле територије под притиском руских снага које напредују у североисточној Харковској области и источној Доњецкој области, пише Кијев индепендент у својој великој годишњој анализи дешавања на фронту.
24. 12. 2024. у 10:03
ОВО СЕ ДЕСИЛО ПРВИ ПУТ У ИСТОРИЈИ: Српски кошаркаши у Партизану без поена у "вечитом дербију"
КОШАРКАШИ Црвене звезде победили су Партизан у другом овосезонском вечитом дербију. Црвено-бели су у 13.колу АБА лиге тријумфовали са 89:84 (23:26, 27:25, 23:21, 16:12).
24. 12. 2024. у 09:55
КАКВА ИГРА ЈОКИЋА: Никола уништио великог ривала, сви у чуду због овог потеза (ВИДЕО)
Кошаркаши Денвер нагетса савладали су великог ривала Финикс сансе на домаћем терену са 117:90, а поново је блистао Никола Јокић.
24. 12. 2024. у 07:15
ХАОС: Српски спортиста пребио двојицу Хрвата - своје саиграче!
Српско-хрватски сукоб десио се у трофејном спорту, а изгледа да ће сада испаштати - Србин.
24. 12. 2024. у 13:12
НЕВЕРОВАТНО ОТКРИЋЕ У РУСИЈИ: У Сибиру пронађенo младунче мамута старо 50.000 година (ФОТО/ВИДЕО)
РУСКИ научници открили су остатке бебе мамута старе 50.000 година, а пронађени су током одмрзавања пермафроста у удаљеном региону Јакутија у Сибиру.
24. 12. 2024. у 14:40
(МАПА) ОВОГ ДАТУМА СТИЖЕ ПРАВА ЗИМА И НАЈХЛАДНИЈИ ПЕРИОД! Иван Ристић за "Новости" открива: Биће још снега, долази хладан арктички ваздух
ЦЕЛА Србија окована је снегом, а метеоролог Иван Ристић за "Новости" каже да нас тек очекује права зима.
24. 12. 2024. у 14:46
ПРВИ СНИМЦИ УКРАЈИНСКОГ НАПАДА НА РИЛСК: Најмање шест мртвих и десетине повређених, горе аутомобили (ВИДЕО)
ШЕСТ особа, међу којима и једно дете, убијено је у Рилску, у области Курск, као резултат ракетног удара украјинских оружаних снага, саопштио је вршилац дужности гувернера Курске области Александар Хинштајн.
20. 12. 2024. у 17:07
СТИЖЕ ПОЛИТИЧКИ ПОТРЕС? Ево ко води у анкетама за новог немачког канцелара
АЛИС Вајдел, лидерка десничарске странке Алтернатива за Немачку (АфД), према последњим анкетама, преузела је вођство испред Фридриха Мерца, лидера Хришћанско-демократске уније (ЦДУ).
24. 12. 2024. у 12:17
Најновије из рубрике
МАГНЕТНА ОЛУЈА СТИЖЕ ЗА КАТОЛИЧКИ БОЖИЋ: Трајаће и до 30 часова
ЉУДИ на северној хемисфери ће у среду бити третирани заслепљујућим приказима ауроре бореалис, док се Сунчана короналнa масa обрушава на нашу планету, према руским научницима.
25. 12. 2024. у 01:08
ПРОНАЂЕНА ФИГУРИЦА СТАРА 7.000 ГОДИНА: Подсећа на модерне приказе ванземаљаца (ФОТО)
АРХЕОЛОЗИ су на праисторијском локалитету у Кувајту пронашли глинену фигурицу стару око 7.000 година, за коју тврде да подсећа на модерне приказе ванземаљаца.
24. 12. 2024. у 23:00
МИЛЕВА ЈЕ БИЛА ЈАКО ВЕЗАНА ЗА ЊУ: Ајнштајн је обожавао своју свастику - Зорка се одала АЛКОХОЛУ
Министарство културе Републике Србије најавило је обнову породичне куће Милеве Марић Ајнштајн у Руми у сусрет великом јубилеју који се ближи – 150 година од рођења српске научнице (која је на овај свет дошла 19.12.1875).
24. 12. 2024. у 22:43
ДНЕВНИ ХОРОСКОП ЗА СРЕДУ 25. ДЕЦЕМБАР: Партнер сумња у искреност Рака, Девица да пази шта једе, Рибе да пазе на новац
САЗНАЈТЕ шта вас у среду 25. децембра очекује на послу, у љубави, у дому и породици, како ће да вас служи здравље, хоћете ли се слагати са укућанима и пријатељима…
24. 12. 2024. у 21:00
ВЕНЕРА У ВОДОЛИЈИ: Некоме се смеше паре, другима нова љубав, а неко раскида заувек
КАДА Венера уђе у знак Водолије, 28. децембра, можете приметити да се трудите да се прилагодите новим околностима, али истовремено ћете бити одлучнији када се суочите с љубавним, финансијским или креативним изазовима.
24. 12. 2024. у 19:02
Коментари (0)