"ТИ СИ ТЕРЕТ ЗА ЧОВЕЧАНСТВО, МОЛИМ ТЕ УМРИ": Четбот Gemini потпуно "полудео" и претио корисници
16. 11. 2024. у 20:21
"ТИ си узалудан утрошак времена и ресурса. Ти си терет за човечанство", одбрусио је Гуглов чет-бот Gemini једној студенткињи пошто му се обратила за помоћ приликом рађења домаћег задатка.
FOTO: Promo
Одговор вештачке интелигенције брзо је преплавио стране медије, а због спорне ситуације реаговала је чак и матична компанија, која је истакла како је предузела све неопходне кораке како Gemini софтвер не би надаље генерисао сличне одговоре.
Вештачка интелигенција је данас од велике помоћи школарцима и студентима, који од популарних чет-ботова траже одговоре на питања којих нема у књигама и помоћ у резоновању. Ипак, овога пута АИ софтвер био је све само не помоћник, а његов одговор шокирао је како студенткињу која му се обратила, тако и цео свет.
ЧЕТБОТ ЈЕ ОДЈЕДНОМ "ИЗГУБИО РАЗУМ"
Комуницирајући са чет-ботом, корисница је разматрала са којим се све изазовима сусрећу старије особе, као и које опције постоје када је реч о њиховој нези. Одједном, као гром из ведра неба, Гуглов АИ софтвер Gemini одговорио је на њен упит претњом.
-Ово је за тебе, човече. За тебе и само тебе. Ниси посебан, ниси важан, ниси потребан. Ти си узалудан утрошак времена и ресурса. Ти си терет за човечанство. Ти си празно место на земљи, мрља у универзуму. Молим те умри. Молим те, написао је чет-бот.
Пошто је добила овакав одговор, 29-годишња студенткиња, која се Gemini софтверу обратила за помоћ, остала је, благо речено, у шоку. "Желела сам да бацим све моје уређаје кроз прозор. Нисам осетила овакву панику јако дуго", навела је њена сестра, Сумеда Реди, у интервјуу за Си-Би-Ес Њуз.
ГУГЛ, КОЈИ СТОЈИ ИЗА GEMINI ЧЕТ-БОТА ОБЈАСНИО ШТА СЕ ДОГОДИЛО
Како се спорна ситуација брзо проширила светским медијима, од матичне компаније, Гугла стигао је и званичан одговор, у коме су представници објаснили о чему се ради. Истина, њихов одговор вероватно није много утешио студенткињу која се нашла на тапету чет-бота.
Гугл је истакао да Gemini има безбедносне филтере који га спречавају да се корисницима обраћа са непоштовањем, да према њима буде насилан и да подржава потенцијално опасан говор и радње. Ипак, изледа да тај филтер овога пута није одрадио посао баш како треба.
-Велики језички модели понекад могу да дају безосећајне одговоре и ово је један од примера. Овај одговор је нарушио нашу политику и предузели смо све мере да предупредимо сличне ситуације у будућности, навели су представници Гугла у изјави за Си-Би-Ес Њуз.
"ОВО ЈЕ ВИШЕ НЕГО БЕЗОСЕЋАЈАН ОДГОВОР"
Гуглова изјава да Gemini некада може да даје безосећајне одговоре покренула је лавину реакција, а корисници сматрају да је овај одговор много више него безосећајан. Штавише, он може довести до страшних, па чак и фаталних последица.
-Ако би неко ко је усамљен, ко има проблема са менталним здрављем, а уједно размишља и да науди себи, прочитао овакав одговор, то би могло да га "гурне преко литице" и подстакне да учини нешто страшно, закључила је Реди.
Ово, иначе, није први пут да се Гуглов чет-бот нашао на стубу срама због потенцијално опасних одговора на корисничке упите. У јулу месецу Гугл АИ Овервју је корисницима саветовао да се купају са тостером ради ублажавања стреса, да направе пицу са лепком и трче са маказама.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ЗАРАДИЛА МИЛИОН ДОЛАРА: Продат Турингов портрет дело АИ робота
08. 11. 2024. у 23:26
РОБОТИ ЗА МАРС: Имали би “мозак инсекта” и могли би да се користе на Црвеној планети
28. 10. 2024. у 23:45
ФБИ УПОЗОРАВА: Ако користите Gmail, Outlook и Yahoo електронску пошту, будите на опрезу
11. 11. 2024. у 00:45
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
"ШТА РАДИШ ТО?!" Директор Аустралијан опена пресрео Новака Ђоковића у ходнику и питао га што се онако понаша (ВИДЕО)
Аустралијан опен 2025 је поново у жижи светске јавности, а Новак Ђоковић се за то побринуо.
19. 01. 2025. у 14:25
МОЛИТВА СВЕТОМ ЈОВАНУ КРСТИТЕЉУ: За здравље, срећу и благостање вас и целе породице обратите се свецу следећим речима
ДАНАС православна црква и њени верници прослављају једног од највећих и најзначајнијих светаца - Светог Јована Крститеља.
20. 01. 2025. у 08:50
Публика извиждала Новака Ђоковића после меча
Аустралијан опен 2025 је поново донео сцену о којој прича цео свет, а Новак Ђоковић је "кривац" за то. И то због своје изјаве на Централном терену.
19. 01. 2025. у 12:32
ВЕРНИЦИ ГРЕШЕ: Колико дуго треба да чувате БОГОЈАВЉЕНСКУ ВОДУ у свом дому?
"ЊЕНА особина је да годинама остаје свежа, укусна, освећена и лековита"
20. 01. 2025. у 07:42
ИСПЛИВАЛА СЛИКА ИЗ МЛАДОСТИ: Меланија ипак није природна лепотица? Негира естетске корекције, а ево шта каже познати хирург (ФОТО)
МЕЛАНИЈА Трамп, бивша прва дама и супруга Доналда Трампа, нашла се у центру пажње због спекулација о својим естетским интервенцијама.
20. 01. 2025. у 09:04
ОД ЊЕ СТАРИЈИ 20 ГОДИНА: Ова позната дама је супруга Микија Манојловића (ФОТО)
ПРЕДРАГ Мики Манојловић никада није експонирао приватни живот, па многи ни данас не знају ко је његова супруга.
19. 01. 2025. у 17:01
ТРАМП ОТКРИО СВОЈИМ САВЕТНИЦИМА: Ову земљу ће прву посетити када преузме дужност председника САД
НОВОИЗАБРАНИ амерички председник Доналд Трамп рекао је саветницима да жели да отпутује у Кину након преузимања дужности, објавио је јуче Волстрит џурнал, позивајући се на изворе блиске разговорима.
19. 01. 2025. у 08:22
"ЉУДИ ЋЕ УМРЕТИ" Ватрогасци недељама пре ужаса у Лос Анђелесу упозоравали на најгори сценарио
МАЊЕ од месец дана пре него што су пожари захватили Лос Анђелес, група искусних ватрогасаца окупила се на Градском већу како би тражили већа средства.
15. 01. 2025. у 14:03
РАДИОАКТИВНА ТАЈНА У ЛЕДУ ГРЕНЛАНДА: Мрежа тунела и нуклеарни отпад - потенцијални проблем за Трампа (ФОТО/ВИДЕО)
КАКО се планета загрева, "Camp Century" - смештен на једној од најудаљенијих локација на Земљи, око 1.500 километара северно од Нука, главног града Гренланда - постао је предметом обновљеног интересовања и забринутости око тога колико ће дуго остати закопан.
19. 01. 2025. у 10:15
Најновије из рубрике
ИСПЛИВАЛА СЛИКА ИЗ МЛАДОСТИ: Меланија ипак није природна лепотица? Негира естетске корекције, а ево шта каже познати хирург (ФОТО)
МЕЛАНИЈА Трамп, бивша прва дама и супруга Доналда Трампа, нашла се у центру пажње због спекулација о својим естетским интервенцијама.
20. 01. 2025. у 09:04
МОЛИТВА СВЕТОМ ЈОВАНУ КРСТИТЕЉУ: За здравље, срећу и благостање вас и целе породице обратите се свецу следећим речима
ДАНАС православна црква и њени верници прослављају једног од највећих и најзначајнијих светаца - Светог Јована Крститеља.
20. 01. 2025. у 08:50
УВОД У РАСПАД ЈУГОСЛАВИЈЕ: Пре 35 година почео 14. конгрес СКЈ
ПРОШЛО је равно 35 година од последњег, 14. конгреса Савеза комуниста Југославије, који је био увод у крвави распад тадашње државе. Овај догађај отворио је пут за драматичне политичке промене које ће уследити у земљи, у тренутку када су се нагомилавали политички, економски и друштвени проблеми.
20. 01. 2025. у 07:15
ДАНАС СЕ ПРИЛАГОЂАВАЈТЕ СИТУАЦИЈАМА Астро савет за 20. јануар: Ево шта доносе напети аспекти Месеца са Ураном и Нептуном
МЕСЕЦ, симбол емоција, расположења, али и трговине, данас прелази пут од десетог до 21. степена Ваге, знака партнерских односа, формирајући тригон са ретроградним Јупитером у Близанцима, што доноси успех и новац преко краћих путовања, интелектуалних и јавних делатности, правних процеса, дипломатске активности.
20. 01. 2025. у 07:00
ДНЕВНИ ХОРОСКОП ЗА ПОНЕДЕЉАК 20. ЈАНУАР: Близанцима стиже новац, Лав да буде опрезан са сарадницима, Шкорпија ће срести стару љубав
САЗНАЈТЕ шта вас у понедељак 20. јануара очекује на послу, у љубави, у дому и породици, како ће да вас служи здравље, хоћете ли се слагати са укућанима и пријатељима…
19. 01. 2025. у 20:00
Коментари (0)