КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
СРЦЕ МУ СТАЛО, ЛЕЖАО У ЛОКВИ КРВИ Нада преживела агонију: "Мислила сам да ми је син мртав"
ТОЛИКО је крви изгубио да је мало недостајало да остане без десне ноге...
25. 12. 2024. у 18:30
ОБРАДОВИЋ ЈЕ БИО НА КОРАК ОД НБА ЛИГЕ: Један човек је све стопирао, ево о коме је реч
Иако је Жељко Обрадовић у неколико наврата говорио да му НБА лига никада није била жеља нити приоритет, сада је откривено да је био на прагу да преузме тамошњи клуб.
25. 12. 2024. у 20:20
ПОЗНАТИ СРБИ КОЈИ ДАНАС СЛАВЕ БОЖИЋ: Њега васпитали атеисти, а она мужу спрема гибаницу
МНОГИ познати Срби, живе у иностранству или у мешовитим браковима, с поносом обележавају оба Божића – православни и католички. Ови празници постају прилика за славље, окупљање породице и чување српске традиције, чак и далеко од родне земље.
25. 12. 2024. у 19:20
РОДНИЈУ ИЗ "МУЋКИ" УМРО СИН (19): Пронашли га мртвог у кући - тек после друге обдукције сазнали шта се десило
У ЧУВЕНОЈ ББЦ серији "Мућке" која је снимана од 1981. до 1991. а онда и кроз специјале до 2003. године, играо је Роднија Тротера. И публика га је заволела у тој улози. Енглески глумац Николас Сајмон Линдхерст има данас 63 године, и живот му је обележила једна трагедија.
25. 12. 2024. у 11:11
УКРАЈИНА ЈЕ ЗГРОЖЕНА: Не може да верује које санкције су управо укинуте Русији
РАТ у Украјини, односно "специјална војна операција" како то Русија назива, поново је за једну од споредних ствари изнедрио и спортски потез. Најновије вести на тему "спортске санкције Русима" стижу из света спортова на леду, за које је досад важила апсолутна забрана за учешће руских екипа, а и појединаца.
25. 12. 2024. у 18:59
ШТА СЕ ДЕШАВА СА ГРАДИШКОМ? Необичан метео феномен забележен у Републици Српској - около "окови", а код њих чисто (ФОТО)
"МОГУЋЕ је да су локални услови створили баријеру."
25. 12. 2024. у 12:05
ДИГНУТИ НАТО АВИОНИ ПОСЛЕ НАПАДА НА УКРАЈИНУ: Хитно се огласио Зеленски, имао поруку за Путина (ФОТО/ВИДЕО)
РУСИЈА је покренула масовни ваздушни напад на Украјину на божићно јутро по грегоријанском календару.
25. 12. 2024. у 11:16
ПРВИ СНИМЦИ УКРАЈИНСКОГ НАПАДА НА РИЛСК: Најмање шест мртвих и десетине повређених, горе аутомобили (ВИДЕО)
ШЕСТ особа, међу којима и једно дете, убијено је у Рилску, у области Курск, као резултат ракетног удара украјинских оружаних снага, саопштио је вршилац дужности гувернера Курске области Александар Хинштајн.
20. 12. 2024. у 17:07
ПЛАНЕТИ ПРЕТИ СЦЕНАРИО ИЗ 1815. После догађаја на планини која је променила свет уследиле трагедије: "Питање није да ли ће, него КАДА!"
„ЕФЕКТИ би могли бити још гори него што смо видели 1815."
25. 12. 2024. у 15:54
Најновије из рубрике
уживоРАТ У УКРАЈИНИ: Ослобођено Загризово; Ближи се крај отпору у Курахову, Руси напредовале 3 км код Покровска; (МАПА/ВИДЕО)
РАТ у Украјини - 1036. дан.
25. 12. 2024. у 08:34 >> 03:35
ЗА НЕДЕЉУ ДАНА 280.000 НАТО ВОЈНИКА НА РУСКОЈ ГРАНИЦИ: Ако затреба Финска може да их пошаље наоружане до зуба
ФИНСКА може за недељу дана, ако буде потребно, да мобилише 280.000 војника, пише британски „Индипендент“ позивајући се на председника те земље Александра Стуба.
26. 12. 2024. у 00:45
БОЖИЋНЕ ПОРУКЕ БАЈДЕНА И ТРАМПА: Одлазећи и будући председник упутили опречне поруке Американцима
АКТУЕЛНИ амерички председник, демократа Џозеф Бајден позвао је данас у божићној поруци Американце да се замисле и уједине, док је новоизабрани председник, републиканац Доналд Трамп упутио божићну честитку у којој је напао своје политичке противнике и упутио оштре коментаре.
26. 12. 2024. у 00:35
ЗЕЛЕНСКИ ЧЕКА РУСКЕ ДОЛАРЕ: Јапан спреман да за Украјину издвоји 3 милијарде зелених новчаница из руских средстава
ЈАПАН је спреман да за Украјину издвоји додатних три милијарде долара из замрзнутих руских средстава, изјавио је украјински председник Владимир Зеленски.
26. 12. 2024. у 00:21
АВИО НЕСРЕЋА У КАЗАХСТАНУ: Авион који се срушио код Актауа прошао технички пре месец дана, а пилот био искусан (ФОТО)
АВИОН Ембраер 190 Азербејџан ерлајнса који се данас срушио код Актауа у Казахстану произведен је 2013. године и прошао је комплетан технички преглед у октобру ове године, саопштила је прес-служба азербејџанске авио-компаније.
26. 12. 2024. у 00:14
Коментари (0)