КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
![КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо НЕ, па имитирао глас корисника-потпуно језиво КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо НЕ, па имитирао глас корисника-потпуно језиво](/data/images/2024-02-07/450408_vestacka-inteligencija1_fmob.jpg)
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
![БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво](/data/images/2023-05-02/346361_vjestacka-imteligencija_t.jpg?time=1722033545)
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
![ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске](/data/images/2023-11-07/418347_21113-women-science_t.jpg?time=1721739589)
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
![АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији](/data/images/2021-08-30/133256_lama_t.jpg?time=1721651389)
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
![ПРВИ ПУТ ПОСЛЕ 100 ГОДИНА: Вучић једини српски државник који је после краља Петра водио државу из Подриња ПРВИ ПУТ ПОСЛЕ 100 ГОДИНА: Вучић једини српски државник који је после краља Петра водио државу из Подриња](/data/images/2024-09-09/525620_aleksandar-vucic-loznica-foto-d-milovanovic_kf.jpg?time=1725989624)
ПРВИ ПУТ ПОСЛЕ 100 ГОДИНА: Вучић једини српски државник који је после краља Петра водио државу из Подриња
ПРЕДСЕДНИК Србије Александар Вучић преместио је своју канцеларију у Подриње и одатле пет дана водио земљу и обављао државничке послове, а први је државник који је то урадио после краља Петра Првог Карађорђевића.
10. 09. 2024. у 19:23
![ПРОЦУРИО ШОЛЦОВ ПЛАН ЗА КРАЈ РАТА У УКРАЈИНИ: Русија задржава окупиране територије? Ни Путин, ни Зеленски неће бити срећни ПРОЦУРИО ШОЛЦОВ ПЛАН ЗА КРАЈ РАТА У УКРАЈИНИ: Русија задржава окупиране територије? Ни Путин, ни Зеленски неће бити срећни](/data/images/2024-09-10/525869_tan2024-09-0411542588-4_kf.jpg?time=1725980366)
ПРОЦУРИО ШОЛЦОВ ПЛАН ЗА КРАЈ РАТА У УКРАЈИНИ: Русија задржава окупиране територије? Ни Путин, ни Зеленски неће бити срећни
ПРЕМА италијанском листу "Ла Република", немачки канцелар Олаф Шолц припрема мировни план који подразумева руско задржавање окупираних украјинских територија.
10. 09. 2024. у 16:58
![РАДИМО СЕРИЈУ О НАЈВЕЋЕМ ОЛОШУ КОЈИ ЈЕ ХОДАО СРБИЈОМ: Милош Танасковић о серији Клан, интими и одрастању (ВИДЕО) РАДИМО СЕРИЈУ О НАЈВЕЋЕМ ОЛОШУ КОЈИ ЈЕ ХОДАО СРБИЈОМ: Милош Танасковић о серији Клан, интими и одрастању (ВИДЕО)](/data/images/2024-09-10/525694_foto-v.-danilov-n.-fific-printscreen-youtube-serija-klan_kf.jpg?time=1725957900)
"РАДИМО СЕРИЈУ О НАЈВЕЋЕМ ОЛОШУ КОЈИ ЈЕ ХОДАО СРБИЈОМ": Милош Танасковић о серији "Клан", интими и одрастању (ВИДЕО)
МИЛОШ Танасковић је у емисији "Бинџ" открио многе, до сада непознате, информације о серији "Клан", као и занимљивости из свог приватног живота.
10. 09. 2024. у 10:44
Коментари (0)