Svet

KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo

Novosti online

12. 08. 2024. u 21:22 >> 21:23

OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole

КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо НЕ, па имитирао глас корисника-потпуно језиво

OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je od‌jednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.

Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.

Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.

OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.

Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.

(Telegraf)

BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba

Preporučujemo

BUDITE LJUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo

Ekonomija

0 2

BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo

27. 07. 2024. u 00:45

PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske

Obrazovanje

0 1

PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske

23. 07. 2024. u 13:53

OTKRIVEN TAMNI KISEONIK: Pronađene metalne grudve na dnu okeana koje proizvode sopstveni kiseonik

Svet

0 0

OTKRIVEN "TAMNI KISEONIK": Pronađene metalne grudve na dnu okeana koje proizvode sopstveni kiseonik

23. 07. 2024. u 07:20

ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u DŽordžiji

Panorama

0 0

ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji

22. 07. 2024. u 14:29

Pratite nas i putem iOS i android aplikacije

Pratite vesti prema vašim interesovanjima

VALERIJ ZALUŽNI DAO PROGNOZU: Evo kada će ruska vojska da probije ukrajinski front

Svet

0 23

VALERIJ ZALUŽNI DAO PROGNOZU: Evo kada će ruska vojska da probije ukrajinski front

NOVI tehnološki napredak tokom ratnog vremena sprečiće ozbiljnije probijanje fronta duž ukrajinsko-ruske granice do oko 2027. godine, izjavio je Valerij Zalužni, bivši vrhovni komandant Ukrajine i sadašnji ambasador u Ujedinjenom Kraljevstvu, za „Ukrajinsku pravdu“ u intervjuu objavljenom 23. novembra.

23. 11. 2024. u 18:55

BRITANCI OBJAVILI ZASTRAŠUJUĆU MAPU: Orešnik može da stigne do bilo kog evropskog grada za manje od 20 minuta (MAPA)

Svet

0 45

BRITANCI OBJAVILI ZASTRAŠUJUĆU MAPU: "Orešnik" može da stigne do bilo kog evropskog grada za manje od 20 minuta (MAPA)

BRITANSKI list "Dejli mejl" ocenio je da bi balistička raketa "orešnik" mogla da stigne do bilo kog evropskog grada za manje od 20 minuta.

23. 11. 2024. u 15:58

POTPREDSEDNIK SAD UMRO TOKOM ODNOSA: Bio sa 50 godina mlađom ljubavnicom, Bela kuća nije znala kako da saopšti vest o smrti

Svet

0 0

POTPREDSEDNIK SAD UMRO TOKOM ODNOSA: Bio sa 50 godina mlađom ljubavnicom, Bela kuća nije znala kako da saopšti vest o smrti

BIO JE to 27. januar 1979. godine. U 1 ujutro, portparol porodice Nelsona Rokfelera objavio je zvaničnu izjavu za štampu. Bivši potpredsednik preminuo je U 71 godini života ranije te večeri.

22. 11. 2024. u 18:36

Komentari (0)

Ostavi komentar

Najnovije iz rubrike

ZAPADNA OBALA: Izraelski naseljenici napali Palestince, IDF odbio da interveniše

Svet

0 0

ZAPADNA OBALA: Izraelski naseljenici napali Palestince, IDF odbio da interveniše

IZRAELSKI naseljenici iz ilegalne ispostave Havat Maon na okupiranoj Zapadnoj obali u obližnjem selu At-Tuvani napali su nekoliko Palestinaca, a prisutni izraelski vojnici su odbili da intervenišu, javljaju palestinski mediji.

23. 11. 2024. u 22:45

ZELENSKI OTKRIO PAKLENI PLAN PUTINA: Želi to da uradi do 20. januara!

Svet

0 0

ZELENSKI OTKRIO PAKLENI PLAN PUTINA: Želi to da uradi do 20. januara!

UKRAJINSKI predsednik Vladimir Zelenski izjavio je danas da je predsednik Rusije Vladimir Putin postavio zadatak da izbaci ukrajinske snage iz Kurske oblasti do 20. januara "jer mu je važno da pokaže da navodno kontroliše situaciju".

23. 11. 2024. u 22:37

PROVEO MESECE PLANIRAJUĆI SOPSTVENU SMRT: Svi detalji neverovatnog slučaja nestalog kajakaša

Svet

0 0

PROVEO MESECE PLANIRAJUĆI SOPSTVENU "SMRT": Svi detalji neverovatnog slučaja nestalog kajakaša

RAJAN Borgvard, 45- godišnji muž i otac troje dece optužen je za sceniranje nesreće u vožnji kajakom sa namerom da lažira svoju smrt, napusti porodicu i započne novi život, je živ i razgovara sa istražiteljima sa nepoznate lokacije u inostranstvu, kako se navodi u saopštenju lokalne vlasti.

23. 11. 2024. u 22:31