KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
![КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо НЕ, па имитирао глас корисника-потпуно језиво КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо НЕ, па имитирао глас корисника-потпуно језиво](/data/images/2024-02-07/450408_vestacka-inteligencija1_fmob.jpg)
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
![BUDITE LJUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo BUDITE LJUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo](/data/images/2023-05-02/346361_vjestacka-imteligencija_t.jpg?time=1722033545)
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
![PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske](/data/images/2023-11-07/418347_21113-women-science_t.jpg?time=1721739589)
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
![ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u DŽordžiji ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u DŽordžiji](/data/images/2021-08-30/133256_lama_t.jpg?time=1721651389)
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
![PRVI PUT POSLE 100 GODINA: Vučić jedini srpski državnik koji je posle kralja Petra vodio državu iz Podrinja PRVI PUT POSLE 100 GODINA: Vučić jedini srpski državnik koji je posle kralja Petra vodio državu iz Podrinja](/data/images/2024-09-09/525620_aleksandar-vucic-loznica-foto-d-milovanovic_kf.jpg?time=1725989624)
PRVI PUT POSLE 100 GODINA: Vučić jedini srpski državnik koji je posle kralja Petra vodio državu iz Podrinja
PREDSEDNIK Srbije Aleksandar Vučić premestio je svoju kancelariju u Podrinje i odatle pet dana vodio zemlju i obavljao državničke poslove, a prvi je državnik koji je to uradio posle kralja Petra Prvog Karađorđevića.
10. 09. 2024. u 19:23
![PROCURIO ŠOLCOV PLAN ZA KRAJ RATA U UKRAJINI: Rusija zadržava okupirane teritorije? Ni Putin, ni Zelenski neće biti srećni PROCURIO ŠOLCOV PLAN ZA KRAJ RATA U UKRAJINI: Rusija zadržava okupirane teritorije? Ni Putin, ni Zelenski neće biti srećni](/data/images/2024-09-10/525869_tan2024-09-0411542588-4_kf.jpg?time=1725980366)
PROCURIO ŠOLCOV PLAN ZA KRAJ RATA U UKRAJINI: Rusija zadržava okupirane teritorije? Ni Putin, ni Zelenski neće biti srećni
PREMA italijanskom listu "La Republika", nemački kancelar Olaf Šolc priprema mirovni plan koji podrazumeva rusko zadržavanje okupiranih ukrajinskih teritorija.
10. 09. 2024. u 16:58
![RADIMO SERIJU O NAJVEĆEM OLOŠU KOJI JE HODAO SRBIJOM: Miloš Tanasković o seriji Klan, intimi i odrastanju (VIDEO) RADIMO SERIJU O NAJVEĆEM OLOŠU KOJI JE HODAO SRBIJOM: Miloš Tanasković o seriji Klan, intimi i odrastanju (VIDEO)](/data/images/2024-09-10/525694_foto-v.-danilov-n.-fific-printscreen-youtube-serija-klan_kf.jpg?time=1725957900)
"RADIMO SERIJU O NAJVEĆEM OLOŠU KOJI JE HODAO SRBIJOM": Miloš Tanasković o seriji "Klan", intimi i odrastanju (VIDEO)
MILOŠ Tanasković je u emisiji "Bindž" otkrio mnoge, do sada nepoznate, informacije o seriji "Klan", kao i zanimljivosti iz svog privatnog života.
10. 09. 2024. u 10:44
Komentari (0)