KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
ALBANCI HISTERIŠU: Zbog pesme uz koju je Srbin ušao u ring u Tirani - u lažnoj državi ne mogu da dođu sebi! (VIDEO)
Albanija je dočekala da usred njenog glavnog grada odjekuje da je Kosovo - Srbija. I, u južnoj srpskoj pokrajini postoje neki koji su zbog toga besni.
25. 12. 2024. u 15:33
OTELI GA NAKON NASTUPA: Ko je pevač koji je uhapšen sa Gogom Sekulić? "Najgori trenutak u mom životu" (FOTO)
KO je pevač sa kojim je Goga bila uhapšena?
25. 12. 2024. u 22:45
POZNATI SRBI KOJI DANAS SLAVE BOŽIĆ: Njega vaspitali ateisti, a ona mužu sprema gibanicu
MNOGI poznati Srbi, žive u inostranstvu ili u mešovitim brakovima, s ponosom obeležavaju oba Božića – pravoslavni i katolički. Ovi praznici postaju prilika za slavlje, okupljanje porodice i čuvanje srpske tradicije, čak i daleko od rodne zemlje.
25. 12. 2024. u 19:20
UKRAJINA JE ZGROŽENA: Ne može da veruje koje sankcije su upravo ukinute Rusiji
RAT u Ukrajini, odnosno "specijalna vojna operacija" kako to Rusija naziva, ponovo je za jednu od sporednih stvari iznedrio i sportski potez. Najnovije vesti na temu "sportske sankcije Rusima" stižu iz sveta sportova na ledu, za koje je dosad važila apsolutna zabrana za učešće ruskih ekipa, a i pojedinaca.
25. 12. 2024. u 18:59
RODNIJU IZ "MUĆKI" UMRO SIN (19): Pronašli ga mrtvog u kući - tek posle druge obdukcije saznali šta se desilo
U ČUVENOJ BBC seriji "Mućke" koja je snimana od 1981. do 1991. a onda i kroz specijale do 2003. godine, igrao je Rodnija Trotera. I publika ga je zavolela u toj ulozi. Engleski glumac Nikolas Sajmon Lindherst ima danas 63 godine, i život mu je obeležila jedna tragedija.
25. 12. 2024. u 11:11
"KIRJOS JE PROVOKATOR": Francuska teniserka bez dlake na jeziku
Italijanski teniser Janik Siner imao dva pozitivna testa na doping prošlog marta, njegov najžešći kritičar je bio Nik Kirjos. Sve to prekipelo je Marion Bartoli, šampionki Vimbdona iz 2013. godine.
25. 12. 2024. u 18:20
DIGNUTI NATO AVIONI POSLE NAPADA NA UKRAJINU: Hitno se oglasio Zelenski, imao poruku za Putina (FOTO/VIDEO)
RUSIJA je pokrenula masovni vazdušni napad na Ukrajinu na božićno jutro po gregorijanskom kalendaru.
25. 12. 2024. u 11:16
PRVI SNIMCI UKRAJINSKOG NAPADA NA RILSK: Najmanje šest mrtvih i desetine povređenih, gore automobili (VIDEO)
ŠEST osoba, među kojima i jedno dete, ubijeno je u Rilsku, u oblasti Kursk, kao rezultat raketnog udara ukrajinskih oružanih snaga, saopštio je vršilac dužnosti guvernera Kurske oblasti Aleksandar Hinštajn.
20. 12. 2024. u 17:07
PLANETI PRETI SCENARIO IZ 1815. Posle događaja na planini koja je promenila svet usledile tragedije: "Pitanje nije da li će, nego KADA!"
„EFEKTI bi mogli biti još gori nego što smo videli 1815."
25. 12. 2024. u 15:54
Najnovije iz rubrike
TRAMP UZBURKAO KANADU, PANAMU I GRENLAND: Novi šef Bele kuće uznemirio javnost komentarima o pripajanju više teritorija
TAKO smo se vratili! Ovaj komentar napisao je juče sin novog predsednika SAD Donalda Trampa Erik na "Iksu" iznad fotografije njegovog oca kako preko mobilnog telefona na "Amazonu" u korpu za kupovinu ubacuje Kanadu, Grenland i Panamski kanal!
26. 12. 2024. u 06:00
uživoRAT U UKRAJINI: Oslobođeno Zagrizovo; Bliži se kraj otporu u Kurahovu, Rusi napredovale 3 km kod Pokrovska; (MAPA/VIDEO)
RAT u Ukrajini - 1036. dan.
25. 12. 2024. u 08:34 >> 03:35
ZA NEDELJU DANA 280.000 NATO VOJNIKA NA RUSKOJ GRANICI: Ako zatreba Finska može da ih pošalje naoružane do zuba
FINSKA može za nedelju dana, ako bude potrebno, da mobiliše 280.000 vojnika, piše britanski „Indipendent“ pozivajući se na predsednika te zemlje Aleksandra Stuba.
26. 12. 2024. u 00:45
BOŽIĆNE PORUKE BAJDENA I TRAMPA: Odlazeći i budući predsednik uputili oprečne poruke Amerikancima
AKTUELNI američki predsednik, demokrata Džozef Bajden pozvao je danas u božićnoj poruci Amerikance da se zamisle i ujedine, dok je novoizabrani predsednik, republikanac Donald Tramp uputio božićnu čestitku u kojoj je napao svoje političke protivnike i uputio oštre komentare.
26. 12. 2024. u 00:35
ZELENSKI ČEKA RUSKE DOLARE: Japan spreman da za Ukrajinu izdvoji 3 milijarde zelenih novčanica iz ruskih sredstava
JAPAN je spreman da za Ukrajinu izdvoji dodatnih tri milijarde dolara iz zamrznutih ruskih sredstava, izjavio je ukrajinski predsednik Vladimir Zelenski.
26. 12. 2024. u 00:21
Komentari (0)