DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
"RAME UZ RAME SA LEVANDOVSKIM I MBAPEOM": Francuzi oduševljeni ovim hrvatskim fudbalerom
Fudbalske reprezentacije Francuske i Hrvatske u nedelju igraju revanš četvrtfinala Lige Nacija, a francuski mediji veliku pažnju posvetili su jednom od strelaca u pobedi Hrvata u prvom meču, Antu Budimiru.
23. 03. 2025. u 15:55
KUPCI SAMI UZMU ROBU I OSTAVE NOVAC: Jedinstvena radnja u Srbiji - nema ni kamera ni prodavca (FOTO/VIDEO)
PRODAVNICA bez prodavca, u kojoj se kupuje isključivo na poverenje. Da, tako nešto postoji u Srbiji!
24. 03. 2025. u 09:37
MASK O TRANSRODNOM SINU: "On je mrtav, ubio ga je 'woke' virus - sada će on umreti"
MILIJARDER Ilon Mask rekao je kako je njegov sin, koji se identifikovao kao žena, "mrtav".
23. 03. 2025. u 21:40
"NIJE MI NI PORUKU POSLAO": Lazar Samardžić prekinuo ćutanje, ovo je rekao o treneru
SRPSKA reprezentacija sutra igra u baražu Lige Nacija protiv Austrije, a pored selektora Dragana Stojkovića oglasio se i Lazar Samardžić.
22. 03. 2025. u 15:39
MNOGI OSTALI ZATEČENI: Ovo je Ukrajinka uradila Ruskinji usred Amerike (VIDEO)
Rusija i Ukrajina privlače pažnju kako zbog rata koji se odvija, tako i zbog pratećih vesti koje se tog sukoba tiču. Jedna od njih stiže iz sveta tenisa, i prilično je nesvakidašnja.
24. 03. 2025. u 12:51
ZBOG "BAKLjADE KOJA SE NE PAMTI": Crvena zvezda rigorozno kažnjena od strane FSS-a, "delije" ovo nisu očekivale
Fudbaleri Crvene zvezde u sredu sa početkom od 17 časova dočekaće OFK Beograd u osmini finala Kupa Srbije bez publike zbog "nezapamćene bakljade" i ukupno 20 minuta prekida na proslavi 80. rođendana kluba protiv Spartaka.
23. 03. 2025. u 16:24
BRAĆA MAKEDONCI POHAPSILI BLOKADERE IZ SRBIJE KOJI SU DOŠLI DA PRAVE HAOS: Isplivao snimak kako ih obučavaju, pominju plenume (VIDEO)
MAKEDONSKI mediji pišu danas o umešanosti srpskih studanata u političkim protestima u Severnoj Makedoniji nakon tragedije u diskoteci u Kočanima, a neki blokaderi koji su došli iz Srbije da prave haos u Severnoj Makedoniji, uhapšeni su.
23. 03. 2025. u 15:17
RODITELjI POGINULE DECE FORMIRALI ŽIVI ŠTIT: Ne dozvoljavaju da se tela odnesu na obdukciju
RODITELjI koji su u požaru izgubili svoju decu u diskoteci "Puls" u Kočanima ne dozvoljavaju da se tela nastradalih odnesu na dodatnu obdukciju u Skoplje, tražeći da im se odmah predaju kako bi pripremili sahrane, javlja Plusinfo.
16. 03. 2025. u 19:40
Pogođen SAD nosač aviona sa 18 projektila, Amerikanci poslali NOVI! Tramp želi da ih SRAVNI SA ZEMLjOM (VIDEO)
PRISUTNOST dva nosača predstavlja veliku preraspodelu resursa prema Bliskom istoku u trenutku kad Bela kuća i Pentagon insistiraju da bi američki brodovi i avioni trebali da se usmere prema Aziji.
22. 03. 2025. u 22:30
Najnovije iz rubrike
KUPCI SAMI UZMU ROBU I OSTAVE NOVAC: Jedinstvena radnja u Srbiji - nema ni kamera ni prodavca (FOTO/VIDEO)
PRODAVNICA bez prodavca, u kojoj se kupuje isključivo na poverenje. Da, tako nešto postoji u Srbiji!
24. 03. 2025. u 09:37
OČEKUJTE PROBLEME SA INTERNETOM I KOMPJUTERIMA Astro savet za 24. mart: Konjunkcija Meseca i Plutona u Vodoliji - Oslonite se na intuiciju
MESEC oko pola pet po podne izlazi iz staloženog, mrzovoljnog Jarca i ulazi u društvenu, nervoznu Vodoliju praveći konjunkciju s Plutonom, koja nepovoljno utiče na podsvest, naročito kod osoba koje imaju ovaj aspekt u ličnom horoskopu.
24. 03. 2025. u 07:00
NJEGOVIM VIZIJAMA DIVILI SE TESLA I AJNŠTAJN: Na današnji dan 1905. preminuo francuski pisac Žil Vern
SVE što čovek može da zamisli, drugi ljudi mogu da ostvare, govorio je Žil Vern, francuski pisac i jedan od očeva naučne fantastike. U svojim knjigama on je predvideo brojne tehnološke inovacije - podmornice, letelice, svemirska putovanja, pa čak i internet. Njegova vizija budućnosti fascinirala je ne samo čitaoce već i naučnike, među kojima su bili i Nikola Tesla, Albert Ajnštajn i Robert Godard.
24. 03. 2025. u 06:30
NAUKA ČINI ČUDA: Kina „ozelenila“ desetine hiljada kvadratnih kilometara pustinje Gobi (VIDEO)
SNIMAK prikazuje kako su Kinezi uspeli da ozelene oko 45.000 kvadratnih kilometara pustinje Gobi.
24. 03. 2025. u 00:33
NEVEROVATAN SNIMAK: Hobotnica se vozi na leđima najbrže ajkule na svetu (VIDEO)
U OKEANU kod severne obale Novog Zelanda zabeležen je neverovatan snimak narandžaste hobotnice koja se „vozi“ na leđima mako ajkule, najbržu ajkule na svetu.
23. 03. 2025. u 23:34
Komentari (0)