Razlike

Slijede razlike između dviju inačica stranice.

--- racfor_wiki:seminari2025:lz54251 [2026/01/21 22:52]
Luka Žaja [Zaključak]
+++ racfor_wiki:seminari2025:lz54251 [2026/01/21 23:19] (trenutno)
Luka Žaja [Literatura]
@@ Redak 3: / Redak 3: @@
 ===== Sažetak =====
+Porastom deepfake tehnologije i njezine sve češće upotrebe u digitalnim prijevarama, dezinformacijama i napadima na digitalni identitet, postalo je ključno biti informiran o načinima zaštite protiv mogućih prijevara. Razvoj generativne umjetne inteligencije omogućio je stvaranje izuzetno realističnih slika i videozapisa uz minimalan tehnički napor, čime se značajno povećao rizik od zloupotreba u različitim industrijama.
+Različite vrste deepfake sadržaja, uključujući djelomično i potpuno generirana lica, zamjenu identiteta te rekonstrukciju lica i govora, danas se aktivno koriste u stvarnim prijevarnim scenarijima. Takvi sadržaji omogućuju stvaranje sintetičkih identiteta, zaobilaženje sustava za provjeru identiteta, provođenje socijalnog inženjeringa te manipulaciju javnim mnijenjem i tržištima. Posebno su rizični u kontekstima gdje se odluke donose brzo i na temelju vizualnog povjerenja.
+Iako postoje forenzički alati koji mogu otkriti tragove manipulacije ili AI generiranja, njihovi rezultati nisu apsolutni i često ovise o kvaliteti materijala i korištenoj tehnologiji. Kao najsigurniji pristup ističe se osiguravanje autentičnosti digitalnog sadržaja već u trenutku njegova nastanka, kroz kriptografski potpisane zapise o porijeklu i povijesti izmjena. Takvi mehanizmi omogućuju pouzdaniju zaštitu digitalnog identiteta i smanjuju prostor za zloupotrebu deepfake tehnologije.
 ===== Uvod =====
-Ako korisite Internet u zadnje vrijeme vjerojatno ste primjetili porast Deepfake sadržaja poput AI generiranih videa ili slika. Iako je u većini slučajeva takav sadržaj šaljivog ili bezazlenog karaktera, u nekim slučajevima on se može koristiti za negativne svrhe poput širenja propagande ili pokušaja prijevare pojedinaca.
+Ako koristite Internet u zadnje vrijeme vjerojatno ste primijetili porast Deepfake sadržaja poput AI generiranih videa ili slika. Iako je u većini slučajeva takav sadržaj šaljivog ili bezazlenog karaktera, u nekim slučajevima on se može koristiti za negativne svrhe poput širenja propagande ili pokušaja prijevare pojedinaca.
-Prijevare potaknute umjetnom inteligencijom brzo rastu i sve ih je lakše provesti. Novi alati omogućuju stvaranje izuzetno realističnih lica, videozapisa i dokumenata uz minimalan trud. Ono što je nekada zahtjevalo napredno tehničko znanje danas je dostupno gotovo svima, što dovodi do porasta pokušaja prijevara u gotov svim industrijama.
+Prijevare potaknute umjetnom inteligencijom brzo rastu i sve ih je lakše provesti. Novi alati omogućuju stvaranje izuzetno realističnih lica, videozapisa i dokumenata uz minimalan trud. Ono što je nekada zahtijevalo napredno tehničko znanje danas je dostupno gotovo svima, što dovodi do porasta pokušaja prijevara u gotov svim industrijama.
-U ovom wiki članku biti će objašnjene iduće stvari:
+U ovom wiki članku bit će objašnjene iduće stvari:
   * Različite vrste deepfakeova
   * Načini na koje ih prevaranti koriste u stvarnim napadima
@@ Redak 37: / Redak 42: @@
   * Sužavanje ili proširivanje lica
-Budući da ovi modeli zahtjevaju vrlo malo računalne sange, prevaranti ih mogu koristiti tijekom prijenosa uživo bez ikakvog kašnjenja ili uočljivih anomalija. Zbog toga su posebno pogodni za zloupotrebu u video provjerama identiteta, gdje promjene izgledaju prirodno i teško ih je uočiti.
+Budući da ovi modeli zahtijevaju vrlo malo računalne snage, prevaranti ih mogu koristiti tijekom prijenosa uživo bez ikakvog kašnjenja ili uočljivih anomalija. Zbog toga su posebno pogodni za zloupotrebu u video provjerama identiteta, gdje promjene izgledaju prirodno i teško ih je uočiti.
 {{ :racfor_wiki:seminari2025:1.png?nolink&400 |}}
@@ Redak 43: / Redak 48: @@
 ==== Potpuno AI generirana lica ====
-Potpuno AI generirana lica stvaraju se u cijelosti od nule pomoću generativnih AI modela poput DALL-E, SDXL, Midjourneyja ili Stable Diffusiona. Napdači mogu vrlo jednostavno zadati promptove koji definiraju izgled osobe na temelju spola, rase ili nacionalnosti.
+Potpuno AI generirana lica stvaraju se u cijelosti od nule pomoću generativnih AI modela poput DALL-E, SDXL, Midjourneyja ili Stable Diffusiona. Napadači mogu vrlo jednostavno zadati promptove koji definiraju izgled osobe na temelju spola, rase ili nacionalnosti.
 Osim javno dostupnih AI alata, na dark webu se prodaju specijalizirani alati koji omogućuju izradu izuzetno realističnih slika i videozapisa, posebno dizajniranih za potrebe prijevare. Ovi alati dodatno snižavaju razinu znanja koja je potrebna za izvesti efektivnu prijevaru te povećavaju efikasnost i sofisticiranost deepfake napada.
@@ Redak 55: / Redak 60: @@
 Postoji velik broj alata koji omogućuju izradu ovakvih deepfakeova jednostavnim učitavanjem fotografije ili videozapisa. Proces je brz i ne zahtijeva napredno tehničko znanje.
-Na donjem primjeru možemo vidjeti zamjenu lica Roberta Downeya Jr. sa Elonom Muskom.
+Na donjem primjeru možemo vidjeti zamjenu lica Roberta Downeya Jr. s Elonom Muskom.
 {{ :racfor_wiki:seminari2025:3.jpg?nolink&300 |}}
@@ Redak 81: / Redak 86: @@
 Deepfake tehnologija koristi se u širokom spektru prijevarnih scenarija. Oni se mogu pojaviti tijekom onboardinga, prijave u sustav, autorizacije plaćanja i rješavanja sporova - odnosno svugdje gdje se provjeravaju identitet i povjerenje.
-U nastavku su neka od područja u kojima prevaranti aktivno koriste deefake tehnologiju.
+U nastavku su neka od područja u kojima prevaranti aktivno koriste deepfake tehnologiju.
 ==== Sintetički identitet ====
@@ Redak 95: / Redak 100: @@
 ==== Prijevare putem socijalnog inženjeringa ====
-Deepfakeovi pružaju brzo vizualno "dokazivanje" identitea kojim se potkrepljuje lažni pozivi ili poruke te se smanjuje oprez žrtava. Napadači često koriste kratke videoisječke, namjerno dodaju šum u pozadini ili kašnjenje slike kako bi prikrili nepravilnosti, a zatim vrše pritisak na žrtvu da izvan uobičajnih kanala odobri plaćanja ili prebaci novac.
+Deepfakeovi pružaju brzo vizualno "dokazivanje" identiteta kojim se potkrepljuje lažni pozivi ili poruke te se smanjuje oprez žrtava. Napadači često koriste kratke videoisječke, namjerno dodaju šum u pozadini ili kašnjenje slike kako bi prikrili nepravilnosti, a zatim vrše pritisak na žrtvu da izvan uobičajenih kanala odobri plaćanja ili prebaci novac.
 ==== Prijevare s prijavama za posao ====
-U posljednje vrijeme bilježi se porast korištenja sintetičkih videozapisa i generiranih fotografija profila za prolazak online intervjua za remote posao. Ako se prevarant zaposli, može krasti podatke i intelektualno vlasništvo, varati tvrtku i njezine korisnike ili provoditi "salary arbitrage" tj. fenom gdje zaposlenik tvrdi da živi u skupim regijama dok se zapravo nalazi u područjima s puno nižim troškovima života te traži uvjete zaposlenja koji inače nebi bili mogući.
+U posljednje vrijeme bilježi se porast korištenja sintetičkih videozapisa i generiranih fotografija profila za prolazak online intervjua za remote posao. Ako se prevarant zaposli, može krasti podatke i intelektualno vlasništvo, varati tvrtku i njezine korisnike ili provoditi "salary arbitrage" tj. fenom gdje zaposlenik tvrdi da živi u skupim regijama dok se zapravo nalazi u područjima s puno nižim troškovima života te traži uvjete zaposlenja koji inače ne bi bili mogući.
 ==== Dezinformacije i napadi na reputaciju ====
@@ Redak 108: / Redak 113: @@
 ==== Krivotovorenje dokaza za zahtjeve i sporove ====
-Napadači korsite deepfake tehnologiju za izradu uvjerljivih "dokaza" u slučajevima povrata sredstava, chargebackova i osiguravateljskih zahtjeva. Uređuju snimke dostave kako bi prikazali nestali ili ukradeni paket, režisirali lažne videozapise nesreća ili mijenaju račune i fakture kako bi potkrijepili zahtjev za povrat.
+Napadači koriste deepfake tehnologiju za izradu uvjerljivih "dokaza" u slučajevima povrata sredstava, chargebackova i osiguravateljskih zahtjeva. Uređuju snimke dostave kako bi prikazali nestali ili ukradeni paket, režisirali lažne videozapise nesreća ili mijenjaju račune i fakture kako bi potkrijepili zahtjev za povrat.
 U nekim slučajevima generiraju lažne snimke s kućnih kamera koje prikazuju krađu paketa ili slike "pogrešno isporučene" robe, čime se potiču automatske isplate bez ljudske provjere.
@@ Redak 116: / Redak 121: @@
 ==== Ucjene s deepfakeom ====
-Ove prijevare najčešće ciljaju mlađe osobe i obično započinju na društvenim mržama. Napadači korsite deepfake alate za stvaranje lažnih eksplicitnih slika ili videozapisa žrtava, a zatim prijete njihovim javnim objavljivanjem ako ne dobiju novac ili pristup financijskim računima.
+Ove prijevare najčešće ciljaju mlađe osobe i obično započinju na društvenim mrežama. Napadači koriste deepfake alate za stvaranje lažnih eksplicitnih slika ili videozapisa žrtava, a zatim prijete njihovim javnim objavljivanjem ako ne dobiju novac ili pristup financijskim računima.
 Ova vrsta zloupotrebe postala je ozbiljan globalni problem, zbog čega su društvene platforme počele uvoditi nove zakone usmjerene na zaštitu digitalnog identiteta i zabranu eksplicitnih deepfake sadržaja.
@@ Redak 123: / Redak 128: @@
 Postoji nekoliko upornih mitova o tome kako prepoznati deepfake sadržaj, a u nastavku su navedeni oni najpopularniji koji bi nas mogli prevariti u detekciji deepfakea.
-=== Mit #1: Večina deepfakeova ima kašnjenje (lag) ===
+=== Mit #1: Većina deepfakeova ima kašnjenje (lag) ===
-Danas postoje modeli koji mogu stvarati deepfakeove praktički bez ikakvog kašnjenja. U pravilu, što je preciznije podudaranje piksela pri zamjeni lica, to je veće opterećenje CPU/GPU resursa i veća vjerojatnost kašnjenja. Međutim, prevaranti sve češće koriste lakše modele koji omogućuju izradu visokorezolucjiskih deepfakeova bez vidljivog kašnjenja ili pikselizacije.
+Danas postoje modeli koji mogu stvarati deepfakeove praktički bez ikakvog kašnjenja. U pravilu, što je preciznije podudaranje piksela pri zamjeni lica, to je veće opterećenje CPU/GPU resursa i veća vjerojatnost kašnjenja. Međutim, prevaranti sve češće koriste lakše modele koji omogućuju izradu visokorezolucijskih deepfakeova bez vidljivog kašnjenja ili pikselizacije.
 === Mit #2: Ako postoji kašnjenje, ljudi neće povjerovati deepfakeu ===
@@ Redak 134: / Redak 139: @@
 === Mit #3: Metapodaci dokazuju da je slika/videozapis stvarna ili lažna ===
-Metapodaci se mogu urediti ili ukloniti pomoću alata poput ExifTool-a. Većina društvenih mreža ionako autoatski prepisuje ili uklanja EXIF podatke prilikom učitavanja. Iako metapodaci ponekad mogu pružiti korisnu naznaku kod otkrivanja lažnih slika, oni nisu pouzdan dokaz autentičnosti.
+Metapodaci se mogu urediti ili ukloniti pomoću alata poput ExifTool-a. Većina društvenih mreža ionako automatski prepisuje ili uklanja EXIF podatke prilikom učitavanja. Iako metapodaci ponekad mogu pružiti korisnu naznaku kod otkrivanja lažnih slika, oni nisu pouzdan dokaz autentičnosti.
 ===== Provjera autentičnosti digitalnih slika =====
@@ Redak 187: / Redak 192: @@
 ===== Literatura =====
-[1] [[http://books.google.hr/books?id=mFJe8ZnAb3EC&printsec=frontcover#v=onepage&q&f=false|Plass, Jan L., Roxana Moreno, and Roland Brünken. Cognitive Load Theory. Cambridge University Press, 2010.]]
+[1] [[https://latamjournalismreview.org/articles/five-tools-to-detect-analyze-and-counter-disinformation/|César López Linares; Five tools to detect, analyze and counter disinformation; December 1, 2025]]
+[2] [[https://www.sardine.ai/blog/ai-deepfake-detection/|Eduardo Lopez; Deepfake detection: A practical guide for fraud prevention teams; October 23, 2025]]
-[2] [[http://www.google.com/books?id=duWx8fxkkk0C&printsec=frontcover#v=onepage&q&f=false|Mayer, Richard E. The Cambridge handbook of multimedia learning. Cambridge University Press, 2005.]]
+[3] [[https://arxiv.org/abs/2008.04095/|Guarnera, L., Giudice, O., & Battiato, S.; Fighting Deepfake by Exposing the Convolutional Traces on Images; August 7, 2020]]
-[3] [[http://www.cogtech.usc.edu/publications/kirschner_Sweller_Clark.pdf|Kirschner, P. A, Sweller, J. and Clark, R. E. Why minimal guidance during instruction does not work: An analysis of the failure of constructivist, discovery, problem-based, experiential, and inquiry-based teaching. Educational psychologist 41, no. 2, pp 75-86, 2006]]
+[4] [[https://c2pa.wiki/getting-started/faq/|C2PA Wiki; Frequently Asked Questions (FAQ); Dec 2, 2025]]

racfor_wiki/seminari2025/lz54251.1769035951.txt.gz · Zadnja izmjena: 2026/01/21 22:52 od Luka Žaja