For å lære hvordan du beskytter deg mot å bli offer for falsk informasjon, må du først forstå hva deepfakes er. Deepfakes er bilder eller videoer, generert av AI for å produsere svært realistisk innhold.
Hvordan lages deepfakes?
Deep learning er en avansert kunstig intelligens (AI)-metode, som bruker flere lag med maskinlæringsalgoritmer for å trekke ut funksjoner på stadig høyere nivå fra rå input. Den er i stand til å lære fra ustrukturerte data, for eksempel et menneskeansikt.
Disse dataene behandles for å lage en Deepfake-video gjennom et GAN (Generative Adversarial Network) – et spesialisert maskinlæringssystem. To nevrale nettverk brukes til å konkurrere mot hverandre i å lære egenskapene til et opplæringssett (for eksempel bilder av ansikter) og deretter generere nye data med de samme egenskapene (nye «bilder»).
Etter hvert som nettverket tester de opprettede bildene mot treningssettet, blir de falske bildene, videoene og lyden mer overbevisende. Dette gjør Deepfake til en stadig mer potent trussel, ettersom de kan bruke synteseteknikker for å gjenskape stemmer.
En annen metode for å lage deepfakes er å bruke autoencoder-arkitektur. Et nevralt nettverk med autoenkoder er utformet for å kode data (for eksempel et bilde) til en latent representasjon med lavere dimensjon (dvs. til matematiske vektorer i stedet for piksler), komprimere dataene og deretter rekonstruere de samme dataene i den andre enden av rørledningen. Autoenkodere brukes til mange formål i datasyn, for eksempel håndskriftsanalyse og ansiktsgjenkjenning.
Siden autoenkodere søker etter "essensielle" data fra et bilde (for eksempel et ansiktsbilde), er de veldig flinke til å eliminere visuell støy. Når det gjelder deepfake-programvare, betyr dette at en autoencoder-arkitektur kan lære grunnleggende funksjoner og egenskaper fra et ansiktsbilde, mens den i stor grad ignorerer fremmede faktorer som korn, skygger og andre "ikke-ansikts"-elementer som kan være til stede i bildet, noe som resulterer i allsidige og godt generaliserte modeller (dvs. modeller som kan utføre nyttige transformasjoner på data som er forskjellige fra de opprinnelige treningsdataene).
Hvordan brukes deepfakes
Mens begrepet deepfakes også brukes for å lage visuelle effekter i filmer, har deepfakes mange intensjoner:
Desinformasjonskampanjer, spesielt under valg, for å påvirke folks meninger.
Utpressing er der noen lager en dypfalske video eller et bilde av deg og truer med å frigi det hvis du ikke gir etter for deres krav.
Deepfakes phishing er å utgi seg for noen i sanntid under dekke av å hjelpe en venn, et familiemedlem eller en kollega.
Økonomisk svindel ved hjelp av deepfakes identitetstyveri .
Farene ved Deepfakes
Etter hvert som teknologien og AI utvikler seg, blir deepfake-videoer og -bilder på nett enklere å generere og mer overbevisende. Farene ved å bli ofre for deepfakes utgjør en høy risiko for bedrifter, kjendiser, ansatte, valgkandidater og vanlige enkeltpersoner.
Svindel
I 2023 betalte en finansarbeider i Hong Kong 25 millioner dollar til en svindlere på grunn av en deepfake-teknologi. Arbeideren ble invitert til å delta på en videosamtale med kolleger og selskapets økonomisjef. Under samtalen samtykket den ansatte i å betale 200 millioner dollar i Hongkong.
Til tross for at han så de andre ansatte og finansdirektøren på møtet, var det dypfalske AI som manipulerte ansiktsgjenkjenningen til å se ut som kollegene og økonomidirektøren.
Utpressing og ærekrenkelser
I 2020 oppdaget sørkoreansk politi en ring med menn som tok bilder av jenter på videregående skoler for å lage og distribuere på meldingsappen Telegram. Til å hjelpe mennene var videregående gutter som tok bilder av klassekameratene sine, hvorav noen var mindreårige, og deretter sendte dem til skaperne.
Disse videoene ville bli distribuert på forskjellige plattformer , og etterlatt jentene hjelpeløse til å gjøre noe. Selv om det ikke er dem som har skjedd, påvirker de falske bevisene hvordan de blir sett av samfunnet, og er fortsatt traumatiserende.
Deepfake phishing
I 2024 ble en 77 år gammel kvinne i Storbritannia, Nikki, lurt ut 17 000 pund på grunn av deepfake-videoer. Kvinnen møtte en annen kvinne på nett, og de dannet et forhold - eller det trodde hun. Svindleren hevdet at de jobbet på en oljerigg og ikke kunne videosamtale, og at offeret hennes måtte betale for bilag for å få tilgang til Internett. Da Nikki ble mistenkeliggjort, begynte gjerningsmannen å sende henne videoer av «seg selv på oljeriggen», og dempet Nikkis mistanker. Etter hvert som forholdet fortsatte, ba Nikki ofte om en videosamtale, som alltid ble avslått, men kort tid etter mottok hun AI-genererte dokumenter, bilder og videoer for å berolige henne - og ba deretter om mer penger.
Nikki ble først informert om svindelen da hun forsøkte å overføre penger til partnerens bankkonto.
Ufarlige deepfakes
Noen deepfakes på nett kan kun være for underholdningsformål i et forsøk på å få flere følgere på sosiale medieplattformer.
En av de mest populære deepfakene var av Tom Cruise som ble utgitt på TikTok. Kontoen hadde en million følgere, og noen videoer nådde nesten 50 millioner visninger, til tross for at den ikke var Tom Cruise. Opprinnelig trodde folk at kjendisen hadde blitt med på plattformen fordi videoene, likheten, stemmen til og med personligheten var så overbevisende.
I 2022 tok en YouTube-skaper, Shamook, den nye Spider-man-filmtraileren og erstattet skuespilleren Tom Holland med den originale skuespilleren Tobey Maguire. Med videoen oppført som Deepfake i tittelen, er det kun for underholdningsformål.
Hvordan forhindre deepfakes
Ettersom deepfakes raskt blir en økende bekymring og sikkerhetsrisiko, er det handlinger du kan gjøre for å forhindre at det skjer med deg eller din bedrift.
Bekreft alle forespørsler
Hvis du blir bedt om å oppgi personlig eller sensitiv informasjon, må du bekrefte identiteten til den som ringte, via en sekundær kanal, for eksempel å ringe tilbake til selskapet de sa at de var fra.
Bruk personverninnstillinger på alle nettkontoer
Begrens tilgangen til kontoer på sosiale medier med videoer eller bilder av deg for å redusere mulighetene for å gjenskape bildet ditt.
Passordbeskyttelse
Endre dine passord regelmessig. Sørg for at alle passord er sterke , unike, komplekse og minst 16 tegn lange. På delte kontoer, bruk programvare for deling av passord, slik at du ikke trenger å gi ut passordet ditt til familie eller ansatte.
Legg til totrinnsgodkjenning for kontoer
Forsikre deg om at alle nettkontoer krever at du bekrefter identiteten din før du får tilgang til med totrinnsgodkjenning. Dette gjør det vanskeligere for svindlere å hacke seg inn på kontoene dine.
Oppdater programvare regelmessig
Programvareoppdateringer er avgjørende for å sikre at enhetene dine er beskyttet mot de nyeste skadelige programmene , spionprogrammer og feil.
Tren de ansatte regelmessig
Akkurat som teknologi utvikler seg, utvikler også deepfake-svindelmodus. Det er viktig å holde deg oppdatert med de siste svindelene og snakke med ansatte om hvordan de kan identifisere dem.
Vit hvordan du identifiserer en deepfake-video
Følg personens ansiktstrekk i videoen for å bekrefte at det er i samsvar med vanlige menneskelige bevegelser.
Rykker videoen eller har den inkonsekvent klarhet?
Sjekk om du har naturlige bevegelser, for eksempel å blinke. Er det for lite eller for mye?
Se på eventuelle skygger og lys i videoen for å se om de er konsistente.
Ta et skjermbilde og last det opp til Google for å autentisere kilden.
Hva du skal gjøre hvis du er et offer
Dokumenter bevisene
Sørg for å lagre deepfakes og alt relatert til det, dette inkluderer kommentarer, plattformer den ble delt på (hvis aktuelt), skjermbilder og eventuelle data knyttet til det. Legg merke til dato, klokkeslett og plattform det skjedde.
Varsle plattformer
Hvis det falske innholdet er fra en plattform, må du rapportere det til vertsplattformen du så det på, for eksempel YouTube, Facebook eller X. De fleste plattformer har retningslinjer for fjerning av manipulerte medier .
Ta kontakt med myndigheter
Deepfakes som involverer identitet eller økonomisk tyveri er forbrytelser. Varsle lokal politi og fremlegg bevisene dine, slik at myndighetene kan utstede en formell rapport. Denne rapporten kan brukes for din bank, forsikring og andre offisielle kontoer av forbrytelsen.
Søk rettslige skritt
Undersøk ærekrenkelses-, opphavsretts- eller personvernlover i din jurisdiksjon for å sikre at du har en overbevisende sak. Sjekk om andre ikke har blitt offer for den samme svindelen, og etterforsk om mulig en gruppesøksmål.
Ansett et PR-firma
Hvis ditt eller din bedrifts omdømme er på spill, kan samarbeid med en PR-ekspert hjelpe deg med å lage et svar og distribuere det til de nødvendige partene for å begrense eventuelle skader.
Toppmoderne anti-fake-teknologi
Flere teknologiselskaper produserer deepfake-deteksjonsverktøy for å hjelpe til med å stoppe spredning av feilinformasjon, svindel og trist phishing-svindel.
Enkelte nye teknologier hjelper nå videoskapere med å autentisere videoene sine. En kryptografisk algoritme kan brukes til å sette inn hash-koder ved angitte intervaller i videoen. Hvis videoen blir endret på, endres hash-kodene. Kunstig intelligens og blokkjede kan registrere et digitalt fingeravtrykk for videoer, som ikke kan manipuleres. Det ligner på vannmerker i dokumenter, men det som er vanskelig med videoer, er at hash-kodene må overleve hvis videoen komprimeres for bruk med ulike kodeker.
En annen måte å forhindre Deepfake-forsøk på, er å bruke et program som setter inn spesialdesignede digitale artefakter i videoer for å skjule pikselmønstrene som ansiktsgjenkjenningsprogramvare bruker. Disse svekker så Deepfake-algoritmene og gir resultater av dårlig kvalitet, noe som gjør det mindre sannsynlig at Deepfaking lykkes.
Forebyggende sikkerhetsbeskyttelse:
Sørge for at ansatte og familie vet om hvordan Deepfaking fungerer, og utfordringene ved det.
Sørge for at du og andre vet hvordan man oppdager en Deepfake.
Sørge for at du har kjennskap til medier og bruker nyhetskilder av god kvalitet.
Ha gode grunnleggende protokoller. En skeptisk holdning til talepost og videoer er ingen garanti mot at du aldri vil bli lurt, men det kan hjelpe deg å unngå mange feller.
Regelmessig sikkerhetskopiering beskytter dataene dine mot løsepengevirus og gjør det mulig å gjenopprette skadede data.
Det å bruke ulike, sterke passord for forskjellige kontoer betyr at selv om noen har klart å bryte seg inn i ett nettverk eller én tjeneste, så betyr ikke det at andre nettverk eller tjenester også er kompromittert. Hvis noen bryter seg inn i Facebook-kontoen din, vil du ikke at de skal kunne bryte seg inn i de ande kontoene dine også.
Bruk en god sikkerhetspakke, for eksempel Kaspersky Antivirus, for å beskytte hjemmenettverket, den bærbare datamaskinen og smarttelefonen mot cybertrusler. Denne pakken inneholder antivirusprogramvare, et VPN for å hindre at Wi-Fi-tilkoblingene dine blir hacket, og beskyttelse for webkameraene dine også.
Hva er fremtiden til Deepfake?
Deepfake utvikler seg hele tiden. For to år siden var det veldig enkelt å se hva som var en Deepfake-video, fordi det var dårlig kvalitet på bevegelsene, og fordi det virket som om den forfalskede personen aldri blunket. Ved å sikre at du er trygg på nettet og at du er årvåken og mistenksom overfor nettaktiviteter, spesielt når det gjelder personlig informasjon, blir det enklere for folk å identifisere svindelen før den skjer.
Vanlige spørsmål
Hva er søppelpost-fishing?
Sosialt konstruerte angrep på bedrag er en type phishing-svindel som svikter og manipulerer enkeltpersoner ved å utgi seg for å være mennesker. Målet med disse svindelene er å trekke ut sensitiv informasjon og få ofre til å overføre penger eller få tilgang til systemer.
Bør jeg være bekymret for stemmedeepfakes brukt svindel?
Ja. Svindlere kan nå generere dypfalske lyd som høres ut akkurat som deg, for å presse penger fra venner, familie eller kolleger under dekke av å hjelpe deg. For å omgå dette, sett opp et kodeord eller sikkerhetsspørsmål med sine kjære, som en svindler ikke vil vite svaret på, som du kan spørre under en samtale, for å bekrefte identiteten sin.
Hvordan skjer identitetstyveri?
Svindlere kan bruke likheten din eller stemmen din til å forfalske dokumenter, endre kontonumre eller utgi seg for å være deg over telefon.
Hvordan lages deepfakes?
Deepfake-videoer, -lyd og -bilder er laget av AI. Maskinlæringen tar inn alle dataene om ditt fysiske utseende og lager en syntetisert versjon.
Anbefalte produkter
