AI-stemme og dypfalske svindel: hvorfor du ikke kan stole på en kjent stemme lenger

Det høres ut som en sci-fi-trope, men teknologien er her akkurat nå – AI-stemmesvindel bruker kunstig intelligens for å kopiere ekte stemmer og utgi seg for personer du stoler på. Dette fører til et skummelt scenario der en kjent stemme ikke lenger er et bevis på at et anrop er ekte.

AI- stemmeforfalskning er ikke avhengig av hacking av enheter eller ødelagte sikkerhetssystemer. Svindlerne bruker hastverk og press for å presse folk til å handle før de rekker å stille spørsmål ved det de hører. Anrop kan høres rolige ut, eller de kan være veldig emosjonelle og påtrengende.

Det sikreste svaret er enkelt. Stopp anropet og bekreft forespørselen uavhengig ved hjelp av en klarert metode. Med noen få vaner og grunnleggende verktøy er det mulig å redusere risikoen for å falle for disse svindelene uten å trenge tekniske kunnskaper.

Hva du trenger å vite:

• Stemmesvindel med AI bruker klonede eller dypfalske stemmer for å utgi seg for personer du stoler på, så en kjent stemme er ikke lenger et bevis på at et anrop er ekte.
• Disse svindelene er avhengige av at det haster og følelsesmessig press, ikke teknisk hacking, for å hindre deg i å bekrefte forespørsler.
• Nødsituasjoner i familien og etterligning av autoritet (sjefer og tjenestemenn i selskapet) er de vanligste scenariene i den virkelige verden.
• Det sikreste svaret er å avslutte samtalen og bekrefte uavhengig ved hjelp av klarerte kontaktdetaljer.
• Enkle vaner som verifisering og bruk av anropsfiltreringsverktøy kan redusere risikoen betraktelig.

Hva er en AI-stemmesvindel?

En AI-stemmesvindel er svindel der angripere bruker kunstig intelligens for å generere eller klone en persons stemme og bruke den under telefonsamtaler eller talemeldinger for å lure noen til å gjøre noe.

Disse svindelene tilhører den bredere kategorien phishing , ofte referert til som voice phishing eller vishing . I stedet for falske e-poster eller meldinger, er svindlere avhengige av realistisk klingende stemmer for å skape tillit og presse folk til å handle raskt.

Denne typen nettkriminalitet har allerede en massiv innvirkning på enkelte bransjer , spesielt i områder der telefonbaserte forespørsler, godkjenninger eller støtteinteraksjoner er vanlige.

Svindlere kan utgi seg for å være et familiemedlem som ber om akutt hjelp eller penger. De kan utgi seg for å være en administrator som ber om betaling, eller en støtteagent som hevder at det er et problem med en konto. Stemmen høres ekte ut fordi den er smart bygget fra opptak av en faktisk person.

AI-stemmesvindel er målrettet og interaktiv. Den som ringer kan svare naturlig og justere tonen gjennom hele samtalen. Det kan få situasjonen til å føles ekte og personlig i stedet for automatisert som en gammel robocaller.

Hva er en dypfalske stemme og hvordan brukes den i svindel?

En deepfake-stemme er en AI-generert kopi av en ekte persons stemme som kan brukes som en overbevisende svindel. Denne teknologien brukes til å utgi seg for noen som offeret allerede kjenner eller stoler på.

Mange av oss bruker nå AI-assistenter som viser hvor effektive syntetiserte stemmer kan være. Ting blir mer overbevisende hele tiden på en måte som kan viske ut linjene for hva som er ekte.

Deepfake-stemmer er ett verktøy innen AI-stemmesvindel. De kombineres ofte med stjålne personlige detaljer for å få anrop til å føles troverdige og haster. Dette er grunnen til at forespørselen kan høres rimelig eller realistisk ut.

Mange forbinder deepfakes med falske videoer på nettet i stedet for taleanrop. Det forventningsgapet er det svindlere utnytter. Folk er kanskje ikke årvåkne for risikoene. Når en stemme høres kjent ut, er det mer sannsynlig at folk handler raskt uten å stoppe for å bekrefte.

Hvordan kloner svindlere noens stemme?

Svindlere kloner stemmer ved å samle inn korte lydprøver og bruke AI-verktøy for å gjenskape hvordan en person høres ut. De trenger kanskje bare noen få sekunder med klar tale for å få en tilnærming til noens stemme og intonasjon.

Stemmeprøver kan noen ganger være enkle å finne. Offentlige videoer på sosiale medier og til og med korte telefonsamtaler kan gi nok materiale. Lyd mates inn i stemmekloningsverktøy som lærer noens tone og uttale. Tenk på om du har lydklipp der ute på sosiale medier noen potensielt kan ta og bruke.

Moderne stemmekloning er rask og skalerbar. Det som en gang ville ha trengt enormt spesialistferdigheter, kan nå gjøres raskt ved hjelp av allment tilgjengelige verktøy. Dette er en bekymring, ettersom det lar svindlere lage overbevisende stemmer og gjenbruke dem på tvers av mange anrop eller mål.

Hvorfor er stemmesvindel med kunstig intelligens så overbevisende?

Svindel med AI-stemme er overbevisende fordi det gir et høyt tillitsnivå å høre en kjent stemme umiddelbart. I følelsesmessige eller presserende situasjoner forventer ikke folk bedrag.

Svindlere skaper ofte press ved å hevde nødsituasjoner eller tidssensitive problemer, for eksempel å sitte fast i en by eller til og med i utlandet uten å ha mulighet til å komme tilbake. Følelser av panikk og at det haster, reduserer sjansen for at noen stopper opp og stiller spørsmål ved det de hører, selv om forespørselen føles uvanlig eller ute av karakter.

Dette er grunnen til at selv de mest sikkerhetsbevisste kan bli lurt. Svindelen er ikke avhengig av tekniske svakheter. Den utnytter vanlige menneskelige reaksjoner på stress og følelser.

Hva er de vanligste scenariene for AI-stemmesvindel?

De fleste stemmesvindler med AI følger kjente situasjoner der folk forventer hasteanrop og føler seg presset til å svare raskt. Det gjør verifisering vanskelig eller til og med føles unødvendig for øyeblikket.

Familienødtalesvindel

Familienødsvindel bruker klonede stemmer for å lage falske problemer som involverer slektninger og mennesker du bryr deg mest om.

Ofre rapporterer ofte om anrop som hevder at noen er blitt arrestert eller skadet og trenger penger raskt. Den som ringer kan be om hjelp eller høres bekymret ut. De vil sannsynligvis oppfordre lytteren til å ikke legge på eller kontakte noen andre, da dette følelsesmessige presset er utformet for å stoppe verifisering og holde situasjonen privat.

Svindleren kan presse på for umiddelbar betaling eller gi instruksjoner om å holde seg på linjen og forklaringer på hvorfor vanlige kontaktmetoder angivelig ikke fungerer. Målet er hurtighet og bedrag fremfor lange samtaler.

Svindler med etterligning av jobb og autoriteter

Disse svindelene utgir seg for å være ledere eller personer i offisielle roller og på arbeidsplasser ved å bruke rolige og selvsikre stemmer som høres kjent eller profesjonelle ut.

Et opplevd autoritetsnivå kan noen ganger øke sjansene for at folk etterkommer. Når en forespørsel ser ut til å komme fra en sjef eller klarert institusjon, er det mer sannsynlig at folk følger instruksjonene uten å spørre dem. Anrop kan innebære hastebetalinger eller konfidensielle oppgaver (begge skal behandles som røde flagg).

Disse svindelene påvirker både personlige telefoner og jobbtelefoner fordi angripere retter seg mot steder der det allerede eksisterer tillit. En samtale kan være målrettet mot en jobbenhet i åpningstidene eller en personlig telefon etter åpningstid.

Hvilke advarselsskilt bør umiddelbart vekke mistanke?

Et taleanrop bør vekke mistanke hvis det haster eller skaper press som hindrer deg i å bekrefte forespørselen på din foretrukne måte. Hvis den som ringer oppfordrer til hemmelighold eller anrop fra et nummer du ikke kjenner igjen, skal alarmklokkene dine ringe.

Personen som prøver å svindle deg kan insistere på at du skal holde anropet hemmelig eller si at andre ikke kan kontaktes. Denne isolasjonen er tilsiktet og ment for å kutte av verifisering eller erkjennelse av hva som faktisk skjer på anropet.

Vær spesielt forsiktig med forespørsler som involverer uvanlige eller irreversible betalingsmetoder som gavekort eller krypto. Disse forespørslene er utformet for å flytte penger raskt og gjøre gjenoppretting vanskelig. Å be om gavekort er en død giveaway av en svindel.

Hva skal du gjøre hvis du mottar et mistenkelig taleanrop?

Det sikreste er å avslutte samtalen og skape avstand til presset. Enhver antydning til mistenksomhet bør få deg til å kutte forlovelsen.

Legg på røret. Dette bryter det følelsesmessige grepet og gir deg tid til å tenke klart. Ikke bli på linjen for å finne ut av det, eller still oppfølgingsspørsmål, ettersom svindlere bruker samtaler for å tilpasse historien sin og finne på andre måter å gjøre historien sin mer overbevisende på.

Bekreft forespørselen uavhengig ved hjelp av klarerte kontaktdetaljer. Insister på at dere diskuterer ting via et lagret telefonnummer eller kjent e-postadresse. Unngå å fortsette samtalen eller ringe tilbake på samme nummer. Legitime innringere vil forstå verifisering. Svindlere vil prøve å stoppe det.

Hvordan kan du beskytte deg mot AI-stemmesvindel på lang sikt?

Langsiktig beskyttelse betyr både å redusere hvor ofte du blir målrettet, og å gjøre det vanskeligere for svindlere å lykkes.

AI-stemmesvindel er avhengig av tillit og at det haster. Enkle vaner og realistiske sikkerhetstiltak bidrar til å redusere risikoen uten å endre måten du bruker telefonen din daglig på.

Personlige vaner som reduserer risikoen

Små vaner kan utgjøre en stor forskjell. Noen familier og nære kontakter bruker nå kodeord i virkelige nødsituasjoner. Dette betyr at et ekte anrop kan bekreftes raskt (bare ikke lekk kodeordet).

Vær oppmerksom på offentlige taleopptak. Videoer, talenotater og taleposthilsener kan alle brukes som kildemateriale for kloning. Du trenger ikke å unngå fullstendig deling, men hvis du begrenser lange eller tydelige opptak, reduseres eksponeringen.

Behandle verifisering som normalt og ikke uhøflig. Å legge på for å ringe tilbake eller sjekke med en annen person skal være normalt. Å bruke en klarert kontaktmetode er en rimelig reaksjon, og alle legitime vil forstå. Svindlere vil fraråde dette og prøve å holde deg på linjen, slik at det kan gi et nyttig filter og test.

Kan programvare bidra til å redusere AI-stemmesvindelanrop?

Bare opp til et punkt. Verktøy for anropsfiltrering og spamregistrering analyserer anropsmønstre og uvanlig atferd for å blokkere eller flagge mistenkelige anrop før du svarer. Den kan også skanne etter mistenkelige eller kjente spamnumre.

Beskyttelser på telefonnivå kan redusere eksponeringen ved å stoppe kjente svindelkampanjer og advare om sannsynlig svindel. De kan ikke fange alle anrop. Det er mange svært målrettede svindelforsøk som bruker nye tall.

Dette er grunnen til at programvare bør ses på som et støttelag og ikke en erstatning for din bedre dømmekraft. Teknologi kan redusere hvor ofte svindel som når deg, men menneskelig verifisering er fortsatt det sterkeste forsvaret når en samtale høres ekte ut.

Hva skal du gjøre hvis du allerede har delt penger eller informasjon?

Ta kontakt med banken eller betalingsleverandøren umiddelbart hvis det ble overført penger eller hvis det er oppgitt kontodetaljer. Endre passord og aktiver flerfaktorautentisering med en gang. Hvis personlig informasjon ble delt, må du overvåke kontoer nøye for uvanlig aktivitet.

Å handle raskt etter å ha delt penger eller lekket informasjon kan begrense ytterligere skade og øke sjansene for gjenoppretting.

Dokumenter hva som skjedde mens det er ferskt. Lagre anropsdetaljer som tall og klokkeslett, slik at du har dem som bevis. Du kan også notere eventuelle instruksjoner du har fått. Denne oppføringen hjelper leverandører og myndigheter med å reagere raskere og kan forhindre at den samme svindelen påvirker andre.

Hvorfor det sannsynligvis vil øke antall svindel med AI-stemme, og hvordan du kan holde deg trygg likevel

AI-stemmesvindel vil sannsynligvis øke fordi stemmen gir svindlere en måte å utgi seg for noen på overbevisende måte. Det er lettere for svindlere å utnytte denne tilliten i stor skala, og den blir stadig bedre.

Kjennskap alene kan ikke lenger brukes som bevis. Det betyr ikke at folk er maktesløse. Verifisering fungerer fortsatt, selv om svindel blir mer overbevisende. Å legge på røret og bekrefte identitet er sterke verktøy som kan stoppe en svindel på sporet.

Ved å behandle verifisering som normalt og forventet, får du kontrollen tilbake i hendene dine. Å utvikle gode vaner kan fortsatt ha stor innvirkning og hjelpe folk til å unngå å bli fanget. Bevissthet betyr også å vite at alt kanskje ikke er som det ser ut når folk ringer deg.

Relaterte artikler:

• Dette trenger du å vite om phishing-svindel
• Hvordan unngå å bli offer for nettsvindel
• Hva er Vishing?
• Hvordan holde seg trygg mot AI-hacking?

Relaterte produkter:

• Kaspersky Premium
  
• Last ned en gratis 30-dagers prøveversjon av premiumplanen vår

Ofte stilte spørsmål

Kan svindlere klone stemmen din uten at du vet det?

Ja. Offentlige videoer eller korte opptak kan være nok til å klone en stemme uten direkte kontakt.

Hvem er AI stemmesvindler rettet mest mot?

Alle kan bli målrettet, men svindlere fokuserer ofte på personer hvis stemmer eller personlige detaljer er enkle å finne på nettet.

Er stemmesvindel med kunstig intelligens ulovlig?

Svindel, inkludert bruk av klonede stemmer for å lure, er ulovlig i mange land, selv om teknologien i seg selv er lovlig.