Er kunstig intelligens trygt? Det er uten tvil det mest populære temaet i teknologiens verden akkurat nå, og det er et som tiltrekker seg betydelig debatt.
På et globalt toppmøte i Paris i februar 2025 var synspunktene om AI-sikkerhet forskjellige blant verdens ledere. For eksempel ba Frankrikes president, Emmanuel Macron, ytterligere regulering for å hjelpe AI med å komme videre, mens visepresidenten i USA, JD Vance, sa at "politikk for vekst for AI" bør prioriteres fremfor sikkerhetshensyn.
Mens legitime virksomheter, myndigheter og folk utforsker måter å bruke AI på en ansvarlig og sikker måte, er det også en annen trussel: nettkriminelle bruk av AI for å gjøre de ondsinnede aktivitetene deres enda kraftigere og mer vellykkede.
AI cybercrime er en game-changer for sikkerhet på tvers av det digitale landskapet, og det er viktig at alle er klar over risikoene og handlingene som må til for å holde seg trygg. Denne veiledningen utforsker de forskjellige typene AI-cyberangrep, hva disse angrepene betyr fra et sikkerhetssynspunkt, og hva du kan gjøre nå for å støtte opp forsvaret ditt.
Eksempler på vellykket hacking ved hjelp av AI
Risikoen for AI-generert skadelig programvare og annen kriminell aktivitet er mye mer enn teoretisk - disse angrepene skjer allerede og krever ofre over hele verden. Her er bare tre av et stort antall eksempler:
Etterligning: Guido Crosetto
Tidlig i 2025 brukte svindlere AI-generert stemmeteknologi for å utgi seg for å være Italias forsvarsminister, Guido Crosetto. De tok deretter kontakt med velstående gründere i Italia med en fiktiv bønn om økonomisk støtte som visstnok skulle brukes til å hjelpe frie italienske journalister kidnappet i Midtøsten. Minst én forretningsmann ble lurt til å sende penger inn på det som viste seg å være en svindelkonto.
Skadelig programvare: DeepSeek ClickFix-svindel
Én nettkriminell operasjon har opprettet en nettside for verifisering som etterligner den nye kinesiske AI-en DeepSeek. Brukere som fullfører det de tror er en Captcha-verifisering kommanderer installasjonen av Vidar Stealer og Lumma Stealer, skadelig programvare som kan brukes til å stjele sensitiv informasjon, inkludert pålogginger og bankdetaljer, og til slutt resultere i svindel med nettbank .
Brukerfeil: Samsungs ChatGPT-lekkasje
Selv om det ikke er et AI- virus eller skadelig programvareangrep som sådan, fremhevet denne høyprofilerte hendelsen hvordan døren utilsiktet kan åpnes for AI-angrep. Våren 2023 brukte ansatte ved den koreanske teknologigiganten Samsung ChatGPT for å sjekke noe av kildekoden, uten å innse at dataene ville bli beholdt for å videreutdanne AI-modellen. Dette gjorde i praksis at noen av Samsungs svært sensitive åndsverk ble offentlig tilgjengelig for alle.
Typer AI-cyberangrep
Det finnes allerede flere forskjellige måter AI kan brukes til ondsinnet aktivitet, enten direkte eller til støtte for andre kriminelle foretak:
Sosial manipulering
Et sosialt ingeniørangrep er der kriminelle forsøker å påvirke menneskelig atferd og få brukere til å gi fra seg informasjon eller eiendeler til dem frivillig. Dette kan være alt fra sensitive personlige data , bankkontoinformasjon, penger eller kryptovaluta , eller tilgang til enkelte enheter og databaser. AI har vist seg å være svært nyttig i denne typen angrep, og hjelper nettkriminelle med å identifisere mål, utvikle overbevisende personligheter og meldinger, og lage lyd- og videoopptak som legger til sannsynlighet for svindelen.
Phishing-angrep
Phishing-angrep er avhengige av at brukere tror at meldingene, lenkene og e-postvedleggene de har mottatt er ekte, og klikker på det som viser seg å være skadelig programvare. God brukerutdanning har bidratt til å redusere suksessen til disse angrepene tidligere, men AI brukes nå for å gjøre phishing-forsøk mer overbevisende enn noen gang. Den kan brukes i sanntidskommunikasjon som WhatsApp meldinger eller kommunikasjon på sosiale medier, og til og med i falske kundeservice -chatboter der kunder tror de deler kontodetaljene sine med ekte ansatte.
AI ransomware
AI har utvidet de tekniske mulighetene for løsepengeangrep betraktelig. Dette inkluderer målundersøkelser, for eksempel å vurdere systemene for de mest lovende sårbarhetene å utnytte, og muligheten til å tilpasse løsepengevirusfiler slik at de fortsatt kan unngå oppdagelse av cybersikkerhetsløsninger.
Motstridende AI og ondsinnede GPT-er
Mange nettkriminelle forvrenger utdataene som genereres av AI ved å mate dem med unøyaktige data eller tukle med innstillingene til AI-modellen. Unøyaktighetene som er introdusert, kan føre til at det opprettes farlige skjevheter eller instruksjoner som passer til hackerens mål. Ved siden av dette har det vært en økning i bruk av skadelige AI-verktøy som ikke inneholder noen sikkerhetstiltak for å beskytte mot skjevheter og misbruk; GhostGPT er et nylig eksempel på en usensurert chatbot som kan brukes til å lage AI-skadelig programvare.
Deepfakes
Du tror kanskje at deepfakes bare er en bekymring for offentlige personer hvis ansikter og stemmer settes inn i fiktive, kompromitterende posisjoner, men trusselen mot alle er reell. Deepfake-teknologi kan brukes til å utgi seg for hvem som helst gjennom video, stemme eller en kombinasjon av de to. Disse kan potensielt brukes til å få tilgang til sensitiv informasjon eller til og med bankkontoer ved å lure sikkerhets- og verifiseringsprosedyrer.
Bekjempe brann med ild: Hva betyr AI-drevet nettkriminalitet for sikkerheten?
Det beste verktøyet å bruke mot AI-netttrusler er kunstig intelligens i seg selv. Det betyr ikke at standard sikkerhetsløsninger er maktesløse for å forhindre AI-støttede angrep: de vil fortsatt kunne beskytte mot mange typer skadelig programvare og hacking. Men å bringe AI inn i sikkerhetsmiksen kan gi en ekstra dimensjon til flere sikkerhetsmetoder, for eksempel:
Hendelsesrespons
AI kan brukes til å automatisere hendelsesreaksjonsaktiviteter. Kaspersky Incident Response kan for eksempel blokkere skadelig aktivitet, og berørte systemer kan isoleres mye raskere enn et menneske som reagerer på et systemvarsel kan klare. Drastisk redusering av respons- og oppløsningstider kan minimere virkningen av ethvert angrep, noe som til slutt begrenser omfanget av forstyrrelser, utgifter og tap av data.
Oppdagelse av trusler og proaktiv trusseljakt
Med så mange trusler rundt seg, kan det være vanskelig for sikkerhetsteam å holde tritt med alt som er der ute og undersøke hvert eneste varsling. Det er her AI kan hjelpe, ved å analysere brukeratferd og nettverkstrafikk i detalj, oppdage potensielle trusler raskere og filtrere ut falske positive som koster sikkerhetsteam verdifull tid. AI kan også gjøre trusselsoppdagelse proaktiv og jakte på nettangrep før de i det hele tatt begynner.
Analyse av skadelig programvare
Innsikten som AI kan generere, kan gi sikkerhetsteam en mye bedre og dybdegående forståelse av hvordan forskjellige typer skadelig programvare fungerer i praksis. Å kunne automatisere denne analysen betyr at sikkerhetsteam kan få tilgang til denne innsikten mye raskere og kan ta mer informerte avgjørelser om hvor og hvordan forsvarene deres er utformet og distribuert.
Sårbarhetssøk
AI-verktøy kan vurdere systemer og infrastruktur for å finne ut hvor de største sårbarhetene ligger, slik at sikkerhetsteam bedre kan prioritere tid og ressurser for å stenge disse sårbarhetene. Denne informasjonen er avgjørende for bedre behandling av oppdateringer og oppdateringer, for å sikre at de mest presserende oppgraderingene installeres først.
Identitets- og tilgangsbehandling (IAM)
Styrken til Identitets- og tilgangsadministrasjon har blitt betydelig styrket av AI gjennom evnen til å oppdage uvanlige mønstre av brukeraktivitet fra forskjellige steder for tilgangsforsøk til hastigheten på skrive og musebevegelser. Disse avvikene kan flagges i sanntid for å blokkere potensiell uautorisert tilgang og/eller for å generere flere verifiseringslag for å bekrefte lovlig bruk.
Etisk hacking
Etisk hacking og penetrasjonstesting er avgjørende verktøy for å oppdage sårbarheter og lukke dem proaktivt. Det kan imidlertid være en treg og tidkrevende virksomhet bare på grunn av størrelsen på arbeidsmengden det er involvert. AI kan lette administrasjonsbyrden for disse oppgavene, men på to viktige måter: ved å automatisere de enklere og mer repeterende oppgavene som reduserer teamets hastighet, og ved å analysere resultatene deres for å gi handlingsverdig innsikt.
Risikovurderinger
De samme fordelene med AI for etisk hacking kan også brukes til å utvikle risikovurderinger og prioritere trusler etter farenivå. Dette kan også være en hverdagslig, tidkrevende oppgave (så viktig som den kan være), så å bruke AI for å øke hastigheten på prosessen, ta seg av repeterende jobber og generere mer detaljert innsikt kan være svært nyttig.
Slik beskytter du deg mot AI-cyberangrep
I tillegg til de AI-baserte sikkerhetsfunksjonene ovenfor, er det mange måter å minimere sjansene for at AI-hacking skal lykkes. Fra vårt ekspertstandpunkt vil den beste veien videre bringe mennesker, planlegging og teknologi sammen:
Lag en handlingsplan for hendelser
Jo raskere du kan reagere på en hendelse, desto raskere kan du dempe enhver påvirkning og sikre at skaden ikke sprer seg for mye . Akkurat som en brannøvelse, bør du vite nøyaktig hva du skal gjøre når en sikkerhetshendelse inntreffer. Planen din bør omfatte forberedelser (dvs. forebygging og hvordan de skal reagere), oppdagelse og analyser (som bekrefter angrepets art og alvorlighetsgrad), begrense og utrydde angrepet (isolering av systemet, utbedring og patching), og gjenopprettingstaktikker som forhindrer angrepet hendelsen i å skje igjen.
Lær mer om hvordan du bygger en effektiv strategi med Kasperskys Incident Response-løsninger .
Bruk de sterkeste sikkerhetsplattformene som er tilgjengelige
Sørg for at du har den mest omfattende sikkerhetsbeskyttelsen på plass for å forsvare deg mot eksisterende trusler og nye angrep basert på AI-nettkriminalitet. Kaspersky Premium gir for eksempel sanntids antivirusbeskyttelse som umiddelbart iverksetter tiltak for å forhindre et angrep. den inkluderer også Identitetsbeskyttelse som ytterligere sikrer sensitive personopplysninger.
Vurder sikkerhetsstillingen regelmessig
Med både kunstig intelligens og nettkriminalitet i rask utvikling, kan det hende at sikkerhetstiltakene du har i bruk i dag, ikke er tilstrekkelige etter 12 måneder (eller potensielt enda tidligere enn det). Dette betyr at sikkerhet bør revideres og gjennomgås regelmessig; AI kan støtte dette gjennom sanntidsanalyse av brukeraktivitet og oppdage eventuell unormal aktivitet sammenlignet med forrige revisjonsperiode.
Opprettholde brukernes og ansattes sikkerhetsbevissthet
Den fortsatte suksessen med phishing-angrep – enten de er utviklet ved hjelp av AI eller ikke – understreker det faktum at god sikkerhet begynner hos brukerne. Nå er tiden inne for å gjøre brukerne oppmerksomme på risikoen for AI-hacking og relaterte angrep, spesielt rundt hvor overbevisende AI-generert tekst, lyd og video kan være. Dette kan hjelpe med å minne brukere om å være svært årvåkne og ikke utføre noen aktivitet med mindre de er 100% sikre på at det er trygt å gjøre det. Utforsk hvordan Kasperskys Cybersecurity Training kan hjelpe teamet ditt med å være årvåken mot AI-drevne angrep.
Relaterte artikler:
- Sosiale medier og AI: Er det trygt?
- Er ChatGPT trygt å bruke? Hva du må vite
- Slik forhindrer du nettangrep
Relaterte produkter:
