Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Cybertrusler udvikler sig hurtigt, og AI er blevet et stærkt værktøj for angribere til at bevæge sig mere effektivt og forbedre succesraten for angreb.
Faktisk begynder mere end 80 procent af alle cyberangreb med stjålne loginoplysninger fra phishing, da det både er omkostningseffektivt og ofte meget effektivt.
Nu er vi vidne til, at dette tal stiger endnu mere på grund af optrapningen af trusler gennem AI-drevne phishing-angreb, hvor generativ AI automatiserer trin, der tidligere krævede tid, færdigheder og manuel indsats.
Det betyder, at både mængden og sofistikeringen af angreb stiger, mens selv mindre erfarne svindlere får adgang til avancerede værktøjer.
Statssponsorerede AI-trusler er stigende
Ifølge rapporten "Adversarial Misuse of Generative AI", der blev udgivet i januar 2025 af Googles Threat Intelligence Group (GTIG), har mere end 57 statssponsorerede trusselsaktører fra lande som Kina, Iran, Nordkorea og Rusland brugt AI-værktøjer til at forbedre deres cyberoperationer.
Disse grupper bruger AI til at automatisere kodning, scripting, indsamling af efterretninger om potentielle mål og forskning i kendte sårbarheder.
Iranske trusselsaktører er særligt aktive på dette område, efterfulgt af kinesiske grupper.
I stedet for at skabe helt nye typer angreb bruges AI til at gøre eksisterende metoder mere effektive og sværere at opdage.
AI gør det lettere at skabe troværdige falske konti ved at udnytte store mængder data til at generere realistiske tekster og stemmesamtaler.
AI kan for eksempel efterligne en persons skrivestil eller bruge oplysninger fra tidligere databrud til at skabe overbevisende falske profiler.
Disse angreb har ofte til formål at få modtageren til at handle hurtigt og impulsivt. De kan dog forhindres ved altid at kræve bekræftelse via en alternativ kontaktmetode.
Branchestandarder er afgørende for verificering af digitalt indhold
En stor udfordring er nu, hvordan vi kan skelne mellem ægte og manipuleret indhold på nettet.
I 2025 forventes flere initiativer til at sikre autenticiteten af digitalt indhold, for eksempel industristandarder som Coalition for Content Provenance and Authenticity ( C2PA).
C2PA er en alliance af teknologi- og medievirksomheder, der arbejder på at udvikle en fælles standard for verificering af digitalt indholds oprindelse og ægthed.
Ved at tilføje metadata til billeder, videoer og dokumenter kan C2PA hjælpe både platforme og brugere med at afgøre, om indholdet er blevet manipuleret eller er autentisk.
Ud over C2PA undersøges yderligere rammer og industriledede initiativer for at øge tilliden til digitalt indhold.
Content Authenticity Initiative (CAI), der støttes af Adobe og en koalition af interessenter, har til formål at etablere gennemsigtig medieproveniens.
På samme måde spiller indsatsen inden for cybersikkerhedsstandarder som NIST's retningslinjer for digital identitet, W3C Verifiable Credentials og EU eIDAS 2.0 en rolle i at sikre pålidelige online-interaktioner .
Parallelt hermed fortsætter cybersikkerhedsstandarder for autentificering, såsom Fast Identity Online (FIDO) -standarden, med at bekæmpe phishing ved at eliminere afhængigheden af adgangskoder, hvilket gør det betydeligt sværere for angribere at få uautoriseret adgang.
Derudover giver ISO/IEC 29115, en international standard for sikring af enhedsautentificering, en ramme for evaluering af forskellige autentificeringsmetoder baseret på risikoniveauer, hvilket sikrer, at organisationer implementerer passende sikkerhedsforanstaltninger til beskyttelse af digitale identiteter.
Ligesom industriledede autentificeringsstandarder har styrket den digitale sikkerhed, skal verifikationsprotokoller for indholdsautenticitet nu vedtages bredt for at imødegå AI-genererede trusler.
Branchen skal tage ansvar nu
Tekniske løsninger og standarder er en vigtig del af svaret, men vi skal også arbejde med uddannelse og bevidsthed - både i skolerne og på arbejdspladserne.
Ved at øge viden om AI-genererede trusler og bedste praksis for at blive phishing-resistent med moderne autentificeringsløsninger kan enkeltpersoner og organisationer blive bedre rustet til at identificere og håndtere disse risici.
Det er nu afgørende for medie- og teknologisektoren at vurdere eksisterende internationale standarder og tilpasse dem til den lokale kontekst.
Derudover bør uddannelse om disse standarder integreres i skolernes læseplaner for at opbygge bevidsthed og kompetence inden for digital sikkerhed fra et tidligt tidspunkt.
Kun gennem en kombination af uddannelse, standarder og samarbejde mellem den offentlige og den private sektor kan vi skabe en mere sikker digital fremtid.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.