Denne klumme er et debatindlæg og er alene udtryk for skribentens synspunkter.
’Deep fakes’ har et uhyggeligt potentiale, som enhver virksomhed bliver nødt til at tage alvorligt.
Du har helt sikkert hørt om, hvordan ’fake news’ og senest ’deep fakes’ er blevet anvendt til at manipulere med den offentlige samtale og demokratiske valg.
Senest har Twitter indført en markering af manipuleret indhold, som kom i brug i forbindelse med en manipuleret video af Demokaternes præsidentkandidat, Joe Biden.
Men du var måske ikke klar over, at manipuleret indhold og særligt ’deep fakes’, hvor videoer og tale er manipuleret, i stigende grad bliver anvendt til at ramme virksomheder.'
Helt tilbage i 2016 – nærmest forhistorisk tid, når vi taler om den teknologiske udvikling – opfordrede en gruppe internetbrugere til boykot af Pepsi efter en udtalelse fra selskabets CEO, der dog senere viste sig at være manipuleret.
Virksomhedens omdømme faldt kraftigt i USA, og det samme gjorde aktiekursen. Skaden var allerede sket, da manipulationen blev afsløret.
For nylig blev en chef for en britisk virksomhed narret til at overføre cirka 1,5 mio. kroner, fordi han troede, at han havde den tyske CEO for virksomhedens tyske moderselskab i røret.
Det viste sig, at han bare havde talt med en samplet stemme.
Bare et par eksempler på, hvilke uhyggelige perspektiver der er for at ramme aktiekurser, omdømme og salg. Og du behøver ikke at være en stor, børsnoteret virksomhed for at komme i skudlinjen.
Noget så simpelt som manipulation med din virksomheds online rating kan have enorm indflydelse på salget.
Skabt af kunstig intelligens. Spredt af dig og mig
Set fra mit skrivebord er det overraskende, at vi ikke allerede har flere eksempler – også på danske virksomheder, der bliver ramt. For det er efterhånden blevet uhyggeligt nemt både at producere og sprede ’deep fakes’.
Man behøver ikke at kigge længere end til Adobes værktøjer for at finde muligheder for at fjerne både personer og ting fra videoer og billeder.
Og værktøjer til at manipulere ansigter ind i videoer er bredt tilgængelige.
Som så meget andet på internettet blev det i starten drevet af porno – og visse menneskers lyster til at sætte en bestemt kendt person ind i pornografisk materiale. I dag bliver det anvendt bredere, og eksemplerne er mange.
Det er udviklingen inden for kunstig intelligens, der nu gør det muligt at fremstille relativt sofistikerede manipulerede videoer uden at have den store ekspertise.
Og det vil inden længe være noget, alle og enhver kan gøre med standardværktøjer på deres pc eller telefon.
Vi befinder os allerede i en virkelighed, hvor du i udgangspunktet ikke kan regne med, at videomateriale eller stemmeoptagelser er sande.
Og det bliver kun værre.
Samtidig har såkaldte ’troll farms’ og ’bot farms’ gjort det nemmere for banditterne at få spredt det falske materiale.
Men faktisk viser undersøgelser, at den primære spredning sker gennem dig og mig.
Det er primært helt almindelige brugere med relativt få følgere på sociale medier, der spreder det falske indhold. Og det går stærkt.
En anden undersøgelse viser nemlig, at det manipulerede materiale bliver spredt langt hurtigere end ikke-manipulerede. Helt sikkert fordi der oftere er konfliktmateriale og kontroversielt indhold i det manipulerede, som gør det mere spændende.
Forbered dig på det uforudsigelige – og gør som minimum disse tre ting
Før kunne algoritmer relativt enkelt spotte og frasortere det falske indhold på de sociale medier. Det er ikke længere tilfældet.
Derfor bliver det i højere grad din egen opgave at opdage og reagere på det manipulerede indhold, der er designet til at ramme din virksomhed. Her er tre råd til at tackle udfordringen bedre:
1. Overvåg
Hvis din virksomhed ikke allerede har sat overvågning op af sociale medier, er det måske en god idé at begynde .
Reaktionstid er afgørende, når det handler om at imødegå falsk indhold.
Jo længere reaktionstid, jo større potentiel skade på aktiekurs, omdømme eller salg.
2. Tag dialog med kommunikationsafdeling
De er din vigtigste samarbejdspartner i denne sammenhæng. For det første kan de hjælpe med at lave beredskaberne og svare hurtigt på potentielle manipulationer.
Men nok så vigtigt: Det er dem, der lige for tiden råder jeres CEO og resten af virksomheden om at komme så meget på video som muligt – også på ledernes egne sociale kanaler.
Fra en sikkerhedsansvarligs synspunkt svarer offentlig video af din CEO dog efterhånden nærmest til at lægge et fingeraftryk ud på nettet.
For der skal kun få sekunders materiale til at manipulere både billeder og stemme.
Tilgangen er naturligvis ikke at stoppe med at lave video, men det kan være, at I skal være mere bevidste om at lægge ”vandmærker” ind i form af særlige formater, så det er nemmere at spotte de falske videoer.
Og måske skal I være mere stringente med at vedligeholde et bibliotek over videoer på jeres webiste, så det nemmere for brugere at tjekke, om en given video er ægte eller falsk.
3. Bekæmp teknologi med teknologi
Når det manipulerede materiale er produceret ved hjælp af kunstig intelligens, kan det også detekteres ved hjælp af kunstig intelligens. Der findes teknologi til rådighed, der kan afsløre manipuleret indhold ved for eksempelvis at gennemtrawle nettet for det råmateriale, der er anvendt.
Og det behøver ikke at være dyrt at investere i. I mange tilfælde kan det lejes online.
Uanset hvilken tilgang, du vælger, vil deep fakes ikke være til at komme uden om på den voksende liste over trusler, du skal forholde dig til som sikkerhedsansvarlig.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.