Af Palle Vibe, Alt om Data
Denne artikel er oprindeligt bragt på Alt om Data. Computerworld overtog i november 2022 Alt om Data. Du kan læse mere om overtagelsen her.
Politiet i North Carolina har taget en ny avanceret softwarealgoritme i rutinemæssig brug. Det drejer sig nærmere bestemt om et maskinlæringsbaseret computerprogram, der kan identificere politiansatte i potentiel risiko for at komme galt af sted under udrykning, afstedkomme uheld med politibiler eller komme til at overtræde retningslinjerne for korrekt adfærd og blive involveret i skyderier og unødvendigt håndgemæng.
Hidtil har sådanne evalueringer været lagt i hænderne på ældre og erfarne politifolk med den nødvendige indsigt og ekspertise til at vurdere, om en given politiassistent kan blive til fare for offentligheden eller sig selv. Men som alt andet er også den slags evalueringer underlagt budgetnedskæringer og begrænsede bevillinger.
Derfor er der i tidens løb blevet brugt mange kræfter på at finde alternative metoder, og her er det naturligvis oplagt at gøre brug af computeranalyser for på forhånd at kunne udpege mulige ulykkesmagere.
![kunstigintelligens](https://www.computerworld.dk/uploads/aod/2017/09/kunstigintelligens03-1024x576.jpg)
Dårlige programmer giver forkerte billeder
Systemer af den type kaldes generelt for Early Intervention Systems (EIS), fordi de på forskellig måde forsøger at give et bud på enkelte personers anlæg for at optræde uheldigt eller voldeligt. Men tidligere EIS-systemer har alene været baseret på grænseværdier og kunne kun overskue en vis begrænset mængde data over et begrænset tidsrum. Disse programmer er derfor kun i stand til at udpege betjente, der er blevet involveret i voldsanvendelse et vist antal gange i løbet af en nøjere angivet periode (som eksempelvis mere end tre episoder over et tidsrum på 90 dage).
Så vil de kunne komme med en advarsel til ledelsen, men hverken forudsige eller medvirke til at forebygge uheldige episoder, der kan omfatte skader på enten personer eller materiel. Men det er ikke specielt nyttigt eller hensigtsmæssigt at udpege betjente, der tidligere har været involveret i voldsepisoder og alene af den grund automatisk bliver udpeget af denne form for computersoftware og derved næsten lige så automatisk bliver mistænkeliggjort alene af den grund.
Effektiv prædiktiv software skal også kunne spotte ansatte, der ikke i deres tjenestemæssige fortid har haft nogen som helst medvirken i voldsepisoder, men derfor godt kan blive det i fremtiden. Og denne mulighed er måske ikke bare praktisk, men også nødvendig. Alene i 2016 er 583 mennesker angiveligt blevet konfronteret og dræbt af politiet, hvilket selvsagt har forårsaget en del utilfredshed og kritik fra den lovlydige del af borgerbefolkningen.
Men brug af lignende EIS-programmer anvendt over for civile har heller ikke været nogen succes. Eksempelvis er et softwareprogram, der på tilsvarende måde er skabt til civil voldsforudsigelse, blevet en total fiasko. Siden 2013 har politiet i Chicago i samarbejde med Illinois Institute of Technology gjort brug af et softwareprogram, der er udviklet til at identificere de borgere, som er i størst risiko for at begå kriminalitet af mulig voldelig art.
Dette program tager dog udgangspunkt i data om tidligere anholdelser for narkobesiddelse, banderelationer og alder under sidste anholdelse, og det har ikke i praksis vist sig særligt hensigtsmæssigt. Knap 500 amerikanske civile borgere er med brug af denne særlige algoritme blevet udpeget til at være disponeret for at begå voldskriminalitet. Og det har udløst en stormflod af protester fra bl.a. den amerikanske rettighedsorganisation American Civil Liberties Union, der anklager algoritmen for ren vilkårlighed i forhold til både hvem, der bliver udpeget, og hvordan listen bliver anvendt.
Protesterne bliver underbygget og støttet af en rapport udarbejdet af tænketanken RAND Corporation, der forsker inden for videnskab og uddannelse. Rapporten godtgør uden for al tvivl, at listen ikke – som det ellers meningen var – har lettet byens politikorps i arbejdet med at holde de udsatte borgere væk fra voldskriminaliteten. Tværtimod har anvendelsen af programmet og politiets umiddelbare tillid til dets forudsigelser resulteret i, at personer på listen oftere end andre blev anholdt på mere eller mindre spinkelt grundlag.
I flere tilfælde af eksempelvis skyderier tjekkede politiet blot programmets liste for personer fra de pågældende områder og startede så med at afhøre og måske anholde dem, selv om årsagen til disse anholdelser hverken har kunnet fuldt klarlægges eller retfærdiggøres. Med andre ord anvendte politiet derfor snarere listen til at målrette efterforskningen frem for en forebyggende indsats.
RAND-studiet af programmet og dets resultater konkluderer i øvrigt, at det ikke hjælper særlig meget at afhøre folk med angivelig risiko for at blive involveret i vold, når det ikke samtidig ledsages af vejledning og forslag til at undgå denne mulige vold ledsaget af relevant opfølgning.
![kunstigintelligens](https://www.computerworld.dk/uploads/aod/2017/09/kunstigintelligens-1024x645.jpg)
Intelligente algoritmer og maskinlæring træder til
Center for Data Science and Public Policy (CDSP) har netop i et forskningssamarbejde mellem universiteterne i Chicago, Michigan, Princeton, Arizona og Carnegie Mellon samt Charlotte-Mecklenburg Police Department (CMPD) udviklet sådan et program.
Det nye program, der er af typen Early Warning System (EWS), anvender intelligente algoritmer og maskinlæring til at give en langt mere grundig og pålidelig analyse og ud fra de enkelte betjentes almene karakter såvel samt familie- og boligsituation forsøger at udstikke et muligt risikobillede og angive hver enkelt politiansattes sandsynlighed for at blive involveret i voldsepisoder.
Programmet inddrager baseret data om både demografi, uddannelse og lønforhold foruden aktionsrapporter, beskrivelser af opgavehåndtering, eventuelle påklager samt offentligt tilgængelige data hentet fra eksempelvis sociale medier. Programmet vil også behandle alle rapporter og oplysninger om tidligere aktioner, hvor der er blevet trukket våben, stave eller kæmpet mod personer samtidig med tilkaldssager, der har involveret selvmord
eller vold i hjemmet.
Det sker naturligvis med hver enkelt betjents fulde vidende og samtykke som led i ansættelsen, og samtlige data sendes derpå gennem flere rækker neurale netværk og maskinlæringsalgoritmer, og muligheden for at lade real-time feedback indgå i databasen vil kunne træne modellen yderligere og forbedre træfsikkerheden væsentligt over tid.
Og når programmet først har påpeget, hvilke ansatte, der givetvis kan blive fysisk involveret i voldsepisoder, hvor borgere bliver angrebet eller forulempet i stedet for beskyttet, kan stationens overordnede hurtigere og mere effektivt gribe ind i tide og både tilbyde særlig forebyggende rådgivning og eventuel ekstra uddannelse i krisehåndtering mv.
På den måde vil de pågældende medarbejdere også selv have mulighed for at rette op på deres adfærd og undgå at havne i en negativ interaktion med borgerne og blive mødt med ansættelsesmæssige konsekvenser. Det vil alt andet lige give tryggere og mere ydelsesparate politimedarbejdere, bedre og mere effektive politikorps og dertil bedre sikkerhed for både politi og borgere.
Det nye computerbaserede og maskin-læringsfunderede analyseværktøj er både billigere, hurtigere og mere nøjagtigt og kan ikke bare levere sikrere og bedre resultater end hid-til tilsvarende programmer, men har også mulighed for at lære af egne fejl. Samtidig er andelen af såkaldt “falske positiver” dvs. angivelse af et forhold, der rent faktisk ikke har hold i virkeligheden, faldet 55 % i forhold til hidtidige EIS-systemer.
![kunstigintelligens](https://www.computerworld.dk/uploads/aod/2017/09/kunstigintelligens02-1024x655.jpg)
CDSP vil naturligvis gerne tilbyde deres program til andre politimyndigheder og lægger det ud som open source klar til at bygge videre på. Men programmet har naturligvis ikke det sidste ord. Computeren kan blot påpege, at en given politiansat med en vis sandsynlighed er i risikogruppen for på et tidspunkt at blive inddraget i uheld eller voldelig adfærd af en eller anden art.
Og så er det helt op til den pågældendes overordnede at tage hånd om situationen og drage omsorg for, at det ikke sker. Med de rigtige data og algoritmer vil programmet også kunne forudsige civil ulydighed med så god træfsikkerhed, at mange mulige episoder med vold af både uniformeret politi og civile borgere helt vil kunne undgås.