Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Mens Corona-pandemien fortsat hærger, digitaliseres private virksomheders arbejdsgange og services såvel som offentlige samfundsopgaver med syvmileskridt.
Centralt står udviklingen af AI-løsninger, altså kunstig intelligens.
AI kan understøtte vækst og effektivitet og sikre et stærkt fundament for beslutninger overalt i både den private of offentlige sektor.
Men det kræver, at vi er opmærksomme på kvaliteten og beskaffenheden af de data, som beslutningerne træffes på grundlag af.
Skæve data og skæv repræsentation kan give uetiske resultater
AI-løsninger er kun så stærke, som de data de fodres med. For at sikre, at AI giver hensigtsmæssige og retvisende resultater, kræver det nøje forberedelse.
Data er ikke nødvendigvis neutrale eller udtryk for en objektiv sandhed.
Forudsætningen for retvisende data er, at det datasæt, man handler ud fra, er retvisende. At det eksempelvis er repræsentativt for eksempelvis den kundegruppe eller det borgersegment, som man skal lave services for.
Har man ’skæve data’, som for eksempel kun afspejler et smalt segment af den samlede gruppe, vil det få betydning for beslutningerne og løsningerne inden for alt fra medicin og lægebehandling til teknologi og byplanlægning.
På samme måde vil algoritmen også afspejle sit menneskelige ophav, når den bliver trænet - så hvis man ikke har sikret en bredde i kompetencer og personlig samt kulturel baggrund, risikerer man bias.
Fire råd til en holdbar AI-etik
Hvis man vil godt i gang med at få styr på etikken i sine AI-løsninger, anbefaler jeg følgende:
- Uafhængige data. Algoritmer er ikke neutrale. De lærer fra data. Hvis data er suboptimerede og afspejler fordomme, diskriminering og uvidenhed, aflærer AI-systemet samme tankegang. En på forhånd fastlagt ramme for indsamling af data vil hjælpe til at undgå og derved balancere denne udfordring.
- Ledelsen skal tage ansvar. Ansvaret for AI-udviklingen er ikke noget, der bare kan overlades til en enkelt afdeling som eksempelvis it-afdelingen.
For de fleste virksomheder kommer AI til at have så stor indflydelse, at man internt er nødt til at have styr på beslutningsprocesser og ansvar for beslutninger og eventuelle spørgsmål, der følger i kølvandet. Derfor må det overordnede ansvar for design og anvendelse ligge hos ledelsen.
- Transparens. skab transparens omkring projektet og processerne, og udform en plan, som adresserer forskellige scenarier. I virksomhedens løbende rapportering bør der være klarhed omkring igangværende AI-relaterede projekter.
Med transparens får projektet og processerne øget forståelse, legitimitet og forankring i organisationen internt, men også i forhold til det eksterne samspil.
- Udpeg særlige AI-revisorer. AI-systemet og de etiske valg bag designet skal kunne tåle at blive undersøgt grundigt. Særlige AI-revisorer bør have som opgave at sikre, at systemet reagerer som det skal.
Derfor er det vigtigt, at AI-revisorerne har forskellige kompetencer for at afdække anvendeligheden af data, algoritmer og modeller. De etiske, juridiske, antropologisk og de eventuelle samfundsmæssige konsekvenser ved brugen skal sikres.
Samtidig skal revisorerne informere om de modeller, der ligger til grund for beslutningen og resultatet. Maskinlærende modeller er per definition komplekse og svære at forstå, hvis man ikke har gode redskaber til dette.
Etisk AI-udvikling er et fælles ansvar
Etik er netop ikke lovgivning – men grundlaget er på plads for at følge standarder, som er blevet gransket og debatteret af eksperter og virksomheder i fælleskab.
I 2019 udgav EU et sæt anbefalinger, ”Ethics Guidelines for Trustworthy AI”, som stadig opdateres med nye aspekter.
Lad os løbende holde dialogen varm om, hvordan disse anbefalinger bliver omsat lokalt, eksempelvis i danske offentlige løsninger og forbrugerrettede services i private virksomheder, således at disse både lovgivningsmæssigt og etisk lever op til vores krav og forventninger om repræsentation, ligebehandling, privatlivssfære og sikkerhed.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.