En algoritme skal ikke kunne dømme borgere til fængselsstraf.
Det er en af flere ting som FN-organet Unesco vil forsøge at forhindre med et forslag til en række nye globale etiske standarder for brug af kunstig intelligens.
Ifølge forslaget skal lande, der tilslutter sig standarderne give en garanti for, at det altid er mennesker og ikke algoritmer, der træffer de endelige beslutninger i juridiske spørgsmål.
Reglerne er sat i verden for at sikre borgernes retssikkerhed ved at forhindre at kunstig intelligens blandt andet bliver brugt fører til masseovervågning, uretfærdige anholdelser og indeførelse af sociale point-systemer, som det blandt andet kendes fra Kina.
Derudover vil reglerne også sikre, at borgere får større kontrol over de data, der indsamles om dem.
Det indebærer blandt andet at borgerne både skal have adgang data og have mulighed for at kræve data slettet.
Anbefales ny etisk myndighed
Ifølge standarderne bør lande også løbende føre tilsyn med de etiske aspekter, der er relateret til brugen af kunstig intelligens.
Derfor opfordred Unesco til, at der oprettes uafhænging instans, som kan varetage den rolle.
Brugen af kunstig intelligens forudsætter samtidig, at der anvendes ikke ubetydelig mængder computekraft til at behandle store datamængder, hvilket kan få betydning for både miljø og klima.
De etiske standarder indeholder således også en anbefaling om, at der foretages en vurdering af, hvordan kunstig intelligens påvirker klimaet. Eksempelvis i form af co2-aftryk og brug af råmaterialer.
Hele forslaget kan læses her.