Brugen af AI-algoritmer bør forbydes i sammenhænge, hvor der er risiko for, at personernes basale menneskerettigheder bliver overtrådt.
Sådan lyder det fra FN’s højkommissær for menneskerettigheder, chilenske Michelle Bachelet.
“Der er behov for omgående handling, da det kan tage tid at behande de alvorlige risici, som denne teknologi udgør over for menneske-rettigheder,” lyder det fra Michelle Bachelet.
Hun mener, at alle stater omgående bør sætte en stopper for salg og brug af AI, indtil der er blevet indført passende foranstaltninger, som kan fungere som værn for borgerne.
Den chilenske højkommissær vil desuden have alle regeringer til at forbyde brug af alle AI-algoritmer, der ikke kan ‘anvendes under overholdelse af internationale regler om menneske-rettigheder,” som det hedder.
Hun peger på, at kunstig intelligens anvendt rigtigt kan være en hjælp for vores samfund.
Katastrofale følger
“Men AI-teknologier kan også have negative og endda katastrofale følger, hvis de anvendes uden tilstrækkelige hensyn til menneske-rettigheder,” sige Michelle Bachelet.
Højkommissæren peger på, at AI for tiden anvendes til overvågning i verden på et hidtil uset niveau af både stater og private aktører.
Ifølge hende vokser brugen af AI kraftigt. Det samme gør den teknologiske udvikling på området, der blandt andet gør indsamlingen af data massiv - men også unøjagtig.
“Den data, der anvendes i AI-systemer, kan være fejlagtig, diskriminerende, forældret eller irrelevant,” lyder det fra højkommissariatet.
Og det er farligt, da data ofte lagres i lang tid.
“Den manglende registrering over, hvordan data indsamles, lagres, deles og anvendes er en af de mest presserende spørgsmål i forhold til menneskerettigheder lige nu,” siger Michelle Bachelet.
Højkommissariatet peger desuden på, at der bør stilles ‘alvorlige spørgsmål’ ved de konklusioner, forudsigelser og den overvågning, som AI-værktøjer i dag anvendes til.
Det gælder ikke mindst AI-baserede konklusioner om mønstre, der skal give en ide om menneskelig adfærd.
“Der er brug for systematisk evaluering og monitorering af AI-systemernes effekter,” siger hun.
Du kan læse mere om FN’s vurdering af AI her.