Artikel top billede

Amazons ansigtsgenkendelse identificerede ved en fejl 28 top-politikere som forbrydere

Ansigtsgenkendelses-teknologi fra Amazon har ved fejl udråbt en række amerikanske politikere som kriminelle, og det sår tvivl om teknologiens pålidelighed, lyder advarslen fra en amerikansk borgerrettighedsgruppe.

Amazons ansigtsgenkendelsesværktøj Rekognition har ved en fejl identificeret 28 medlemmer af den amerikanske kongres som forbrydere.

Det viser en test udført af den amerikanske borgerrettighedsgruppe ACLU, skriver nyhedsbureauet Reuters.

Borgerrettighedsgruppen oplyser til Reuters, at den har gennemført en test, hvor billeder af alle medlemmer af Senatet og Repræsentanternes Hus blev matchet op mod en database med 25.000 billeder af tidligere anholdte.

Her identificerede Amazons værktøj med 80 procents sikkerhed politikerne som tidligere kriminelle. Ifølge borgerrettighedsgruppen var der en overrepræsentation af afro-amerikanere og latinoer blandt de 28 politikere.

Derfor frygter ACLU, at Rekognition, som allerede bliver anvendt af politiet i de amerikanske stater Oregon og Florida, vil kunne få uretfærdige følger for blandt andet immigranter og afroamerikanere.

Læs også:AWS om nyt kunstig intelligens-tilbud: Iværksættere skal have adgang til samme våben-arsenal, som verdens største virksomheder

Kræver stop for salg til statslige kunder

Rekognition blev lanceret i 2016 og er et fotoidentifikationsværktøj, der primært henvender sig til webudviklere. Siden foråret har ACLU ført en kampagne, hvor den ønsker at presse Amazon til at stoppe med sælge Rekognition til statslige kunder.

Amazon oplyser til Reuters, at Rekognition normalt fungerer bedst, når værktøjet kombineres med et gennemsyn foretaget af et menneske.

Samtidig kritiserer Amazon de indstillinger, som ACLU har anvendt i forsøget,.

Borgerrettighedsgruppen brugte en indstilling, der identificerede folk som et match med bare 80 procents sikkerhed. Amazon oplyser, at virksomheden anbefaler at værktøjet indstilles til et niveau på 95 procents sikkerhed, når det skal bruges til at identificere mennesker.

Protester fra ansatte

For nylig har både ansatte hos Microsoft og Amazon sendt protestbreve til deres virksomheders ledelse, hvor de protesterer mod, at værktøjer som Rekognition bliver solgt til politi- og immigrationsmyndigheder.

I brevet skriver Amazons ansatte blandt andet, at de frygter at teknologien kan blive misbrugt af myndighederne.

“Vi oplever en historisk militarisering af af politistyrker, en klapjagt på sorte aktivister og et voksende føderal grænsepoliti, som i øjeblikket er i færd med at bryde menneskerettighederne,” står der i brevet, som blev sendt til Amazons stifter og administrerende direktør Jeff Bezos.

Læs mere om det her : Microsoft- og Amazon-ansatte i åben protest: Stop skrupelløs brug af ansigtsgenkendelse




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Ciklum ApS
Offshore software- og systemudvikling.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
BI Excellence Day 2025

Kom og få indsigt i, hvordan du kan arbejde målrettet og struktureret med BI, så din virksomhed bliver i stand til at tage hurtige og datadrevne beslutninger, der understøtter din virksomheds strategi. Netværk og del erfaringer med ligesindede og mød eksperter, der kan give viden om de nyeste tendenser, og hvordan du gør brug af disse uden at gå på kompromis med compliance.

30. april 2025 | Læs mere


Cyber Briefing: Geopolitik og cloud

Private vs. public cloud - hybride løsninger der sikrer kritiske data. Overvejer din organisation at vende de amerikanske cloud-giganter i ryggen set i lyset af den geopolitiske situation? Vi dykker ned i en dugfrisk rapport og diskuterer mulighederne for en "Plan B".

05. maj 2025 | Læs mere


Virksomhedsplatforme i forandring: Hvordan navigerer du i den teknologiske udvikling?

Hvordan finder du balancen mellem cloud- og hybride løsninger? Hvordan integrerer du legacy-applikationer ind i dit nye ERP-setup? Hvordan undgår du at havne i statistikken over store ERP-projekter, der fejler eller overskrider budgetterne?

06. maj 2025 | Læs mere






Computerworld
Test af monster-tablet: Det er den skøreste og mærkeligste computer, som jeg har testet i lang tid – men jeg vil nu gerne have den alligevel