Artikel top billede

(Foto: IBM)

IBM's Watson i farlig fejl: Anbefaler forkert medicin til blødende kræftpatient

Interne dokumenter fra IBM afslører rapporteringer om potentielt fatale fejl i supercomputeren Watsons behandlingsforslag til kræftpatienter. "This product is a piece of shit," lyder det i et internt statement til IBM fra en læge i Florida. Rigshospitalet har tidligere dumpet Watson af lignende årsager.

IBM's kunstige intelligens Watson har lavet en række alvorlige fejl i behandlingen af flere kræftpatienter.

Watson bruges på 230 sygehuse verden over, men supercomputerens algortime har lavet flere "farlige og forkerte behandlingsforslag."

Det skriver Statnews, der har set en række interne dokumenter fra IBM.

Her fremgår det, at supercomputeren har anbefalet præparatet Bevacizumab til en blødende 65-årig lungekræftpatient.

Problemet er, at medicinen forhindrer blodet i et størkne, hvilket kunne have haft fatale konsekvenser for den pågældende patient.

Fejlen burde ikke kunne ske, da bivirkningerne skulle fremgå tydeligt i systemet.

Læs også: IBM har fundet nye kunder på gammelt marked: "Mange så driftsmarkedet som en stagnerende forretning for tre til fem år siden"

Rigshospitalet dumpede Watson

Generelt har Watson fået ros sin hjælp til kræftbehandlinger, men supercomputerens behandlingsforslag kritiseres i massive vendinger i de interne dokumenter, hvor det blandt andet fremgår, at de mange forkerte forslag for softwaren "rejser alvorlige spørgsmål til den underliggende teknologi."

Det støttes af forklaringerne fra Rigshospitalet, der har testet Watson i forbindelse med behandlingen af brystkræft, lungekræft og tyktarmskræft på 31 patienter.

Her gjorde centerdirektør Leif Panduro Jensen opmærksom på, at den kunstige intelligens direkte har foreslået medicin, som ville slå patienten ihjel.

Det kan du læse mere om her: IBM's kunstige intelligens på vej ind på Rigshospitalet: Men Watson foreslår forkert behandling i hver tredje tilfælde

Alligevel må der være grund til panderynker over de nye informationer i det danske sundhedsvæsen.

I 2017 indgik Region Hovedstaden en femårig aftale med IBM om at levere kunstig intelligens-løsninger til regionens hospitaler.

Det kan du læse mere om her: Nu skal det danske sundhedsvæsen bruge kunstig intelligens: Region indgår stor aftale med IBM

"This product is a piece of shit"

Ifølge dokumenterne er Watson begyndt i højere grad at tænke som en rigtig læge fremfor at bidrage som kunstig intelligens.

Det betyder, at Watson har lavet anbefalinger på baggrund af dataindsamlinger af andre læges behandlingspræferencer i stedet for at lave en kunstig intelligens-fortolkning af de pågældende patientdata baseret på Watson-algoritmen.

"This product is a piece of shit," står der, ifølge Statnews, i de interne IBM-dokumenter.

Udmeldingen kommer fra en læge på Jupiter-hospitalet i Florida.

IBM svarer på kritik

Som svar på den massive kritik oplyser en talsperson fra IBM til Statnews, at Watson hjælper læger verden over med at behandle 13 forskellige kræftformer på 230 forskellige hospitaler og der igennem har hjulpet 84.000 patienter.

"Samtidig er Watson Health løbende blevet forbedret på baggrund af den feedback, vi har modtaget fra kunder, videnskaben nye behandlingsformer af kræft. Det indebærer 11 lanceringer af software i løbet af det seneste år, herunder nationale retningslinjer for kræft lige fra tyktarmskræft til levercancer," lyder det.




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
TIETOEVRY DENMARK A/S
Udvikler, sælger og implementerer software til ESDH, CRM og portaler. Fokus på detailhandel, bygge- og anlæg, energi og finans.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
BI Excellence Day 2025

Kom og få indsigt i, hvordan du kan arbejde målrettet og struktureret med BI, så din virksomhed bliver i stand til at tage hurtige og datadrevne beslutninger, der understøtter din virksomheds strategi. Netværk og del erfaringer med ligesindede og mød eksperter, der kan give viden om de nyeste tendenser, og hvordan du gør brug af disse uden at gå på kompromis med compliance.

30. april 2025 | Læs mere


Cyber Briefing: Geopolitik og cloud

Private vs. public cloud - hybride løsninger der sikrer kritiske data. Overvejer din organisation at vende de amerikanske cloud-giganter i ryggen set i lyset af den geopolitiske situation? Vi dykker ned i en dugfrisk rapport og diskuterer mulighederne for en "Plan B".

05. maj 2025 | Læs mere


Virksomhedsplatforme i forandring: Hvordan navigerer du i den teknologiske udvikling?

Hvordan finder du balancen mellem cloud- og hybride løsninger? Hvordan integrerer du legacy-applikationer ind i dit nye ERP-setup? Hvordan undgår du at havne i statistikken over store ERP-projekter, der fejler eller overskrider budgetterne?

06. maj 2025 | Læs mere






White paper
Tidsbegrænset kampagne: Overvejer du at udskifte eller tilføje printere i din forretning? Vi kan tilbyde én eller flere maskiner gratis