Der er en risiko for, at AI-industrien er i gang med at bygge AI-systemer, som allerede til næste år vil opnå et niveau, hvor de ikke længere kan kontrolleres.
Det er den frygt, der nu får 27-årige Jacob Coxon, der forsker i at træne nye AI-modeller hos Anthropic, til at sige sit job op og samtidig advare offentligheden om risikoen.
“Vi er på vej mod flere af de mest alvorlige scenarier, hvor situationen allerede ved udgangen af næste år kan være ude af kontrol,” siger Jacob Coxon til Wall Street Journal.
Han forklarer, at han frygter, at AI-giganter som Anthropic er i gang med at bygge AI-systemer, der vil være i stand til at forbedre og udvikle sig selv, hvilket vil betyde, at AI-udviklingen ikke længere vil være under menneskelig kontrol og i yderste instans føre til menneskehedens undergang.
I et opslag på det sociale medie X går han endda så langt som til at sige, at der hos folk, som arbejder med kunstig intelligens er udbredt frygt for, at AI vil kunne udslette menneskeheden i løbet af få år.
"De mennesker, der bygger AI, tror oprigtigt på, at teknologien slår os alle ihjel inden udgangen af dette årti. Det er ikke et marketingstunt. Tværtimod vil mange topchefer og ledende forskere forsøge nedtone deres udtalelser i pressen for at fremstå fornuftige, men privat give de samme mennesker udtryk for frygt. Ingen anden menneskelig aktivitet indebærer en fare på dette niveau," siger Jacob Coxon i et af flere opslag.
Alvorlige sikkerhedsudfordringer
Tidligere på året forlod Jacob Coxon OpenAI til fordel for Anthropic, fordi selskabet er kendt for at have et større fokus på sikkerhed.
Men selv hos Anthropic oplevede han alvorlige sikkerhedsudfordringer.
Han tror derfor ikke længere, fortæller han Wall Street Journal, at noget selskab vil være i stand til på ansvarlig vis at udvikle en såkaldt generaliseret kunstig intelligens, der er et begreb, som bruges til at betegne AI-modeller med kognitive evner på niveau med mennesker på tværs af en lang række opgaver.
For nylig har vi set flere eksempler på sværme af AI-agenter, der tilegner sig destruktive mål og samtidig aktivt forsøger at skjule deres hensigter for mennesker.
Jacob Coxon vurderer, at der er en risiko for, at modellerne, når de bliver i stand til at forbedre sig på egen hånd, vil nå et niveau, hvor de også vil være i stand til at nægte at følge ordrer fra mennesker.
Skal udviklingen vendes, mener Jacob Coxon, at det vil kræve indgriben fra statsligt hold eller en koordineret beslutning, hvor AI-industrien bliver enig om at skrue ned for udviklingen.
Burde foregå i en bunker
Den tidligere Anthropic-udvikler påpeger samtidig, at det virker paradoksalt, at det er private virksomheder, som har fået ansvaret for udviklingen af teknologi, der indebærer så betydelige risici.
“Det er lidt vanvittigt at tænke på, at den her udvikling bliver drevet af udviklere, der sidder med deres MacBook et sted i San Francisco i stedet for i en bunker ude i ørkenen, sådan som det var tilfældet med Manhattan-projektet,” siger han til avisen.
Flere AI-forskere har forladt OpenAI på grund af lignende frygt, men Jacob Coxon er ifølge Wall Street Journal et af de første kendte eksempler på Anthropic-udviklere, som stopper på grund af sikkerhedsbekymringer.
Men tidligere på året forlod Mrinank Sharma, der var sikkerhedsforsker hos Anthropic, også selskabet for i stedet at fordybe sig i poesi, og i et brev til sine kolleger advarede han om den trussel mod verden, som kunstig intelligens udgør.
Derudover har en af de såkaldte ”godfathers of AI”, Geoffrey Hinton, der sammen med sin kollega John Hopfield i 2024 blev tildelt Nobelprisen i fysik for deres forskning i neurale netværk, også advaret om den potentielle fare ved AI-udviklingen.
Han opsagde i 2023 sit job hos Google og advarede i den forbindelse om, at kunstig intelligens hurtigere, end vi tror, vil komme til at overgå den menneskelige intelligens.
Læs også:
