Enhver med film som Terminator, West World og Space Odyssey på nethinden ved, at kunstig intelligens ikke nødvendigvis kun er et løfte om at kurere kræft og finde liv på andre planeter.
For de intelligente maskiner kan potentielt komme ud af kontrol.
Læs også: "Problemet er ikke, at vores maskiner bliver intelligente, men at de bliver autonome"
Derfor har en gruppe på godt 40 kunstig intelligens-forskere og sikkerhedsfolk for nyligt sat sig sammen i den amerikanske Arizona-ørken for at diskutere mulige dommedags-scenarier med kunstig intelligens inden for fem til 25 år.
Med finansiering fra blandt andre Tesla-stifter Elon Musk har forskerne fundet frem til, at kunstig intelligens med nutidens teknologier kan have indflydelse på alt mellem aktiemanipulationer til reelle krigsscenarier.
Det skriver Bloomberg.
Det usynlige cyber-våben
En forskergruppe kom frem til, at et automatiseret cybervåben med mulighed for at skjule sig og umuligt at afmontere ville være en af de største trusler mod menneskeheden.
"Vi taler om malware på steroider, som bliver styret af kunstig intelligens," forklarede bestyrelsesformand for computer science ved Tufts Universitet, Kathleen Fisher, på konferencen.
Dette dommedagscenario blev udfordret på, at det ville kræve en masse computerkræfter og kommunikation at føre ud i virkeligheden.
Svaret kom prompte på konferencen: Det hele ville være skjult af et afhængighedsskabende computerspil, der kunne forvrænge kommunikationen fra den intelligente command and control-server.
Hvad kan dog gå galt?
Sloganet for forskermødet var, "hvad kan dog gå galt", og det er der åbenbart meget, der kan.
Andre forskere bød ind med scenarier omkring kursmanipulation og aktiederoute som følge af kunstigt intelligente robotters spekulationer i valutaer og værdipapirer.
Et modsvar til dette kunne ifølge nogle af de tilstedeværende forskere være at behandle angrebene som malware, hvor hver enkel angrebstype kunne identificeres fra en database.
Samtidig kom det frem, at en hel horde af forskellige fagretninger må samarbejde i de kommende år, så forskerverdenen kan forhindre det, som alle frygter allermest med kunstig intelligens:
At mennesket bliver udslettet af sin egen skabning.
Læs også:
I dag er kunstig intelligens og bots legetøj - men om få år er det blodigt alvor
"Jo mere kunstig intelligens er i stand til, jo mere skal vi være på vagt"
Red os fra robotterne: It-bosser skyder 140 millioner kroner i sikring mod kunstig intelligens