Reportage: "Med omfattende magt kommer tilsvarende stort ansvar."
Satya Nadellas stemme gav genlyd i den store hal i Washington Convention Center i Seattle, hvor over 5.000 udviklere sad og lyttede med på åbningstalen fra Microsofts CEO.
Citatet er et gammel udtryk fra den franske revolution, men er benyttet af Winston Churchill, Teddy Roosevelt, Franklin Roosevelt og ikke mindst Onkel Ben i Spider-Man tilbage i 1962 til at beskrive vigtigheden i ikke at misbruge magt, bare fordi man kan.
Og ifølge Satya Nadella sidder udviklere med en ufattelig stor magt med adgangen til nutidens teknologi.
Sammen med citatet blinkede de meterhøje storskærme med forsiderne på de to verdenskendte dystopier, "Brave New World" og "1984," der begge handler om overvågning og kontrol af befolkningen via teknologi.
"Der er altid utilsigtede og uønskede konsekvenser ved teknologi, og det er op til os, at vi ikke ender som i flere af de mere dystopiske scenarier," fortalte Satya Nadella fra scenen og peger på bogomslagene på skærmen.
Satyas advarsel - og bøn til beherskelse - var nøje planlagt som alt andet ved keynoten.
Efterfølgende løftede Microsoft sløret for, hvordan selskabets kognitive services kan benyttes til det gode for at undgå arbejdsskader i virksomheder, ved at kameraer kan genkende og indeksere både objekter og personer og automatisk reagere derefter på hændelser ved hjælp af maskinlæring og kunstig intelligens.
Tjenester som både kan være med til at redde liv og forebygge uheld i hverdagen på arbejdspladsen.
Eller som netop giver mulighed for overvågning i sådan grad, at ikke engang Orwell eller Huxley kunne forestille sig det.
Microsoft har udgivet en video, som du kan se her:
Artiklen fortsætter under videoen...
Kan redde liv
Microsoft udgav flere nye kognitive funktioner i forbindelse med keynoten, heriblandt muligheden for selv at lære de forskellige tjenester nye objekter at kende ved at "fodre" systemet med fotos, men demoen af en arbejdsplads med kognitiv overvågning er den mest gennemførte og måske også mest kontroversielle demonstration af de kognitive tjenester til dato.
Demosystemet kunne via kognitive egenskaber lære objekter og personer at kende ved at fodre systemet med fotos og efterfølgende registrere via kameraer, hvis et uheld sker på arbejdspladsen. Systemet kan automatisk se, hvis noget ikke er, som det skal være og advare den nærmeste ansvarlige på området.
Systemet kan registrere, hvis et værktøj er placeret forkert, en tønde med kemikalier er væltet eller at en person uden de rigtige tilladelser benytter et givent værktøj, og herefter reagere på det.
Videoen er ikke kun imponerende marketingssnak.
På scenen ved Build fremviste Microsoft to opsatte værksteder, hvor samme teknologi blev fremvist.
Ved hvert værksted var objekter - værktøj - og forskellige personer registreret i systemet som værende "Hammer", "Slagbor", "Jenny" og så videre, og systemet kunne specifikt fortælle, at et slagbor stod på en usikker og farlig måde op ad et bord, hvorefter den nærmeste ansvarlige automatisk blev om at placere det mere sikkert.
Servicen kunne også reagere, da en ikke-registreret person lidt karikeret tog fat i et slagbor for tage en selfie med den og igen advare den nærmeste person, der har tilladelse til at bruge boret for at stoppe selfien, før det var for sent.
Det var en imponerende demonstration af de kognitive evner i Microsoft sky. Sammen med talegenkendelse kan man bede systemet om at finde det nærmeste specialværktøj på arbejdspladsen eller finde du af, hvor din kollega Preben sidst blev set.
Det kan potentielt redde liv, da langt de fleste arbejdsskader sker på grund af sjusk eller menneskelig interaktion, men til de mere pessimistiske giver det kuldegysninger ned ad nakken.
Dystopi
Lige så imponerende den teknologiske demo af Microsofts kognitive tjenester, lige så skræmmende kan udnyttelsen af teknologien være.
Netop derfor følte Satya Nadella sig nødtaget til først at komme med advarslen. Hvis et system som dette kan redde liv på arbejdspladsen ved at genkende væltede tønder eller uregistrerede personer i forkerte sektorer, kan det også udnyttes til overvågning med andre intentioner.
Den amerikanske regering har allerede billeder af millioner og atter millioner af verdensborgere, som har besøgt landet. Opsættes et system som dette til et nationalt niveau, kan man finde en person uanset hvor man er, eller automatisk reagere, når en anormalitet sker, hvad end det er et røveri, færdselsuheld eller en demonstration mod regeringen.
Det kan potentielt forebygge terrorisme... eller maksimere en totalitær stats kontrol over befolkningen i langt højere grad end tidligere - og nu behøver man ikke længere have en phd. i kunstig intelligens. Det kan købes som en plug and play-løsning hos Microsoft.
Det handler om balance. Microsofts - og for den sags skyld andres - software og tjenester er kraftfulde værktøjer, som kan benyttes til at udvikle og udvide virksomheder og brugeroplevelser, til at skabe profit eller redde liv.
Eller til at skade.
Læs også: Kunstig intelligens vil gøre dig 40 procent mere effektiv: Se alle gevinsterne her