– Legolas and Gimli advanced on the orcs, raising their weapons with a harrowing war cry.

Med utgangspunkt i denne setningen dikter språkprogrammet GPT-2 selv opp en fortelling som organisasjonen bak, OpenAI, mener kan konkurrere med Tolkien selv. Utviklerne er tydelige på at dette er farlig teknologi i gale hender. Programmet kan blant annet generere falske nyhetssaker. Prosjektet har også krevd stor startkapital, men OpenAI er ikke alene i å satse på teknologi av denne sorten.

Facebook er med over 2 milliarder aktive brukere verdens største sosiale nettverk, men de er også en stor aktør innen kunstig intelligens. Foretaket viste i 2014 frem ansiktsgjenkjenningssystemet DeepFace. Presisjonen er like høy som et menneskes, og for å utvikle programmet var Facebook avhengig av mye informasjon, datakraft – og ikke minst penger. Tross praktisk nytteverdi er det også kjent at Xi Jinping-regimet i Kina bruker tilsvarende programvare for å muliggjøre landets nye sosiale kredittsystem. Er det et demokratisk problem at ressurskravene i teknologisektoren er så store?

Dype maskiner med dyre tanker

Dyp læring er teknologien som ligger til grunn for både Facebooks tagging av gruppebilder og OpenAIs Ringenes Herre-fortelling. Det er en form for maskinlæring, også kalt kunstig intelligens. Enkelte eksperter forklarer det som baklengs programmering, hvor datamaskinen definerer sine egne spørsmål ved å studere tidligere fasitsvar.

Et program lærer ved å lete etter mønstre i en bunke med eksempler den har blitt gitt. Lurer du på hva som skiller bilder mellom katter og hunder? Isåfall gir du maskinen mange nok bilder og litt veiledning så vil den til slutt finne en et sett med regler som lar den svare deg. Veiledningen gis i form av maskinlæringsalgoritmer. Disse kan være alt fra å trekke en rett linje mellom to punkt til enormt komplekse beregninger. Dyp læring hører til den siste kategorien.

Disse ekstremt krevende utregningene som står bak dyp læring er grunnen til at den oppnår realistiske resultater innen blant annet tekstdiktning og ansiktsidentifikasjon. I dette tilfellet etterligner algoritmene som brukes i vår egen hjerne gjennom flere lag, kjent som kunstige nevrale nettverk. De første lagene tolker veldig spesifikk informasjon, som senere settes sammen til en verdifull helhet. Omtrent slik som nervecellene dine og hjernen din samarbeider akkurat nå. Problemet? Den store presisjonen er avhengig av mye informasjon maskinen kan lære fra, og mye datakraft for å kunne gjøre noe fornuftig med den.

Kartellene på nett

Teknologikommentator Dagogo Altraide hevder at Facebook har et tilnærmet monopol på meldingstjenester siden de eier markedslederne Messenger, Instagram og Whatsapp. Med utgangspunkt i Mark Zuckerbergs kongresshøring i april, argumenterer han også for at det amerikanske rettssystemet ikke klarer å holde tritt med den teknologiske utviklingen.

Etablering og drift av sosiale medier krever så mye data og egenkapital at det er svært vanskelig for nye aktører å komme på banen. Det finnes politiske strømninger i USA som ønsker å innføre kartellforebyggende lovgivning for å bryte opp slike firma. Men hva skjer om den politiske viljen ikke er der?

Markedsmonopol kan medføre mangel på innovasjon og konkurranse, samt en forvitring av forbrukerrettigheter og valgmuligheter. Konsekvensene er kanskje spesielt håndgripelige for oss forbrukere når det gjelder sosiale medier. Det er jo personlig av natur, og i stedet for hårreisende medisinpriser kan eventuelle følger være lekkasje av sensitiv informasjon.

Vi ser allerede i dag at Google, med tilnærmet monopol innenfor en rekke teknologier, blant annet lagrer hvor du befinner deg til enhver tid og gir selskaper innsyn i Gmail-kontoen din.

Når vi anerkjenner at denne maktfordelingen kan være problematisk for demokratiet, er det være grunn til å være skeptisk. Det er også bred enighet om at bedrifter med så sterk markedsposisjon at de kjøpe opp all konkurranse, mister insentivet til å levere best mulig produkt. Hva betyr egentlig dette? Stoff har snakket med Leon Commandeur, doktorgradsstipendiat ved Humanistisk Fakultet på Universitetet i Bergen. Han jobber med teknologisk filosofi, særlig kunstig intelligens og dens etiske problemstillinger.

Moderne privatliv

– Se for deg at hver del av dataen du etterlater deg på nettet er en bit i et puslespill. Hvis ett selskap har alle bitene kan de trekke linjer mellom hver isolerte bit og se hele bildet.

Commandeur ser allerede eksempler på hvordan teknologi brukes til å endre atferden vår, og er bekymret. Sommerfarsotten Pokémon Go nevnes ved navn, en app mange privatlivseksperter advarte mot under dens storhetstid. I tillegg til posisjonsinformasjon hadde programmet også tilgang til blant annet kontaktlisten og bildegalleriet ditt. Doktogradsstipendiaten stiller seg kritisk til datainnsamling.

– Når du gir personlig data til private foretak taper du din egen autonomi, og du er samtidig med på å utforme algoritmer.

Algoritmene Commandeur referer til er maskinlæringsalgoritmene som ble forklart tidligere i artikkelen. Stipendiaten understreker at disse metodene konstrueres av mennesker og dermed ikke kan være objektive – selv om tall i seg selv er nøytrale.

– Teknologien kan brukes av bedrifter til å endre atferden din til egen vinning, eller av en stat til å fremme ideologi.

Et tilfelle på sistnevnte er det sosiale kredittsystemet som bruker teknologi for å kontrollere muligheter til utenlandsreiser. Med andre ord: du risikerer å miste kontroll over ditt eget liv.

Avslutningsvis mener Commandeur at vi bør reflektere over hvilke firmaer vi har gjort oss avhengige av, og hva det kan gjøre med oss. Selv har stipendiaten følt seg “fanget” av meldingsappen Whatsapp fordi familien og vennene hans bruker den.

– Det er greit å ha noe å skjule. Jeg skjuler ting fra min mor som jeg sier til kjæresten min, og omvendt. Vi bruker disse produktene fordi de er gode, men det er bekymringsverdig at et grunnleggende behov som kommunikasjon kontrolleres av en privat aktør uten dine interesser i tankene. Lovverket er ute av stand til å beskytte disse interessene. Selv om du er villig til å dele informasjon om deg selv kan konsekvensene berøre mange flere.

LES OGSÅ: Fanget i virkeligheten