Kan vi klare oss uten politikere?

Det er flere grunner til at et demokrati kan ha godt av at visse politiske beslutninger overlates til kunstig intelligens. Det er i alle fall noe som bør diskuteres. Det argumenterer forsker Henrik Sætra for i en nylig publisert artikkel i tidsskriftet Technology in Society.

Forsker Henrik Sætra konkluderer i sin artikkel med at økt bruk av teknologi i politiske beslutningsprosesser kan føre til en revitalisering av demokratiet. Fotoillustrasjon: Franki Chamaki on Unsplash.

– Kunstig intelligens brukes allerede i politisk sammenheng, og formålet med den vitenskapelige artikkelen A shallow defence of a technocracy of artificial intelligence: Examining the political harms of algorithmic governance in the domain of government er å undersøke implikasjonene av dette – spesielt dersom vi går så langt at algoritmer får utstrakte fullmakter til å ta politiske beslutninger på selvstendig grunnlag, sier førstelektor Henrik Sætra  ved Høgskolen i Østfold. 

Sistnevnte omtales som et kunstig intelligens-teknokrati. 

Et teknokrati kan defineres som en styreform uten yrkespolitikere, men som heller mot at eksperter innen sine felt styrer samfunnet. Ekspertene innehar ofte titler som forskere, professorer, byråkrater, men kan også være for eksempel bønder, sykepleiere og lærere, så lenge de innehar en eksepsjonell kunnskap innen sitt felt (Wikipedia). 

Ved et kunstig intelligens-teknokrati, vil det altså være datamaskiner som tar beslutninger. 

Fem argumenter mot kunstig intelligens-teknokrati

Henrik argumenterer i sin artikkel for at det er mulig å se for seg en fremtid der kunstig intelligens tar politiske beslutninger, men at dette kun kan skje dersom fem sentrale motforestillinger kan tilbakevises:

  • Mennesker kan ha et behov for politisk aktivitet, 
  • legitimitet svekkes ved et teknokratisk styresett
  • maskiner har ingen moral og bør ikke ta beslutninger som påvirker menneskers liv og velferd, 
  • kunstig intelligens er ikke transparent og 
  • vi får problemer med ansvarstilskrivelse når maskiner bestemmer

Sætra mener at disse motforestillingene ikke uten videre bør hindre oss fra å dra nytte av fordelene kunstig intelligens kan gi. Det er imidlertid avgjørende at problemene knyttet til maktforhold, eierskap og kontroll av algoritmene løses på en forsvarlig måte understreker han. 

Utfordrer vårt mål med demokratiet

Sætra mener at noe av det viktigste vi kan gjøre i dag er å forsøke å forstå hvorfor vi ønsker demokrati, og om demokratiet slik det er i dag bidrar til å nå de målene vi har som samfunn.

– Grunnen til at jeg lanserer tanken om å forsvare et teknokrati er egentlig at jeg vil teste om argumentene for demokrati er sterke nok til at vi svarer «Nei, takk!» til et teknokrati som i teorien kan gi oss mer effektive beslutninger i isolerte tilfeller, sier Sætra.

– Vi har allerede beveget oss et stykke mot å gi algoritmer og kunstig intelligens reell innflytelse. Dersom vi sier nei takk til kunstig intelligens-teknokratiet jeg tentativt foreslår er vi også nødt til å ha en kritisk gjennomgang av hvordan vi allerede lar algoritmer ta beslutninger som påvirker menneskers liv og velferd. Dette gjelder både i det private og i forvaltningen, forklarer han.

Pandemi- og klimahåndtering vil være lettere ved hjelp av kunstig intelligens 

– Ta for eksempel Covid-19-håndteringen og responsen på menneskeskapte klimaendringer. Begge disse teamene er uhyre kompliserte, og det er nærliggende å tenke seg at eksperter, og ikke folkevalgte politikere som hele tiden må ta hensyn til at de snart skal stille til valg, lettere kan ta de vanskelige beslutningene og sørge for et langsiktig perspektiv, tror forskeren. 

Sætra mener kunstig intelligens til en viss grad kan ta rollen til slike eksperter, og dermed tilsynelatende fjerne det menneskelige elementet som ofte fremheves som et av hovedproblemene med teknokrati.

Det trenges en grundig debatt om fordeler og utfordringer med kunstig intelligens

– Jeg mener som nevnt at det er problematisk å avvise økt bruk av kunstig intelligens i politiske beslutningsprosesser dersom vi sier at vi er komfortable med hvordan kunstig intelligens allerede brukes. En grunnleggende konsekvens, tenker jeg, er at vi bør ha en langt mer grunnleggende debatt enn vi har hatt så langt, som for eksempel om regjeringens digitaliserings- og kunstig intelligens-strategier, sier Sætra. 

I følge forskeren finnes det mange opplagte fordeler ved økt bruk og deling av data og kunstig intelligens, men det er også alvorlige utfordringer som det i mange tilfeller hoppes bukk over. Algoritmer er ikke nøytrale, og i mange tilfeller viderefører og gjemmer de eksisterende, strukturelle problemer. 

For det første siden de trenes opp på historiske data, og for det andre fordi mennesker uunngåelig er involvert i utviklingen av algoritmene, i generering, innsamling og koding av data og til slutt fortolkningen og anvendelsen av det maskinlæringsmodellene kommer frem til. 

– Det er fremdeles langt igjen til det vi kaller forklarbar kunstig intelligens, og jeg diskuterer i min artikkel blant annet behovet for en slags kontrollinstans som kan etterprøve og vurdere de algoritmene som eventuelt skal ta beslutninger.

– Hva ønsker vi oss egentlig som samfunn?

Det tror Sætra det trengs en grunnleggende debatt om. 

–  Effektivisering og innovasjon er honnørord som det ofte antas at vi ønsker mest mulig av. Det kan imidlertid hende at det er viktig å begrense innsamling og deling av data – spesielt fra det offentlig til det private – til tross for at dette medfører at vi går glipp av visse muligheter. Samtidig bør vi forske videre på hvordan vi faktisk kan utnytte mulighetene ny teknologi gir, mener han. 

– Jeg konkluderer paradoksalt nok med at økt bruk av teknologi i politiske beslutningsprosesser kan føre til en revitalisering av demokratiet. Det er nemlig ikke slik at algoritmene skal bestemme hva målet for samfunnet er. Dette vil fremdeles være menneskers rolle, mens maskiner i visse tilfeller kan hjelpe oss med å finne de beste veiene til disse målene. 

Dersom vi er villige til å revurdere selve grunnvollene i det moderne demokratiet kan det tenkes at en slik løsning gjør politikken langt mer forståelig og interessant for de fleste, mener Sætra.

Tekniske detaljer og løsninger defineres til dels ut, og det vi sitter igjen med er de grunnleggende verdispørsmålene og den prinsipielle debatten. Den kan de fleste av oss bli med på, og med ny teknologi kan det også tenkes at muligheten for å bidra mer direkte inn i en slik debatt øker. 

– I korte trekk sier jeg i denne artikkelen at det er viktig at vi som samfunn først tar en grunnleggende debatt om hva vi ønsker, og hva våre grunnleggende verdier er. Når vi har gjort det, kan det godt tenkes at vi kan bruke ny teknologi til å effektivisere politikken uten at vi innskrenker mulighetene for politisk deltakelse, avslutter han. 

Referanse: 

A shallow defence of a technocracy of artificial intelligence: Examining the political harms of algorithmic governance in the domain of government i tidsskriftet Technology in Society. 


Henrik Skaug Sætra, førstelektor ved Avdeling for økonomi, språk og samfunnsfag ved Høgskolen i Østfold. Sætra har en PhD i statsvitenskap fra Universitetet i Oslo, og forsker på forholdet mellom menneske, samfunn og teknologi. Han er spesielt interessert i fagområdet politisk teori, og har med utgangspunktet i dette fagområdet arbeidet mye med teknologi, spillteori og miljøetikk. I Sætras artikler og publikasjoner er tilnærmingen tverrfaglig og han fokuserer på digitaliseringen av samfunnet i lyset av etiske og politiske utfordringer for det liberal-demokratiske samfunn. 

Flere artikler fra Henrik Sætra omtalt på hiof.no:

Publisert 16. nov. 2020 09:06 - Sist endret 16. nov. 2020 09:06