Nettverket som Trustworthy AI-labene utgjør, innebærer at et bredt utvalg av fagspesialister kan kobles på utviklingen av AI-prosjekter som foregår i regi av både akademia, stat og kommune eller i industrien, og vurdere om disse faktisk er etisk forsvarlige og pålitelige.
Selve vurderingsarbeidet gjøres ved bruk av en prosess basert på anvendt etikk som heter Z-Inspeksjon og som tar utgangspunkt i EUs definisjon av hva som er pålitelig AI. (Artificial Intelligence/Kunstig Intelligens red.anm.)
- Z-Inspeksjon er en generell inspeksjonsprosess som kan benyttes innen en rekke ulike domener hvor AI-systemer brukes, som f.eks. forretningsdrift, helsevesen og offentlig sektor, blant mange andre. Z-Inspeksjon var den første prosessen som vurderer pålitelig AI i praksis og er så langt vi kjenner til den mest omfattende metoden.
Det sier doktor Pedro Kringen, en av initativtakerne bak Trustworthy AI-lab og utviklerne av metoden Z-Inspeksjon. Professor Roberto Zicari som er initiativtager av hele det globale prosjektet er også med i styret i Trustworthy AI Lab Norge. Per i dag er det på verdensbasis etablert 25 Trustworthy AI laber.
«Sammen kan vi kanskje bidra til bedre og tryggere anvendelser av kunstig intelligens, hvor etiske regler og normer følges, samtidig som anvendelsene bidrar til et bedre samfunn.»
Frode Ramstad Johansen, førsteamanuensis ved HiØ og lab-initiativtaker
Bedre og tryggere AI
Det internasjonale AI-nettverket som høgskolen nå blir en del av ble startet av forskere fra mange ulike fagfelt ved Big Data Lab ved Göthe Universitet i Frankfurt.
Ved Høgskolen i Østfold er det innovasjonsmiljøet som har tatt initiativet til etableringen av AI-laben. Nå ønsker de å involvere forskere på tvers av alle fagområder, samt eksterne partnere, for å skape et best mulig utgangspunkt for å kunne jobbe aktivt og bredt for en bevisst bruk av kunstig intelligens.
Pedro Kringen, Z-inspection advisor, Gunnar Andersson leder forskningsgruppen Innovasjon samt medlem Trustworthy AI lab og IPL-student Sindri Kristjanson. (Begge foto: HiØ/Ann-Kristin Johansen)
- Metoden er tverrfaglig, så en vellykket lab krever variert kompetanse. Til nå har vi fått med kompetanse innenfor innovasjon, organisasjonsutvikling, jus, etikk, medisin og helse, men vi ønsker bredere kompetanse, sier førsteamanuensis Frode Ramstad Johansen ved Institutt for ingeniørfag.
Hva håper dere dette skal bli og hvor viktig er dette i et AI-perspektiv?
- Vi ønsker å skape en møteplass for anvendte AI-prosjekter på høyskolen koblet til det internasjonale forskningsmiljøet gjennom de 25 andre AI-labene globalt. Sammen kan vi kanskje bidra til bedre og tryggere anvendelser av kunstig intelligens, hvor etiske regler og normer følges, samtidig som anvendelsene bidrar til et bedre samfunn, sier HiØ-forskeren.
Klart for lab-bygging og pilotprosjekt
Ifølge Ramstad Johansen er Trustworthy AI-labene ikke en lab i tradisjonell, fysisk forstand, men er tverrfaglige og internasjonale fora som oppmuntrer til debatt og refleksjon over ansvarlig bruk av kunstig intelligens. Gjennom labene tilbys arrangementer og det gis muligheter for undervisning og forskning.
I oppstartsmøtet som nylig fant sted på høgskolens campus i Fredrikstad delte han og Pedro Kringen informasjon om mulighetene ved lab-konseptet både med HiØ-ansatte og eksterne gjester. Nå som laben er etablert starter arbeidet opp for alvor.
- Vi har to hovedløp fremover nå. Det ene er å bygge opp laben med interesserte ressurspersoner og spre kunnskapen om metoden, mens det andre er forberedelsene til et internasjonalt pilotprosjekt om vurdering av bruken av generativ AI i høyere utdanning, forteller Ramstad Johansen.
Pilotprosjektet ved HiØ starter opp på starten av 2024.
Skreddersydd for det norske AI-markedet
Ifølge Kringen er det foreløpig kun akademiske institusjoner som er involvert i opprettelser av såkalte "Trustworthy AI Labs".
- Dette er fordi vi har holdt dette som en ren akademisk øvelse og alt arbeidet foregår pro bono (frivillig og vederlagsfritt red.anm.), men flere av lab-ene har søkt og fått omfattende støtte til bruk og utvikling av metoden, sier han.
Kringen påpeker at kunstig intelligens er i en rivende utvikling og at de etiske og samfunnsmessige implikasjonene vekker bekymringer. Han sier alle forskerne som er involvert brenner for problemstillingen og ønsker å gjøre en forskjell.
Formålet med å etablere en egen lab i Norge er blant annet å kunne delta aktivt i utviklingen av metoder for vurdering av kunstig intelligens som også møter spesifikke norske behov.
- Forskningsmiljøet ved HiØ er bredt og har gode forbindelser til næringslivet og kommunen noe som gir unike muligheter, mener Kringen.
Ramstad Johansen håper den nye AI-laben kan fungere som en felles arena for AI-relaterte prosjekter og satsinger ved Høgskolen i Østfold.
Les gjerne også:
Om høgskolens satsingsområde: Det digitale samfunn