Disse retningslinjene gjelder for all bruk av tjenester som genererer tekst, bilder, lyd, video, kode, modeller med mer, for eksempel GPT UiO og Microsoft Copilot som er anskaffet og godkjent for bruk på Høgskolen i Østfold.
Under finner du mer informasjon om hva hva dette innebærer for din bruk av slike verktøy og tjenester, videre omtalt som GenKI. Det er KI-rådet ved Høgskolen i Østfold som har utviklet retningslinjene.
Sikkerhet
Hvordan bruker du Generativ KI på en sikker måte?
Hvilke tjenester / verktøy er sikre å bruke?
HiØ har avtaler som gir oss tilgang til tjenestene UiO GPT og Micfosoft Copilot. For informasjon om hva sikkerhet innebærer når du skal bruke disse, se brukerveiledningene: Microsoft Copilot og GPT UiO.
Du skal kun legge inn tekst som du er helt sikker på at du har rett til å dele. Eksempler på tekst som ikke skal deles er personlig informasjon eller upublisert tekst laget av andre.
For å ta i bruk andre verktøy på en lovlig måte må du følge rutinene våre for IT-anskaffelser.
Hva skjer med teksten du deler med GenKI?
Du må være bevisst på hva som skjer med informasjonen du gir et GenKI-verktøy tilgang til. De fleste verktøyene benytter servere, altså andre datamaskiner, som de kommuniserer med og dermed gir tilgang til dine data. Dersom du ikke forsikrer deg om at verktøyet du bruker overfører data sikkert og i tråd med regler, kan du risikere at dataene du har delt med verktøyet kommer i gale hender og kan misbrukes.
Sett deg inn i dokumentasjon
Ulike verktøy som benytter GenKI, har brukerdokumentasjon. Du bør gjøre deg kjent med hvordan dette samsvarer med krav til hvordan du skal behandle informasjon (se mer i punkt 2). Sett deg inn i gjeldende dokumentasjon.
Eksempler
Hva ville du delt med hvem som helst?
Ikke del informasjon med et GenKI-verktøy som du ikke ville delt med andre personer. Forhold deg til GenKI som det var en fremmed du møtte på bussen. Ville du ha delt den samme informasjonen med denne personen?
Lovlighet
Hva innebærer det å bruke Generativ KI på en lovlig måte?
Når du benytter et GenKI-verktøy, skal du følge gjeldende lover og regler både når det gjelder å legge inn data og å senere dele de dataene du får ut av verktøyene du har brukt.
Tenk særlig på regler knyttet til de fem områdene personvern, sensitiv informasjon, opphavsrett og fusk/plagiat og diskriminering.
Sensitiv informasjon og personopplysninger
Du er ansvarlig for informasjon du legger inn i et GenKI-verktøy og må være særlig nøye før du legger inn sensitiv informasjon eller personopplysninger.
Med sensitiv informasjon mener vi taushetsbelagt informasjon, gradert informasjon, informasjon unntatt offentlighet, sikkerhetssensitiv informasjon eller informasjon du ikke har rettigheter til, som andres upubliserte tekster, og personopplysninger. Eksempler på personopplysninger er navn og adresse, men også stemme og portrettbilder.
For informasjon om hva du kan legge inn i HiØs godkjente generative KI-verktøy, se avsnitt om sikkerhet.
Dersom du bruker andre generative KI-verktøy enn de HiØ har godkjent er det særlig viktig at du sjekker hvordan verktøyet bearbeider persondata før du legger noe inn. For eksempel kan du se etter om verktøyet bruker servere utenfor EU/EØS. I så fall vil det du legger inn kunne bli overført ut av EU/EØS, og dette er i strid med personvernforordningen (kapittel V). Du kan også se etter om det du legger inn blir brukt til videre trening av verktøyet. Informasjonen som legges inn i verktøyet vil vanligvis bli sendt til selskapet bak verktøyet, lagret og brukt til videre trening av verktøyet, om ikke annet er oppgitt. Dette vil du finne informasjon om i tjenestens dokumentasjon som skal være lett tilgjengelig. Les gjerne mer om behandling av data på Datatilsynets nettsider.
Opphavsrett og fusk/plagiat
Du må ha tilstrekkelige rettigheter til informasjonen du legger inn i et generativt KI-verktøy. Dersom du har fått tilgang på materiale som er beskyttet av opphavsrett, risikerer du å bryte opphavsretten dersom du mater dette materialet inn i et GenKI-verktøy om den ikke er sertifisert for dette. Eksempler på slik tekst kan være upubliserte tekster til kollegaer. Å legge inn slike tekster kan få konsekvenser både for dem og for deg. Tekst som er publisert og åpent tilgjengelig kan du derimot legge inn i et GenKI-verktøy, for eksempel for å lage sammendrag som er enklere å lese.
Diskriminerende innhold
Ifølge norsk lov skal likestilling fremmes og diskriminering hindres. Vurder hvordan dette formålet er ivaretatt før du bruker noe et GenKI-verktøy har generert. Les mer om dette under hovedtemaet «etisk forsvarlig».
Eksempler
Når er det riktig å dele genererte bilder og videoer?
Rettighetene til KI-genererte bilder og video er ikke avklart. Spørsmålet er om det er den som har utviklet GenKI-verktøyet som har rettighetene til bilder som er generert av KI, de som eier bildene verktøyet er trent med, eller om det er den som “promptet” verktøyet. Vilkårene knyttet til verktøyet kan gi veiledning, men gir ingen fasit.
Etisk forsvarlig
Generativ KI skal benyttes på en etisk forsvarlig måte.
Du kvalitetssikrer arbeidet ditt slik at både din bruk og det du deler er etisk forsvarlig.
Eksempler på etisk forsvarlig bruk er å ha gode rutiner for kildekritikk, samt å unngå uønskede skjevheter (bias) og å senke energibruk og tenke bærekraft.
Kildekritikk
Når du benytter et GenKI-verktøy, skal du alltid kvalitetssikre innholdet.
GenKI-verktøy er trent for å tilfredsstille deg som bruker og har ofte en overbevisende form, men innholdet er produsert ut fra statistiske modeller. KI-generert tekst kan derfor inneholde feil, unøyaktigheter eller være direkte misvisende. Du må derfor forholde deg kritisk til innholdet du får ut av verktøyet.
Å kritisk vurdere output krever at du har nok kompetanse innenfor området til å vurdere kvaliteten. Benytt andre kilder til kvalitetssikring når du bruker et GenKI-verktøy til å generere innhold du ikke selv kan kvalitetssikre.
Unngå skadelige stereotypier og bias (uønsket skjevhet)
Ingen generative KI-verktøy er etisk nøytrale. Verktøyet baserer seg gjerne på verdiene til den eller de som har utviklet det. Dette trenger ikke være likt eller forenlig med de verdiene du ønsker å fremme.
I tillegg kan deler av treningsmaterialet som er brukt for å utvikle det generative KI-verktøyet du bruker, ha inneholdt kjønnsdiskriminerende eller rasediskriminerende innhold. Disse skjevhetene i treningsmaterialet kan gjentas som holdninger i materialet du henter ut av verktøyet. Et eksempel er fremstilling av kjønn, der «gammeldagse» forestillinger kan komme frem i teksten gjennom hvordan kjønnsforskjeller forklares eller hvilke ord som brukes for å beskrive kvinner, eller med bilder som viser kvinner formet etter smale skjønnhetsidealer.
Du kan motvirke disse tendensene ved kritisk å reflektere over om det genererte materialet er i tråd med gjeldende normer og verdier, som menneskeverd og likeverd, inkludering og ikke-diskriminering.
Senk energibruk og tenk bærekraft
Å bruke generative KI-verktøy til å generere materiale innebærer et vesentlig større klimaavtrykk enn ved tradisjonelle søk på nett. Genereringen av bilder og video krever ekstra mye energi.
Verktøyene må derfor brukes bevisst og forsvarlig og til viktige oppgaver hvor teknologien skaper verdi.
Eksempler
GenKI kan gi deg uriktig informasjon.
Det hender at KI finner sammenhenger i data som ikke gjenspeiler et faktisk årsaks-virkningsforhold. Det betyr at KI kan finne en tilfeldig sammenheng i data hvor det i virkeligheten ikke er noen sammenheng. For eksempel kan KI finne at det er en sammenheng mellom hvor mye is en befolkning spiser og hvor mange som har fregner, uten at dette har noen som helst sammenheng. Fordi slike tilfeldige korrelasjoner kan føre til langt alvorligere påstander om sammenhenger, er det svært viktig at du som bruker verktøyet er i stand til å vurdere informasjonen som presenteres for deg.
Åpen og ansvarlig
Hva betyr det å bruke Generativ KI på en åpen og ansvarlig måte?
Ansvarlighet
Ved å benytte generativ KI på en sikker, lovlig og etisk forsvarlig måte viser du ansvarlighet.
Åpenhet og transparens
Generativ KI gir mange gode muligheter til å løse rutineoppgaver, men også til forskning og utvikling. De ulike oppgavene har ulike regler for å vise etterrettelighet ved å forklare fremgangsmåte, metode og bruk av verktøy, og de samme reglene gjelder for KI-generert materiale.
For eksempel er det ikke vanlig å forklare fremgangsmåte når du skriver en jobbsøknad, mens kravene er meget høye innenfor studier, utviklingsarbeid og forskning. Innenfor disse områdene sikrer du at bruken blir åpen og transparent ved å dokumentere fremgangsmåten underveis og redegjøre for den etterpå.
Eksempler
Når skal jeg merke en tekst, bilder, tekst eller video som KI-generert?
KI-genererte bilder, lyder og video skal i prinsippet alltid merkes som KI-generert for å sikre etterrettelighet, og i mange tilfeller vil det være riktig å på andre måter forklare KI-generert tekst. Dette gjelder særlig når KI er brukt i forskning, utdanning og formidling.
Hvis du kun har brukt det som et verktøy til forbedring av eksisterende tekst, slik du ellers hadde brukt en språkvaskers tjenester, trenger du vanligvis ikke å merke innholdet.