5 fallgruver du må unngå når du bruker generativ AI

Sammendrag

• Generativ AI kan produsere tekst, bilder, video og mye annet.
• Innholdet som lages av AI kan ha faktafeil.
• Fordommer kan forsterkes og spres med kunstig intelligens.
• AI kan lekke persondata og bedriftshemmeligheter.
• Det er viktig å dobbeltsjekke det som produseres av AI.
• Nå tilbyr UiO og Sikt sikre ChatGPT-varianter.

Hva er generativ AI?

Generativ AI er kunstig intelligens som kan produsere tekst, bilder, kode, video, stemmer og musikk. Den mest kjente generative AI-en er ChatGPT.

Det heter «generativ AI» fordi den kunstige intelligensen genererer (lager) noe nytt.

Sjekk ut denne videoen som er generert med AI:

Noen generative AI-verktøy er spesialiserte på en ting. Versjonen av ChatGPT som ble lansert i 2022 er et eksempel på dette. Det var en språkmodell som bare produserte tekst. 

I ettertid har ChatGPT fått mange flere funksjoner.

Her er noen eksempler på AI-verktøy som bruker generativ AI:

• ChatGPT: produserer tekst, bilder, stemmer og kode.
• Midjourney: lager bilder og kunstverk.
• Pika labs: lager video.
• Stable Audio: lager musikk.

Nyere AI-verktøy er fleksible og kan produsere flere ting samtidig. Disse havner under betegnelsen multimodal AI.

Fallgruve #1: Vage instrukser

For at AI-modeller skal fungere optimalt, er det avgjørende å gi gode instrukser («prompts»). En instruks er hvordan man formulerer oppgaven man gir til AI-en.

Språkmodeller som ChatGPT kan gi deg feilinformasjon hvis de får vage instrukser. 

Grunnen er at de er trent opp til å gi deg svar som høres riktige ut. Men det betyr ikke at svaret er riktig. 

Vage, tvetydige eller ledende instrukser kan få modellene til å gi partiske, unyttige eller villedende svar. 

Bildegeneratorer som Midjourney kan gi deg irrelevante bilder hvis instruksene ikke er optimale. Det samme gjelder videogeneratorer som Pika Labs.

Løsninger for å få bedre svar

Irritert over at du får dårlige resultater med generativ AI? Løsningen kan ligge i instruksene.

Nok informasjon

For å gi gode svar trenger AI-en nok informasjon. Jo mer kontekst den har om oppgaven, desto bedre blir svarene.

For eksempel: vil du at ChatGPT eller Bing skal planlegge en ferie for deg? 

Du får best mulig svar om du forteller AI-en hva du er interessert i, hvilke ferieaktiviteter du liker, hvor du skal være, og så videre. Si hvilke mat du liker og hvilke restauranter du foretrekker.

Del opp i delspørsmål

Det kan være lurt å dele opp et stort spørsmål inn i mindre delspørsmål. Da øker sannsynligheten for at AI-en fokuserer på det du vil.

Du kan gjerne eksplisitt be AI-en om å gå i dybden og være mer teknisk, om du ønsker det.

«Tenk steg for steg»

Denne instruksen gjelder spesielt for språkmodeller som ChatGPT og Bing.

Neste gang du stiller et spørsmål som krever litt tankekraft, be ChatGPT tenke steg for steg.

Å teste seg frem

Å gi gode instrukser er en ferdighet som krever mye eksperimentering. 

Det kan hende du må omformulere et spørsmål, eller teste ulike varianter helt til du finner det som fungerer best.

Jeg har selv måtte teste 15 varianter av en instruks før jeg fikk et tilfredsstillende svar.

Be AI-en lage en instruks

Hvis ingenting annet fungerer, kan du spørre AI-en om å lage en instruks for deg.

Instruks: «Jeg ønsker å […] – Hvilke instruks/prompt bør jeg gi deg for å klare dette?»

Her skaper du en Inception-aktig situasjon hvor du forteller AI-en hvordan den skal fortelle deg hva du skal fortelle den.

Og det fungerer!

Fallgruve #2: For mye tillit

Når vi stoler for mye på kunstig intelligens, risikerer vi å overse dens svakheter. 

Høye forventninger kan føre til skuffelse når AI-en ikke leverer.

Derfor er det viktig at vi er kjent med AI-ens begrensninger, så vi kan veilede den.¹ McKinsey og VentureBeat

Her er noen av ChatGPT (og andre chatboter) sine begrensninger:

• Hallusinasjoner (gir feilinformasjon).² Forbes
• Dikter opp referanser og sitater.
• Finner på ting som ikke har skjedd.

Ta et dypdykk i temaet: ChatGPTs 6 største svakheter

Løsninger: Kritisk tenkning og faktasjekking

Det viktigste er å være bevisst over at generativ AI kan finne på ting. 

Her er noen ting du kan gjøre:

• Dobbeltsjekk svarene og påstandene.
• Dobbeltsjekk kildene.
• Finn troverdige kilder å sammenligne med.

Gratisversjonene av AI-verktøy bruker ofte eldre AI-modeller. Disse hallusinerer mer enn de nye modellene. 

Derfor kan det være lurt å investere noen hundrelapper i måneden til å abonnere på de nyeste AI-modellene.

Fallgruve #3: Å spre fordommer 

Midjourney og Stable Diffusion er AI-verktøy som lager bilder.

Ofte blir bildene knallbra, men bildegeneratorene kan også spre fordommer gjennom bildene de lager.

AI-verktøy lærer fra informasjonen de trenes på. Hvis dataene inneholder stereotypier, vil AI-en gjenskape dem. 

«Modellens resultat kan bli uriktig eller diskriminerende dersom treningsdataene gir et skjevt bilde av virkeligheten»

– Datatilsynets rapport om KI og personvern (2018)³ Datatilsynet

Eksempel på fordommer i bildegeneratorer

Her spør jeg ChatGPT om å lage et bilde av en nordmann:

Hvorfor blir bildet slik?

• En forklaring er at DALL-E er trent opp på bilder. Når «norske menn» opptrer i bildedatabasen, er de ofte i bunad eller i Olagenser og de er ute i naturen.
• AI-en forsøker å finne det som gjør norske menn unike, og da er fjorder, fjell, bunad, og blondt hår det som skiller seg ut fra andre nasjonaliteter.
• I et forsøk på å lage en nordmann, ender DALL-E med å lage en person som er stereotypisk norsk, og svært lite realistisk.

Jeg spurte ChatGPT om hvorfor den kledde mannen i en bunad:

En måte å omgå denne problematikken er å være konkret i instruksen man gir.

Hvilket kjønn skal personen i bildet være? Hvilke klær skal personen ha på seg? Hvor er personen i tid og sted? Og så videre…

Fallgruve #4: Brudd på opphavsrett

Generativ AI kan by på hodebry for deg som er opptatt av opphavsrett.

Hva sier loven?

Bildegeneratorer som Midjourney er fôret med store mengder innhold fra nettet. Det spekuleres i at mye av innholdet er opphavsrettsbeskyttet.⁴ Harvard Business Review

I teorien bearbeider bilde- og videogeneratorer tusenvis av vernede verk.

Men er dette et problem? 

Åndsverkloven sier at det er lov å bearbeide kunstneriske verk for å skape nye verk.⁵ Åndsverkloven § 6

Samtidig har flere søksmål blitt reist av kunstnere som mener verkene deres er brukt til å trene opp AI.⁶ Harvard Business Review

Inntil videre er søksmålene blitt tilbakevist i det amerikanske rettsvesenet. Årsaken er at kunstnerne ikke kan bevise at deres verk er blitt brukt til å trene opp AI-en⁷. Reuters og Hollywood Reporter

Du har ikke opphavsrett til AI-bildene du lager

I de siste årene har det vært mye diskusjon om hvem det er som har opphavsretten til verkene som skapes med AI. 

Ifølge åndsverkloven kan ikke maskiner gi opphavsrett. Det vil si at bildegeneratorer som DALL-E ikke gir deg opphavsrett på AI-bildene de lager for deg.

I august 2023 avviste en amerikansk dommer et søksmål om opphavsrett til kunst som er skapt av AI.⁸ Hollywood Reporter

Dermed opprettholdes rettspraksisen om at mennesker må være involverte om de skal ha opphavsrett til kunst.

«Den europeiske opphavsretten stiller krav om at vernede verk må være menneskeskapt.»

– Advokatfullmektig Silje Strandengen i NRK-intervju

Så hvem får opphavsrett til disse AI-verkene?

Per dags dato ser det ut til at ingen får opphavsrett til AI-bilder.

Dette står i DALL-E sine brukervilkår:

«You own the images you create with DALL·E, including the right to reprint, sell, and merchandise» – OpenAI

Konklusjon: Du kan bruke AI-bildene kommersielt hvis tjenesten gir deg rett til det. Men bildene dine er ikke vernet av opphavsrett.

Ta et dypdykk i temaet: Hvem eier AI-bilder?

Fallgruve #5: Datalekkasje (persondata og bedriftshemmeligheter)

En av de største utfordringene med kunstig intelligens er at data kan lekke ut.

Men hva betyr egentlig det?

Hver gang du skriver inn, snakker til, eller laster opp noe til chatboter som ChatGPT, så lagres dataene. Deretter brukes de til å trene opp modellen.

Og når denne informasjonen er blitt integrert i modellen, vil den kunne sendes ut til andre brukere.

Persondata og personvern

Siden informasjon kan lekke ut, bør du ikke skrive inn personopplysninger i samtalene dine.

«Personvern handler i stor grad om å ivareta den enkeltes rett til å bestemme over opplysninger om seg selv.»

– Datatilsynets rapport om KI og personvern (2018)⁹ Datatilsynet

Selv om AI-verktøyene er utrolig nyttige, får vi lite kontroll over våre egne personopplysninger. 

Og det handler ikke bare om opplysningene vi selv har skrevet inn i modellen. Med avanserte statistiske metoder kan AI-en avsløre mye mer om deg.

I 2023 viste en studie at chatboter kan gjette privat info om deg med 85 % treffsikkerhet. Noen av tingene den kan avsløre er din inntekt, bosted og kjønn.¹⁰ Studie

Bedriftshemmeligheter

Datatilsynet advarer om at AI-modeller kan «røpe forretningshemmeligheter og immaterielle rettigheter».¹¹ Datatilsynet

Derfor er det viktig at bedrifter er bevisste over risikoen som generativ AI medfører.

Videre sier Datatilsynet at «en av bekymringene i forbindelse med maskinlæring er at man ikke alltid vet hvordan resultatet blir produsert.»¹² Datatilsynet

Sikre bedriftsløsninger

I respons på denne utfordringen har flere AI-selskaper begynt å tilby sikre løsninger. Disse løsningene tar hensyn til både personvern og datavern.

Eksempler på dette er ChatGPT Enterprise og Bing Chat Enterprise (Microsoft Copilot).¹³ Microsoft

I ChatGPT Enterprise sine vilkår understreker de at dine bedriftsdata er trygge:

– You own and control your business data in ChatGPT Enterprise. We do not train on your business data or conversations (…) ¹⁴ OpenAI

Det tilbys også sikre løsninger i Norge:

GPT UiO 

Universitetet i Oslo tilbyr GPT UiO som lar deg bruke ChatGPT innenfor universitetets krav til personvern. 

Modellen er utviklet for universiteter og høyskoler. Det er mulig å bestille UiO GPT med tilgang via FEIDE.¹⁵ UiO GPT

Sikt KI-chat

Likt UiO, er Sikt sin KI-chat en versjon av ChatGPT som er i tråd med GDPR og norsk lov. Ifølge Sikt er det kun Sikt og underleverandørene som har tilgang til dataene. De vil ikke bli delt med noen andre.¹⁶ Sikt

Sikt sine krav for å bruke tjenesten:¹⁷ Sikt

• «Tjenesten kan bare brukes til formål relatert til utdanning, opplæring, eller Kundens virksomhet.»
• «Tjenesten skal ikke benyttes som et verktøy for generell innholdsproduksjon.»
• «Tjenesten forutsetter at Kunden har Feide for pålogging av brukere.»

NorGPT

NorGPT er Norges svar på ChatGPT. Modellen er under utvikling av NorwAI, et forskningssenter på NTNU. AI-en trenes på norsk infrastruktur og norske data. 

NorGPT er enda ikke klar til bruk, men NorwAI skal i fremtiden stille NorGPT til rådighet for det norske samfunnet.

Anbefalinger fra Datatilsynet

Helt til slutt så legger jeg ved noen anbefalinger som kan hjelpe bedrifter navigere farvannet av AI-verktøy. 

Anbefalinger til bedrifter fra Datatilsynet:¹⁸ Datatilsynet

• Gjør en risikovurdering før du tar i bruk et AI-system.
• Lag etiske retningslinjer.
• Still krav om at løsningen oppfyller krav til personvern.
• Sørg for at løsningen ivaretar brukernes rettigheter.

Lykke til videre!