Sammendrag
- Kunstig generell intelligens (AGI) er teknologi som er smartere enn mennesker.
- Industrigiganter som Google og OpenAI jobber på spreng for å utvikle AGI.
- Eksperter anslår at kunstig generell intelligens vil utvikles mellom 2030 og 2060.
- Q-star av OpenAI er et prosjekt som har fått mye oppmerksomhet.
- Noen eksperter advarer om at hyperintelligens ikke bør utvikles.
- Norge har flere forskningsmiljøer innen AI og en milliardsatsing fra regjeringen.
- Vi kan sette premisser for etisk utvikling av AI.
Hva er kunstig generell intelligens (AGI)?
Kunstig generell intelligens er hyperintelligente maskiner.1 Journal of Experimental & Theoretical Artificial Intelligence
Med andre ord, maskiner som kan lære, tenker selv og er smartere enn mennesker.2 1: Artificial General Intelligence (AGI) for Education 2: Journal of Experimental & Theoretical Artificial Intelligence
På engelsk kalles det Artificial General Intelligence (AGI).
I motsetning til dagens kunstige intelligens, vil den generelle AI-en kunne lære å gjøre alt mulig.3 Journal of Experimental & Theoretical Artificial Intelligence
Den vil skjønne omverden, samle inn informasjon og bruke erfaringer til å løse problemer.
For å kunne styre denne utviklingen vil regjeringen investere en milliard kroner i forskning på kunstig intelligens.4 Regjeringen med milliardsatsing på kunstig intelligens
«Kunstig intelligens og maskinlæring kommer til å forandre samfunnet på måter vi fortsatt ikke forstår eller klarer å kontrollere. Styrking av forskningsinnsatsen er avgjørende for at vi skal sikre at utviklingen skjer på en måte som er i tråd med våre verdier som samfunn.»
– Jonas Gahr Støre.5 Regjeringen med milliardsatsing på kunstig intelligens
Selvbevisst og tenkende AI
Det finnes et hav av Sci-Fi filmer hvor kunstig intelligens blir selvbevisst. For eksempel: Terminator, I-robot og Ex Machina (avbildet under).
Disse filmene dramatiserer AI-en og skaper konflikt for å øke spenningen. Men det er ikke nødvendigvis en realistisk fremstilling.
Noen sentrale trekk ved kunstig generell intelligens:6 Artificial General Intelligence (AGI) for Education
- Tenker og tar avgjørelser på egenhånd.
- Kan se, høre og snakke (multimodalitet).
- Lærer nye ferdigheter, akkurat som mennesker.
- Bruker kunnskap i nye situasjoner.
- Kan bli selvbevisst.
Generell AI finnes ikke enda. Men forskere i Google, Microsoft, OpenAI og Meta jobber på spreng for å utvikle det.7 OpenAI: Planning for AGI and beyond
«Kunstig generell intelligens kommer om to til tre år»
– Dario Amadei, CEO i Anthropic
Men selv om AI imponerer i dag, har den fortsatt en lang vei å gå.
Språkmodeller som ChatGPT forstår ikke den større sammenhengen de eksisterer i. De kan heller ikke ta initiativ på egenhånd. Man må gi spesifikke instrukser for å få AI-en til å gjøre noe.
Derfor kalles dagens kunstige intelligens for «smal» eller «svak». Fremtidens AI kalles for «sterk» kunstig intelligens.
Hva kan vi bruke kunstig generell intelligens til?
Hvis forskerne klarer å utvikle AGI, vil vi i teorien kunne:8 OpenAI: Planning for AGI and beyond og Artificial General Intelligence (AGI) for Education
- Revolusjonere forskning
- Få AI-assistenter som kan gjøre «alt» for oss
- Automatisere jobber
- Automatisere undervisning som også er persontilpasset
- Oppnå økonomisk vekst på en bærekraftig måte
- Forhindre klimaendringene
Til tross for spennende muligheter, er det minst like mange negative sider ved en hyperintelligent maskin.9 OpenAI: Planning for AGI and beyond
Fortsett å lese for å få innsikt i hvorvidt vi bør utvikle hyperintelligente maskiner.
Når får vi kunstig generell intelligens?
Ingen vet hvorvidt kunstig generell intelligens blir en realitet. Noen tror det skjer om ti år, andre sier det vil ta et århundre.
Noen sier at det allerede har skjedd, men at det holdes hemmelig.
Dette er det vi vet per dags dato…
Tidsanslag av eksperter
De fleste eksperter anslår at kunstig generell intelligens vil utvikles mellom 2030 og 2060. Men det er stor usikkerhet knyttet til disse estimatene.
Det merkverdige er at to av Google DeepMinds medgründere har nylig sagt at AGI sannsynligvis kommer ganske snart (2026 til 2028).
Her er en liste over ulike tidsanslag:
- Google DeepMinds medgründer Shane Legg anslår at AGI vil oppnås innen 2028.10 Futurism
- Google DeepMinds medgründer Mustafa Suleyman anslår at AGI vil oppnås innen 2026.11 Forbes
- En studie fra 2023 anslår at AGI vil utvikles mellom 2032 og 2048.12 Elsevier
- Nvidia sin CEO, Jensen Huang, sier at AGI kommer innen 2028.13 Business Insider
- En studie fra 2023 anslår at AGI vil utvikles mellom 2040 og 2070.14 Journal of Experimental & Theoretical Artificial Intelligence
- En studie fra 2022 anslår at AGI kommer mellom 2040 og 2060.15 Springer – AI & Society
- Anthropic sin CEO sier at AGI kommer om «to til tre år» (2025-2026).16 Metaverse Post
Så hvordan skal vi tolke dette? La oss se på utviklingen.
Utviklingen av kunstig generell intelligens
Teknologigigantene pumper penger i AGI
Utviklingen av AGI er i startfasen, men teknologigigantene satser tungt. For eksempel har Microsoft investert milliarder av dollar i OpenAI. Selskapet har et uttalt mål om at de skal utvikle en AI som overgår mennesker.
OpenAI-sjef Sam Altman sier at de vil hente inn ytterligere finansiering fra Microsoft for å utvikle AGI.17 Financial Times
Ifølge Bloomberg har finansiering av AI-selskaper steget til en totalverdi på 17,9 milliarder dollar. Dette til tross for at investeringer i oppstartsselskaper har falt.18 Bloomberg
45 AGI-prosjekter
I 2017 var det over 45 bedrifter og prosjekter som jobbet mot kunstig generell intelligens.19 Journal of Experimental & Theoretical Artificial Intelligence
Men dette er tross alt 6 år siden. I etterkant har det blomstret opp nye satsinger.
La oss se nærmere på de mest dagsaktuelle prosjektene.
Gato av Google Deepmind
Hos Google jobber DeepMind med AGI ved å kombinere maskinlæring, roboter og språkmodeller. Prosjektet som sikter på generell AI heter «Gato».20 MIT Technology Review / The Independent / Google DeepMind
Her er noen ting DeepMind har oppnådd:
- Utviklet mer nøyaktige værvarsler.21 MetNet-3 – Google
- Å beregne strukturen til hvilken som helst molekyl.22 AlphaFold – Google DeepMind
- Laget roboter som kan forstå omverdenen.23 RoboCat – Google DeepMind
- Utviklet selvforbedrende AI-systemer.24 Promptbreeder / Large Language Models as Optimizers
Her er en video av en Google-robot som forstår omverden og stemmekommandoer. Det gir oss et lite innblikk i hvordan generell AI kan se ut i fremtiden:
Q-star av OpenAI
I november 2023 gikk det rykter om at OpenAI hadde gjort et stort gjennombrudd kalt «Q*» eller «Q-Star».25 Forbes og Reuters
Dette hemmelighetsfulle prosjektet skal visstnok ha løst avanserte matematiske problemer. Å mestre matematikk er det første steget mot resonnering.26 MIT
Noen OpenAI-forskere skal ha advart styret om at Q* ikke burde kommersialiseres for tidlig. Dette skal ha bidratt til at OpenAI-sjef Sam Altman fikk sparken.27 Forbes og Reuters
Selv om detaljene er uklare, spekuleres det i at Q* er et skritt mot generell kunstig intelligens.28 Forbes
Vi får vente og se hvordan dette utvikler seg.
Hva er Norges rolle i AGI-kappløpet?
Vi har solid kompetanse innen kunstig intelligens i Norge.
Vi har flere toneangivende forskningsmiljøer innen AI. Her snakker vi blant annet om SINTEF, NTNU (NorGPT) og SIMULA.
Norge deltar også i nasjonale (SFI NorwAI) og europeiske forskningsprosjekter (AI4EU). Her utvikler vi og deler kunnskap på tvers av landegrenser.
For å videreutvikle AI-kompetansen skal regjeringen bruke én milliard kroner på forskning innen kunstig intelligens.29 Regjeringen med milliardsatsing på kunstig intelligens
«Regjeringen mener Norge har gode forutsetninger for å kunne lykkes med menneskevennlig og pålitelig kunstig intelligens (…)»
– Nasjonal strategi for kunstig intelligens30 Nasjonal strategi for kunstig intelligens – regjeringen.no
Internasjonalt kan vi være en aktør som sikrer at utviklingen av AI skjer på en trygg og etisk måte. I regjeringens AI-strategi vektlegges personvern, digital sikkerhet og etikk.31 Nasjonal strategi for kunstig intelligens – regjeringen.no
Dette er verdier Norge kan eksportere.
Men foreløpig lager vi ikke vår egen kunstig generelle intelligens.
«Norge har, som et lite land, ikke mulighet til å bygge kunnskap og kompetanse på høyt internasjonalt nivå i hele bredden av KI-feltet.»
– Nasjonal strategi for kunstig intelligens32 Nasjonal strategi for kunstig intelligens – regjeringen.no
Selv om Norge neppe blir teknologiledende innenfor AGI, kan vi likevel spille en viktig rolle internasjonalt.
Risikoen med å lage kunstig generell intelligens
Utover alt som er spennende med AGI, er det også mye som kan gå feil.
Risikoene som er nevnt under er hentet fra en studie som er publisert i Tidsskrift for eksperimentell og teoretisk kunstig intelligens (oversatt).33 The risks associated with Artificial General Intelligence: A systematic review
Manglende kontroll
Det er en risiko for at AI-en river seg fri fra menneskelig kontroll. Det er viktig å kunne ha oversikt over hva AI-en gjør og hvilke mål den har.
Feil mål
AGI kan bli gitt eller utvikle feil mål. Feilprioriteringer kan oppstå når mennesker gir feil mål, eller hvis AI-en endrer sine egne mål.
Usikker AI
Det er risiko for at det utvikles usikker AI i kappløpet om å lage den første generelle intelligensen. Usikker AGI av lav kvalitet kan bli resultatet.
AI med feiljusterte moralske verdier
Generell AI som ikke følger norske verdier er problematisk. Manglende moral kan medføre at AI-en tar avgjørelser som ikke er det vi ønsker.
Manglende politisk styring og regelverk
Norges politiske system og rettsvesen er ikke forberedt på den raske AI-utviklingen. Det trengs politisk styring og et tydelig regelverk for å redusere risikoene.
Bør kunstig generell intelligens utvikles?
Flere eksperter advarer om kunstig generell intelligens.
En hyperintelligent maskin må reguleres, sier noen forskere.34 Springer
Andre forskere sier at kunstig generell intelligens ikke bør utvikles i det hele tatt.35 Elsevier
Inga Strümke har sagt til Forskning.no at det er mye unødvendig frykt knyttet til denne teknologien. Hun sier at frykten distraherer oss fra konkrete debatter.36 Forskning.no
Hvorvidt hyperintelligent AI burde utvikles blir et filosofisk og etisk spørsmål.
«Your scientists were so preoccupied with whether or not they could that they didn’t stop to think if they should»
– Dr. Ian Malcom, i filmen Jurassic Park (1993).
Argumenter for å utvikle AGI
Tilhengere av AGI argumenterer for at det kan gi enorme fordeler.
AGI kan brukes til å løse utfordringer som mennesker ikke har greid å løse, for eksempel klimaendringene.
AGI kan forbedre forskning ved å gjøre nye vitenskapelige oppdagelser.
Eksempler på dette har vi allerede i dag:
- Millioner av nye materialer er oppdaget med maskinlæring.37 Google DeepMind
- En ny algoritme har oppdaget 200 nye DNA-sekvenser.38 MIT
AI kan analysere enorme datamengder og avdekke ukjente mønstre og sammenhenger.
Innen medisin kan AGI stille mer nøyaktige diagnoser og foreslå optimal behandling for hver pasient.
Til sist vil AGI kunne automatisere jobber og utføre repetitive oppgaver som vi helst vil unngå.
Argumenter mot å utvikle AGI
Motstandere av generell AI frykter at det kan få negative konsekvenser hvis det ikke stoppes.
Et hovedargument er at AGI kan unnslippe menneskelig kontroll.
Hvis maskiner blir smartere enn oss, kan de begynne å ta egne valg på egne premisser.
Selv små avvik kan forsterkes over tid og føre maskinen på avveie.
En tredje bekymring er at AGI kan bli misbrukt til cyberkriminalitet, for eksempel.
Alt i alt er det utfordrende å ta en stilling til hvorvidt man burde utvikle en hyperintelligent maskin.
Men hva tenker du om dette?
Det er viktig å ta stilling til dette spørsmålet med dagens raske AI-utvikling.