Fotograf: Jernej Furman.1 Bildet er lisensiert under CC BY 2.0 – Creative Commons Attribution 2.0 Generic. Bildet er redigert (endret farger). Kilde: Wikimedia.
Superintelligens
OpenAI ble etablert i 2015 med et mål om skape en superintelligent AI som skulle gagne menneskeheten.
Dette står i charteren deres:
Vi vil forsøke å utvikle en trygg superintelligens (…) som er til nytte for menneskeheten.
– OpenAI2 OpenAIs charter
Hva er superintelligens? 💡
Superintelligens er teknologi som er smartere enn mennesker.
Med andre ord, maskiner som lærer selv og tenker selv.
Ville utvikle «åpen AI» uten profittjag
Blant grunnleggerne var Sam Altman og Elon Musk.
På det tidspunktet ønsket de å utvikle og forske på AI uten å kommersialisere den.
De ville dele all forskning åpent med verden. Derav «OpenAI» (åpen AI på norsk).
Tre løfter
OpenAI bygget virksomheten sin på tre løfter:4 Charter
1. Alle skal få glede av AI
Superintelligens skulle komme alle til gode. Ikke bare de som har mest penger eller makt.
Men hvem bestemmer hva som er bra for alle? Og hvordan skal dette skje i praksis når teknologien er så komplisert at bare eksperter forstår den?
2. Sikkerhet kommer først
Trygg utvikling skulle prioriteres fremfor kommersialisering. Styret bestemmer veien videre, ikke investorer.
3. Åpenhet og samarbeid skal drive utviklingen fremover
Bedriften må lede det teknologiske kappløpet for å påvirke hvordan AI brukes.
De skulle publisere studiene sine og ha tett samarbeid med viktige samfunnsaktører.
Investeringer fra tekgiganter
En ideel organisasjon ble kommersiell
OpenAI var avhengige av donasjoner for å drifte selskapet. Dette var en utfordring, med tanke på ressursene som kreves for å utvikle AI.
Derfor bestemte de seg for å endre selskapsform. I 2019 gikk de fra å være en ideell organisasjon til å bli kommersialisert.5 Selskapsstruktur
Den nye selskapsformen var «capped-profit». Med andre ord kunne de nå tjene penger og utbetale utbytte til investorer.
Slik greide de å tiltrekke investorer som Microsoft, som siden har pumpet inn 14 milliarder dollar.6 CNBC
Investeringene skapte grunnlaget for hurtig utvikling av ChatGPT.
Men alle investeringer har en bakside.
Microsoft er i hovedsak kommersielt og har derfor integrert ChatGPT-teknologien i deres egne produkter.
Plutselig måtte den idealistiske organisasjonen balansere mellom å tjene penger og å tjene menneskeheten.
ChatGPT øker i pris
Dagens OpenAI verdsettes til 300 milliarder dollar.8 TechCrunch
Den ideelle organisasjonen har blitt ett av de mest verdifulle selskapene i verden.9 New York Times
Selskapet planlegger å skru opp ChatGPT-abonnementet fra 23 euro (275,-) i måneden til 37,5 euro (448,-) innen 2029. Målet er å sikre inntekter på 125 milliarder dollar innen 2029.10 Fortune
I tillegg har de lansert ChatGPT Pro som koster 229,- (2732,-) euro i måneden.11 ChatGPT-priser / ChatGPT Pro
Er dette et tegn på at det er blitt et profittjag, etter at de åpnet for investorer?
Styrekrisen
Høsten 2023 opplevde tekselskapet en styrekrise. Den ga oss et sjeldent innblikk i deres indre konflikter.
Styret kastet Sam Altman som administrerende direktør.
Styret mente at Altman prioriterte profitt og vekst fremfor sikkerhet og åpenhet.
De fortalte at Sam ikke hadde vært ærlig i kommunikasjonen sin.
Men… Altman hadde Microsoft og ikke minst de ansatte på sin side.
For over 730 ansatte truet med å slutte dersom Altman ikke kom tilbake.12 CBS News og WIRED
Kort sagt så kom Altman tilbake og styret ble omorganisert.
Sikkerhet skyves til side
Rett etter at støvet hadde lagt seg kom en ny krise.
I løpet av 2024 sluttet nesten halvparten av forskerne som jobbet med sikkerhet.
Jan Leike, som ledet det kritiske «superalignment»-teamet, sa ved sin avgang at «sikkerhet […] har fått en birolle til fordel for pene produkter».13 Fortune
I juni 2024 undertegnet 13 tidligere ansatte et åpent brev der de advarte mot selskapets tilnærming til sikkerhet.14 The Verge
De hevdet at alle AI-selskaper «har store økonomiske insentiver til å unngå tilsyn».15 Heise
En anonym varsler fortalte Washington Post at OpenAI planla lanseringsfesten til GPT-4o før de visste om det var trygt å bruke chatboten.16 Washington Post
«Vi feilet i bunn og grunn i [sikkerhets-]prosessen»
– Anonym varsling 17 Washington Post
En annen sikkerhetsgruppe («AGI Readiness») ble ledet av Miles Brundage. Rollen deres var å overvåke at selskapet og verden var forberedt på superintelligens.
Miles skrev at «verken OpenAI eller andre laboratorier er klare, og verden er heller ikke klar».18 CNBC
Kort tid etter ble gruppen hans oppløst.
Hva er målet fremover?
I charteren til forskningsorganisasjonen handler det om å tjene menneskeheten.
Men det er flere faktorer vi må se på:
- Hvem investorene er og hvilken retning de drar i
- De ansatte som har sluttet
- Hvor fokusen på sikkerhet ble av
- Hvorfor de publiserer færre studier
- Prisøkningene og kommersialiseringen
- Søksmål og juridiske problemer
Derfor burde vi stille oss spørsmålet om den mest populære AI-bedriften fortsatt ønsker å tjene menneskeheten, eller om den sikter på vinne et teknologisk kappløp.
Vi får se hva fremtiden bringer.
