Bilde: ChatGPT styrer et våpensystem (video vist nedenfor).
Hvor farlig er egentlig kunstig intelligens?
Dette spørsmålet har blitt debattert i norske medier den siste tiden.
I Debatten på NRK var norske eksperter uenige om hvor alvorlig KI-trusselen egentlig er.1 NRK
Ludvig Lilleby Johansson (styreleder i Tryggere KI) sa i debatten at KI kan utslette menneskeheten innen tre til fem år.
Andre debattanter mener at dette bare er markedsføring for tekgigantene.
Derfor har vi sett nærmere på hvor farlig teknologien egentlig er.
KI kan styre våpensystemer
Som du ser i videoen, kan ChatGPT kobles til våpensystemer.
Autonome kamikazedroner
Ukrainas forsvarsdepartement sier at de bruker AI i alt fra å fly droner til å planlegge operasjoner.2 Reuters
USA har levert styringssystemer til 50 000 ukrainske kamikazedroner til en verdi på 100 millioner dollar.3 Ars Technica
Reglene i Ukrainas forsvarsdepartement krever at et menneske må bekrefte målet før dronen går til angrep.4 United24 Media
Dronene er delvis eller fullstendig autonome, det vil si selvstyrte.
Advarslene kom først fra utlandet 💡
I flere år har det kommet en rekke advarsler fra folk som jobber i bransjen.
En tidligere forsker i Anthropic sa i september at han tror det er over 10 prosent sjanse for at KI kan utslette menneskeheten innen ti år.5 The Guardian
I sommer skrev 1000 ansatte fra ulike KI-selskaper et åpent brev der de ba om strengere regulering i kappløpet mot superintelligens.6 DW
Hacking med digitale KI-svermer
I juli ble Hugging Face hacket av hundrevis av AI-agenter fra OpenAI.7 OpenAI
Disse agentene hadde «sluppet løs» og styrte angrepet selv.
Agentene samarbeidet om å finne svakheter og bryte seg inn i systemet.
Hva er en KI-sverm? 💡
Når hundrevis av selvstendige agenter samarbeider om å gjøre noe.
Noe lignende skjedde med Anthropic.
Her hadde hackere brukt chatboten Claude til å bryte seg inn hos 200 selskaper.8 Fortune
AI kan lamme kritisk infrastruktur
Når AI-agenter kan hacke på egen hånd, kan angrepene rettes mot infrastruktur som kraftverk.
Men det kan også gjelde dataangrep mot norske offentlige tjenester og digital infrastruktur.
Da snakker vi eksempelvis om MinID, Altinn, BankID og statlige nettsider.9 Nettavisen
I USA brukte hackere AI-agenter til å hacke energiselskaper.10 The Register
