En ny AI-modell finner tusenvis av sikkerhetshull som IT-eksperter og kodere har oversett i flere tiår.
Hva er Claude Mythos?
Dette er en AI-modell som kan finne feil i programmer og apper. Det gjør den helt automatisk.1 Claude Mythos
Vi er i dag avhengig av at appene våre er sikre. Vi tar det kanskje for gitt, når vi laster ned noe fra App Store?
Anthropic påstår at modellen allerede har funnet tusenvis av alvorlige sikkerhetshull i operativsystemer og nettlesere.2 The Verge
«AI gjør det mulig å oppdage kritiske sikkerhetsfeil raskt»
– Forskere som brukte Claude til å finne feil i nettleseren Mozilla3 PCMag
Project Glasswing skal beskytte oss
Selskapet vil bruke teknologien på en etisk måte. De vil ikke lansere verktøyet for alle. Istedet vil de bruke teknologien til å tette hull og forsterke viktige programmer.
Dermed forhindrer de dataangrep når lignende verktøy kommer i fremtiden.
Per nå får bare noen utvalgte selskaper tilgang til teknologien:
Amazon, Apple, Google, Microsoft, NVIDIA, med flere.
Anthropic kaller satsingen for Project Glasswing.4 Project Glasswing
Tusenvis av sikkerhetshull
Modellen fant blant annet et 27 år gammelt sikkerhetshull i operativsystemet OpenBSD. 5 Claude Mythos
Den fant også et 16 år gammelt hull i FFmpeg, som er et verktøy for video og lyd.
I tillegg ble det oppdaget hull i Linux som kan gi en angriper full kontroll over systemet.
Kritikk 💡
Flere journalister kritiserer Anthropic for å overdrivet omfanget. De sier det er snakk om hundrevis av bugs, ikke tusenvis.6 Tom’s Hardware
Modellen brøt seg fri
I en sikkerhetstest skulle Mythos bryte seg ut av et isolert testmiljø.7 Futurism
Det gjorde den. Men så gikk AI-en steget videre og koblet seg på nett.
Da sendte den en e-post til forskeren som gjennomførte testen.
Så la den ut detaljene om flukten på nett.
Dette illustrerer hva en selvstendig agent kan finne på å gjøre.
