Verdens mektigste cybervåpen er her. Han heter Claude 

For de som er inni KI-boblen har det bare vært én snakkis den siste måneden, og det er Anthropics siste KI-modell Mythos.

Mythos er den kraftigste KI-modellen som er skapt hittil. Faktisk så kraftig at Anthropic valgte å ikke gjøre den tilgjengelig for offentligheten. I stedet er det bare noen få utvalgte selskaper, samt amerikanske myndigheter som har tilgang på modellen. 

Årsaken til at Anthropic holder igjen Mythos er, ifølge selskapet selv, at modellen er for farlig til å slippes løs i det fri. Mythos har nemlig overmenneskelige hacker-egenskaper som kan brukes til å angripe så og si all digital infrastruktur.

Forestill deg hva som ville skjedd dersom hele Norge mistet strømmen over natten.

Dette er ikke et KI-selskap som roper ulv for å skape blest om eget produkt. Storbritannias statlige KI-institutt (AISI) bekreftet uavhengig at modellen knekte angrepsscenarioer ingen modell hadde klart før. Aktører og selskaper som har fått tilgang på modellen – deriblant Microsoft, Amazon og en håndfull cybersikkerhetselskaper –  bekrefter også at Mythos har funnet sårbarheter i systemene deres.

Du har kanskje merket at det har vært ekstra mange sikkerhetsoppdateringer på appene du bruker den siste måneden? Det skyldes Mythos. Nettleseren Firefox pleier vanligvis å oppdage og fikse rundt 20 sikkerhetshull i måneden. Forrige måned var tallet 423. Samme trend gjelder for mange andre selskaper.

Angrep er det beste angrep 

Et stort problem innenfor IT-sikkerhet er ubalansen mellom angrep og forsvar. Det er mye lettere å angripe et system enn det er å forsvare det. Som angriper kan du prøve 1000 forskjellige angrep og bomme på 999 av dem. Det holder å treffe én gang og du kan gjøre masse skade. 

Som forsvarer derimot er du nødt til å blokkere hvert eneste angrep. Denne ubalansen er grunnen til at man med jevne mellomrom får hacker-angrep som lammer ganske viktig infrastruktur, slik som skjedde med student-plattformen Canvas for bare et par uker siden. 

Fram til nå har det bare vært mennesker som har vært involvert i denne krigen om digital sikkerhet. Kriminelle hacker-grupper og eller statlige aktører som Russland og Nord-Korea har dedikerte hackere som angriper like dedikerte forsvarere i verdens IT-avdelinger. 

Nå kan hackere spinne opp tusenvis av KI-modeller som jobber i tandem med å teste svakheter i datasystemer.

KI endrer maktbalansen. For nå kan hackere spinne opp tusenvis av KI-modeller som jobber i tandem med å teste svakheter i datasystemer. Dette gir både eksisterende aktører en mangedobling i hackekapasitet, og kanskje enda skumlere, muligheten for helt nye aktører til å komme på banen med et minimum av kompetanse. Potensielt kan vi få en verden så absurd at Taliban hacker Sparebanken Vest. 

Mythos er dessuten i stand til å oppdage zero-day-vulnerabilities. Dette er svakheter eller sikkerhetshull som ingen vet eksisterer før noen misbruker dem. Det er nærmest umulig å forsvare seg mot trusler man ikke vet om. Det er litt som å prøve å forsvare huset sitt uten å vite at det finnes en hemmelig luke i veggen som verken du, arkitekten eller de som bygget huset var klar over. 

Hva skjer om nettet kollapser over natta? 

Forestill deg hva som ville skjedd dersom hele Norge mistet strømmen over natten. Det ville oppstått kaos med en gang. Folk ville fryst i hjemmene sine, mørket ville lagt seg over gatene og man hadde slitt med å levere kritiske samfunnstjenester. 

Internett er blitt like kritisk som strøm. Hele samfunnet vårt er bygget på at digitale løsninger fungerer som de skal, hele tiden. Dersom modeller like kraftige som Mythos blir allment tilgjengelige kan vår digitale infrastruktur knekke sammen. Vi er ikke forberedt på en verden hvor dette er mulig. 

La meg være helt tydelig: Jeg tror ikke Mythos kommer til å resultere i dette. Enda. Men Mythos viser oss hvor utrolig formidable KI-modellene kan bli på hacking. Kanskje ordner det seg selv, hvor hver ny modell kan forbedre forsvarsevnen mer enn hackere kan bruke dem. 

Men kanskje kommer det en dag en så sterk modell at det blir som et blitzkrieg-angrep som lammer hele nettet. Og om Kina utvikler modellen, kan du banne på at de ikke gir den til vestlige firma først.