Det har fået en del til igen at løfte snakken om, at AI burde indrammes på samme måder som atombomben. Altså af verdensledere som lavede og håndhævende en ikke-spredningsaftale.
Hvorvidt Claude Mythos reelt lever op til hypen, er uvist. En del er dog kritiske.
Det er lidt som om, at vi hver måned får endnu et eksempel på, at skyklapperne for længst skulle være taget af.
En af dem er Mirza Cirkinagic, IT-nørd og forbundssekretær i IT-fagforeningen PROSA
”Mythos lyder som et supervåben og er det måske også”, siger han og fortsætter:
”Men Anthropics hype får det snart til at lyde som om en 10-årig vil kunne hacke Pentagon med den. Det er altså at skabe en boble af frygt. For at bruge Mythos ondsindet kræver det IT-ekspertise på højeste niveau. Så Mythos er i realiteten ikke ”muligheden” for at skabe en atombombe for menigmand. Hvis jeg giver en atombombe til en 10-årig, vil vedkommende ikke kunne bruge den til andet end en legeplads, så det der med at børn begynder at crashe vores IT-infrastruktur, den køber jeg ikke”, siger Mirza.
Der er også en anden side, som er værd at fremhæve, mener forbundssekretæren:
”Hvis Mythos er god til at finde fejl i menneskeskabt kode, vil den også være god til at finde fejl i AI-skabt kode", fastslår han.
Mirza Cirkinagic uddyber:
"Med menneskelig skabt kode i store tech-virksomheder kunne jeg forestille mig, at der er visse sikkerhedsforanstaltninger, som nok vil begrænse skaden i et vist omfang. Det er i hvert fald sådan at virksomheder, som har styr på deres cybersikkerhed, burde være sat op. Omvendt kan jeg forestille mig, at meget AI-kode er skrevet af små virksomheder, som overhovedet ikke har nogen som helst foranstaltninger på plads”, siger han.
Han mener i øvrigt, at Anthropics sikkerhedsforanstaltning kun er lidt værd på den lange bane.
Måske kan vi ikke sove helt trygt. I april lykkedes det nemlig folk udefra at få fat i kildekoden til Anthropics flagskib Claude Code.
”Det er sympatisk og betryggende, at der dog er tanke på sikkerhed. Vi ved i det mindste i offentligheden, hvad der sker. Og så alligevel ikke. Det finder vi reelt set ikke ud af, før der er en meget større andel af individuelle forskere, der får adgang til den, eller den bliver frigivet til offentligheden. Der kan være flere andre virksomheder, som i smug og uden vores viden har lignende modeller”, siger han og fortsætter:
”Men vi ved også, at som AI-kapløbet kører lige nu, så vil både Kina og andre store spillere få en egen version svarende til Mythos inden for et år”, fastslår Mirza Cirkinagic.
Alt i alt, mener han, at det er endnu et og måske hidtil største vink med en vognstang til danske og europæiske politikere om at tage AI-kapløb, cybersikkerhed og digital suverænitet, samt regulering langt mere alvorligt og gøre det til en grundsten i den politiske debat end hidtil.
”Det er lidt som om, at vi hver måned får endnu et eksempel på, at skyklapperne for længst skulle være taget af”, siger han.
Og skal vi lige runde Anthropic af – og måske en årsag til, at vi ikke skal føle os helt så trygge alligevel:
Virksomheden, som kalder sin egen Mythos for SUPER farlig (vi ved ikke, om det er reelt eller ej).
I april lykkedes det nemlig folk udefra at få fat i kildekoden til Anthropics flagskib Claude Code.
Ikke via et hack eller et ondsindet angreb. Nej. Ved en simpel kodefejl. Det spændende her, som vi stadig mangler svar på, er, om det var en menneskelig fejl eller en AI-kodningsfejl.
Måske skal vi ikke sove helt så trygt om natten – i hvert fald ikke når vores sikkerhed er i hænderne på big tech.