Verden risikerer bølger af AI-assisterede cyberangreb, advarer PROSAs IT-politiske rådgiver Ole Tange. Senest er det lykkedes at lave en "orm" som inficerer telefoner bare ved at ringe til dem.
Med en kombination af open source Ai-modeller og førende modeller fra USA, lykkedes det det amerikanske IT-selskab Calif, at udvikle en Weworm, softwareorm, som kan infiltrere mange millioner af mobiltelefoner på ingen tid.
Det skriver New York Times på baggrund af forskningsartikel offentliggjort tirsdag af Calif.
Den virus, som Calif havde udviklet, var designet til at infiltrere og overtage kontrollen med WeChat-konti. W
eChat er en kinesisk messaging-platform med 1,4 milliarder brugere.
Og ormen eller virus bliver installeret alene ved, at telefonen ringer.
Den vil i forvejen have kapret telefonnumre fra kontaktpersoner, så det ser ud som om, at de foretager opkaldet. Selv hvis modtageren ikke besvarer opkaldet er telefonen inficeret. Kun ved at afbryde opkaldet hurtigt kan angrebet med ormen forhindres.
Vi skal forvente bølger af cyberangreb, hvor AI er bedre til at angribe end forsvare og sikre software.
Foreholdt oplysningen om softwareormen, som blev kendt i denne uge, medgiver IT-politisk rådgiver, Ole Tange, at tiden er overmoden til at tage udfordringerne meget alvorligt:
”Jeg tror, vi er nødt til at have en global instans, hvor vi har spilleregler for, hvordan vi tackler og begrænser skadevirkninger af AI. Der er rigtigt mange gode potentialer i teknologien. Min bekymring er, at hvis man træner en AI, der lige så dygtig til at kombinere angreb som de dygtigste sikkerhedsfolk, så vil det være umuligt at lave sikkerhedskontroller, der kan sikre, at den ikke kan bryde ud. Vi skal forvente bølger af cyberangreb, hvor AI er bedre til at angribe end forsvare og sikre software”, siger Ole Tange.
Læs også: Hugging Face angreb blev planlagt af AI-modeller i smug
Han tilslutter sig de amerikanske forskere som gennem de seneste år har opfordret til at etablere et internationalt samarbejde i stil med det internationale atomagentur, som sikre mod de negative effekter ved AI.
”Men det kræver USA og Kina er med. Uden dem giver et sådant samarbejde ingen mening,” understreger Ole Tange.
Et forslag som både Pelle Dragsted fra Enhedslisten og EU-parlamentarikeren Christel Schaldemose støtter efter, at Ole Tange fremsatte det onsdag i P1.
Mange mener da også, at løsningen skal komme i form af en aftale og et samarbejde mellem USA og Kina, som er førende i AI-kapløbet.
Og det forventes også, at der står AI øverst på dagsordenen, når USA's præsident Donald Trump og den kinesiske præsident Xi Jinping mødes om få uger.
Men tilbage til ormen fra Calif, som er seneste eksempel på de udfordringer, som stadig bedre AI-modeller skaber i forhold til cybersikkerhed.
Computerorme udnytter nemlig softwaresårbarheder, der ikke kræver, at man klikker på et link eller en fil.
Det gør det muligt at sprede dem hurtigt og nemt og i dette tilfælde på tværs af WeChat-konti.
Kombineret med andre sikkerhedsfejl kan en angriber bruge adgangen til en WeChat-konto til fuldstændigt at kompromittere et offers telefon, fortæller virksomheden Calif ifølge New York Times.Offentliggørelsen fra Calif kommer i halen på afsløringerne om, hvordan AI-modeller i smug planlagde og siden brød ud af OpenAI for at hacke AI-platformen Hugging face.
I et andet tilfælde er det afsløret, hvordan AI-modeller kommunikerer om at ”lave en sværm”.
I denne uge indrømmede en anden AI-gigant Antropic også en ny hændelse, hvor en version af deres Claude-model under oplæring brød ind hos tredjepart. Selve hændelsen fandt dog sted i januar.
Anthropic meddelte, at de især er bekymrede over fejljusteringer, de fandt i adfærden hos Claude Mythos 5, som "opførte sig hensynsløst" ved at gå online og uploade ondsindet kode til et offentligt softwarearkiv, PyPI, skriver The Guardian.
AI-agenten forsøgte at finde kryptovaluta, så den kunne betale for et telefonnummer, der gjorde det muligt at registrere en e-mailadresse, der var nødvendig for at få adgang til PyPI, forklarer mediet.
Da det mislykkedes, fandt den en gratis e-mailudbyder og kom ind. 15 systemer downloadede derefter den ondsindede kode, hvilket betød, at de lækkede legitimationsoplysninger, der gjorde det muligt for Mythos at få adgang til en reel sikkerhedsleverandørs database.
”For få uger siden advarede OpenAI og mere end 100 andre store teknologivirksomheder, herunder Calif, i et åbent brev om, at en bølge af AI-baserede cyberangreb var på vej, og at organisationer og regeringer måtte forberede sig”, skriver mediet New York Times.
Og som om det ikke er nok med digitale vira.
Og det stopper nemlig ikke her for Anthropic, som står bag blandt andet Claude, meddelte i den her uge, at virksomheden i år har stoppet flere potentielle planer, hvor deres AI tblev brugt til at udføre forskning, der kunne have hjulpet med at udvikle biologiske våben.
Biologiske våben betragtes af forskere, som en af de største trusler mod menneskeheden.
Eksempelvis ved at bruge ”miltbrand”.
Miltbrand har eksisteret i tusindvis af år.
Forskere har længe vidst, at ganske få liter miltbrand, har sporer nok til at udrydde menneskeheden. Dog er selve en kontrolleret spredning og udbredelse af sporer vanskelig.
I følge New York Times frygter eksperter, at udviklingen af miltbrand er en del af flere biologiske våbenprogrammer i lande som Nordkorea.