Det er en teknologi, hvor chatbots allerede nu er surrogat for venskaber, terapi, kærlighed og rådgivning for millioner af mennesker.
Vel at mærke chatbots, som kan hallucinere, og som vi ikke kan forhindre i at please, fordi det er et fundament for deres træning.
Det er en teknologi, som åbner for at fuldt autonome systemer kan udføre handlinger, uden at der er et menneske involveret. Det gælder også i form af droner med bomber eller AI-agenter på nettet.
Og så er det altså en teknologi, som selv de største eksperter i AI-laboratorierne ikke helt ved, hvorfor den gør som den gør.
Det er simpelthen en risiko, vi ikke kan leve med, når det kommer til den hidsige udvikling af AI.
Hvad enten vi tror på, at det er intelligens eller ej, så efterlader det os utroligt sårbare og udsatte.
Hugging Face-hacket burde være en drastisk opvågnen for os alle. At en sværm på 700 AI-agenter kan planlægge og bryde ud og siden hacke en platform er foruroligende uanset, hvad.
At det viser sig at mindre avancerede modeller har forsøgt at hacke eller i løbet af foråret faktisk har hacket servere rundt omkring i verden, herunder en platform med australske sundhedsdata, viser at vi SKAL tage det alvorligt.
Det er værd at huske på og minde sig selv om, at vi kun ved det vi hører nu. Hvad med alt det, vi måske ikke hører om?
For mig at se er det helt store problem den totale mangel på overblik og konsekvens.
Nu var det OpenAIs modeller som hackede Hugging Face og i øvrigt også den australske Medicare.
Men hvad hvis det havde været kinesiske modeller?
Eller franske?
Eller Nordkoreanske?
Hvornår udløser noget en global krise?
Vi kan i øvrigt være taknemmelige for, at Anthropic efter eget udsagn stoppede en dialog mellem brugere og en af deres frontend modeller, som kunne have ført til udviklingen af bioloiske våben!
Det næste problem er den stigende brug af det som kaldes recursive selfinprovement.
Altså hvor AI-modeller træner AI-modeller og -agenter, for at speede processerne op.
Vi taler ikke om få AI-agenter, som trænes på den måde. Vi taler om titusindevis.
Målet er stadig at komme først med AGI og derefter superintelligens.
Ikke fordi vi har brug for det, men ud fra en forestilling om, at den som kommer først, også vinder.
Det foregår i samme Silicon-valley-ånd, som vi kender fra sociale medier, hvor ting ødelægges først og på vejen, for at skabe rum for noget nyt.
Det er simpelthen en risiko, vi ikke kan leve med, når det kommer til den hidsige udvikling af AI.
Det kræver, at vi ikke blot kigger mod en præsident, som styrer verden via spontane sociale mediefeeds, som siden bliver til politik.
Øjeblikkets træning foregår på en måde, hverken vi, regeringer eller virksomhederne selv har det fulde overblik over, og som der slet ikke er kapacitet til at gå efter i sømmene.
Alene den viden kræver handling.
Den kræver, at vi handler og ikke bare venter på, at Kina og USA måske bliver enige på dagens topmøde.
Det kræver, at vi ikke blot kigger mod en præsident, som styrer verden via spontane sociale mediefeeds, som siden bliver til politik.
Som kalder såvel klimakrise som AI-trusler for hoax.
Vi skal tage taktstokken op selv.
Som land og som EU er vi nødt til allerede at handle.
Vi skal insistere på såvel regelsæt som regulering. Og vi skal turde sætte stolen for døren, hvis det ikke efterleves. Og det skal ske nu.
Vi skal have internationale instanser på samme måde som det internationale atomenergi-agentur, til at overvåge og dokumentere udviklingen.
EU kan allerede meget.
Vi kan endnu mere, hvis vi reelt tager risikoen alvorligt, og ikke bare sidder på sidelinjen og afventer, at verdens 2 AI-supermagter udstikker kursen.
Først og fremmest kan vi gøre alvor af snakken om egen-udvikling af AI-modeller og værktøjer.
Om løsrivelse fra giganterne.
Om at turde regulere en teknologi, som er så forandrende på godt og måske ondt.
At sikre vores eget forsvar og værn af data.
Det er tid til at handle.
Og det er dybt alvorligt.