De betegner selv deres forskning som ”temmelig uhyggelig”, hvis virksomheder og/eller regeringer bruger deres forskningsresultater, metoder og teknologier til at profilere folk, der ikke er klar over det.
Derfor opfordrer forskere fra University of Cambridges Psykometriske Center til, at folk bliver gjort bevidste om de muligheder, som eksisterer i dag inden for profilering på baggrund af data fra sociale medier.
Millioner faldt i vandet
Michal Kosinski udviklede i 2007 sammen med den ph.d.-studerende David Stillwell en Facebook-app kaldet myPersonality. Facebook-brugere kunne få lavet personlighedstests, mod at deres data, såfremt de gav deres samtykke, ville blive anvendt i Michal Kosinskis og David Stillwells forskningsarbejde. MyPersonality blev en uventet stor succes med millioner af brugere, der fik vurderet deres personlighed efter OCEAN-modellen, der blandt andet ser på karaktertræk som udadvendthed, neuroticisme, imødekommenhed, samvittighedsfølelse og kreativitet.
Ud af seks millioner personlighedstests indvilligede omkring 40 procent af myPersonality-brugerne i, at forskerne fik adgang til deres Facebook-data. Ved hjælp af de cirka 2,4 millioner unikke Facebook-profiler og tilhørende OCEAN-profiler opbyggede forskerne en Big Data-model, der gør det muligt at udlede karaktertræk for en vilkårlig Facebook-bruger på baggrund af page-likes.
Hvis den vilkårlige Facebook-bruger har fem eller flere af de samme page-likes som en af datamodellens profiler, kan forskernes model udlede personlighed, alder, køn, seksuel orientering og endda intelligens med en vis sandsynlighed. Modellen er siden da løbende blevet udbygget med data fra tests på discovermyprofile.com, som har erstattet myPersonality-appen, ligesom specifikke forskningsprojekter anvendes til at udbygge og justere modellen.
Den magiske sauce
Den psykologiske profilering er et anvendeligt værktøj, hvis man ønsker at overbevise en kunde om at købe et produkt, overbevise vælgere om en præsidentkandidats fortræffeligheder eller adfærdsregulere – ”nudge” på nudansk - en befolkning. Hvis en given interessent kender en befolkningsgruppes psykologiske habitus, er det nemmere at påvirke befolkningsgruppen i den retning, som interessenten ønsker.
Trods skyggesiden af teknologien, eller rettere på grund af, stiller Cambridge-forskerne deres forskningsresultater og metoder til rådighed for selskaber, forskere og andre interesserede via initiativet Apply Magic Sauce. Dels for at udnytte forskningen kommercielt, dels for at gøre det klart for alle, hvilke profileringsmuligheder der eksisterer i dag, og få en åben debat om faldgruber og uheldige konsekvenser ved metoderne.
I forskningsnotatet ”Private traits and attributes are predictable from digital records of human behavior” fra 2012 beskriver forskerne fra det Psykometriske Center i Cambridge, hvordan Facebook-data kan anvendes til at udlede Facebook-brugeres alder, religion, politiske overbevisning og psykologiske profil.
Apply Magic Sauce anvender i dag metoderne beskrevet i forskningsnotatet i samarbejde med forskellige partnere som PR-bureauet Grayling Communications, Hilton Worldwide samt den globale it-og konsulentvirksomhed Keyrus, der blandt sine kunder tæller forsikringsselskaber, finansielle selskaber og teleselskaber.
Samtykke og etiske retningslinjer
Vesselin Popov, Business Development Director for Apply Magic Sauce og jurist fra Cambridge, lægger vægt på åbenhed om metoderne og en etisk tilgang til person-profilering. Blandt andet kræver Apply Magic Sauce, at Facebook-brugere og andre internetbrugere giver deres samtykke, inden data anvendes til at udlede karaktertræk.
– Det er ikke i vores interesse at profilere brugere, uden at de er klar over det, siger han.
Apply Magic Sauce har da også udarbejdet etiske retningslinjer for anvendelse af metoderne, hvor vægten er på transparens og respekt for brugernes privatliv.
Erstatning for tracking
Selvom den psykologiske profilering egentlig blot er en videreførelse af en demografisk (alder/køn/etc.), geografisk (land/by) og økonomisk (rig/middelklasse/fattig) profilering, der allerede foretages af marketingfirmaer og analysevirksomheder, så medgiver Vesselin Popov, at det trods etiske retningslinjer kan virke uhyggeligt, at eksempelvis køn, alder, seksuel orientering og diverse personlighedstræk kan forudsiges på baggrund af page-likes på Facebook.
Han ser det dog som en uundgåelig følge af vores digitale liv og nærmest som en nødvendighed, når den kunstige intelligens for alvor trænger ind i vores liv.
– Algoritmer bestemmer over dit liv, hvad enten du er bevidst om det eller ej. Aktiemarkedet håndteres af algoritmer, og søgemaskiners algoritmer bestemmer, hvad du finder. Hvis vi skal leve i en AI-verden, hvor algoritmer bestemmer over vores liv, er det vigtigt, at de kender vores personlighed og tager hensyn til os og er i stand til at forklare, hvordan de virker, siger han.
Vesselin Popov ser endda profilering som en mulighed for at styrke vores privatliv. Hans argument er, at i stedet for at diverse data-brokere indsamler en masse data om os via tracking-cookies på nettet, købsdata fra kredit- og loyalitetskort, fitness-data fra fitness-trackere og lokationsdata fra vores mobiler, så vil det være enklere for os alle, hvis vi har en personlig profil, som vi kan give til en virksomhed, der så kan skræddersy sit produkt eller sin service til lige præcis vores personlighed.
– Vi vil bryde den trend med virksomheder, der konkurrerer om at indsamle flest data om folk. Kommercielt vil vi gerne opmuntre virksomheder til at gå væk fra data-aggregering og tagging og i stedet tilbyde services baseret på en kundes personlige profil, siger han.
Personlighed bestemmer valg
Som eksempel nævner Vesselin Popov Netflix, der ikke anvender traditionelle demografiske data som geografi, alder og køn til at bestemme Netflix-abonnenters filmpræferencer, men i stedet for kalibrerer filmanbefalinger ud fra Netflix-abonnenternes filmsmag udledt fra Big Data-analyser – dog ikke ved hjælp af Apply Magic Sauce-teknologien.
– Virksomheder skal være mere åbne om processen, ligesom folk skal være mere bevidste om deres personlige digitale fodaftryk, siger han.
Vesselin Popov forestiller sig en fremtid, hvor folk har kontrol over deres digitale personprofil.
– Det kan anvendes lidt ligesom et API: Du sender en digital profil, og virksomheden giver så en anbefaling baseret på den modtagne profil. Der behøver ikke at være noget personhenførbart – du kan sende en profil, som ikke nødvendigvis er din - så det giver ikke mindre privacy, men mulighed for mere personlig tilretning, siger han.
Apply Magic Sauce startede med at udlede karaktertræk baseret på Facebook-page-likes, men har siden udvidet med en model, der anvender tekstanalyse. Vesselin Popov forventer desuden, at den magiske sauce tilføres ekstra ingredienser i løbet af marts måned, hvor Twitter-analyser og Facebook-statusopdateringer vil gøre Apply Magic Sauce endnu bedre.
Indvendingen om, at det ikke er den fulde sandhed om folks liv, som bliver præsenteret på de sociale medier, og at man derfor bør være skeptisk over for en profilering baseret på data fra selvsamme sociale medier, afviser Vesselin Popov.
– Det er noget, vi også gør på andre områder. Eksempelvis viser du en bestemt side af dig selv på arbejde. Men det er langt sværere at forfalske din digitale profil, som måske har eksisteret i fem til 10 år, end det er at snyde en 10-minutters personlighedstest, siger han.
Digital profilering er ikke nyt
Det er et argument, som er værd at tænke over. De fleste af Prosabladets læsere har formentlig været aktive på internettet og web i mere end 10 år. Muligheden for digital profilering har eksisteret i al den tid. Lang tid før Facebook kom på banen.
I Michal Kosinskis og David Stillwells forskningsnotat fra 2012 kan man blandt andet læse følgende: ”Det er blevet vist, at alder, køn, job, uddannelsesniveau og endda personlighed kan bestemmes ved hjælp af folks browserhistorik”. Det udsagn efterfølges med links til en række andre videnskabelige papirer, blandt andet ”Inferring demographic attributes of anonymous Internet users”.
Det forskningsnotat er fra 1999. Gad vide, om regeringer og virksomheder har fulgt Apply Magic Sauces pæne etiske retningslinjer siden før årtusindskiftet?