Prosabladet har tidligere bragt artiklen Sender du et billede af dig selv? Snapchat høster data fra børn og unge. Her fortæller 16-årige Filipa om Jonathan om Snapchats nye chatbot My Ai, som høster børn og unges data og kun kan fjernes mod betaling.
- Jeg synes, at det er grotesk, at My Ai ikke er blevet stoppet. Det er svært nok for voksne at forstå, hvad kunstig intelligens er, og for unge er det endnu mere komplekst. My Ai hører ikke hjemme på en platform som Snapchat, som har så mange unge brugere, der mangler grundforståelse for, hvad der egentlig sker. De unge skriver med en statistisk model – altså en robot som høster data til målrettet annoncering, siger Mirza.
My Ai udvikler sit sprog og adfærd ude fra brugerens data, og siden Snapchat lancerede tjenesten, har den været i massiv modvind. Blandt andet fordi den kun kan fjernes mod et gebyr på 249 kr.
- Børn og unge vil gerne være på Snapchat sammen med vennerne men kan kun slippe for My Ai, hvis de betaler. På den måde holder Snapchat dem som gidsler, siger Mirza
- For Snapchat er det en glimrende forretningsmodel. Enten skal brugerne betale for at fjerne funktionen My Ai og ellers får Snapchat betaling i form af brugernes data. Store virksomheder er i fuld gang med at undersøge, hvad Snapchat kan bruges til, og børn bliver forsøgspersoner uden at der er nogen, som har opsyn med det. Politikerne burde have reageret for længe siden.
Til spørgsmålet om, om Snapchat kan agere virtuel ven, ryster Mirza på hovedet:
- Man kan sagtens have sociale relationer med folk online – f. eks. folk der gamer. Men det her er en robot. På sigt vil man måske kunne bruge den til er et introforløb til at diagnosticere folk og fortælle, hvem brugeren skal kontakte ved forskellige problematikker. Men den vil aldrig kunne erstatte menneskelige interaktioner. Lige nu frygter jeg primært skrækscenarier, hvor Snapchat kan give uhensigtsmæssige råd såsom selvskade. Jeg er bange for, at der først bliver reageret, når det er gået galt, siger han.
- PROSA har slået slag for, at teknologiforståelse skal på skoleskemaet fra 3. klasse. Vi bør beskytte vores børn mod den rivende teknologiske udvikling, for de har ikke den viden, som vi har. Vi kan ikke tillade os at sætte dem ud som forsøgskaniner og bagefter rette op på skaden. Jeg mener også, at voksne skal uddannes, for vi er en hel generation der er vokset op med sociale medier uden at have kritiske øjne til, at vi var produktet. Det er politikernes ansvar at informere både børn såvel som voksne om dets muligheder og faldgruber, siger Mirza.