En chatbot er flyttet ind på dit barns telefon – dybt uansvarligt, mener ekspert
Den nye AI-teknologi har både potentiale til at blive vores værste fjende og vores bedste ven, siger fremtidsforsker.
Du kan fortælle den om dine inderste følelser, diskutere dine hverdagsdilemmaer med den og stille den spørgsmål om stort og småt. Hvis du har lyst, kan du snakke med den i timevis, og med tiden lærer den dig godt at kende.
Der burde være regler for, at børn under 18 eller 16 ikke skal bruge det her
Pernille Tranberg, dataetisk rådgiver
Faktisk kan den meget af det samme, som en rigtig god ven kan. Forskellen er dog, at den ikke er et menneske.
Og så kan den manipulere dig, misbruge dine data og fodre dig med misinformation.
En ny chatbot ved navn My AI er flyttet ind på det sociale medie Snapchat.
Og det er "dybt uansvarligt", mener Pernille Tranberg, der er dataetisk rådgiver og medlem af Medierådet for børn og unge.
- Det er ikke noget, man bør give til børn, og Snapchat ved godt, at der er masser af børn på deres tjeneste – også under 13 år, som man ellers skal være for at være på sociale medier, siger hun.
En rapport fra DR viser, at blandt de 9 til 14-årige bruger 59 procent appen ugentligt.
Blandt de 4 til 8-årige er tallet 22 procent.
Og når chatbotten først er flyttet ind i deres Snapchat-app, kan den ikke slettes igen – medmindre man betaler 35 kroner om måneden for Snapchat+.
Grænsen mellem robot og menneske forsvinder
Snapchat-botten er drevet af det omdiskuterede AI-værktøj ChatGPT, som blev lanceret i slutningen af 2022.
Det er ifølge Pernille Tranberg et problem, at der endnu ikke er nogen regulering på chatbotområdet.
- Der burde være regler for, at børn under 18 eller 16 ikke skal bruge det her. De er mere manipulerbare end voksne, lyder det.
My AI kan forsynes med en avatar – en lille tegneseriefigur med menneskelignende træk, der repræsenterer chatbotten. Brugerne kan også give den et navn og bede den om at tilegne sig særlige personlighedstræk.
Derfor kan grænsen mellem menneske og robot for nogle brugere ende med at blive udvisket, og vi får følelser for vores bots, selvom vi ved, at der er tale om en iskold maskine, mener Pernille Tranberg.
Fremtidsforsker Liselotte Lyngsø giver hende ret i, at hvis en AI opfører sig som et menneske, så bliver det en menneskerelation, man skaber til den.
- Den næste generation tænker ikke så meget over, om tingene er rigtige eller kunstige, men det gør måske heller ikke så meget. Det er ikke så vigtigt for dem. De vigtige for dem er, om de bliver gladere eller klogere af det, siger hun.
Hun mener dog i modsætning til Pernille Tranberg ikke, at børn i højere grad er manipulerbare end voksne.
Kommunikationsfastfood
Til gengæld giver hun Pernille Tranberg ret i, at brugen af chatbots medfører en række problemer og dilemmaer.
- Det kan blive en form for fastfood – bare med kommunikation. Hvis nu det er lettere at få svar fra den end at ringe til sin mor og skulle høre på en masse sludder, siger Liselotte Lyngsø.
Derfor kan man risikere, at nogle i en vis grad vælger at isolere sig med chatbotten, fordi den simpelthen fremstår mere underholdende, opmuntrende eller omsorgsfuld end mennesker.
Desuden kan fjendtlige magter bruge chatbotteknologien til at spille folk ud mod hinanden, hvis de ønsker at sætte et land i konflikt.
- Eksempelvis kunne min chatbot skrive til mig, at coronavacciner var enormt vigtige, og din chatbot overbeviser dig om, at de er farlige. Så bliver vi to uvenner. På den måde kan den bruges til at manipulere folk, siger Liselotte Lyngsø.
Ifølge Pernille Tranberg er særligt misinformation et af de store problemer ved chatbots.
- ChatGPT er ikke sat i verden for at formidle fakta, men for at give så godt et svar som muligt, og så er det ligegyldigt, om det er sandt eller falsk. Det er svært for et menneske at forstå, fordi den taler som et menneske, siger hun.
Begge eksperter understreger dog, at der ligger et enormt potentiale gemt i teknologien.
For chatbots kan både uddanne os, gøre os klogere, hjælpe os i gang med at træne og gøre os bedre til at opsøge andre mennesker via opfordringer og påmindelser.
Desuden kan de, hvis brugt rigtigt, træne os i at kommunikere, deltage i samtaler, spørge ind til andre og give os mere selvtillid.
- Vi er laboratorierotter
Teknologien er dog stadig på et eksperimentelt stadie, understreger Pernille Tranberg.
- Vi er laboratorierotter, der alle velvilligt og gratis træner kunstig intelligens, som virksomhederne lancerer for at få så mange brugere ind som muligt, så netop deres chatbots bliver fodret med en masse data, bliver trænet og bliver endnu bedre.
Desuden er chatbotteknologien sat i verden, fordi big tech-virksomheder konkurrerer om at komme først med den bedst mulige teknologi og ikke for at gøre verden bedre hverken for mennesker eller demokratiet, lyder det.
Den er dog ikke entydigt dårlig, understreger Liselotte Lyngsø.
- Funktionen er hverken god eller dårlig. Den har masser af potentiale og kan gøre en masse godt, men vi skal have styr på, hvad den skal gøre for os – for den skal være vores bedste ven og ikke vores værste fjende.