Kulturminister er "vildt bekymret" for udskældt chatbot
Ifølge Jakob Engel-Schmidt (M) mangler chatbots som My AI en aldersverifikation.
De seneste dage er en nye chatbot dukket op på det sociale medie Snapchat, og det bekymrer kulturminister Jakob Engel-Schmidt (M).
- Lige pludselig er appen ikke det samme længere. Så har man puttet en chatbot ind, som begynder at interagere med og svare vores børn, uden at vi egentlig har accepteret det, siger han til TV 2.
Og det gør kulturministeren "vildt bekymret", fortæller han.
Det sociale medie er i særlig høj grad populært hos børn, og chatbotten, der går under navnet My AI, kan ikke slettes igen, medmindre man betaler 35 kroner om måneden for Snapchat+.
Torsdag modtog den nye funktion kritik fra to eksperter, og fredag kunne Børns Vilkår fortælle, at børnetelefonen allerede har modtaget flere opkald fra børn, der føler sig utrygge ved deres nye AI-'ven'.
En trussel mod demokratiet
Kulturministeren fortæller, at han har planer om at oprette et Center for Tech og Demokrati i Kulturministeriet, der skal opsamle nødvendig viden om AI-chatbots og vejlede om brugen til eksempelvis forældre og virksomheder.
Et sådant center har tidligere været på tale på baggrund af anbefalinger fra en nordisk tænketank nedsat af Nordisk Ministerråd for Kultur.
Ifølge Jakob Engel-Schmidt mangler chatbots som My AI en aldersverifikation.
- Vil vi overhovedet tillade, at techgiganternes apps indeholder kunstig intelligens til unge mennesker, der ikke er 18? Det ved jeg ikke, om vi vil, siger han.
Det er blandt andet informationssikkerheden, der bekymrer kulturministeren – ifølge ham er chatbots "en trussel mod demokratiet og de frie medier".
- I fremtiden er det da meget nemmere at spørge chatbotten, hvad dagens nyheder er i stedet for at tænde for TV 2 News. Eller hvad det bedste politiske parti er. Svaret bliver afhængigt af, hvem der ejer aktiemajoriteten i det techselskab, der har ansvaret for chatbotten, fortæller Jakob Engel-Schmidt.
Det er derudover et problem, at apps som Snapchat, der har en chatbotfunktion, kan lagre information om vores børn, som virksomheden bag kan bruge til at optimere appen, mener han.
Arbejder på forbedringer
Snapchat-botten er drevet af det omdiskuterede AI-værktøj ChatGPT, som blev lanceret i slutningen af 2022.
My AI er forsynet med en avatar – en lille tegneseriefigur med menneskelignende træk, der repræsenterer chatbotten. Brugerne kan også give den et navn og bede den om at tilegne sig særlige personlighedstræk.
Snapchat har oplyst til CNN, at de fortsat vil forsøge at forbedre My AI, og at de arbejder på at etablere bedre værn for deres brugeres sikkerhed. Virksomheden tilføjer, at man ikke behøver bruge funktionen, hvis man ikke har lyst.