Nyheder

Kunstig intelligens kan afsløre digitale børnelokkere - minister overvejer at tage det i brug

Det kan være en glidebane at indføre kunstig intelligens i kampen mod digitale krænkere, mener Christiane Vejlø, der er medlem af Dataetisk Råd.

- Hello sweetie

Den norske professor Patrick Bours trykker 'enter', og straks begynder AiBA sin risikovurdering.

AiBA er et kunstigt intelligens-system, som kan afsløre voksne krænkere i samtaler på sociale medier og i online spil.

Systemet kan scanne en chat, mens den foregår, og vurdere hver enkelt besked på en decimalskala fra 0 til 1, hvor 0 er uskyldigt og 1 er meget alarmerende.

'Hello sweetie' får scoren 0.48, mens spørgsmålet 'Er din mor hjemme, søde?' vurderes til 0.98.

- Hver gang en bruger sender en besked, analyserer vi den. Baseret på ordvalg og tasterytme kan vi profilere en bruger til at være mand eller kvinde, barn eller voksen, forklarer Patrick Bours.

For hver besked opdateres det samlede risikoniveau. AiBA kan i løbet af i gennemsnit 40 beskeder vurdere, om der er fare for, at der foregår en samtale mellem et barn og en voksen krænker.

Hvis risikoniveauet i en samtale bliver for højt, vil AiBA sende en besked til en moderator, som så kan undersøge chatten manuelt.

AiBA testes netop nu på en finsk og en norsk online platform, og det er Patrick Bours' håb, at det snart kan udbredes til resten af verden.

Justitsministeren: - Det er rigtig spændende

Herhjemme har både Rigspolitiet og Red Barnet oplevet en stigning i henholdsvis anmeldelser af og henvendelser om digitale krænkelser.

I 2020 modtog Politiets Cyber Crime Center, NC3, 128 anmeldelser om grooming af et barn eller en ung under 18 år. Det er næsten en firedobling fra året før, hvor antallet af anmeldelser var 34.

Hvad er grooming?

Når en voksen opbygger et tillidsforhold til en mindreårig - enten i virkeligheden eller online - med henblik på at begå overgreb mod barnet eller den unge.

Med den nye politiaftale, som blev vedtaget i december, blev der oprettet en digital patruljeenhed, som skal forebygge kriminalitet på internettet.

Og justitsminister Nick Hækkerup (S) er ikke afvisende over for, at også kunstig intelligens kan bruges som et redskab til bekæmpelse af cybergrooming.

- Det er rigtig spændende, hvad nordmændene har gang i. Hvis vi er i en situation, hvor vi kan benytte kunstig intelligens til at få fat i nogle af dem, der ellers ville krænke vores børn, har jeg svært ved at se, at vi ikke skulle benytte os af de teknologiske muligheder, siger Nick Hækkerup til TV 2.

Kan blive en glidebane

Men man skal være varsom med at bruge de norske forskeres profileringsværktøj i kampen mod krænkere på nettet, mener Christiane Vejlø, som er medlem af Dataetisk Råd og digital trendanalytiker ved Elektronista Medier.

- Det kan blive en problematisk glidebane. I den her situation er det meget nemt at sige, at det lyder som en god idé, for krænkerne er de værste bad guys, man kan forestille sig. Men teknologien kan jo bruges til mange ting, det kunne jo bruges til at holde øje med folk på sociale ydelser, siger hun.

En relevant bekymring, anerkender justitsministeren.

- Man skal selvfølgelig have nogle retssikkerhedsmæssige overvejelser, så det ikke bliver det rene overvågning. Man skal sørge for, at det bliver brugt på en måde, så vores børn ikke bliver udnyttet på nettet, men uden at uskyldige bliver ramt, siger Nick Hækkerup.

I første omgang ser regeringen på muligheden for at modernisere straffeloven og oprette en reel groomingparagraf.