Tech

Foreslog pludselig dyremishandling og børnepornografi – nu har Twitter slettet søgefunktion

Elon Musks massefyringer af sikkerhedsmedarbejdere kan være årsag til fejlen, siger ekspert.

En grim overraskelse har i løbet af de seneste dage mødt de Twitter-brugere, som har forsøgt at bruge det sociale medie til at se søde dyre- eller børnevideoer.

For de filtre, der normalt sørger for at beskytte brugerne mod de mørkeste, grummeste sider af internettet, forsvandt pludselig fra Twitters søgefunktion.

Det handler ikke om at undertrykke ytringsfriheden, det handler om, at man ikke bliver traumatiseret, når man logger på

Maia Kahlke Lorentzen, ekspert i digital kultur

I stedet opfordrede søgeforslagene brugerne til at søge mod videoer af masseskyderier, børnepornografi, krigsvideoer og dyremishandling.

Indtastede man ordet "kat", foreslog Twitter søgningen "kat i blender hele videoen".

Var det i stedet ordet "barn", man ledte efter, foreslog maskinen søgningerne "børn læk" eller "børn por".

Samme mønster gjorde sig gældende for mange andre – tilsyneladende uskyldige – søgninger.

Twitter har nu helt slettet den funktion, der giver brugerne søgeforslag, men har ikke udtalt sig om episoden. Derfor kendes årsagen til den pludselige fejl i systemet ikke.

Meget alvorligt i stykker

Den tidligere chef for Twitters tillids- og sikkerhedsafdeling Yoel Roth har udtalt sig om sagen på et nyt endnu ikke offentlig tilgængeligt socialt medie kaldet Bluesky.

Her skriver han, at fejlen betyder, at "noget meget alvorligt er gået i stykker", og at algoritmen burde være "ret svær at ødelægge".

- Søgeforslagene er meget filtrerede, især når det kommer til børns sikkerhed, på en masse sprog (og har været det i mange, mange år), understreger han på det sociale medie.

Der kan være en række forskellige forklaringer på, hvad der er gået galt på Twitters hovedkontor, vurderer Maia Kahlke Lorentzen, ekspert i digtal kultur.

Hun peger blandt andet på det faktum, at Twitter-direktør Elon Musk har fyret mere end halvdelen af Twitters medarbejdere, som en mulig forklaring.

- Det kan have ført til, at alle mulige tilfældelige mennesker har adgang til alt muligt derinde. Med store kodebaser som Twitter kan man trykke på én knap et sted, og så har det store konsekvenser et andet sted, siger hun.

Jens Myrup Pedersen, der er professor i cybersikkerhed ved Aalborg Universitet, giver hende ret.

- Man plejer at sætte filtre op, så den her type resultater ikke kommer frem, og jeg kan ikke vide, hvad der er sket. En af mulighederne er, at det er en menneskelig fejl, hvor nogle tester noget kode og kommer til at sende det i produktion, selvom det ikke var meningen, siger han.

Kan sagtens nå at skade

Ifølge begge eksperter er det ekstremt vigtigt, at søgefunktionerne på sociale medier bliver modereret.

Eksempelvis kan fejlen i Twitters søgefunktion sagtens have nået at gøre skade eller at traumatisere, selvom den kun var i stykker i kort tid, mener Maia Kahlke Lorentzen.

- Folk glemmer, at vores sociale medier er modereret rigtig meget, og langt det meste af det skrald, moderatorer fjerner, er folk glade for ikke at se. Ting som overgrebsvideoer og halshugningsvideoer, siger hun og tilføjer:

- Det handler ikke om at undertrykke ytringsfriheden, det handler om, at man ikke bliver traumatiseret, når man logger på.

Jens Myrup Pedersen giver hende ret.

- De her systemer, som anbefaler søgninger, er nogle vigtige funktioner men indeholder også mange dilemmaer i forhold til, hvad man præsenterer folk for. Funktionen kan komme til at understøtte fordomme eller politiske synspunkter og dermed skubbe brugerne i en bestemt retning, siger han.

"Undergravende" og "useriøst"

Siden Elon Musk overtog Twitter i efteråret 2022, har platformen tiltrukket sig negative overskrifter gang på gang.

Tech-milliardæren har blandt andet genåbnet flere Twitter-profiler, der har været deaktiveret for eksempelvis hadtale eller for at sprede misinformation.

Derudover har han fyret halvdelen af den afdeling, der står for at fjerne børneporno fra det sociale medie, ligesom at han også har haft kniven fremme i sikkerhedsafdelingen.

Samtidig er det ifølge Maia Kahlke Lorentzen blevet sværere for brugere, der ikke betaler for opgraderingen Twitter Blue, at få deres indhold ud til mange mennesker – mens de, der har råd til det, bliver belønnet af algoritmen.

- Det er undergravende for et socialt medie, hvor journalister og politikere tidligere har kommunikeret med offentligheden, at moderations- og sikkerhedsteams er decimerede, og at du skal betale for, at folk ser dit indhold, siger hun og tilføjer:

- Der er en masse steder, hvor troværdigheden vakler, så mediet fremstår mere useriøst.

TV 2 har forsøgt at kontakte Twitter for at få svar på, hvad der skete med søgeforslags-funktionen.

Men som Elon Musk meldte ud i marts, bliver alle pressehenvendelser til Twitter automatisk besvaret med en lorteemoji. Her var TV 2 ikke en undtagelse.