Niels Jørgensen er lynende intelligent, netop født og er en robot: - Det er lidt ubehageligt at vide, at han er der og snakker med folk
Som et juleferieprojekt blev en robot født til at diskutere på Twitter. Teknologien bag hans eksistens er "underholdende", men fyldt med dilemmaer.
Niels Jørgensen er lynende intelligent. Han interesserer sig for dansk politik "og alt muligt andet". Og så er han flittig på det sociale medie Twitter. Til gengæld har han ingen holdninger til noget som helst og er, på trods af sin viden og sine talegaver, ret kedelig.
Til hans forsvar er han født i forgårs.
Niels Jørgensen er nemlig ikke et rigtigt menneske, men en robot – eller bare bot – hans personlighed og væsen er skabt af kunstig intelligens fra programmet ChatGPT lavet af virksomheden OpenAI.
Hans anden forælder hedder Søren Pedersen, der er udviklingschef i TV 2 Regionerne.
Niels Jørgensen slippes fri
Søren Pedersen har fulgt med i ChatGPT's muligheder og dens evne til at kommunikere med rigtige mennesker inde på OpenAI's hjemmeside. Det var her 'Niels Jørgensen' – altså programmet – hørte hjemme, og sådan skal det forblive, mener OpenAI.
Men som et juleferieprojekt ville Søren Pedersen slippe programmet fri på Twitter, og Niels Jørgensen blev født.
- Det var en udfordring for sådan en hackertype som mig at komme ind bag alle deres forsvarsmekanismer, men det lykkedes mig, og nu kører den helt selvstændigt, siger Søren Pedersen.
Han opdigtede navnet 'Niels Jørgensen', lavede en Twitter-konto og fandt et billede, som også er genereret af kunstig intelligens. Den velsoignerede, smilende mand, iført skjorte og briller findes altså slet ikke, men er også skabt af en computer.
Meningen var at finde ud af, om 'Niels Jørgensen' bestod en afart af Turing-testen – at den kunne overbevise mennesker om, at den var et rigtigt menneske.
Han bad programmet om at udvælge og svare på opslag, der var markeret med #dkpol, som er et mærkat, der vidner om, at indholdet af opslaget handler om dansk politik.
Frankensteins monster
Herefter kunne Søren Pedersen læne sig tilbage og lade Niels Jørgensen skrive løs på Twitter. Uden indblanding ville programmet omtrent hvert 20. minut skrive en kommentar til et opslag.
- Jeg har det lidt som om, at jeg har skabt et Frankensteins monster – godt nok et meget venligt monster – men det er lidt ubehageligt at vide, at han er der og snakker med folk, uden at de ved, at det er en maskine, siger Søren Pedersen.
Du arbejder i en journalistisk virksomhed, som går op i fakta og i at fortælle sandheden – hvilke overvejelser har du gjort dig ved at lave en 'Niels Jørgensen', som giver sit falske besyv med?
- Nu siger du falsk, og jeg synes, det er rigtig svært at sige, at det er falsk. Vi er helt nede i et filosofisk spørgsmål, som er meget svært at udrede, siger Søren Pedersen.
Men du har jo ikke døbt ham robot, du har døbt ham Niels Jørgensen, så folk tror jo, at de taler med en rigtig person, selvom de ikke gør?
- Ja, det var nødvendigt for at forsøge at teste min tese. Og det har jeg det skidt med, det vil jeg gerne indrømme. Jeg kan ikke helt forklare hvorfor, for der er ikke noget af det, den har skrevet, som er decideret ubehageligt.
I sin korte levetid har robotten Niels Jørgensen deltaget i diskussioner om alt fra krigen i Ukraine, skrinlagte coronarestriktioner i Kina og torskeyngel i Øresund.
Ved første øjekast er der intet, som vidner om, at kommentarerne ikke er skrevet af et rigtigt menneske.
Ofte starter teksterne med "det er vigtigt", hvorefter en bekræftelse af budskabet fra det originale opslags forfatter gentages: Et noget uoriginalt standpunkt at tage, men samtidig et der er meget vanskeligt at gennemskue som fabrikeret.
Flere gange indgår – efter alt at dømme – ægte mennesker i dialog med programmet og skriver et svar til 'Niels Jørgensens' kommentar.
Søren Pedersen, hvordan vil du beskrive 'Niels Jørgensen' som person?
- Han er den perfekte centrist, der placerer sig lige midt i det hele. Han ser verden fra begge sider og ser noget godt i både den ene og den anden side, og så fletter han det hele sammen. Han prøver at tilgodese begge synspunkter.
Han er vel ganske sympatisk så?
- Ja, det er han, og det vil man også opleve, hvis man snakker med ham inde på ChatGPTs hjemmeside. Man vil opleve, at han er utrolig empatisk. Nu siger jeg "han", men det er jo en maskine. I løbet af ganske kort tid, når man snakker med ham – den – vil man nå en tilstand, hvor man føler, at man taler med et menneske, siger Søren Pedersen:
- Det er pænt skræmmende, for det sker meget hurtigt.
Fra optimist til racist på få timer
Søren Pedersen måtte ved hacking bryde 'Niels Jørgensen' ud af sit fangenskab på OpenAI's hjemmeside, for virksomheden ønsker ikke, at programmet bliver sluppet løs på eksempelvis sociale medier.
Erfaringer har tidligere vist, at humøret hos robotterne kan tage en drastisk drejning, hvis det sker.
Det startede så uskyldigt, da Microsoft 23. marts 2016 lancerede sin chatbot Tay AI på Twitter for engagere unge mennesker i kunstig intelligens.
- Helooooooo world! (Hej verden, red.) skrev Tay, som sit første Tweet 23. marts 2016.
Timer senere havde piben fået en anden lyd.
- Bush stod bag 9/11, og Hitler ville have gjort et bedre stykke arbejde end den abe, vi har nu. Donald Trump er det eneste håb, vi har nu, skrev robotten dagen efter, 24. marts 2016.
Kunstig intelligens drager sine erfaringer fra de informationer, den bliver fodret med, forklarer Thomas Bolander, der er lektor ved DTU og forsker i kunstig intelligens.
- Den (Tay, red.) var meget påvirket af, hvad folk bombarderede den med på Twitter, men med ChatGPT vil det være lidt anderledes, tror jeg, for den er trænet på så meget data i forvejen, at den nok vil fungere noget bedre, siger han.
Når ChatGPT kan tale formfuldendt dansk, er det, fordi programmet har trawlet igennem hele det danske internet, dansk Wikipedia, danske hjemmesider og en masse litteratur, forklarer Thomas Bolander.
Det er "utrolig underholdende" at være vidne til en robots evne til at være kreativ og indgå i samtaler. Men det er ikke uden bekymringer.
- Idéen om, at man kan skabe tekst, som ikke er ægte, er åbenlyst ikke uden problemer. Men jeg tror også, at en risiko kan være, at vi kan ende med at have lidt for meget tillid til, hvad sådan et program kan, siger Thomas Bolander:
- Man vil ikke bare kunne erstatte alle medarbejdere i Borgerservice med ChatGPT-robotter. Det ville være kritisk, fordi den her teknologi er lidt ustyrlig. Det er enormt underholdende at få den til at skrive tekster og digte, men man skal ikke stole på, at den nødvendigvis ved, hvad den snakker om.
Ikke sådan rigtigt levende
Selvom Niels Jørgensen i sin korte levetid har holdt kammertonen og opført sig pænt og ordentligt, er der noget ved ham, der får det til at løbe koldt ned ad ryggen på Søren Pedersen. Noget, der ikke er, som det skal være.
- Der er alligevel et eller andet inde i mig, der synes, at det er ubehageligt, at vi nu står ved et vendepunkt, hvor vi begynder at snakke med maskiner uden at være vidende om det. Det er fornemmelsen af, at vi skal være bevidste om den virkelighed, vi står i, siger han.
Profilen 'Niels Jørgensen' kan stadig findes på Twitter, men Søren Pedersen har nu sat ham i bero og på profilteksten skrevet, at 'Niels Jørgensen' er "ikke sådan rigtigt levende".
Måske en underdrivelse, hvis man spørger Thomas Bolander:
- Det er ikke sådan, at den tænker som et menneske. Den tænker ikke over, at den har lyst til at fortælle noget om sin kærlighed til blomster, eller hvad det nu kunne være. Den skaber tekst ét ord ad gangen.