Udland

USA opruster mod manipulerede videoer: 'Deep fakes' er det nye våben i propagandakrigen

- Det her er den næste bølge af angreb mod USA og det vestlige demokrati, siger den republikanske senator Marco Rubio.

'Deep Fakes' er navnet på de manipulerede internetvideoer, amerikanske politikere og forskere nu betegner som det nye våben i propagandakrigen på internettet.

- Det her er den næste bølge af angreb mod USA og de vestlige demokratier. Falske videoer, som først kan erklæres falske efter omfattende analyser - og så er valget forbi, siger Marco Rubio, republikansk senator og tidligere præsidentkandidat.

Det amerikanske forsvarsministerium i Pentagon har fået et beløb svarende til en halv milliard kroner til at bekæmpe 'Deep Fakes', og ved hjælp af en manipuleret video viser forskere fra Stanford Research Institute, hvor enkelt, det er at lave de manipulerede videoer.

- Donald Trump er et stort røvhul, siger USA's tidligere præsident Barack Obama - tilsyneladende - i en video. Men det er komikeren Jordan Peele, der siger det, mens billederne viser Obama, der bevæger sine læber.

Sagde Obama virkelig, at Trump er et stort røvhul - nej, i virkeligheden er det komikeren Jordan Peele, der taler, men det kan være svært at skelne fra virkeligheden.

- 'Deep Fakes' kan skabes af alle mulige mennesker, som lægger dem på nettet, siger Bob Bolles, programleder på Stanford Research Institute.

Forskerne arbejder nu på at udvikle programmer, der hurtigt kan analysere og afsløre de manipulerede videoer.

- Vi søger efter enhver uoverensstemmelse mellem billede og lyd, fortæller Bob Bolles.

Ifølge forskerne er det så enkelt at lave de manipulerede videoer, at det er nemt for dem at svare på spørgsmålet om, hvorvidt 'Deep Fakes' også er noget, vi bør frygte i Danmark.

- Alle de her teknikker kan bruges overalt. Og de er tilgængelige. Så svaret er ja, siger forsker Brian Burns fra Stanford Research Institute.

'Deep Fake'-videoer er nemme at lave - men svære at afsløre, siger Vincent Hendricks.

Dansk ekspert: Nemt at lave - svært at finde ud af om det er et falsum

Vincent Hendricks, professor i filosofi og leder af Institut for Medier, Erkendelse og Formidling på Københavns Universitet, siger til TV 2, at også USA's præsident Donald Trump for nylig har været udsat for en manipuleret video.

- Da Donald Trump melder amerikanerne ud af Paris-aftalen, er der er en venstreorienteret organisation, der laver en 'deep fake'-video, faktisk mest for sjov, hvor det ser ud som om, Donald Trump giver belgierne råd om, hvordan man skal forholde sig til klimaspørgsmål, siger Vincent Hendricks.

Det gav anledning til en stor kontrovers om, hvorfor Trump skulle blande sig i den slags, siger Hendricks. Men det var en fingeret video, som var lavet som en kommentar, en morsomhed. Manipulationen blev taget blevet alvorligt i Belgien.

Han siger, at det store problem er, at videomanipulationerne er nemme at lave.

- Det tager ikke så lang tid at lave - men det tager relativt lang tid at finde ud af, om det er et falsum eller ikke et falsum, siger Vincent Hendricks.

Professor i kunstig intelligens advarer

De manipulerede videoer er ikke et helt nyt fænomen - teknologien har blandt andet været brugt til at lave falske pornovideoer på nettet - såkaldt 'faceswap-porno', hvor man animerer ansigterne af kendte kvinder ind på pornoskuespilleres kroppe.

- Alle er nødt til at forstå, hvor nemt det er at forfalske billeder og videoer til en grad, hvor vi om nogle få måneder fra nu ikke vil være i stand til at identificere forfalskningerne, sagde Alex Champandard, der er ekspert i kunstig intelligens, i januar sidste år til teknologi-mediet Motherboard.

Anders Kofod-Petersen, vicedirektør i Alexandra Instituttet i Aarhus og professor i kunstig intelligens ved Norges Teknisk-Naturvidenskabelige Universitet i Trondheim, der er førende inden for kunstig intelligens og maskinlæring, har tidligere advaret om, at teknologien ville kunne bruges på nettet af mange mennesker.

- Det åbner potentielt for, at man kan få hvem som helst til at sige hvad som helst. Der vil altid komme nogen, der sætter elementerne sammen til programmer, som alle kan hente ned og bruge. Det er bare et spørgsmål om tid, sagde han i januar sidste år til TV 2.

Han forudså allerede dengang, at politikerne kunne blive mål for de forfalskede videoer.

- Teknologien har stadig svært ved at rekonstruere mimik og mere komplicerede bevægelser. Men noget mere trivielt som en stillesiddende nyhedsoplæser på TV 2 eller statsministerens nytårstale varer det formentligt ikke længe, før man kan forfalske.

På den måde vil man kunne bygge en video, hvor Lars Løkke Rasmussen siger noget kontroversielt, og for hr. og fru Jensen er det tæt på umuligt at afgøre, om det er ægte, eller noget vi har bygget, spåede Anders Kofod-Petersen dengang til TV 2.