Kan Deepfakes opdages?

Med nok kildebilleder er det ikke så svært at lave Jordan Peele ind i præsident Obama, Jimmy Fallon ind i John Oliver, eller Jon Snow bliver talsmand for skuffede Game of Thrones-fans. Til at begynde med var det ikke så svært at fange deepfakes – selv de bedste havde visuelle giveaways som sløring, forvrængning og uhyggelige ansigtsforskelle, der fik dem til at virke “off”.

Det er dog et kat-og-mus-spil, og det ser ud til, at så snart vi lærer én metode til at opdage deepfakes, retter den næste generation fejlen. For at bekæmpe det, er der nogen pålidelige løsninger til at finde ud af, hvilke videoer der forsøger at narre os?

Visuelle spor

Artefakter er ikke kun ting, Indiana Jones sætter på museer — de er også små aberrationer efterladt efter et billede eller en video er blevet manipuleret. I tidlige deepfakes kan disse ofte blive fanget med det menneskelige øje, og dårlige deepfakes kan stadig have et par advarselstegn, såsom sløring omkring kanter, et overudglatet ansigt, dobbelte øjenbryn, fejl eller en generelt “unaturlig” følelse af, hvordan ansigtet passer. .

For det meste er teknikkerne dog nu forbedret til det punkt, hvor disse artefakter kun er synlige for andre algoritmer, der søger gennem videodataene og undersøger ting på pixelniveau. Nogle af dem kan blive ret kreative, f.eks en teknik, der kontrollerer, om næsens retning matcher retningen af ​​ansigtet. Forskellen er for subtil for mennesker at opfatte, men maskiner viser sig at være ret gode til det.

Biometriske spor

I et stykke tid virkede det som om nøglen til at afsløre deepfakes var deres mangel på naturlige blinkmønstre takket være den relative mangel på “øjnelukkede” kildebilleder. Det tog ikke lang tid, før den næste generation af deepfake-teknologi inkorporerede bedre blink, hvilket hurtigt reducerede teknikkens effektivitet.

Andre biometriske indikatorer er dog ikke blevet fuldstændig knækket endnu, ligesom individuelle særheder, som algoritmer ikke nemt kan automatisere til en deepfake, fordi de kræver en vis kontekstuel forståelse af det sprog, der bruges. Små vaner som at blinke hurtigt, når du bliver overrasket eller løfte dine øjenbryn, når du stiller et spørgsmål, kan opfanges og bruges af en deepfake, men ikke nødvendigvis på de rigtige tidspunkter, da de (endnu) ikke automatisk kan finde ud af, hvornår de skal indsætte disse bevægelser.

AI, der kan læse hjerteslag ved hjælp af videobilleder, har masser af applikationer ud over deepfake-detektion, men på udkig efter de periodiske bevægelser og farveændringer, der signalerer puls, kan hjælpe med at identificere AI-genererede bedragere. Den mest oplagte giveaway er, når en deepfake slet ikke har noget hjerteslag, men deepfakes har ofte pulser. Alligevel kan uregelmæssigheder (som forskellige dele af ansigtet, der viser forskellige hjertefrekvenser) stadig hjælpe med at identificere en deepfake.

AI-projekter

Mange store navne er meget interesserede i at løse deepfake-problemet. Facebook, Google, MIT, Oxford, Berkeley og masser af andre nystartede virksomheder og forskere tackler dette problem ved at træne kunstig intelligens til at spotte falske videoer ved hjælp af metoderne nævnt ovenfor, blandt andre.

En ting begge dele Facebook og Google arbejder på, er at skabe et datasæt af højkvalitetsvideoer af skuespillere, der laver ting, som de derefter bruger til at lave deepfakes. AI, der er trænet i disse, kan derefter finde ud af, hvad de afslørende tegn på deepfakes er, og få til opgave at opdage dem.

Dette virker selvfølgelig kun, så længe forskerne fortsætter med at generere deepfakes ved hjælp af den mest opdaterede teknologi, hvilket betyder, at der altid vil være en smule forsinkelse mellem de nyeste deepfake-tricks, der opdages, og disse algoritmer er i stand til at fange dem. Men med lidt held eksperimenterne med faktiske mus til at identificere deepfakes vil panorere og give os en kant.

Godkendelse

Detektionsteknologier er dog ikke det komplette svar på deepfakes, da de sandsynligvis aldrig vil have en succesrate på 100 %. Deepfakes, der har haft lidt tid og penge i sig, kunne sandsynligvis bestå en masse sniff-tests og aktuelle AI-metoder. Og lad os huske, hvordan internettet fungerer: Selv hvis disse forfalskninger bliver fanget, vil de sandsynligvis blive recirkuleret og troet på af en undergruppe af mennesker alligevel.

Derfor er det også vigtigt at have en form for verifikationsmekanisme – et bevis på, hvilken video der er originalen eller noget, der kan indikere, om en video er blevet ændret. Det er det, virksomheder kan lide Faktum, Ambervideo, og Axiom gør ved at indkode data om videoer til uforanderlige blockchains.

Den grundlæggende idé bag mange af disse projekter er, at de data, der er indeholdt i en videofil eller genereret af et bestemt kamera, kan bruges til at generere en unik signatur, der vil ændre sig, hvis der bliver pillet ved videoen. Til sidst kan videoer uploadet til sociale medier komme med en mulighed for at generere en godkendelseskode, som den oprindelige uploader kunne registrere på en blockchain for at bevise, at de var de originale videoejere.

Disse løsninger har naturligvis deres eget sæt af problemer, såsom videokodninger, der ændrer dataene i filen og ændrer signaturen, uden at videoindholdet faktisk ændres, eller legitim videoredigering ødelægger signaturen. I situationer med høje indsatser, såsom kommercielle transaktioner, hvor billeder bruges til at bekræfte levering eller få investorsupport, kan et autentificeringslag som dette hjælpe med at forhindre deepfake-relateret svindel.

Er deepfakes farligere end Photoshop?

På dette tidspunkt antager vi alle bare, at billeder måske ikke er rigtige, fordi vi er fuldt ud klar over, at teknologien findes til at få næsten alt til at se ægte ud i et stillbillede. Til sidst kan vi begynde at nærme os videoer med samme slags skepsis, da det bliver lige så nemt og overbevisende at forfalske dem, som Photoshop i øjeblikket laver billedredigering. Selv med generel bevidsthed er det dog let at forestille sig, at masser af hændelser fra det virkelige liv får deres start med en veltimet deepfake af høj kvalitet i en ikke alt for fjern fremtid.

Billedkreditering: Google/FaceForensics, Facebook AI, Ambervideo