Kim Kardashian kan ta en deepfake fra YouTube

YouTube brakte ned en utrolig fornuftig - og forfalsket - video som indikerer å demonstrere Kim Kardashian West snakket om en skyggefull forening som heter Apparition og håner fansen for å misbruke copyright. Fjerningen på mandag kan gi åpne figurer et nytt våpen i kampen mot deepfakes, men det vil ikke hjelpe så mye som falske opptak gradvis retter seg mot vanlige individer.

Deepfakes - eller ekstraordinært rimelige falske innspillinger - har utviklet seg fra en irritasjon til et overordnet problem, ettersom de har vist seg å bli stadig vanskeligere å identifisere. Opptakene kan i utgangspunktet få det til å virke som om noen sa noe når de aldri gjorde det, og kunne brukes til et bredt spekter av avskyelige formål, fra triks til statlige spørsmål.

Kardashian-dypfaken, overført til YouTube 29. mai av fienden av å markedsføre aktivister Brandalism, ble evakuert på grunn av en copyright-garanti av distributør Condé Nast. Den første videoen som ble brukt til å lage deepfake, stammer fra en video som ble overført i april av distributørens Vogue-magasin.

Det indikerer absolutt hvordan det nåværende legitime rammeverket kan hjelpe, avslørte Henry Ajder, leder for utveksling og forskningsundersøkelse ved Deeptrace, til Digital Trends. Uansett er det for alle kontoer tilgjengelig for de fordelaktig få.

Ajder sa det Deeptrace, en forening som produserer et rammeverk for å identifisere deepfakes på nettet, har sett en utvidelse av deepfakes blitt overført til YouTube, både fra USA og over hele verden. Kardashian copyright-garanti kan muligens sette et annet referansepunkt for når og hvordan denne typen opptak blir brutt ned, inkluderte han. Det er et tvilsomt problem siden ingen har valgt om de kontrollerte opptakene faller inn i klassifiseringen av rimelig bruk. Å bringe innspillinger som disse åpner monsterteknologiske organisasjoner for påstander om at de berører muligheten for artikulasjon.

Se dette innlegget på Instagram

Et innlegg delt av Bill Poster (@bill_posters_uk)

I alle fall, hvis deepfakes er ansvarlig for krav til opphavsrett - som Kardashian-video tilsynelatende er det - det kan gi destinasjonene en virkelig grunnleggende tilnærming for å få ned falske opptak. Vi koblet oss til YouTube for å sjekke om dette er en del av en annen ordning for deepfakes, men kan fremdeles ikke høre tilbake. Brandalisme reagerte i tillegg ikke på en anmodning om innspill.

Se også: Microsoft ønsket Halo: The Master Chief Collection på PlayStation 4

Selv om dette gir litt ammunisjon i kampen mot deepfakes, er det ennå langt å gå. For det første er Condé Nast en kolossal organisasjon som uten mye strekk kan gi opphavsrettsgaranti på YouTube (og sannsynligvis gir mange konsekvent). Hvis noen for eksempel gjorde deg en dyp forfalskning av deg, ville det ikke være så naturlig. Noen kan ta opp deg, og deretter kontrollere opptaket slik at det ser ut som om du sa eller oppnådde noe du aldri gjorde. Hvis de har spilt inn innspillingen, har de den - så det er ingen copyright-garanti.

Problemet kan være mye mer forferdelig enn det, ifølge Ajder. Noen kan skrape bilder fra Facebook og lage en video av deg som oppnår noe du aldri har gjort, sa han.

Det er som det nå skjedde, sa Ajder. Et enormt mål for dype falske mål har vært damer inkludert de som er utsatt for falsk hevnpornografi, med deres ansikt fast på andres utvalg. Når en video er der ute, er det veldig lite noen kan gjøre for å få den ned.

Den legitime handlingsplanen for å få ned dype falske mennesker er mager, sa Ajder. Vi har ikke grunnlaget lagt opp til å avtale disse problemene.

Noen prøver å endre det. Rep. Yvette Clarke (D-NY) presenterte for sent et lovforslag som ville tvinge forvaltere på deepfakes, men de ville i stor grad være uhåndterbare i det ville vesten på nettet.

Det er ikke alle som følger YouTubes tilnærming. En annen dyp forfalskning av Brandalism som indikerer at administrerende direktør Mark Zuckerberg adulerer Spectre har over 100,00 perspektiver på Facebook-hevdet Instagram. Denne videoen, produsert ved hjelp av et møte med Zuckerberg på CBS News, ble online på mandag morgen uavhengig av at CBS nevnte at Instagram utviste den for en ikke godkjent bruk av CBSN varemerke, sa en CBS-representant. Kardashian-videoen er foreløpig online på både Twitter og Instagram - og en deepfake fra Zuckerberg er foreløpig online på Brandalisms YouTube-side.

Se dette innlegget på Instagram

Et innlegg delt av Bill Poster (@bill_posters_uk)

YouTube tok ned en doktrert video som indikerer å demonstrere Nancy Pelosi som slurrer ordene hennes, men likevel holdt den seg på Facebook med et notat som sa at videoen var falsk. Pelosi-videoen så ut til å være betydelig mer målrettet skadelig enn Kardashian-filmene, som kunne sees på som satire. YouTube vil lukke bedrag når det blir presset, men Facebook vil likevel ikke være en autoritet av sannhet.

Se også: De fleste spillere er interessert i spillet ved å streame

Ingen av de enorme teknologiorganisasjonene ser ut til å være satt opp for det kommende suset med dype falsker som fokuserer på mennesker, uansett om det er mulig.

Det har vært tilbakeslag for åpne figurer, sa Ajder. Uansett er deepfakes på vei for en eksponentiell økning i beryktelsesskader eller bedrag.