Cornucopia?

Aktuellt

Mina e-noveller nu som ljudböcker på Storytel

Mina tre e-noveller Valet, Berget och Oscar finns nu som ljudböcker på Storytel . I väntan på min nästa roman Höstregn, uppföljaren till Hös...

2018-01-26 11:06

Deepfakes: Det går inte längre att lita på rörlig bild på Internet

De senaste dryga månaden har ett tekniskt framsteg gjorts, som gör att man fullt realistiskt kan klistra in en annan persons ansikte i en film med enkla verktyg på en vanlig dator. Innovationen kommer förstås från Internetporren, via redditkontot Deepfakes, men går utmärkt att tillämpa på all form av rörlig bild. Det är bara en tidsfråga tills de första djupa förfalskningarna av publika personer dyker upp och då i trovärdigare sammanhang än porr. Du kan inte längre lita på rörlig bild på Internet, utan avgörande måste vara vem som publicerar.
När dyker dessa två mediaherrars ansikten upp på djupt förfalskade filmer med spännande uttalanden?
Tekniken är bara i sin linda, men nyttjar sk AI-inlärning, och klistrar ansiktet från en person över ansiktet på en annan person på en film. Kropp och frisyr hanteras inte, så ursprungsaktören behöver ha en snarlik frisyr och hårfärg och någorlunda realistiskt matchande kropp.

För att kunna göra en djup förfalskning räcker det med ett gott urval av stillbilder på personen, eller för den delen rörlig bild. Detta kommer med appen FakeApp sedan klistras in bild för bild och matcha ansiktsuttryck, vinklar, rörelser med munnen etc. För en kortare filmsekvens tar det ungefär en dag att göra en sådan här djup förfalskning på en vanlig dator.

Ursprunget är kontot deepfakes på Reddit, som postar porrfilmer med fejkade ansikten från celebriteter som Gale Gadot, Daisy Ridley eller Taylor Swift. Ni kan läsa mer hos Motherboard.

Till saken hör att man på detta vis kan smutskasta eller sprida desinformation om publika personer och makthavare, ingalunda begränsade till porr. Allt som krävs är viljan och att sedan distribuera filmen i sociala medier, där den knappast kommer ifrågasättas.

Exempelvis skulle man kunna spela in en film på någon som står och säger det man vill in i kameran. Sedan klistrar man in Stefan Löfvens ansikte ovanpå detta. Skådespelaren bör förstås ha en kroppsbyggnad och frisyr som matchar Löfven, liksom klädstil. Det enda som återstår är att ordna en röst som liknar Löfvens. 

Just rösten är fortfarande den begränsande faktorn. När det gäller djupa förfalskningar av porr är det ju inte nödvändigtvis så att man säger några ord, så det är ett mindre problem idag.

Personer som allmänheten bara känner igen på bild, men inte kan rösten på blir mycket enkla att djupt förfalska. Alltså inte partiledare, men kanske lite mer okända ministrar, utskottsordföranden i riksdagen eller enskilda riksdagsledamöter.

Nedan är ett exempel där Hitlerskådespelarens ansikte klistrats in på Argentinas presidents ansikte i ett tal.
Här ser ni begränsningarna. Frisyren på presidenten, men även pannan kvarstår, medan ansiktet är utbytt.

Vissa personer kan vara enklare att förfalska. Fredrik Reinfeldt är t ex helt rakad. Att klistra in hans ansikte över en helt rakad skådespelare bör vara trivialt. Det enda som återstår är att ordna rösten. Annars kan det krävas lite mer avancerade förberedelser med skådespelarens hårfärg och frisyr.

Sedan blir det fritt fram att sprida djupt förfalskade videos på uttalanden från kända personer i sociala medier. Initialt kommer de vara amatörmässiga och icke trovärdiga. Angriparna kommer dock lära sig att göra mindre spektakulära videos, som avviker trovärdigt mycket från verkligheten.

Enda sättet att motstå detta är att titta på vem det är som ursprungligen publicerar videon. Man kan anta att traditionella medier inte kommer göra egna djupa förfalskningar, men de kommer dyka upp på Twitter, Facebook och YouTube. Och varför inte slänga in en SVT-logga i hörnet på filmen för att öka trovärdigheten? Frågan är bara vem som blir första offret, och även hur det ska göras för att uppnå bästa timing och största effekt.

I slutändan kan du inte längre lita ett dugg på videos på Internet, inte mer än du litar på den publicerande ursprungskällan. Existensen av djupa förfalskningar kan i sin tur användas som ett meta-angrepp mot äkta videos, som kan avfärdas som förfalskningar. Nästa fråga blir vad detta kommer göra med film som bevismaterial i rättegångar?
Nedanstående kommentarer är inte en del av det redaktionella innehållet och användare ansvarar själva för sina kommentarer. Se även kommentarsreglerna, inklusive listan med kommentatorer som automatiskt kommer raderas på grund av brott mot dessa. Genom att kommentera samtycker du till att din kommentar, tidsstämpel, profillänk och pseudonym sparas av Googles Blogger-system så länge det är relevant, dvs så länge blogginlägget är publicerat.

44 kommentarer:

  1. Svar
    1. Det är väl så han heter?

      Radera
    2. Tja, en annan slutsats kanske är att de inte behöver skriva om manuset för Star Wars Ep 9. Leia skulle ju spela en stor roll där.

      Radera
    3. Disney/Lucas har väl redan sagt att de inte kommer animera Leia?

      ”We want to assure our fans that Lucasfilm has no plans to digitally recreate Carrie Fisher’s performance as Princess or General Leia Organa”, they said in a statement.

      Radera
    4. Varför sla jag tro på det? Eller att Carrie Fisher är död? Låter som du låtit dig luras camgbg? Eller är du en del av konspirationen?

      Radera
  2. Egentligen är inte ens ljudet ett problem längre
    https://www.youtube.com/watch?v=QUK6rEUZAcA

    SvaraRadera
  3. Så om holländarna har CCTV-film från Cozy Bears HQ med rysk personal, så kommer dessa bilder att kunna misskrediteras genom att stoppa dit andra ansikten. Lajbans.

    SvaraRadera
  4. Den tekniska utvecklingen påverkar samhället på djupet, det har den alltid gjort, och det finns all anledning att inse både möjligheter och risker.

    Idag är alla nyhetsrapporteringar politiskt vinklade och delar av politiska agendor vilket har skapat ett enormt behov av alternativmedia som kan levereras tack vare internet och därigenom hålla demokratin levande. Om myndigheterna stänger ned alternativmedierna på internet vilket är tekniskt möjligt är demokratin över.

    SvaraRadera
    Svar
    1. Du vet om att alternativmedia är politiskt vinklat och har politiska agendor?

      Radera
    2. Naturligtvis. Alla som deltar har en agenda. Jag också.

      Radera
    3. Cornu,

      Vi behöver inte vara rädda för olika politiska åsikter, de är kärnan i demokratin.

      Men vi ska dra öronen åt oss när vissa politiska åsikter ska tystas.

      Radera
    4. Den Wilda åsnans "fakta" är tydligen inte längre fakta enligt Lars själ, insiktsfullt.

      Ha nu en fin helg ...

      Radera
  5. Tänk Putin och Cornu i en kärleksfilm för män.

    SvaraRadera
    Svar
    1. Säger en del om dina drömmar och preferenser.

      Problemet är inte sådana uppenbara förfalskningar. Problemet är när man gör något som är någorlunda trovärdigt, men falskt.

      Radera
  6. Troligen kommer det snart en tjänst där artificiell intelligens hittar tecken på att en filmsnutt är manipulerad. Det finns redan sådant för stillbilder.

    SvaraRadera
    Svar
    1. Det kan bli lite kämpigare när fejkarna använder fejkkontrollalgoritmer för att förbättra fejken tills algoritmerna inte längre hittar tecken på fejk.

      Radera
  7. OK, fine men hur skall en vanlig, dvs inte datanörd, människa avgöra om en film är manipulerad eller inte? Högerklicka och... vadå?

    SvaraRadera
  8. En fabricerad/fejkad video kommer antagligen enbart spridas i sociala medier eller på alternativa siter och inte länka tillbaka till källan.

    SVT använder i alla fall HTTPS för sitt material (något SR ej gör). Vi har ju dock drillat alla användare till att ignorera certifikat-varningar och att våra browser-tillvekare har lagt till alla möjliga konstiga CA-cert så att fejka ett SVT-cert är ju möjligt.

    SvaraRadera
    Svar
    1. 98% kommer aldrig kolla ursprungskällan. Står det SVT på videon så kommer de utgå från att den är från SVT.

      Radera
    2. Helt riktigt. Vi är på väg mot det samhälle vi antagligen förtjänar - "Resistance is Futile".
      Massorna sitter i twitter- och FB-flödet och alla icke-sanktionerade siter är strypta. Vi matas med det som de Härskande vill och vi behöver bara gå till valurnorna var fjärde år för att de Härskande skall uppfattas som legitima.
      Nice!

      Radera
    3. Stundom verkar det ju som att MSM snappar upp saker från tvivelaktiga kanaler så det räcker nog inte att filtrera bort sociala medier...

      Radera
    4. Det jag tycker rör till bilden är hur MSM hanterat saker som exv Sandviken-rapporten, Ylva Johanssons fake-news om sexualbrott, Troll-kontot från S, ETC-skandalen, Arbetsförmedlaren Johan Berg osv, osv. Skulle något av denna skit flytit upp till ytan utan alternativ-media? Tror tyvärr att svaret är ett rungande "Nej!".
      Om dessa exempel på skit INTE flytit upp till ytan så får personer som Johan Berg röja runt på DNs, SvDs, SVT debattsidor och fortfarande se ut som en "vanlig arbetsförmedlare", Ylva Johansson hade inte behövt pudla i BBC etc.
      Jag tycker att root-cause är att vi har fått en hoper flata, bekväma och korkade journalister som inte vågar gå emot "etablerade sanningar" och har för låg integritet för att hantera en debattsituation, ställa relevanta eller obekväma frågor.
      Har kollat lite på franska och tyska debattprogram inför valen och trots vissa undantag är det generellt hövliga och sakliga men framför allt inte gapiga. Så långt från Agendas partiledardebatter och SVT Opinion man kan komma.

      Radera
    5. Erik Ullenhag hade ju en mytsida på regeringens hemsida. Ett stort problem var mycket av det som stod var fake news/propaganda. Ett större problem var att SR/SVT inte granskade detta. Man kan fråga sig varför de inte granskade detta? Är fake news ok om vissa gör det men inte andra?

      Radera
  9. Lösningen är att begränsa staten makt så att det inte är lönsamt att ägna sig åt detta.

    SvaraRadera
    Svar
    1. Farliga Tankar;

      Intressant. Och vilken statsmakt tänkte du begränsa? Sverige? Alla stater på en gång?

      Genom att kraftigt begränsa demokratiska statsmakter så upphöjer du samtidigt anti-demokratiska statsmakter att ta över. En svag demokratisk statsmakt blir en mumsbit för en diktatur.

      Nu när marknaden släppts fri så är fritt fram för kommunistdiktaturen i Kina intresserade av att investera i snabbtåg mellan ex. Stockholm och Oslo för att vi ska bli mer beroende av kinesiska varor och att de vill bygga nordens största containerhamn i Lysekil. De skaffar sig allt större makt för att kunna påverka världen i den riktning de känner för.

      https://www.svt.se/nyheter/inrikes/kina-vill-investera-i-ny-svensk-norsk-jarnvag

      Det ni omedvetet förespråkar är ju ett kommunistiskt maktövertagande - en tyst kommunkstisk världsrevolution genom extrem kapitalism.

      Radera
  10. Går det att kopiera in Wallström bredvid Putin med en SVT-logga där hon uppmanar oss att ge upp och säger att allt motstånd är meningslöst?

    SvaraRadera
    Svar
    1. Vadå, även om budskapet är aningen mer subtilt paketerat är det väl i sak just det Wallström och en rätt stor andel av utrikesförvaltningen för närvarande ägnar sig åt genom de " Lines to take" (språkregler/talepunkter) som utfärdades av UD angående Försvarsberedningens delrapport från den 20 december.

      Radera
  11. Detta är ju inget nytt. Går att göra med videomaterial som inkälla. Då behövs inte ens en skådespelare som är lik:
    https://youtu.be/ohmajJTcpNk

    Hur man fixar ljudet löste man redan på 90-talet:
    https://engineering.purdue.edu/~malcolm/interval/1997-012/

    SvaraRadera
  12. Det går också nu att virtuellt skapa vilken röst som helst, inte bara själva uttalet utan satsmelodi, ordval m.m.

    https://www.scientificamerican.com/article/new-ai-tech-can-mimic-any-voice/

    SvaraRadera
  13. Frågan är vad man skall ha det till? Jag menar det mesta våra politiker säger är ju redan falskt.

    Vi kommer aldrig sitta i någon regering som laddar ett kärnkraftaggregat.
    ROT & RUT avdragen skall inte ändras.
    Skolan fixar vi på 100 dagar.
    Bromma flygplats skall inte stängas.
    Omsen är en tillfällig skatt.

    SvaraRadera
    Svar
    1. Det är en sak om politiker lovar runt och håller tunt och en annan när polisen (Dan Eliasson) eller journalister (Helin & Mattsson) ljuger medvetet, när samhällskontraktet ruttnar och riskerar att kollapsa.

      Radera
    2. Någon skulle kunna plocka upp dessa frågor politiskt, undra hur långt det skulle räcka?

      Radera
  14. Det är fortfarande relativt enkelt att avslöja photoshoppade bilder, det kommer nog dröja många år innan en videosekvens med 100-tals frames kan förfalskas och passera en kompetent kontroll.

    Men som allt annat, porrbranschen kommer vara i framkanten...

    SvaraRadera
    Svar
    1. Det är inte poängen. Poängen är att man enkelt kan producera en "viral film på Reinfeldt som medger XYZ" och låta den få massiv spridning i sociala medier. Långt färre kommer läsa att den var falsk.

      Radera
    2. Is that a fake video or are you just happy to see me

      Radera
    3. Fakebilder har så här långt visat sig ett långt mindre problem än tidigare befarat och många virala videos idag är fake såtillvida att de ofta är regisserade/trickfilmade, och du har rätt i att folk så här långt inte bryr sig nämnvärt eftersom de främst är gjorda för underhållning.

      Ett långt större problem är, och har alltid varit, klippningar av intervjuer/tal, där man klipper ut just de uttalanden som ger mest rubriker, och inte ger utrymme för förtydliganden/nyanser.

      Eller för den delen, bruket av arkivbilder för att illustrera pågående katastrofer. Flera "nyhetsbilder" av ex.vis. Venezuelas tomma butikshyllor har visat sig komma från affärer i USA(!) som haft utförsäljning inför nedläggning, översvämningsbilder är från helt andra översvämningar tidigare år, och svältkatastrofbilder har återanvänts gång på gång.

      Tyvärr handlar fake news om mer än photoshoppade bilder/filmer, det handlar om att framställa verkligheten annorlunda, och man behöver inte ens manipulera bilder när man har en enorm bildbank att plocka ur.

      Men vi har redan haft ett par omgångar med falska filmer, vardet inte nåt för ett tag sedan där "filmen" från afghanistan/syrien var från ett datorspel?

      Radera
  15. Enklare variant av samma typ av funktion finns ju sedan tidigare i smartphoneappar som faceswap och snapchat (för att bara nämna några) där man kan välja en bild med ett ansikte och sedan få det mappat. Har blivit grymt mycket bättre på några år.

    SvaraRadera
  16. Månad? Det har varit möjligt i vanliga kommerciella produkter rätt länge. Samma med att få det att se ut precis som att människor säger något helt annat än de gör, vilken jag tycker är värre för det tillåter så subtila ändringar att ingen reagerar, kanske inte ens personen som sa det om det görs tillräckligt skickligt.

    SvaraRadera
  17. För lite salt i såren vill jag här påminna om att mänsklighetens första verifierbara digitala historiska information _någonsin_ ligger i blockchain. Synd att det bara är en trend som kommer blåsa över.

    SvaraRadera
  18. Porrstjärna ersatt med politiker???

    Jag tror att MOTSATSEN kommer att bli betydligt populärare! Om t.ex någon manipulerar en debatt mellan Gudryn Schyman, Gustaf Fridolin och Margot Wallström så att den istället ser ut att ske mellan Jayden James, Nicole Aniston och en ung Bree Olson (alla tre med bar överkropp, eftersom svenska debatter numera sker stående) så skulle jag istället för att stänga av kunna tänka mig att lyssa/titta på hela sändningen!

    Finns uppenbar risk att hela den unga manliga borgerligheten kan manipuleras över till den rödgröna sidan om någon är smart nog att använda teknik så.

    SvaraRadera