Efter så kallade deep fakes har nu tekniken för förfalskning av video utvecklats ytterligare. Det är nu möjligt att skriva om åtminstone delar av texten i vad någon säger på en video och ge realistiska videos.
Vi går alltså snabbt vidare mot punkten där man inte längre kommer kunna lita på rörlig bild, även om inga antagonistiska angrepp än så länge har avslöjats.
Det blir fullt möjligt att skriva om delar av texten i en politikers uttalanden och publicera en realistisk video av detta. Begränsningen är fortfarande rösten – för att få realistiskt ljud måste personen ha sagt de ersatta orden tidigare, då röstsyntisering av godtyckliga röster fortfarande släpar efter. För personer som ofta framträder offentligt, t ex nyhetsuppläsare, programledare eller politiker bör det dock vara fullt möjligt att sätta ihop ett uttalande som får en annan innebörd än den verkliga. Oavsett kan man enkelt klippa bort enstaka ord och ändra innebörden på det viset.
Kombinera med viral och snabb spridning i sociala medier, så har man ett väldigt kraftfullt verktyg för påverkansoperationer och smutskastning.
Konsekvenserna blir på sikt att en video inte kommer vara trovärdigare än var den publiceras, och då endast om den är originalinnehåll hos publicisten, som annars kan luras att återpublicera en förfalskad film.
Uppseendeväckande uttalanden bör alltså längre fram alltid bekräftas från ursprungskällan framöver. Det blir också en renässans för traditionella medier, med hög trovärdighet, även om det inte räcker att det står BBC på en video – det kan klippas in – utan att man måste gå till BBC själva för att bekräfta att videon är korrekt.
Bekräfta alltid kontroversiella eller idiotiska uttalanden via seriösa nyhetskanaler och helst direkt från originalkällan.
Forskningsgruppens hemsida hittas här. Målet med forskningen är att stödja metoder för att detektera denna typ av förfalskningar.
16 kommentarer
Vi rör oss mot läskiga tider!
Själv tycker jag detta AI experimentet verkar spännande även om det kanske når hela vägen fram. Det är en algoritm som omvandlar ett ljudklipp av någon som pratar, till en ungefärlig bild över hur personen ser ut:
https://speech2face.github.io/
Så nu kan SVT sparka lite folk och forsätta med fake news
BBC?.. haha.. En av de värsta fejkarna av dem alla.. Möjligen CNN undantaget. De bytte ju ut talet i em intervju med en läkare från Syrien så att hon sa "kemvapen" istället för granat eller vad det var. Nu är de dessutom misstänkta för att stå bakom hela den fejkade videon med "drabbade" från den ssita "gasattacken" i Syrien.
Heja Kreml!
Är det Kreml som ligger bakom att BCC mixtrar med nyhetssinslag eller vad menar du? Den foliehattsterorin är det nog tveksamt om du klarar av att backa upp med nåt som helst…
Heja heja heja!
Haha. Nej.. tänkte väl det.
Go go power Putin!
Mighty Morphin' Power Putin!
He know the fate of the world is lying in his hands.
He know to only use their weapons for defense.
No one will ever take them down
The power lies on his siiiide.
Go Go Power Putin!
Gå o ta din medicin nu. Du har överdoserat med Bingolotto. Man ska inte ta det ihop med melodifestivalen och TV4:s morgonsoffa. Blir bara kortslutning och tvångstankar om Putin.
Man skulle kunna bygga en encoder med en dold watermarking och signering som förhindrar manipulation. Alla stora uppspelare skulle stödja detta ungefär som "grönt hänglås" på siter med verifierade certifikat.
Bara att implementera detta och bli rik.
Hur skulle det hjälpa? Grönt hänglås är ju inte garant för att sidan är säker i sig, bara trafiken dit. Inget skulle hindra folk från att redigera om filmen och lägga på sin egen signering.
underrättelsetjänster och militär kan man räkna med har betydligt bättre teknik än vi andra känner till?
Det gamla vanliga. Den här gången mindre förbryllande än någonsin – vi har ganska nyligen gått igenom den här fasen för stillbilder.
Tack vare att det alltid finns pengar att tjäna på oro kommer vid varje fas en stor pöbel gå på marknadsförarnas linje och agera som du brukar skriva "duktiga idioter" – sprida bilden att det är katastrofläge.
Datorn tar jobb osv.
Gasp.
Also, vi har bättre information och transparens idag, inte sämre. Det kommer vara ännu bättre om 10 år. Andelen brus som adderas är inte spännande.
Det är nog tyvärr på samma nivå som alltid. Är bara att folk alltid tror att de vet allt. Har de förmodligen gjort i alla tider. O de har varit lika lurade då som nu. Att det är mer transparens idag vet vi ingenting om. Du har tillgång till mer teknik idag, visst. Men det har makthavare, militär o andra också. Och det senaste brukar folket inte ha en aning om. Det släpps inte nedåt förrän möjligen långt senare, och då i nån form som passar planetens ägare. Som tex när man inser att man kan skapa ett facebook och få folket att frivilligt agera underrättelesetjänst.
Saker köps upp och "läggs ned" osv. Enorma summor till militär och NASA bara försvinner och talespersoner kan inte redovisa var skattepengar tagit vägen när de sitter i "förhör". Ändå kräver de ökade anslag o det enda de konkret levererar till allmänheten är några bilder då o då som en 5-åring kan ha skapat i Photoshop.
Kombinera det med en urdum melodifestivaltittande befolkning som tror att TV4:s morgonsoffa ger dem världsbilden så har vi en bra hint om hur saker egentligen ligger till.