Näin ei ole, vaikka siltä näyttää – Deepfake ja synteettinen media sekoittavat toden ja tarun ennennäkemättömällä tavalla

Vainajat nousevat kuolleista puhumaan sellaista, mitä eivät ole koskaan ääneen sanoneet. Elävät julistavat uskottavilla videolla ennen kuulumattomia asioita. Kuka hyvänsä voi mennä retkuun, kun koneoppiva tekoäly ja deepfake järsivät verkossa uskottavan tiedon perustaa.

Tavallinen tallaaja alkaa olla hätää kärsimässä tiedon valtatiellä, sillä tarun ja totuuden muutoinkin veteen piirretty viiva käy yhä vaikeammaksi hahmottaa. Kansalaiset eivät enää välttämättä usko lukemaansa, kuulemaansa tai näkemäänsä. Tutkijain mukaan ihmismielen on valtaamassa skeptisyys kaikkea tiedonvälitystä kohtaan. Asiasta kirjoittaa Interesting Engineering -lehti.

Tiedosta on tullut uskon asia

Äskettäin nousi kohu, kun julkiskokkivainaan Anthony Bourdainin kuullaan lukevan itsestään kertovassa dokumenttielokuvassa omia kirjoitettuja sanojaan, joita hän ei todellisuudessa ole koskaan lausunut ääneen. Sanat lukee koneoppivan tekoälyn ohjaama syntetisaattori, joka on opetettu matkimaan Bourdainin ääntä. Todellisuuden muokkaaminen sai kriitikot pohtimaan dokumentin eettisiä perusteita.

Dokumenteissa menneisyyden voi siis muokata haluamakseen. Kuvia on diktatuureissa retusoitu maailman sivu mutta nyt väärennöksiin tarvittavat työkalut ovat kaikkien ulottuvilla. Verkosta voi ladata sovelluksia kuten FaceSwap, FaceApp, Avatarify ja Zao, joiden avulla hiukankin ohjelmointia oivaltava voi kokeilla ja todentaa väärennöksen voiman. Kun yhä useammat tekevät niin, usko tiedon todenperäisyyteen katoaa lopullisesti karkkimaahan.

Synteettinen media on tekotodellisuutta

Tekoälypohjainen synteettinen media tarkoittaa kaikessa yksinkertaisuudessaan todellisista elementeistä muokattuja viestintätuotteita, jotka eivät perinteisessä mielessä ole totta. Sitä kutsutaan monesti osuvalla yleisnimellä deepfake.

Tekoälyn tai koneoppimisen avulla tuotetut hyperrealistiset videot, hätkähdyttävän todelliselta vaikuttavat kuvat ja alkuperäiseltä kuulostavat ihmisäänet ovat jo osa viestintäkirjoa. Niihin on yhä helpompi haksahtaa, aivan kuten aina vaan sofistikoidummiksi käyviin verkkohuijauksiinkin.

Todellisuuden muokkausta omiin tarpeisiin käyttävät niin verkossa leikkivät lapset kuin päämäärätietoiset aikuisetkin. Keinot ovat ajan myötä muuttuneet ja onkin hyvä huomata, että somen lapsialustoilla leviävät naamanvääntösovellukset ovat melkoisen kaukana edistyneimpien kansalaisten ja vaikuttamaan pyrkien ulkovaltojen todellisesta arsenaalista.

DeepFaceLab on esimerkki helposti saatavissa olevasta, ilmaisesta deepfake-ohjelmistosta. Videolla näkyy, kuinka näyttelijä Robert Downey Jr:n kasvot valjastetaan puhumaan halutulla tavalla:

Youtube, Deepfakery-kanava. 6 min 38 sek.