Tekoäly on jo ehdolla vaaleissa – väärennyksiltä ei välty kukaan

Vaikka nämä työkalut eivät välttämättä merkitse täysin uusia kyberturvallisuusriskejä, ne voivat mahdollistaa olemassa olevien uhkien laajenemisen entistä nopeammin ja tehokkaammin, luokittelee Yhdysvaltain vaaliviranomainen (EAC) tekoälyn (AI) ja sen yhteyden demokratian peruspilariin eli vaaleihin ja äänestämiseen.

AI yleistyy menetelmissä, joita äänestäjät käyttävät tiedon etsimiseen – tietoisesti tai tiedostamatta – esimerkiksi hakupalvelujen tai generatiivisten sovellusten kautta. AI:n tuottama teksti voi merkittävästi parantaa tietojenkalastelu- ja muiden sosiaaliseen manipulointiin perustuvien hyökkäysten onnistumisprosenttia.

Viranomaisten tulisikin olla erityisen tietoisia siitä, että tekstiä, kuvia, videoita ja ääntä voidaan käyttää jäljittelemään heitä tai muita virallisen tiedon lähteitä.

Taru ja totuus sekottuvat

Ilmaiset ja helposti käytettävät AI-työkalut ovat tuottaneet valtavan määrän väärennettyjä kuvia ja videoita ehdokkaista tai heidän kannattajistaan. AI-tuotoksissa kanditaatit kertovat naamallaan asioita, joita he eivät ole kuunaan sanoneet tai esiintyvät paikoissa, joissa he eivät ole ikinä olleet. Kaikki tämä leviää verkossa suhteellisen helposti anonymiteetin suojan turvin.

Tekoäly on muokannut vaalituloksia tiettävästi ainakin jo 50 maan vaaleissa. Esimerkiksi toukokuussa Kanadassa pääministerikanditaatti Mark Carney polski väärennetyssä kuvassa seksirikollinen Jeffrrey Epsteinin kanssa lämminhenkisesti uima-altaassa.

Venäjältä AI:n avulla generoitu ja levitetty lehtiartikkeli kertoi puolestaan syyskesällä terrori-iskun peruuttavan Puolan vaalit. Maaliskuussa Romanian vaalitaiston tiimellyksessä presidentti Donald Trump ylisti tiettyä ehdokasta AI:n luomalla videolla.

Todellisuus on toista maata

OpenAI:n kehittämä Sora-sovellus tarvitsee ainoastaan tekstikehotteen luodakseen lähes millaista videokuvaa tahansa. Käyttäjät voivat ladata kuvia myös itsestään, jolloin heidän olemuksensa ja äänensä voidaan sisällyttää kuvitteellisiin kohtauksiin.

Sovellus pystyy liittämään porukkaan myös fiktiivisiä hahmoja, yritysten logoja ja jopa julkisuuden henkilöitä menneisyydestä. Kuviahan ne vain ovat.

Asiantuntijoiden mukaan Sora, Googlen Veo 3 ja muut vastaavat työkalut saattavat pian olla yhä houkuttelevampi keino väärän tiedon levittämiseksi. Huoli tekoälyn kyvystä tuottaa harhaanjohtavaa sisältöä ja suoranaisia valheita onkin kasvanut tasaisesti viime vuosina. Pelkästään Soran vauhdikas kehitys todistaa, kuinka helppoa valemateriaalin tuottaminen on tänään ja kuinka vakuuttavaa se jo on.