Gyvename laikais, kai posakis „pamatyti reiškia patikėti“ sparčiai praranda savo prasmę. Dar prieš dešimtmetį vaizdo įrašas buvo laikomas nepaneigiamu įrodymu – teisme, žiniasklaidoje ir privačiuose pokalbiuose. Tačiau šiandien, žiūrėdami į ekraną, mes žengiame į naują, pavojingai tikrovišką iliuzijų pasaulį. Tai pasaulis, kuriame pasaulio lyderiai gali paskelbti karą, kurio nėra, o jūsų įmonės vadovas gali „paskambinti“ vaizdo ryšiu ir paprašyti skubiai pervesti milijoną eurų į nežinomą sąskaitą. Sveiki atvykę į „Deepfake“ erą.
Deepfake atpažinimas tampa nebe tik technologijų entuziastų hobiu, bet gyvybiškai svarbiu įgūdžiu kiekvienam interneto vartotojui. Nuo paauglių, besilinksminančių socialiniuose tinkluose, iki senjorų, skaitančių naujienų portalus – mes visi esame potencialūs taikiniai. Tačiau kaip atsilaikyti prieš technologiją, kuri sukurta būtent tam, kad apgautų mūsų smegenis? Šiame straipsnyje mes ne tik pažvelgsime į techninius klastočių aspektus, bet ir išmokysime jūsų akis bei ausis pastebėti tai, kas slypi anapus tobulai sugeneruotų pikselių.
Kas iš tikrųjų slypi po „Deepfake“ sąvoka?
Prieš pradedant mokytis gynybos, būtina suprasti puolimo mechanizmą. „Deepfake“ (liet. gilusis klastojimas) yra dirbtinio intelekto (DI) technologija, naudojanti giluminio mokymosi algoritmus, kad pakeistų asmens veidą ar balsą kitu. Dažniausiai tam naudojami vadinamieji generatyviniai priešpriešiniai tinklai (GAN).
Įsivaizduokite du kompiuterinius tinklus, žaidžiančius katę ir pelę. Pirmasis tinklas, vadinamas „generatoriumi“, bando sukurti netikrą vaizdą. Antrasis, „diskriminatorius“, bando atspėti, ar vaizdas tikras, ar suklastotas. Jei diskriminatorius atpažįsta klastotę, generatorius mokosi iš savo klaidų ir bando dar kartą. Šis procesas kartojamas milijonus kartų, kol sukuriamas vaizdas tampa toks tikroviškas, kad net ir kitas dirbtinis intelektas sunkiai gali jį atskirti. Būtent dėl šios nuolatinės evoliucijos Deepfake atpažinimas tampa vis sudėtingesniu uždaviniu.
Vaizdiniai signalai: kai veidas išduoda paslaptį
Nors technologijos tobulėja žaibišku greičiu, jos vis dar nėra tobulos. Dirbtinis intelektas puikiai tvarkosi su bendru vaizdu, tačiau dažnai „paslysta“ detalėse. Žmogaus smegenys evoliucijos eigoje išmoko atpažinti kitų žmonių veidus ir emocijas su neįtikėtinu tikslumu. Mums tereikia išmokti įsiklausyti į tą vidinį nerimo jausmą, kuris kyla, kai kažkas atrodo „ne visai taip“.
1. Akių kontaktas ir mirksėjimas
Ankstyvieji „Deepfake“ algoritmai turėjo didelę problemą – jie nemokėjo priversti žmonių mirksėti. Klastotėse asmenys žiūrėdavo stiklinėmis akimis, nemirksėdami neįprastai ilgą laiką. Nors naujausios technologijos šią klaidą ištaisė, akys vis tiek išlieka silpnoji vieta.
- Nematuralus mirksėjimo dažnis: Žmogus paprastai mirksi kas 2–8 sekundes, o susijaudinęs – dažniau. Klastotėse mirksėjimas gali būti arba per retas, arba per daug ritmiškas, lyg metronomas.
- Žvilgsnio kryptis: Atkreipkite dėmesį, ar žmogaus akių obuoliai juda sinchroniškai su galvos judesiais. Kartais klastotėse akys atrodo „priklijuotos“ arba žiūri šiek tiek kita kryptimi nei turėtų pagal veido pasukimą.
- Rainelės atspindžiai: Tai yra „aukštojo pilotažo“ detekcija. Realiame gyvenime abiejų akių rainelėse turėtų matytis tas pats šviesos šaltinio atspindys. „Deepfake“ atveju šie atspindžiai dažnai nesutampa arba jų visai nėra.
2. Veido ribos ir tekstūros
Dirbtinis intelektas dažniausiai generuoja tik veidą, o tada jį „užklijuoja“ ant originalaus vaizdo įrašo veikėjo. Būtent šiose sujungimo vietose dažniausiai slypi klaidos.
- Suluiejimas (Blur): Atidžiai stebėkite žandikaulio liniją, kaktos sritį prie plaukų ir kaklą. Jei matote keistą neryškumą ar išsiliejimą, tarsi kažkas būtų panaudojęs „Photoshop“ suliejimo įrankį, tai rimtas pavojaus signalas.
- Odos tekstūra: „Deepfake“ veidai dažnai atrodo pernelyg glotnūs, tarsi vaškiniai. Jiems trūksta natūralių odos porų, smulkių raukšlelių ar netobulumų. Arba priešingai – raukšlės gali judėti nenatūraliai, nepriklausomai nuo veido mimikos.
- Dantys ir liežuvis: Algoritmai sunkiai sugeneruoja atskirus dantis. Klastotėse dantų eilė dažnai atrodo kaip vientisas baltas blokas, be aiškių tarpų. Taip pat atkreipkite dėmesį į liežuvį kalbant – jis gali atrodyti neryškus ar nenatūralios spalvos.
3. Apšvietimas ir šešėliai
Fizikos dėsniai yra negailestingi, o DI kartais juos pamiršta. Jei vaizdo įraše šviesa krinta iš kairės, o veido šešėliai atrodo taip, lyg šaltinis būtų dešinėje arba viršuje, turite reikalą su manipuliacija. Neretai pasitaiko, kad veido apšvietimas visiškai neatitinka aplinkos apšvietimo – pavyzdžiui, asmuo stovi lauke debesuotą dieną, bet jo veidas apšviestas ryškia studijine šviesa.
Garso klastotės: pavojus, kurio nematome
Kol visi susikoncentravę į vaizdą, garso klastojimo technologijos (angl. Audio Deepfakes arba Voice Cloning) pasiekė bauginantį lygį. Šiandien sukčiams užtenka vos kelių sekundžių jūsų balso įrašo (kurį galima gauti net iš „Instagram“ istorijos), kad suklastotų visą pokalbį.
Deepfake atpažinimas garso srityje reikalauja itin aštrios klausos. Dirbtinis balsas dažnai neturi tų smulkių niuansų, kurie būdingi gyvam žmogui:
- Kvėpavimas: Žmonės daro pauzes įkvėpti. DI generuota kalba kartais teka be jokių natūralių kvėpavimo pauzių arba jos įterpiamos nelogiškose vietose.
- Emocinis „plokštumas“: Nors technologijos tobulėja, robotams vis dar sunku perteikti sudėtingas emocijas – ironiją, sarkazmą, jaudulį ar baimę. Balsas gali skambėti monotoniškai net tada, kai sakomi žodžiai turėtų reikšti didelį susijaudinimą.
- Foniniai triukšmai: Garso klonavimo metu dažnai bandoma pašalinti originalų foninį triukšmą, todėl balsas gali skambėti pernelyg „švariai“, tarsi įrašytas vakuume, net jei vaizdo įraše žmogus yra triukšmingoje gatvėje.
- Tarimas ir kirčiavimas: Lietuvių kalba yra sudėtinga dėl savo kirčiavimo ir linksniavimo sistemos. Klastotės, sukurtos naudojant universalius modelius, dažnai daro keistas kirčiavimo klaidas arba taria žodžius su svetimu, sunkiai apibūdinamu akcentu.
Kontekstas – galingiausias ginklas
Dažnai geriausias būdas atpažinti klastotę yra ne technologinis, o loginis. Tai vadinamasis „sveiko proto testas“. Deepfake kūrėjai dažnai siekia sukelti stiprią emocinę reakciją – pyktį, baimę ar godumą (pavyzdžiui, žinomas verslininkas siūlo „stebuklingą“ investiciją). Jei emocijos užvaldo, kritinis mąstymas išsijungia.
Užduokite sau šiuos klausimus:
- Ar tai būdinga šiam asmeniui? Ar tikrai Lietuvos prezidentas reklamuotų neaiškią kriptovaliutų platformą? Ar tikrai populiarus aktorius viešai įžeidinėtų savo gerbėjus be jokios priežasties? Jei elgesys atrodo visiškai nebūdingas asmens charakteriui, tai pirmasis pavojaus signalas.
- Kur publikuotas turinys? Ar vaizdo įrašas yra patikimame naujienų portale, ar atsitiktinėje „Facebook“ grupėje, „TikTok“ paskyroje be sekėjų istorijos?
- Ar lūpos atitinka garsą? Tai senas, bet geras metodas. Kartais garso takelis yra pakeistas, bet vaizdas paliktas originalus (arba atvirkščiai). Jei lūpų judesiai vėluoja arba neatitinka tariamų garsų (pvz., lūpos susispaudžia tariant „B“ ar „P“, bet garso nėra), tai akivaizdi manipuliacija.
Psichologinis aspektas: kodėl mes tikime melu?
Svarbu suprasti, kad „Deepfake“ technologija veikia ne tik todėl, kad ji vizualiai įtikinama, bet ir todėl, kad ji išnaudoja mūsų psichologines spragas. Viena iš jų – patvirtinimo šališkumas (angl. Confirmation Bias). Mes esame labiau linkę tikėti informacija, kuri patvirtina mūsų jau turimus įsitikinimus.
Jei žmogus nekenčia tam tikro politiko, jis daug lengviau patikės suklastotu vaizdo įrašu, kuriame tas politikas daro kažką netinkamo, net jei klastotės kokybė nėra tobula. Deepfake atpažinimas prasideda nuo savistabos: „Ar aš tikiu šiuo vaizdo įrašu todėl, kad jis atrodo tikras, ar todėl, kad aš noriu, jog jis būtų tikras?“
Įrankiai ir technologinė pagalba
Kova su klastotėmis nėra vien tik žmogaus atsakomybė. Technologijų kompanijos kuria įrankius, padedančius automatizuoti atpažinimą. Nors eiliam vartotojui sudėtinga programinė įranga retai prieinama, yra keletas būdų pasitikrinti:
- Atvirkštinė vaizdų paieška (Reverse Image Search): Padarykite ekrano nuotrauką (screenshot) iš įtartino vaizdo įrašo ir įkelkite ją į „Google Images“, „TinEye“ ar „Yandex“. Gali paaiškėti, kad originalus vaizdo įrašas yra senas, o dabartinė versija – tiesiog pakeista.
- Metaduomenų analizė: Nors socialiniai tinklai dažnai išvalo metaduomenis, originaliuose failuose kartais lieka pėdsakų apie redagavimo programinę įrangą.
- Specializuotos platformos: Tokios organizacijos kaip „Deepware“ siūlo internetinius skaitytuvus, kur galima įkelti nuorodą ir gauti tikimybės įvertinimą, ar vaizdo įrašas yra klastotė. Tačiau aklai pasitikėti jais neverta – klastotojai nuolat bando apeiti šiuos detektorius.
Ateities prognozės: katės ir pelės žaidimas tęsiasi
Deepfake atpažinimas ateityje taps dar sudėtingesnis. Jau dabar matome realiu laiku veikiančias veido keitimo technologijas, kurios naudojamos vaizdo skambučių metu. Įmonės jau patyrė nuostolių, kai sukčiai, apsimetę vadovais per „Zoom“ ar „Teams“ susitikimus, nurodė darbuotojams atlikti pavedimus.
Kitas etapas – vadinamieji „Cheapfakes“ arba „Shallowfakes“. Tai techniškai paprastesnės manipuliacijos (pvz., vaizdo įrašo sulėtinimas, kad žmogus atrodytų girtas, arba konteksto pakeitimas), kurios nereikalauja sudėtingo DI, bet padaro ne mažesnę žalą. Todėl technologinis raštingumas turi eiti išvien su medijų raštingumu.
Praktinis gidas: ką daryti įtarus klastotę?
Jei susidūrėte su vaizdo įrašu, kuris kelia įtarimų, štai jūsų veiksmų planas:
- Nesidalinkite. Pirmiausia taisyklė – stabdykite plitimą. Kiekvienas pasidalinimas, net ir su prierašu „žiūrėkite, kokia nesąmonė“, didina turinio matomumą algoritmuose.
- Patikrinkite šaltinius. Ar apie tai rašo didieji Lietuvos ar užsienio naujienų portalai? Sensacingas vaizdo įrašas su žinomu asmeniu neabejotinai atsidurtų antraštėse.
- Ieškokite originalo. Dažnai „Deepfake“ kuriami ant jau egzistuojančių vaizdo įrašų (pvz., TED kalbų ar senų interviu). Raktiniai žodžiai paieškoje gali padėti rasti tikrąjį šaltinį.
- Praneškite platformai. Dauguma socialinių tinklų („Facebook“, „YouTube“, „Twitter/X“) turi specialias parinktis pranešti apie klaidinantį turinį ar manipuliacijas.
Pabaigai: skaitmeninis imunitetas
Deepfake atpažinimas nėra vienkartinis veiksmas ar stebuklinga programėlė, kurią galite įsidiegti į savo telefoną. Tai nuolatinė būsena, tam tikras „skaitmeninis imunitetas“, kurį turime ugdyti. Kaip plauname rankas saugodamiesi virusų, taip turime „plauti“ savo informacinį lauką kritiniu mąstymu.
Technologijos nėra nei geros, nei blogos – jos tiesiog yra įrankis. „Deepfake“ technologija gali būti naudojama kine, švietime, mene ar atkuriant istorinius asmenis muziejuose. Pavojus kyla ne iš pačių pikselių, o iš mūsų pasirengimo aklai tikėti tuo, ką matome. Kitą kartą, kai pamatysite vaizdo įrašą, kuris sukelia nuostabą ar pasipiktinimą, stabtelėkite. Įsižiūrėkite į akis. Įsiklausykite į balsą. Ir svarbiausia – įjunkite protą. Nes tiesa vis dar yra ten, tik ją surasti tampa šiek tiek sunkiau.