Internete kasdien matome daugybę nuotraukų, paveikslėlių ir vaizdo įrašų, tačiau kartais, pagauti informacijos srovės, nė nepastebime, kad dalis jų – netikri. Nors kai kurie jų yra visai nekenksmingi, per pasaulį nuaidėjęs atvejis, kai sukčius, pasinaudojęs dirbtinio intelekto (DI) sugeneruotomis aktoriaus Brado Pitto nuotraukomis, iš prancūzės išviliojo daugiau nei 830 tūkst. eurų – pavyzdys, kaip vaizdo klastotės (angl. deep fake) naudojamos rimtoms finansinėms aferoms ar kitiems nusikaltimams vykdyti.
Vaizdo klastotės gali duoti ir naudos
Šiandien vaizdo klastotės turi gana neigiamą konotaciją, tačiau pirmieji bandymai vykdyti tikrai ne piktavaliais sumetimais, tikina DI technologijų kūrėjas, VILNIUS TECH Elektroninių sistemų katedros vedėjas prof. dr. Artūras Serackis.
Anot jo, tokių technologijų vystymąsi lėmė paprasčiausias noras DI pagalba generuoti žmonių atvaizdus ir kitus vaizdus. Iš pradžių vaizdai buvo netobuli, neryškūs ir stokojantys detalių, tačiau dabartiniai DI sprendimai leidžia sugeneruoti bet kurio žmogaus veidą, balsą, įkelti suklastotą asmens atvaizdą į vaizdo įrašą ar net tiesioginę transliaciją. Tokios klastotės dažnai naudojamos norint pajuokauti ir pasilinksminti, o kartais gali atnešti ir nemažai naudos.
„Yra DI technologijos, leidžiančios sukurti žmogaus skaitmeninį dvynį, šnekantį tuos pačius dalykus, tačiau kita kalba, – pasakoja prof. dr. A. Serackis. Tokie sprendimai galėtų būti pritaikomi kino industrijoje. – Įsivaizduokite – nueinate į kino teatrą ir vietoje to, kad skaitytumėte titrus, ar girdėtumėte kitų žmonių įgarsinimą, matytumėte savo mylimiausią aktorių, kalbantį lietuviškai, tačiau savo balsu. Būtų didžiulis efektas.“
Nors toks prototipas kol kas nėra įgyvendinamas, skaitmeninį dvynį galima puikiai pritaikyti studijų procese. DI segeneruotas „virtualus mokytojas“ – puikus pagalbininkas dėstytojams, ypač – šiais laikais.
„Pastebėjome, kad studentai labiau mėgsta tuos studijų dalykus, kuriuose yra galimybė paskaitos vaizdo įrašus peržiūrėti vėliau, tačiau kai kuriems dėstytojams tai sukelia diskomfortą. Tuo tarpu „virtualus mokytojas“ su dėstytojo, ar kito žmogaus veidu pagal pateiktą medžiagą sukuria vaizdo įrašą, kurį galima perklausyti kad ir kelis kartus. Be to, jei kažkokie fragmentai, formulės ar metodai toje paskaitoje paaiškinti nesuprantamai, galima paprašyti DI pateikti kitą vaizdo įrašą, kuriame „dėstytojas“ papasakos daugiau detalių arba kitaip sukonstruos pasakojimą“, – dalijasi VILNIUS TECH profesorius.
Daugėja grėsmių
Nors tobulėjantys DI įrankiai leidžia kurti vis įspūdingesnes, tikroviškesnes klastotes, kartu tai sukelia ir daugiau grėsmių. Nors pačios technologijos savaime nėra blogos, ar skirtos apgavystėms vykdyti, jos – lengvai prieinamos, tad jomis gali pasinaudoti visi žmonės, net ir tie, kurių kėslai – ne patys doriausi, sako prof. dr. A. Serackis.
Neretai vaizdo klastotės naudojamos rinkimų metu, siekiant diskredituoti politikus ir kitaip jiems pakenkti. Vis dėlto, rinkimai nėra ta sritis, kur vaizdo klastotės naudojamos dažniausiai ir padaro didžiausią žalą. Moterų žurnalistikoje koalicija (angl. – The Coalition For Women In Journalism) atliko tyrimą, kurio metu nustatė, kad per pastaruosius dvejus metus daugiausiai žalos padarė klastotės, naudotos patyčioms skatinti, dezinformacijai skleisti ir pornografijoje.
„Vienas iš pavyzdžių – atvejis JAV, kai Carmel High School mokiniai suklastojo mokyklos direktoriaus atvaizdą ir išplatino įrašą, kuriame jis neva peikė juodaodžius moksleivius ir taip įžeidė didelę bendruomenės dalį. Vis tik įžeista bendruomenė nesulaukė tinkamos reakcijos iš mokyklos, tad jos vadovybei net norėta iškelti ieškinius. Tokia pati klastotė buvo panaudota ir kitoje mokykloje.
Kartais žmonių atvaizdai panaudojami ir pornografiniuose filmuose, vaizdo įrašuose ir dar yra paviešinami. Tai – sudėtingi ir itin jautrūs atvejai, nes dažniausiai tokie įrašai platinami privačiuose, ar nelabai kontroliuojamuose kanaluose“, – dalijasi prof. dr. A. Serackis.
Atpažinti vaizdo klastotes – įmanoma
Vis dėlto, profesorius tikina, kad net ir aukščiausios kokybės išmaniąją vaizdo klastotę atpažinti įmanoma, ypač tada, kai veidas vaizdo įraše juda. Pasitaiko, kad vaizdo klastotės pasitelkiamos tiesioginių transliacijų, ar vaizdo pokalbių metu, tačiau tokiu atveju naudojamos kiek paprastesnės DI technologijos, kurias lengviau atpažinti.
„Jei matote, kad žmogus atrodo ne taip, kaip turėtų, paprašykite pasukti galvą 90 laipsnių kampu arba pamojuoti ranka priešais veidą ranka. Jei tai – klastotė, sutriks veido atpažinimo ir vaizdo generavimo procesas. Tai – paprastas, praktinis pavyzdys, tačiau svarbus, nes tokie įrašai padaro tikrai daug žalos“, – pataria VILNIUS TECH mokslininkas.
Prof. dr. A. Serackis ragina atkreipti dėmesį ir į vaizdo įrašuose matomą foną – dėl ribotų technologijų jis dažniausiai būna baltas, apšvietimas – tolygus, beveik nėra šešėlių.
Tuo tarpu atpažinti, ar nuotraukos suklastotos, ar ne, gali padėti DI daromos klaidos, dažnai susijusios su žmogaus anatomija – pavyzdžiui, pavaizduojama per daug ar per mažai pirštų. Vaizdo klastotes išduoda ir įvairios funkcionalumo anomalijos, ar neveikiantys fizikos dėsniai, kurių iš pirmo žvilgsnio kartais ir nepastebime – pavyzdžiui, keisto ir nelabai įmanomo atspindžio veidrodyje.
Įtarimų gali sukelti nuotraukose vaizduojamos neįprastos situacijos, socialinės, ar kultūrinės anomalijos, pavyzdžiui, viešai besiglėbesčiuojantys japonai, nes artimas ir viešas fizinis kontaktas šiai tautai nėra būdingas.
„Dar įdomesnis dalykas – biometriniai artefaktai. Kai generuojama vaizdo klastotė su žinomu žmogumi, tam tikri bruožai gali būti sugeneruoti neteisingai, pavyzdžiui, ausies forma. Kiekvieno žmogaus ausys – unikalios, kaip ir pirštų antspaudai, todėl gali būti naudojamos asmens atpažinimui. Be to, DI sugeneruotos nuotraukos dažnai būna per daug stilizuotos, bruožai – išplauti, o spalvos – per daug išraiškingos“, – dalijasi Elektroninių sistemų katedros vedėjas.
VILNIUS TECH mokslininkų kuriamas DI įrankis – operatyviam klastočių atpažinimui
Vaizdo klastočių atpažinimui taip pat yra kuriamos išmanios technologijos. Šiuo metu prof. dr. A. Serackis su komanda kuria inovatyvų DI sprendimą, kuris leis akimirksniu identifikuoti vaizdo klastotes, ypač tas, kurias sugeneravo DI, ir taip užkirsti kelią manipuliacijoms vaizdu informacinėje erdvėje.
„Mūsų kuriamas sprendimas, naudojantis vaizdo atpažinimo technologijas, geba nustatyti ir analizuoti itin didelį kiekį veido taškų – stebime veido raumenų judesių, mimikos, net akies vyzdžio pokyčių seką ir galime identifikuoti, ar šie pokyčiai yra sugeneruoti“, – sako mokslininkas.
Tiesa, kad šis prototipas aptiktų klastotę, reikia naudoti ilgesnius vaizdo įrašus, kuriuose judėtų žmogaus galva ir veido raumenys. Tai kiek apriboja įrankio taikymą ir verčia ieškoti kompromisų, tačiau profesorius tikina – vaizdo klastočių aptikimo įrankių kūrimas yra nesibaigiantis, iššūkių kupinas procesas, reikalaujantis vis išmanesnių sprendimų.
„Kartais DI daromos klaidos atrodo juokingos ir lengvai atpažįstamos, tačiau jeigu pats DI nesugeba atskirti, kiek ir kokių rankos pirštų reikia sugeneruoti, sukurti sprendimą, kuris tas klaidas automatiškai aptiktų ir atpažintų, yra didelis iššūkis. Vos sukurtos technologijos, kurios tas klaidas atpažįsta, pereina į generatyvinį dirbtinį intelektą.
Taigi, kas veikė prieš pusmetį, šiandien jau nebeveikia, tad savo prototipą vis tobuliname. Naudojame naujausius vaizdo klastočių kūrimo įrankius, kad jį „apgautume“, o tuomet ieškome naujų būdų, kaip šios apgaulės išvengti. Stebime, kaip kiti tyrėjai aptinka vaizdo klastotes ir stengiamės savo prototipą papildyti panašiais sprendimais. Be to, tampa aktualu atpažinti ir vaizdo įrašų montažą, kai asmuo vaizduojamas aplinkoje, kurioje nėra buvęs, rodoma, jog apsilankė kokiame nors mieste, nors realiai į jį nebuvo atvykęs. Tai kiek kitokių technologijų reikalaujantis klastotės aptikimo iššūkis, tačiau ir šiam uždaviniui ieškome sprendimo“, – dalijasi prof. dr. Artūras Serackis.
Kai praėjusį kovą Ukrainos viešojoje erdvėje pasklidusiame vaizdo įraše šalies prezidentas paragino piliečius sudėti ginklus ir pasiduoti Rusijai, daugeliui abejonių nekilo. Tai tebuvo prastos kokybės gilioji klastotė (angl. deepfake), kurią išdavė prastai atkartotas tonas ir nenatūralūs judesiai. Tačiau suklastoti vaizdo įrašai tobulėja ir pamažu tampa kasdienio mūsų informacinio fono dalimi, tad juos atpažinti darosi gyvybiškai svarbu.
Dirbtinio intelekto (DI) komunikacijos kompanija „DeepMedia“ prognozuoja, jog vien šiemet socialiniuose tinkluose bus pasidalinta 500 tūkstančių video ir balso klastočių, o ateinančiais metais šis skaičius turėtų augti bent keletu kartų.
„Dar praėjusių metų pradžioje, norint nuklonuoti tam tikro asmens balsą, būtų reikėję pakloti maždaug 10 tūkstančių eurų už tam reikalingus serverio pajėgumus ir DI algoritmus. Šiandien įvairūs startuoliai šią paslaugą siūlo vos už keletą eurų, todėl ilgainiui turėsime susitaikyti su giliųjų klastočių egzistavimu ir išmokti neužkibti ant jų kabliuko. Didžiosios bendrovės jų atpažinimui siekia panaudoti kraujagyslių skenavimą ir kitus pažangius būdus, bet kol kas prastesnes klastotes dar galime pastebėti atkreipę dėmesį į išsiliejusias detales, nenatūralius lūpų judesius ir ją platinantį šaltinį“, – teigia „Telia“ Skaitmeninės pažangos centro dirbtinio intelekto ekspertas prof. Paulius Pakutinskas.
Klastotės jokiu būdu nėra nauji reiškiniai, jos gali būti vertinamos kaip nauja senesnės technologijos išraiška. „Deepfake“ technologija turi rimtų pasekmių visos audiovizualinės medžiagos patikimumui, o tai gali sukelti daug įvairių galimų socialinių ir finansinių nuostolių, taip pat manipuliavimą demokratiniais procesais ir finansų, teisingumo ir mokslo sistemomis. Tad garso ir grafiniai įrodymai turės būti vertinami su didesniu skepticizmu ir atitikti aukštesnius standartus.
Nuo šantažo iki sugadintos karjeros
P. Pakutinskas atkreipia dėmesį, kad giliosios klastotės gali turėti įtakos ir kasdieniame žmonių gyvenime. Sukčiai jau naudojasi jomis, siekdami išvilioti pinigus už tariamai avarijoje nukentėjusius artimuosius. Bandydami įrodyti apgaulę, nusikaltėliai suklastoja vaizdo įrašą iš įvykio vietos ar šantažuoja sukurtomis kompromituojančiomis nuotraukomis su žmonių veidais.
„Giliosioms klastotėms skverbiantis į mūsų kasdienybę, žmonės gali atsidurti situacijose, kuriose tikrai nenorėtų būti. Pavyzdžiui, pornografinio pobūdžio nuotraukose panaudojamas žmogaus veidas, o tyčia pabloginus kokybę tampa beveik neįmanoma atskirti, ar tai yra klastotė. Taip žmonės yra šantažuojami, siekiant finansinės naudos ar kitų savanaudiškų paskatų“, – atskleidžia P. Pakutinskas.
Tokios klastotės gali turėti neigiamos įtakos ir žmonių karjerai, ypač darbo vietose, kuriose yra reikalinga nepriekaištinga reputacija. Nuotraukoms pasklidus internete, jas gali pamatyti ir darbdaviai, ir klientai, o tai gali padaryti nepataisomą žalą ir sugadinti žmogaus gyvenimą.
Skaitmeninės pažangos centro ekspertas pabrėžia, kad kuo suklastotos nuotraukos ar vaizdo įrašo kokybė prastesnė, tuo sunkiau gali būti ją identifikuoti, todėl žmonės turėtų būti itin budrūs tokiose situacijose ir aklai nepasitikėti visa pamatoma skaitmeninės erdvės informacija. Svarbu nuolat ją patikrinti kelis kartus ir keliuose patikimuose šaltiniuose.
Išduoda kraujotaka ir akys
Giliosios klastotės savo vardą pelnė dėl jų kūrimui naudojamos giliojo mokymosi technologijos, kuri, pasitelkdama DI algoritmus ir didžiulius duomenų kiekius, „išmoksta“, kaip mums reikalingo asmens veidas atrodo iš skirtingų kampų, ir jį paverčia savotiška skaitmenine kauke. Taip atsiranda galimybė pastarąją „uždėti“ kokiame nors kitame vaizdo įraše nufilmuotam asmeniui, apgavystę papildant DI taip pat išmoktu protagonisto balsu.
Kol visa tai mėgėjiškai naudojama vienų garsių aktorių pakeitimu kitais populiarių filmų scenose ar satyriniams Tomo Kruzo klipams, kuriuose pastarasis įkūnijamas į valytoją, didelės grėsmės nėra. Deja, analitikai baiminasi, kad šie technologiniai sprendimai gali būti panaudoti, pavyzdžiui per kitąmet vyksiančius JAV prezidento rinkimus, kaip priemonė skleisti dezinformaciją apie kandidatus. Tokios priemonės gali būti pasitelktos ir kitose situacijose kada norima iškreipti, suklastoti realybę, dezinformuoti žmones.
„Siekiant kuo greičiau iš socialinių tinklų pašalinti tokias klastotes, tampa vis aktualiau jas greitai ir patikimai atpažinti. Kompiuterių inžinerijos milžinė „Intel“ šį procesą ketina palengvinti naudodama Fotopletizmografijos technologiją, kuri vaizdo įraše aptiks jame rodomo asmens veido kraujotaką. Bendrovės mokslininkai pastebėjo, jog priešingai, nei autentiškuose klipuose kalbančių žmonių, DI „kaukių“ veido kraujagyslės nesusitraukinėja. Be to, šiai sistemai padeda ir tai, kad „deepfake“ akys nebūna sukoncentravusios žvilgsnio ir juda atskirai viena nuo kitos“, – atskleidžia P. Pakutinskas.
„Intel“ teigimu, „FakeCatcher“ pakrikštyta sistema pasižymi net 96 proc. klastočių atpažinimo efektyvumu, tačiau ją išbandę BBC atstovai pastebėjo, jog tokius puikius rezultatus pasiekti pavyksta tik turint pakankamai geros kokybės vaizdo įrašus.
Kol kas pakanka pastabumo
Nors „Intel“ sistemos testai rodo didelį potencialą, „Telia“ Skaitmeninės pažangos centro atstovo teigimu, kol kas didžiąją dalį giliųjų klastočių gali padėti atskirti elementarus pastabumas. Pastebėjus įtartiną vaizdo įrašą socialinėje erdvėje, pirmiausia reikėtų įvertinti, ar jis nėra paskelbtas iš įtartino bei jokios kitos asmeninės informacijos neturinčio profilio. Pastarieji įprastai sukuriami būtent dezinformacijos skleidimui, todėl tai aptikus mintyse iškart turėtų užsidegti raudona lemputė.
„Po to dėmesį vertėtų nukreipti į kalbantįjį. DI kol kas dar nesugeba idealiai atkartoti odos reljefo, todėl patartina įsižiūrėti, ar skruostų ir kaktos odos amžius nesiskiria – ar oda nėra per raukšlėta, o gal kaip tik pernelyg lygi, ar ji sutampa su kitų kūno dalių oda. Algoritmams kyla sunkumų ir su apgamais, barzda bei kitomis mažesnėmis detalėmis, todėl vaizdo įrašai gali atrodyti lyg susilieję ir neryškūs. Visgi klastotojams dažniausiai koją pakiša nenatūrali kūno kalba, tam asmeniui nebūdingas mirksėjimo dažnis ir, žinoma, lūpų judesiai, vis dar neretai atrodantys, kaip primontuoti nuo kito žmogaus“, – giliųjų klastočių atpažinimo būdus vardina pašnekovas.
Vis dėlto specialistas prognozuoja, jog šie paprasti metodai gali nebeveikti jau po poros metų. Piktų kėslų turintys asmenys puikiai supranta dabartinius technologijų ribotumus, todėl investuoja į DI algoritmų tobulinimą ir bando ištaisyti visas jų spragas.
Ateityje – neišvengiamas reguliavimas
Pasak „Telia“ Skaitmeninės pažangos centro eksperto, stebint spartų DI technologijų vystymąsi, neatmestina, kad jau po trejų-ketverių metų viešojoje erdvėje galėtų sklisti plika akimi nuo tikrovės neatskiriamos klastotės, kas kelia didelį pavojų net nacionaliniam saugumui ir visuomenėje vykstantiems procesams. Nenuostabu, kad pasaulyje vis labiau linkstama į griežtesnį „deepfake“ teisinį reguliavimą.
„Pirmoji šiuo keliu žengė Kinija, dar šių metų pradžioje įpareigojusi giliųjų klastočių kūrimo paslaugas teikiančias bendroves gauti naudotojų tapatybes. Ši šalis taip pat nusprendė privalomai ženklinti visą su šia technologija susijusį turinį. Giliųjų klastočių grėsmių neignoruoti nusprendė ir Kanada, be visuomenės švietimo ir investicijų į „deepfake“ aptikimo sprendimus, nusprendusi kurti blogais tikslais platinamas klastotes draudžiančius teisės aktus“, – užsienio praktika dalinasi ekspertas.
„Deepfake“ keliamų rizikų klausimus Europos Sąjunga sprendžia net keliuose svarbiuose teisės norminiuose aktuose, priimtas atskiras ES kovos su dezinformacija praktikos kodeksas bei Skaitmeninių paslaugų aktas, kurie galės daryti žymią įtaką ir didžiausioms technologijų kompanijoms, jų valdomoms socialinių tinklų platformoms.
Europos Sąjunga siekia sistemiškai reguliuoti ir valdyti galimas DI rizikas skirstydama DI sprendimus pagal jų galimai keliamą riziką. Sprendimus prieštaraujančius ES vertybėms ir pažeidžiančius žmogaus teises visiškai drausti, o aukštos rizikos sprendimus griežtai reguliuoti ir kovoti ne tik su pasekmėmis, bet ir taikyti išankstinį reguliavimą, todėl priėmus Dirbtinio Intelekto Aktą galime tikėtis naujų griežtų teisinių priemonių kovojant ir su „deepfake“.
Per pastaruosius kelis dešimtmečius dirbtinis intelektas sparčiai vystėsi – dabar jis pritaikomas ir teikia naudą įvairiose srityse, tačiau kibernetinių nusikaltėlių rankose jis gali pridaryti nemažai žalos. Šia technologija paremtos giliųjų klastočių (angl. „deepfake“) apgaulės kelia grėsmę vartotojų ir įmonių saugumui internete. Svarbu žinoti ne tik kaip veikia ši virtuali apgaulė, bet ir gebėti atpažinti ją išduodančius ženklus.
„Itin tikroviškai suklastotas vaizdinis arba garsinis turinys gali lengvai suklaidinti vartotojus. Žinojimas, kaip veikia ši technologija ir kokie ženklai signalizuoja apie padirbtą turinį, leidžia žmonėms atskirti šio tipo atakas bei nuo jų apsisaugoti“, – teigia Mantas Užupis, „Tele2“ IT saugumo ekspertas.
Vaizdo ir garso turinio padirbimas
Giliosios klastotės, geriau žinomos kaip „deepfake“ apgaulės, yra apibūdinamos kaip vaizdo ar garso padirbimas, naudojant dirbtinį intelektą ir mašininį mokymąsi. Giluminės klastotės imituoja žmonių veidus, judesius ir balsus taip tiksliai, kad dažnai iš pirmo žvilgsnio jų neįmanoma atskirti nuo tikrų.
Dėl itin sudėtingų mašininio mokymosi algoritmų galima manipuliuoti biometriniais duomenimis, pavyzdžiui, veido išraiškomis ir žmogaus balso tembru. Taip siekiama sukurti tikroviškus, niekada neįvykusių įvykių ar pasisakymų, atvaizdus. Viena vertus, technologijos potencialas keisti garsą ir vaizdo įrašus teikia naudą filmų, garso inžinierių ir reklamos agentūrų veiklose, tačiau šios technologijos kelia grėsmę, nes yra naudojamos apgaulei bei neteisingos informacijos skleidimui.
Naudojamos technologijos
Giliosios klastotės remiasi dirbtinio intelekto kompiuterinėmis sistemomis, vadinamomis dirbtiniais neuronų tinklais. Norint sukurti „deepfake“ turinį, kūrėjas šiam neuronų tinklui turi pateikti didžiulį kiekį tikros medžiagos, kad apmokytų kompiuterį atpažinti detalias žmogaus savybes. Tai padeda algoritmui realiai suprasti, kaip asmuo atrodo iš skirtingų kampų.
Apmokytas neuronų tinklas sujungiamas su kompiuterinės grafikos metodais, kad reali medžiaga būtų uždengta dirbtinio intelekto sintetintais veido ir kalbos modeliais. Nors manoma, kad giluminei klastotei reikia sudėtingų įrankių ir ekspertinių įgūdžių, tai nėra tiesa – ją galima sukurti ir turint elementarias kompiuterinės grafikos žinias. Kadangi internete gausu laisvai prieinamo vaizdo ir garso turinio – kibernetiniai nusikaltėliai turi puikias sąlygas jį panaudoti giliųjų klastočių kūrimui bei skleidimui socialiniuose tinkluose.
Apgaulės atpažinimas
Nors vaizdo ir garso klastotės neretai būna itin įtikinamos, visgi keli požymiai gali įspėti vartotojus apie šio tipo ataką. Pirmasis ir svarbiausias žingsnis – atidžiau pažvelgti į įrašo šaltinį, kokybę ir detales, kurios išduoda apie turinio suklastojimą.
Nenatūralus kalbos ritmas. Kuriant „deepfake“ turinį siekiama padaryti vaizdo įrašą kuo tikroviškesnį, tačiau jo garsui nėra skiriama labai daug dėmesio. Todėl padirbtuose įrašuose žmonės gali kalbėti su itin monotonišku balsu, neteisingai ar keistai tarti žodžius, gali būti girdimas foninis triukšmas arba aidas. Palyginę kelis to paties kalbėtojo įrašus tarpusavyje, vartotojai gali įsitikinti, ar balsas ir kalbėjimo tonas sutampa.
Nenatūralus mirksėjimas ar judesiai. Žmogus paprastai mirksi kas 2-8 sekundes, tačiau „deepfake“ technologija dar neįvaldė tokio gebėjimo. Jeigu abejojama vaizdo įrašo originalumu, vertėtų pastebėti akių judesius – klastotėse žmonės mirksi nenatūraliai arba nemirksi visai. Kadangi technologija vis dar tobulinama, perėjimai nuo vienos veido išraiškos prie kitos taip pat atrodo nenatūraliai. Padirbtuose įrašuose kalbantys asmenys paprastai atrodo taip, tarsi šiek tiek persistengtų. Be to, jų burnos judesiai nėra visiškai sinchronizuoti su kalba, pastebimi trūkčiojantys kūno judesiai.
Apšvietimo pokyčiai. Klastojant vaizdo įrašą daug dėmesio skiriama veido perėjimui tarp kadrų, tačiau neretai pamirštamas skiriamojo objekto ir jo aplinkos apšvietimo sureguliavimas. Jeigu pastebimas netaisyklingas šviesos šaltinio pasikeitimas arba jeigu objekto ryškumas kadruose akivaizdžiai skiriasi – įrašas gali būti suklastotas.
Odos spalva. Vienas geriausių būdų nustatyti, ar įrašas suklastotas – ieškoti odos spalvos pokyčių ir nenatūralių linijų ant veido, žyminčių dviejų odos atspalvių pasikeitimą. Pastebėjus, kad perėjimas tarp odos atspalvių yra netolygus ir mirguliuoja kraštuose, galima įtarti, jog vaizdo įrašas sukurtas naudojant „deepfake“ technologiją.
Kelios lyderiaujančios technologijų bendrovės jau kuria savo sprendimus, kaip kovoti su „deepfake“. „Microsoft“ ir „Google“ teikia duomenų rinkinius, kuriais naudodamiesi kūrėjai gali mokyti savo sistemas aptikti gilumines klastotes. Bendrovė „Facebook“ kartu su „Microsoft“, „Amazon Web Services“ ir pirmaujančiais pasaulio universitetais paskelbė „Deepfake Detection Challenge“, kurio tikslas – sukurti suklastotų vaizdo įrašų aptikimo sprendimus.
