Vieno socialiniuose tinkluose paskelbto vaizdo įrašo jau gali pakakti žmogaus veidui ar balsui imituoti. Tobulėjant generatyviniam dirbtiniam intelektui, atskirti tikrą vaizdą nuo sugeneruoto tampa vis sunkiau, o technologijos kelia ne tik kūrybinių galimybių, bet ir naujų sukčiavimo, dezinformacijos bei tapatybės klastojimo rizikų.
Naujame „Tapk Geresniu“ tinklalaidės epizode kalbama apie deepfake technologijas, AI vaizdų atpažinimą, balso klonavimą, sukčiavimo schemas, Europos Sąjungos reguliavimą ir ateitį, kurioje vien vaizdo įrašo gali nebepakakti kaip patikimo įrodymo.
• Šaltinis: Artur Lebedenko, tinklalaidė „Tapk Geresniu“
Tomas Sakro – dirbtinio intelekto vaizdo kūrėjas, „Videoagency.lt“ įkūrėjas ir MB „SAKRO“ vadovas, Lietuvos dirbtinio intelekto asociacijos valdybos narys. Jis dėsto AI vaizdo kūrimą, o jo darbai buvo eksponuoti Lietuvos nacionaliniame muziejuje.
Pokalbio pradžioje praktiškai demonstruojama, kaip greitai šiuolaikiniai AI įrankiai gali pakeisti žmogaus išvaizdą vaizdo įraše. Pasak Tomo Sakro, technologijoms tobulėjant nebelieka daugelio anksčiau lengvai pastebimų deepfake požymių – veidas gali išlikti nuoseklus žmogui judant, keičiantis kameros kampui ar apšvietimui.
Laidoje analizuojami ir sugeneruoti Vilniaus vaizdai: raketa virš Baltojo tilto, karinė technika miesto gatvėse ar tariamos riaušės gyvenamajame rajone. Tokios scenos gali atrodyti įtikinamai, tačiau pašnekovas atkreipia dėmesį į detales, kurios vis dar gali išduoti generatyvinį AI – iškraipytus valstybinius numerius, nenatūraliai besikeičiančius objektus, žmonių dubliavimąsi fone ar fizikos neatitinkančius judesius.
Tačiau vien vizualinių klaidų paieškos ilgainiui gali nebepakakti. Pokalbyje pabrėžiama, kad šiuo metu nėra universalaus įrankio, galinčio kiekvienu atveju neklystamai nustatyti, ar konkretus vaizdas sukurtas dirbtiniu intelektu. Todėl vis svarbesni tampa turinio kilmės duomenys, ženklinimas, skaitmeniniai vandenženkliai ir pirminio šaltinio patikrinimas.
Laidoje aptariamos temos:
• Kaip iš nedidelio kiekio viešai prieinamos medžiagos galima sukurti įtikinamą žmogaus skaitmeninę imitaciją
• Kokios vaizdo detalės šiandien dar gali padėti atpažinti generatyvinio AI pėdsakus
• Kaip deepfake ir sintetinis turinys gali būti naudojami dezinformacijai bei sukčiavimui
• Ką keičia Europos Sąjungos reikalavimai dėl dirbtiniu intelektu sukurto ar manipuliuoto turinio ženklinimo
• Kaip nematomi skaitmeniniai vandenženkliai ir turinio kilmės duomenys galėtų padėti tikrinti vaizdo autentiškumą
• Kodėl nuotrauka, vaizdo įrašas ar balsas nebūtinai gali būti vertinami kaip savaime pakankamas įrodymas
• Kaip balso klonavimas naudojamas apsimetant artimaisiais ir kokie šeimos susitarimai gali padėti atpažinti apgavystę
• Kaip generatyvinis AI naudojamas pažinčių, tapatybės klastojimo ir kitose socialinės inžinerijos schemose
• Kiek gali kainuoti profesionalaus AI vaizdo kūrimas ir kodėl šios technologijos reikalauja didžiulių investicijų
• Kaip keisis pasitikėjimas skaitmeniniu turiniu, kai tikrovišką vaizdą galės sukurti beveik kiekvienas
Ypatingas dėmesys skiriamas balso klonavimui. Tobulėjant technologijoms, sukčiai gali mėginti imituoti šeimos nario balsą ir sukurti skubią situaciją, kurioje prašoma pinigų ar jautrios informacijos. Laidoje siūlomas paprastas apsaugos principas – šeimoje iš anksto sutarti kodinį sakinį ar klausimą, kurio nežinotų pašaliniai, o sulaukus netikėto prašymo neskubėti veikti ir susisiekti su artimuoju kitu būdu.
Pokalbyje nagrinėjama ir platesnė problema – vadinamasis pasitikėjimo paradoksas. Kuo daugiau visuomenė sužino apie galimybę klastoti vaizdą ir garsą, tuo lengviau tampa ne tik patikėti klastote, bet ir tikrą medžiagą paskelbti suklastota. Ateityje žmogus, užfiksuotas autentiškame įraše, teoriškai galėtų tiesiog teigti, kad tai buvo deepfake.
Tomas Sakro taip pat kalba apie generatyvinio AI ekonomiką, didžiules investicijas į infrastruktūrą, kūrybinių profesijų pokyčius ir klausimą, ar dabartinės AI paslaugų kainos išliks tokios pačios. Aptariama ir tai, kaip žmonėms išvengti spaudimo naudoti kiekvieną naują įrankį vien dėl baimės atsilikti nuo technologijų.
Šis „Tapk Geresniu“ tinklalaidės epizodas skirtas norintiems geriau suprasti deepfake technologijas, AI vaizdų kūrimą ir naujas skaitmeninio sukčiavimo rizikas. Pokalbis kelia vis aktualesnį klausimą: pasaulyje, kuriame beveik bet kokį vaizdą ar balsą galima imituoti, svarbiausiu įgūdžiu tampa ne vien gebėjimas pastebėti klastotę, bet ir mokėjimas patikrinti informacijos šaltinį prieš ja patikint.
