Na jednej strane je nápomocná, na druhej je využívaná ako nástroj podvodu. Dokážete odhaliť triky vytvorené umelou inteligenciou, ktorá vás má nalákať a emocionálne zneistiť? Stačí iba niekoľko sekúnd a AI hodnoverne napodobní váš hlas alebo vášho blízkeho. Na čo by ste si mali dávať pozor, aby ste odhalili falošné volania alebo správy z banky? Umelá inteligencia prináša množstvo možností, no zároveň aj nové riziká. Naučte sa rozpoznať varovné signály, ktoré vám pomôžu odhaliť podvody skôr, než sa necháte nachytať.
Podvody vytvorené umelou inteligenciou odhalíte tréningom
Ľudia majú vo všeobecnosti problém rozpoznať obsah generovaný umelou inteligenciou (AI). V prípade reči sa úspešnosť pohybuje okolo 60 percent, najťažšie rozpoznateľné sú však text a obrázky. V súvislosti so stúpajúcim počtom podvodov na to upozornil Róbert Móro z Kempelenovho inštitútu inteligentných technológií (KInIT). Zdôraznil však, že schopnosť ľudí správne rozlíšiť takýto obsah sa zvyšuje pomocou tréningu a spresnil, že v budúcnosti môžu pribúdať personalizované útoky:
- pri ktorých podvodníci využijú údaje z verejných statusov na sociálnych sieťach alebo správy získané phishingom na personalizáciu obsahu,
- týmto spôsobom dokážu vytvoriť odpovede napodobňujúce váš štýl vyjadrovania a pôsobiť ešte uveriteľnejšie.
Klinický psychológ a súdny znalec Dušan Kešický pripomenul, že to, či človek „naletí“ podvodníkom, nezávisí od veku či vzdelania. „Podvodníci sa nás snažia dostať do stavu emocionálnej destabilizácie – či už negatívnej, napríklad keď vyvolajú strach o našich blízkych, alebo pozitívnej, keď nám volajú s oznamom o výhre alebo zhodnotení našej investície,“ poznamenal. Vždy im však podľa neho ide o to, aby sme konali rýchlo a bez rozmýšľania.
Všímajte si detaily, ktoré prezradia veľa
Čoraz častejšie sa môžu objavovať aj podvody využívajúce AI modely, ktoré dokážu viesť autonómne konverzácie alebo v reálnom čase meniť tvár vo videu. Hoci stále platí, že veľké jazykové modely aj generátory reči najlepšie fungujú pre angličtinu, mnohé z nich už obstojne zvládnu aj slovenčinu. Čo sa týka syntézy reči, najnovšie AI modely potrebujú len niekoľkosekundovú nahrávku, aby dokázali „naklonovať“ daný hlas.
- V rámci textu si treba všímať najmä gramatické a štylistické chyby, nezvyčajné tvary slov či zvláštne formulácie.
- Obrázok vygenerovaný umelou inteligenciou môžu prezradiť nezrovnalosti v detailoch, nerealistické osvetlenie a tiene, nelogické pozadie či objekty, ktoré k sebe „nesedia“.
- Vo videu naopak pohyby úst nesedia s hovoreným slovom, postavy majú neprirodzené pohyby očí, prítomné sú aj nelogické detaily v pozadí.
- Reč produkovanú AI môžeme rozpoznať napríklad podľa neprirodzenej melódie reči či dôrazu na jednotlivé slová.
Univerzálny recept, ako sa podvodom úplne vyhnúť, neexistuje. „Tréningom, skúsenosťami sa tento proces obrusuje a stáva sa oveľa menej nebezpečným, avšak situácie, ktoré vyvolávajú títo útočníci, sú stále nové a nové, a preto je to nekonečný proces, ktorému sa nedá zabrániť,“ dodal psychológ. Kľúčové je však podľa neho, aby téma zostávala prítomná v povedomí ľudí.
Technologický riaditeľ jedného z mobilných operátorov Slavomír Pšenák v tejto súvislosti pripomenul, že podvodníci neustále menia svoje techniky. Poznamenal, že denne zablokujú až 70 tisíc podvodných telefonátov. Keďže operátori nepoznajú obsah komunikácie, je podľa jeho slov veľmi náročné vyhodnotiť, ktoré volanie je korektné, a ktoré realizujú podvodníci. „Platí zásada, že nemôžeme zablokovať žiaden korektný hovor, ktorý realizujú naši zákazníci,“ doplnil.
Zdieľať na
Zdieľaní