Umělá inteligence (AI) vstupuje do našich životů čím dál více, aniž bychom si toho často všimli. AI se velice rychle vyvíjí a neustále překvapuje, čeho všeho je schopná. Ve světě financí ji začali velice rychle využívat jak banky, pojišťovny a jiné finanční instituce, tak i podvodníci, kteří se s její pomocí snaží dostat k penězům. Někdy se je snaží podvést jednotlivci, kteří si chtějí pořídit vysoký úvěr, na který by za normálních okolností nedosáhli, a tak padělají třeba své výpisy z účtu s nadějí, že banka podvod nepozná. Jindy jde o organizované gangy, které kromě padělaných účtů vytvoří i falešné identifikační doklady. Podvodníci jsou velmi kreativní, a proto musí být finanční instituce v ochraně peněz o krok před nimi.
Právě proto zmíněné společnosti stále aktivněji využívají služeb firem, které jim účinně pomáhají ochránit nejen peníze svých klientů, ale také svoje vlastní. Ve finančním sektoru všechny společnosti využívají automatizované systémy, které mají za úkol žádost o úvěry vyhodnotit. Je však zapotřebí, aby do těchto systémů vstoupil ještě prvek kontroly, který pomůže pomocí určitých bodů vyhledat dodané dokumenty, které v sobě nesou stopy ukazující na falzifikát.
Pokud pracujete v odvětví, kde musíte řešit podvody a finanční zločiny, pak se vám při automatických procesech bez kontroly může stát, že si pozvete ty podvodníky přímo do domu,
říká Kristýna Schusterová ze společnosti Resistant AI. Jak tato firma pomáhá finančním institucím detekovat zfalšované dokumenty, popsala v rámci letošního ročníku konference Fin (R)Evoluce, kterou pořádá Měšec.cz. Mezi její klienty patří například Raiffeisenbank, Erste, MONETA Money Bank a další.
Co všechno umí AI zkontrolovat
Úkolem Resistant AI je zavést do automatických procesů kontrolu, která ukáže:
- jestli je dodaný dokument v dostačující kvalitě
- a zda se obsahu dokumentu dá věřit.
Ukázka zfalšovaných dokumentů
Tyto dokumenty jsme získali od dvou samostatných identit, které spolu na oko nemají nic společného,
ukazuje Kristýna Schusterová dva výpisy z účtu, jež pochází od dvou různých bank. Ale když se na ně podíváme detailně, tak obsahují stejné transakce, v části vpravo nahoře (Account summary) jsou úplně stejné částky a na obou dokumentech jsou patrné stejné záhyby na papíru. To je ale náhodička, když se má jednat o účty dvou různých osob, které spolu nemají nic společného.
Fotka dokumentu místo skenu. Že se pak podvod nepozná?
Takové dokumenty jsou schopni vytvořit nejen jednotlivci, kteří upraví své dokumenty, ale dělá to i organizovaný zločin, gangy, které tyto dokumenty upravují ve velkém pomocí ukradené identity. Používají pro to ukradená data, případně je nabízejí na internetu, kde existuje množství e-shopů, jejichž prostřednictvím si můžete za pár stovek koupit, jakýkoli dokument budete potřebovat.
Odborníci tomuto problému říkají anglicky „Serial Fraud and Template Farming“. Zde se můžete podívat na příběhu výše uvedených výpisů z účtů a cesty, jak ve skutečnosti vznikly.
Serial Fraud and Template Farming
Na začátku byl originál výpisu z banky Wells Fargo a my jsme potom objevili stejnou šablonu v datasetech od našich různých zákazníků. Vizuál vypadá úplně stejně, jen má pokaždé jiné logo dvou dalších bank. Podvodníci předělali formáty z digitálního PDF do obrázků, tím pádem nám do toho vstupuje úplně jiná textura tohoto dokumentu,
říká Kristýna Schusterová a dodává, že poté nastává analýza informací o pozadí na obrázku.
Padělatelé se totiž spoléhají na to, že když pošlou fotografii bankovního výpisu místo naskenovaného PDF, nebude mít finanční instituce moc velkou šanci podvod odhalit. Ale i fotografie se dá prověřit.
Podvodníci se snaží, aby ty dokumenty vypadaly náhodně, a využívají různé nástroje, aby ta pozadí změnili. Resistant AI pracuje s výsledky vlastní forenzní analýzy, dívá se na to, kde je daný dokument lokalizovaný, jaké je pozadí a zda se neopakuje. Na dodaných občanských průkazech nebo pasech pak sleduje, kde přesně na průkazu je obličej. Někdy totiž padělatelé s pomocí generativní AI vymění na fotografii vlasy, případně udělají širší nebo užší obličej. A nejen to. Program se umí podívat také na informace o zařízení, které ten který dokument vytvořilo nebo vyfotilo. Pokud je to možné, zajistí i jeho GPS lokaci.
Takových podvodů chytáme denně tisíce, může to být na bankovních dokladech, na identifikačních dokladech, na účtech za energie,
podotýká Schusterová.
Padělaná faktura za elektřinu. Do jednoho vzoru podvodníci dosazovali různá data
Tady je například účet za elektřinu ze Srí Lanky. Nejprve tento dokument vypadal v pořádku, jenže pak jsme jich začali dostávat víc a víc. Podařilo se nám je naclusterovat pomocí vizuální podobnosti, a tak vyšlo najevo, že se jedná o vzor, do kterého podvodníci doplňují osobní údaje, data a údaje o spotřebě,
popisuje odbornice. (Poznámka: Clustering, nebo také shlukování, je označení pro metodu strojového učení, kdy se dokumenty seskupují do shluků podle vzájemné podobnosti. Shlukům se pak přiřazují kategorie, například „falzifikát“ pro jeden shluk a „originál“ pro druhý.)
Lidské oko vidí jen části dokumentu. AI vidí všechno
Odhalit tyto detaily lidskými silami je velice těžké, protože lidské oko vidí jen výsek dokumentu, nedokáže vidět vše najednou a odhalit tak vzorec, který dané dokumenty spojuje. To jsou například transakce mezi jednotlivými identitami nebo fakt, že mají nějaké stejné vzorce chování. Zajímavá zde může být třeba informace o využití stejné IP adresy při registraci, nebo informace, že účty byly vytvořeny ve stejnou dobu, případně v nějaké sekvenci. Důležitá jsou i zjištění, že tvůrce dokumentu používat stejný telefon, SIM kartu, hesla nebo odpovědi na bezpečnostní otázku.
Mojí každodenní prací je pomáhat zákazníkům vymyslet řešení tohoto problému a naší odpovědí je systém řešení Defence in Depth (Hloubková obrana), které má několik vrstev. Ty mohou fungovat samostatně, ale síla je v jejich kombinaci, protože se navzájem doplňují, hlídají si své slabé stránky a předávají informace,
popisuje Kristýna Schusterová.
- První vrstvou je detekce úprav v jednotlivých dokumentech,
- druhou je hledání vzorců mezi těmito dokumenty,
- třetí vrstvou je sledování informací o zařízeních, které dokumenty vytvářely.
- Tyto tři moduly tvoří dohromady tzv. „Intelligence Firewall for AI Document Processing“.
- Na tento model ještě navazuje prověřování identity a monitoring rozšířených transakcí, který je schopen detekovat vzorce podvodného chování, například praní špinavých peněz.
Jak taková zabezpečená automatizace může vypadat?
Systém Intelligence Firewall for AI Document Processing umožňuje zachytit a stopnout dokumenty, které identifikoval jako upravené. Umí také upozornit na dokumenty, které není nezbytné nutně zamítat, ale které mohou znamenat, že nějakým způsobem neodpovídají z hlediska dodržování interní politiky té které finanční instituce, nebo jsou ve špatné kvalitě. A naopak dokumenty, které jsou v pořádku, pustí do dalšího procesu.
Naše práce má dopad na naše zákazníky v mnoha ohledech, ať už je to nárůst detekce podvodů, které do té doby nebyli schopni odhalit, tak i pro redukce manuální práce a zvýšení automatizace, ušetření nákladů za zpracování dokumentů a také za detekované podvody,
shrnuje Kristýna Schusterová.
ČLÁNKY DO MAILU