Ako v banke, poisťovni či inej finančnej inštitúcii nasadiť AI správne a bezpečne? V príspevku, ktorý vyšiel na odbornom serveri www.gdpr.cz, sa dozviete viac.
Pre finančný sektor platí celý rad špecifických regulácií. Niektoré sú prierezové a spoločné pre celý viac oblastí, ako sú napríklad pravidlá pre boj proti praniu špinavých peňazí a financovaniu terorizmu (AML/CFT) alebo pre ochranu spotrebiteľa. Iné predpisy upravujú poskytovanie distribúcie konkrétnych produktov, napríklad poistenie, investícií, úverov alebo novo aj kryptomien (nariadenie MiCA).
Pokiaľ sa na tieto povinnosti pozrieme rýdzo prevádzkovo, mnoho z nich vyžaduje zavedenie interných procesov a postupov, pri ktorých často opakujú veľmi obdobné kroky. Ide napríklad o kontrola dokumentov či dokladov predložených klientom, monitoring správnej komunikácie vlastných zamestnancov s klientmi, vyhodnocovanie podkladov, monitoring podozrivých alebo neobvyklých aktivít atď.
Procesy, ktoré sú už teraz realizované manuálne alebo poloautomaticky, zahŕňajú sériu opakujúcich sa krokov a existuje k nim množstvo dát a informácií… Áno, vidím to rovnako ako vy! Typický kandidát na vylepšenie pomocou umelej inteligencie!
Dáta máme, je na čom sa učiť a čo rozvíjať, poďme skúsiť byť efektívnejšie a ušetriť. Ušetriť čas, peniaze aj kapacity.
Ktoré činnosti sú vhodné pre AI?
V ktorých procesoch finančné inštitúcie môžu využívať, a často to už tiež skúšajú, niektoré prvky umelej inteligencie?
Typickými príkladmi sú:
- Ponuka produktov
- Určovanie cien a podmienok produktu
- Schvaľovanie žiadostí o finančný produkt či službu
- Identifikácia a kontrola klienta (tzv. KYC a KYT monitoring)
- Monitoring a vyhodnocovanie podozrení na podvodné konanie
- Podporné procesy na back-office, napr. vyhodnocovanie a spracovanie klientskych žiadostí
- Veľa činností v IT, od vývoja a testovania kódu, cez dátovú analytiku až po prevádzkový monitoring
Štyri hlavné riziká AI vo finančnom sektore
Využitie umelej inteligencie môže výrazne uľahčiť prácu. Konkrétnym zamestnancom aj celým tímom. Organizáciám ako takým môže AI ušetriť kapacity vynakladané na opakujúce sa procesy a činnosti.
Avšak nič v živote nie je zadarmo. Ani nasadenie umelej inteligencie. Aké sú hlavné riziká AI vo finančnom sektore? Môžeme ich rozdeliť do týchto štyroch kategórií:
1. Interné informácie
Osobné údaje, bankové tajomstvo, know-how, obchodné plány, informácie s dopadom na cenu akcií… Ak tieto informácie uniknú, napríklad k ďalším používateľom AI nástroja, môže to mať pre finančnú inštitúciu veľmi neblahé dôsledky.
2. Kybernetická bezpečnosť
Prílišné, lepšie povedané slepé spoliehanie sa na AI môže výrazne oslabiť celkovú úroveň kybernetickej bezpečnosti. Z jedného uhla pohľadu inštitúcii hrozí zavlečenie bezpečnostnej chyby či slabiny, ktorú jej poradí alebo naprogramuje AI. Na druhej strane je nutné byť si vedomý rizika neodhalenia alebo zlého posúdenia bezpečnostnej udalosti AI nástrojom. Ani jedno rozhodne nie je žiaducim výsledkom a veľa času, kapacít a peňazí takáto chyba neušetrí…
3. Regulácia
Či už sa jedná o prierezovú reguláciu, ako je GDPR, alebo sektorovú úpravu, nasadiť AI bez aspoň základného zhodnotenia a nastavenie dodatočných pravidiel môže byť problematické z radu aspektov.
Napríklad využitie osobných údajov pre vývoj AI alebo ich možné zdieľanie s ďalšími užívateľmi, prenos osobných údajov mimo EÚ, ale napríklad aj (ne)dokumentovateľnosť postupov finančnej inštitúcie, porušenie mlčanlivosti, nedostatočné zabezpečenie práv alebo priamo diskriminácia spotrebiteľa atď.
4. Právne riziká
Čítate si podmienky k využívaným AI službám? Viete, že obrázok, ktorý vám AI namaľuje, často vôbec nesmiete verejne používať, a že naopak ku všetkým vstupom dávate neobmedzenú licenciu prevádzkovateľovi služby?
Ste AI pštros?
Uviedli sme si štyri hlavné kategórie rizík využitia AI vo finančnom sektore. Ako AI vo finančnej inštitúcii, ale vlastne v akejkoľvek organizácii, interne riešiť?
Základnými možnosťami sú:
- AI neriešiť (scenár pštros)
- AI zakázať (scenár nahý cisár)
- AI primerane av pokoji kontrolovať
Aj bez bližšieho vysvetľovania je asi zjavné, ktorý variant je pre organizáciu najlepší. Najvýhodnejšie, najbezpečnejšie, najefektívnejšie. Len pre istotu, nie je to ani variant pštros, ani variant nahý cisár.
Prečo nie?
Pretože aj keď bude organizácia AI ignorovať, alebo ju cisárskym výnosom na veky vekov zakáže, väčšinou si k nej AI aj tak nájde cestičku. Možno najskôr na IT oddelení, kde bude niekto potajomky skúšať rýchlejšie a lepšie písať kód alebo testovať. Alebo na marketingu, ktorý bude chcieť lepšie obrázky a chytľavejšie slogany. Ignorovať riziká súvisiace s AI je jednoducho krátkozraké a každú organizáciu to skôr či neskôr doženie.
Ako AI využiť múdro a bezpečne?
Umelé inteligencie sa netreba báť. Je to nástroj ako každý iný, aj keď zrejme v rade ohľadov prelomový. Ale jednoducho nástroj, ktorý možno využiť v prospech spoločnosti, úradu, na ochranu verejných záujmov i práv jednotlivcov. Ako AI využívať múdro, kontrolovane a efektívne, s minimalizáciou rizík?
Kľúčom je týchto 8 krokov:
- Stanoviť jasnú stratégiu organizácie k AI
- Nastavenie a zavedenie pravidiel pre používanie AI
- Preškoliť zamestnancov o výhodách, nevýhodách a rizikách AI a podmienkach jej využitia v organizácii
- Nastaviť kritériá pre výber a posudzovanie procesov, v ktorých je možné AI využiť
- Definovať citlivé informácie, ktoré do AI nástrojov prevádzkovaných ako službu nemožno vkladať
- Nastaviť pravidlá a zodpovednosti pre výber konkrétnych AI nástrojov, vrátane kontroly zmluvných podmienok, hodnotenia rizík a technického nastavenia služby
- Zmapovať, či už AI náhodou nie je v organizácii využívaná, pokiaľ áno, uviesť jej používanie do súladu s pravidlami
- Zaviesť kontroly pre overenie, či AI v praxi funguje aj s časovým odstupom tak, ako organizácia chce (kontrola výstupov, zmien dokumentácie a technického nastavenia)
A potom sa do toho pustiť. Pretože AI je predovšetkým príležitosť. Tak ju poďme využiť!
Viac informácií, ktoré sa týkajú problematiky GDPR v susednom Česku, nájdete TU.
Komentáre
Pridať komentár