Širenje umjetne inteligencije mora se nadzirati

Zamjena djelatnika u bankarstvu i osiguravajućim društvima strojevima riskira stvoriti ovisnost o vanjskim tehnološkim tvrtkama van nadzora regulatora, upozorio je Financial Stability Board (FSB), globalno tijelo za nadzor financijskih sustava.

FSB, koji koordinira financijske regulative u gospodarstvima skupine G20, u svom prvom izvješću o umjetnoj inteligenciji (AI) i strojnom, automatiziranom, učenju je upozorio da treba nadzirati rizike koje oni nose.

AI i automatsko učenje zamjenjuje tradicionalne metode procjene kreditne sposobnosti klijenata, obradu i analizu podataka te uočavanje profitabilnih trgovina na tržištima.

Ne postoje međunarodni regulatorni standardi za AI i automatsko učenje, no FSB je ostavio otvorenom mogućnost da će biti potrebna nova pravila.

Podaci o rastućem korištenju umjetne inteligencije većim dijelom nisu dostupni, radi čega regulatori nisu sigurni u utjecaj potencijalno novih veza među bankama i tržištima, kaže izvješće.

AI bi, primjerice, mogao dovesti do "neodrživog" povećanja kreditnih zaduživanja uslijed automatiziranog bodovanja kreditne sposobnosti. Očekivani brzi rast umjetne inteligencije također nosi i izglede da će vanjski tehnološki dionici proširiti svoj utjecaj na financijski sektor.

Ako propadne veliki pružatelj usluga umjetne inteligencije to bi moglo dovesti do operativnih problema u velikom broju financijskih tvrtki istovremeno, posebice ako o njemu ovise osjetljive aplikacije, kaže izvješće.

Savjetodavna tvrtka Accenture je u svibnju rekla da tri četvrtine anketiranih bankara vjeruje da će AI u iduće tri godine postati primarni način komunikacije banaka s klijentima.

FSB priznaje da umjetna inteligencija pomaže smanjivanju troškova u financijskom sektoru, povećava profitabilnost i širi izbor za klijente, ali je dodao i da stvara zabrinutosti glede korištena osobnih podataka u AI aplikacijama.