Zetta, sdružení zastupující největší fintech společnosti v zemi, s institucionální podporou Anbimy (Brazilské asociace subjektů finančního a kapitálového trhu), právě vydalo Průvodce osvědčenými postupy pro hodnocení poskytovatelů generativní umělé inteligence (GAIAG). Tento dokument je první technickou příručkou věnovanou výhradně finančnímu a platebnímu trhu v Brazílii a má sloužit jako urychlovač bezpečného přijetí generativní umělé inteligence (GenAI), která je strukturována kolem pěti pilířů: dodržování předpisů, kybernetická bezpečnost, životní cyklus umělé inteligence, ochrana dat a hodnotový řetězec.
„Toto spuštění demonstruje závazek společnosti Zetta podporovat vedoucí postavení Brazílie v digitální ekonomice a potvrzuje, že zodpovědné přijetí generativní umělé inteligence má potenciál rozšířit přístup k finančním službám, posílit mechanismy boje proti podvodům a zlepšit uživatelskou zkušenost,“ říká Fernanda Laranja, viceprezidentka společnosti Zetta.
Potřeba této příručky vyplývá z nesouladu mezi rychlým zaváděním technologií a absencí jasných standardů správy a řízení v situaci, kdy zrychlené začleňování generativní umělé inteligence do finančního sektoru přináší značné provozní, etické a regulační výzvy.
Hlavním cílem je stanovit standard pro brazilský finanční a platební průmysl pro kvalifikaci rizik třetích stran poskytujících řešení generativní umělé inteligence (GAIAG). „GAIAG není jen teoretický dokument, ale praktický a modulární nástroj určený k podpoře odpovědného inovačního prostředí, zajištění bezpečnosti a provozní excelence,“ zdůrazňuje Samanta Oliveira, koordinátorka pracovní skupiny pro data a umělou inteligenci ve společnosti Zetta.
„Průvodce odráží společné úsilí o standardizaci s cílem posílit inovační ekosystém ve finančním sektoru. Potvrzuje závazek společnosti Anbima propagovat a podporovat iniciativy digitální transformace v investičním průmyslu a na kapitálových trzích a podporovat instituce v zodpovědném zavádění umělé inteligence. Propagací konzistentního obsahu a technických referencí vytváříme podmínky pro to, aby trh využíval technologie k vytváření obchodní hodnoty s ohledem na bezpečnost, správu a efektivitu,“ říká Carlos André, prezident společnosti Anbima.
Iniciativa, která měla technickou podporu také od advokátní kanceláře Serur a konzultační firmy Alvarez & Marsal, stanovuje milník pro bezpečné přijetí generativní umělé inteligence v Brazílii a navrhuje robustní rámec pro hodnocení a zadávání smluv na nástroje.
„Průvodce je zásadním krokem k dosažení zralosti brazilského ekosystému finančních inovací. Poskytováním technické podpory při budování tohoto rámce bylo naším cílem vytvořit nástroj, který společnostem umožní bezpečně, efektivně a v souladu s osvědčenými postupy globálního řízení vyhodnocovat a uzavírat smlouvy na řešení generativní umělé inteligence,“ zdůrazňuje Fabrício da Mota Alves, partner ve společnosti Serur.
Dokument, vypracovaný ve spolupráci, stanoví technické standardy a podporuje výměnu osvědčených postupů, které zvyšují regulační a technologickou vyspělost ekosystému, sladí jej s mezinárodními standardy a předvídají debaty, které již probíhají v Národním kongresu a regulačních orgánech.
„Konsolidace osvědčených postupů pro hodnocení poskytovatelů generativní umělé inteligence je nezbytná pro posílení správy a řízení, zmírnění rizik a zajištění dodržování předpisů. Přispíváním k této příručce posilujeme strukturovaný přístup, který podporuje bezpečnější a informovanější rozhodnutí při zavádění umělé inteligence v Brazílii,“ říká Eduardo Magalhães, výkonný ředitel pro spory a vyšetřování ve společnosti Alvarez & Marsal.
GAIAG funguje na základě strukturované, postupné metodologie, podpořené praktickým nástrojem (hodnotící tabulkou) a řídící se principem proporcionality založené na riziku. Před analýzou dodavatele smluvní instituce posoudí kontext použití umělé inteligence a klasifikuje riziko do čtyř úrovní (minimální, omezené, vysoké a kritické) na základě kritérií, jako je zamýšlené použití (ať už se jedná pouze o administrativní podporu nebo hlavní činnost), stupeň regulační složitosti a potřeba licencí od smluvní instituce, provozní dopad v případě nedostupnosti řešení a citlivost souvisejících dat. Následně se provede hodnocení poskytovatele (due diligence) a na základě inherentního rizika se vygeneruje dotazník na míru, který slouží jako vodítko pro analýzu postupů dodavatele. Nakonec se vypočítá zbytkové riziko (skóre rizika umělé inteligence), které udává zbývající riziko po aplikaci kontrol a slouží jako reference pro definování technických a smluvních požadavků nezbytných pro danou smlouvu.
Přístup k Průvodci osvědčenými postupy pro hodnocení poskytovatelů generativní umělé inteligence (GAIAG) naleznete na následujícím odkazu: https://gaig.somoszetta.org.br/
