Zetta, een vereniging die de grootste fintechbedrijven van het land vertegenwoordigt, heeft met institutionele steun van Anbima (Braziliaanse Vereniging van Financiële en Kapitaalmarktinstellingen) de 'Best Practices Guide for Evaluating Generative AI Providers' (GAIAG) gelanceerd. Dit document is de eerste technische handleiding die specifiek is gericht op de financiële en betaalmarkt in Brazilië en is bedoeld als een katalysator voor de veilige implementatie van Generative Artificial Intelligence (GenAI). De handleiding is opgebouwd rond vijf pijlers: compliance, cybersecurity, AI-levenscyclus, gegevensbescherming en waardeketen.
"Deze lancering toont Zetta's betrokkenheid bij het ondersteunen van Brazilië's leidende positie in de digitale economie en bevestigt dat de verantwoorde toepassing van generatieve AI de potentie heeft om de toegang tot financiële diensten te vergroten, fraudebestrijdingsmechanismen te versterken en de gebruikerservaring te verbeteren", aldus Fernanda Laranja, Vice President van Zetta.
De behoefte aan deze handleiding vloeit voort uit de discrepantie tussen de snelle adoptie van technologie en het ontbreken van duidelijke governance-normen, in een scenario waarin de versnelde integratie van generatieve AI in de financiële sector aanzienlijke operationele, ethische en regelgevende uitdagingen met zich meebrengt.
Het centrale doel is het vaststellen van een standaard voor de Braziliaanse financiële en betalingssector voor de risicokwalificatie van derden die oplossingen voor generatieve kunstmatige intelligentie (GAIAG) aanbieden. "GAIAG is niet zomaar een theoretisch document, maar een praktisch en modulair instrument dat is ontworpen om een verantwoord innovatieklimaat te bevorderen en tegelijkertijd veiligheid en operationele excellentie te waarborgen", benadrukt Samanta Oliveira, coördinator van de werkgroep data en AI bij Zetta.
“De handleiding weerspiegelt een gezamenlijke standaardiseringsinspanning om het innovatie-ecosysteem in de financiële sector te versterken. Het bevestigt Anbima's inzet voor het bevorderen en ondersteunen van initiatieven voor digitale transformatie in de beleggingssector en de kapitaalmarkten, en het ondersteunen van instellingen bij de verantwoorde toepassing van AI. Door consistente inhoud en technische referenties te bevorderen, creëren we de voorwaarden voor de markt om technologie te gebruiken voor het genereren van zakelijke waarde met veiligheid, governance en efficiëntie”, aldus Carlos André, voorzitter van Anbima.
Het initiatief, dat ook technische ondersteuning kreeg van advocatenkantoor Serur en adviesbureau Alvarez & Marsal, vormt een mijlpaal voor de veilige toepassing van generatieve AI in Brazilië en biedt een robuust kader voor de evaluatie en contractering van tools.
“De gids is een fundamentele stap richting de volwassenwording van het Braziliaanse ecosysteem voor financiële innovatie. Door technische ondersteuning te bieden bij het opzetten van dit raamwerk, wilden we een instrument creëren waarmee bedrijven Generative AI-oplossingen veilig, efficiënt en in lijn met de wereldwijde beste governancepraktijken kunnen evalueren en contracteren”, benadrukt Fabrício da Mota Alves, partner bij Serur.
Het document, dat in samenwerking is ontwikkeld, stelt technische normen vast en stimuleert de uitwisseling van beste praktijken die de regelgevende en technologische volwassenheid van het ecosysteem verhogen, het afstemmen op internationale normen en anticiperen op debatten die al gaande zijn in het Nationaal Congres en regelgevende instanties.
“Het bundelen van best practices voor de evaluatie van aanbieders van generatieve kunstmatige intelligentie is essentieel om de governance te versterken, risico's te beperken en naleving van de regelgeving te waarborgen. Door bij te dragen aan deze gids versterken we een gestructureerde aanpak die veiligere en beter onderbouwde beslissingen ondersteunt bij de toepassing van AI in Brazilië”, aldus Eduardo Magalhães, Managing Director van Disputes & Investigations bij Alvarez & Marsal.
GAIAG werkt met een gestructureerde, stapsgewijze methodologie, ondersteund door een praktisch hulpmiddel (beoordelingsspreadsheet) en geleid door het principe van risicogebaseerde proportionaliteit. Voordat de leverancier wordt geanalyseerd, beoordeelt de opdrachtgever de context van het AI-gebruik en classificeert het risico in vier niveaus (minimaal, beperkt, hoog en kritiek) op basis van criteria zoals het beoogde gebruik (of het nu uitsluitend administratieve ondersteuning betreft of een kernactiviteit), de mate van regelgevingscomplexiteit en de noodzaak van licenties van de opdrachtgever, de operationele impact in geval van onbeschikbaarheid van de oplossing en de gevoeligheid van de betrokken gegevens. Vervolgens wordt een leveranciersbeoordeling (due diligence) uitgevoerd en wordt op basis van het inherente risico een aangepaste vragenlijst opgesteld om de analyse van de werkwijzen van de leverancier te begeleiden. Ten slotte wordt het resterende risico (AI-risicoscore) berekend, dat het resterende risico aangeeft na toepassing van beheersmaatregelen en dient als referentie voor het definiëren van de technische en contractuele eisen die nodig zijn voor het contract.
Raadpleeg de 'Best Practices Guide for Evaluating Generative AI Providers' (GAIAG) via de volgende link: https://gaig.somoszetta.org.br/
