Snel beslissen. Achteraf kunnen uitleggen.

Meer informatie betekent meer verantwoordelijkheid

De Bank of England wijst op kansen van AI bij financiële beslissingen, samen met risico's rond modellen en data. Dit is een internationaal debat, geen meting van de prestaties van Braziliaanse engines.

In de productpraktijk blijft er een vraag bestaan, ook zonder AI: als het beleid is gewijzigd, hoe achterhaal je dan welke transacties de vorige versie hebben gebruikt? Zonder die koppeling is het lastiger om afwijkingen te onderzoeken en uit te leggen waarom twee casussen een verschillend traject hebben gevolgd.

Referentie: Bank of England · AI en financiële stabiliteit ↗

Gegevens ophalen is niet hetzelfde als het beleid evalueren

De pipeline ordent bronnen, beschikbaarheid en termijnen. De engine beoordeelt de gepubliceerde regel met de ontvangen invoer. Een ontbrekend veld, een mislukte bevraging en een geldige waarde van nul zijn verschillende situaties; ze allemaal omzetten in hetzelfde getal vernietigt relevante informatie.

Het invoercontract moet voldoende kwaliteit en herkomst behouden zodat het beleid kan bepalen hoe te handelen. Afhankelijk van het ontwerp kan de casus wachten op een bron, een alternatief pad volgen of beoordeling vereisen. Die keuze moet expliciet zijn, en geen toevallig neveneffect van de code.

Een beleidswijziging vraagt om vergelijking

Voordat een nieuwe regel wordt gepubliceerd, kan het team deze vergelijken met de vorige versie aan de hand van een geschikte steekproef van cases. Het doel is gedragswijzigingen op te sporen, uitzonderingen te beoordelen en onverwachte uitkomsten te onderzoeken. Dit vervangt geen risico- en bedrijfsvalidatie.

Het vastleggen van de uitgevoerde versie helpt om het beleid aan het resultaat te koppelen. Bij een statistisch model of AI volstaat het niet om alleen de tabel vast te leggen: de modelversies en de relevante transformaties maken ook deel uit van de verklaring. Het determinisme van een regel en de geldigheid van het beleid zijn verschillende eigenschappen.

Menselijke beoordeling moet inhoud hebben

Een bruikbare uitzonderingswachtrij legt uit waarom een zaak is doorgestuurd, welke gegevens ontbreken, welk beleid is toegepast en welke acties zijn toegestaan. Alle onvolledige zaken zonder prioritering naar de afdeling sturen kan de controle behouden, maar tegelijk de efficiëntie tenietdoen.

Daarom moet het ontwerp ook de functionaliteit van de wachtrij en de wachttijd behandelen. Een beleid dat meer besluiten automatiseert maar lastige openstaande zaken vermenigvuldigt, verschuift mogelijk alleen de kosten. De beoordeling combineert resultaat, kwaliteit en operationele inspanning.