Beslut hurtigt. Kunne forklare bagefter.

Mere information øger ansvaret

Bank of England peger på muligheder ved AI i finansielle beslutninger, ledsaget af risici knyttet til modeller og data. Det er en international debat, ikke en måling af brasilianske motorers ydeevne.

I produktpraksis består et spørgsmål, selv når der ikke er AI involveret: Hvis politikken er ændret, hvordan finder man så ud af, hvilke transaktioner der brugte den tidligere version? Uden den kobling er det svært at undersøge uoverensstemmelser og forklare, hvorfor to sager fulgte forskellige veje.

Reference: Bank of England · AI og finansiel stabilitet ↗

At hente data er ikke det samme som at evaluere politikken

Pipelinen organiserer kilder, tilgængelighed og frister. Motoren evaluerer den publicerede regel med de modtagne input. Et manglende felt, et opslag, der fejlede, og en gyldig værdi lig med nul er forskellige situationer; at omdanne dem alle til samme tal ødelægger relevant information.

Inputkontrakten skal bevare tilstrækkelig kvalitet og oprindelse til, at politikken kan beslutte, hvordan der skal handles. Afhængigt af designet kan sagen afvente en kilde, følge en alternativ vej eller kræve gennemgang. Det valg skal være eksplicit og ikke en utilsigtet effekt af koden.

En politikændring kræver sammenligning

Før en ny regel publiceres, kan teamet sammenligne den med den tidligere version ved hjælp af et passende udsnit af sager. Formålet er at finde ændringer i adfærd, vurdere undtagelser og undersøge uventede resultater. Det erstatter ikke risiko- og forretningsvalidering.

Registrering af den eksekverede version hjælper med at forbinde politikken med resultatet. Når der indgår en statistisk model eller AI, er det ikke nok kun at registrere tabellen: modelversionerne og de relevante transformationer er også en del af forklaringen. At en regel er deterministisk, og at politikken er gyldig, er to forskellige egenskaber.

Den menneskelige gennemgang skal have indhold

En nyttig undtagelseskø forklarer årsagen til videresendelsen, de manglende data, den anvendte politik og de tilladte handlinger. At sende alle ufuldstændige sager til sagsbehandlerne uden prioritering kan bevare kontrollen og samtidig ødelægge effektiviteten.

Derfor bør designet tage højde for køens kapacitet og ventetid. En politik, der automatiserer flere beslutninger, men mangedobler vanskelige udeståender, flytter måske blot omkostningen. Vurderingen kombinerer resultat, kvalitet og operationel indsats.