AI'en svarede. Blev handlingen udført?

Behovet er at få arbejdet gjort færdigt

FSB's endelige rapport behandler ansvar, data, evaluering af ydeevne, menneskeligt tilsyn og eksterne afhængigheder. Publikationen tilbyder praksisser, der kan tilpasses konteksten; den certificerer ikke værktøjer eller produkter.

Vores vurdering er, at overgangen fra eksperiment til drift afhænger af et klart arbejdsobjekt. I stedet for kun at måle kvaliteten af samtalen skal teamet fastlægge, hvilken opgave der kan gennemføres, af hvem, med hvilke data og inden for hvilke rammer.

Reference: FSB · Praksis for ansvarlig indførelse af AI ↗

Tre ansvarsområder i ét forløb

At fortolke en anmodning er noget andet end at anvende en politik og noget andet end at udføre en handling. AI kan strukturere sprog og kontekst; en politik kan afgøre, hvor sagen sendes hen; et autoriseret værktøj udfører en bestemt handling. Når disse ansvarsområder holdes adskilt, bliver forløbet lettere at teste.

Ved en anmodning om genforhandling kan assistenten for eksempel hente den tilladte kontrakt, opsummere henvendelsen og anmode om en simulering. Det giver ikke automatisk beføjelse til at ændre vilkår, acceptere en aftale på kundens vegne eller gennemføre en overførsel.

Værktøjet skal returnere en verificerbar status

Et værktøj skal skelne mellem succes, afvisning, afventende og fejl. Hvis det eksterne system ikke har bekræftet registreringen, må brugerfladen ikke kommunikere, at handlingen er afsluttet. Denne adskillelse hjælper også med at afgøre, om et forsøg kan gentages eller skal sendes til gennemgang.

Den kontekst, der overdrages til det menneskelige team, skal omfatte, hvad der allerede er slået op, hvad der er foreslået, og hvad der stadig afventer handling. Videresendes kun hele samtalen, overføres omkostningen ved at rekonstruere sagen til medarbejderen. Et verificerbart resumé er mere nyttigt end en tilsyneladende sikkerhed.

Start med den copilot, der mindsker en kø

Et første afgrænset forløb kan forberede sagsmapper, finde dokumenter eller organisere supporten for dem, der træffer beslutninger. Gevinsten viser sig, når tiden til søgning og forberedelse falder, uden at mangler skjules eller der opstår nye fejl i udførelsen.

Derefter kan reversible og veldefinerede handlinger tilføjes i takt med valideringen. Udvidelsen bør følge dokumenteret ydeevne i virkelige situationer, herunder ufuldstændige data, utilgængelige værktøjer og forespørgsler uden for scope. En demo, hvor alt går godt, dækker ikke disse forhold.