När AI:n har fel: bygg för misstag i stället för att frukta dem
AI kommer att svara fel ibland. Så bygger ni ett skyddsnät med människan i loopen, ett sätt att rätta och en fel-logg som gör varje fel till ett test.
Kort sagt
- AI:n kommer att svara fel ibland. Det som avgör är om felet fångas, går att rätta och kommer tillbaka.
- Börja med människan i loopen: AI:n föreslår, en människa godkänner.
- Svar om pengar, löften och känsliga ämnen granskas alltid, med regler i koden snarare än instruktioner i prompten.
- Gör varje fel till ett nytt testfall, och släpp granskningen typ för typ när siffrorna säger att ni kan.
I den här artikeln · 7 avsnitt
Kundtjänstchefen Lena har ett ord för det som hände förra månaden: ”kaffeincidenten”.
AI-assistenten skulle svara på en fråga om en försenad kaffemaskin. Den lovade kunden en rabattkod på 20 procent. Det finns ingen sådan rabattkod. Kunden blev glad, sedan arg, och skrev om det i ett omdöme.
Teamet stängde inte av assistenten. Så här såg den första veckan ut:
Assistenten lovar en kund 20 procent rabatt på en försenad kaffemaskin. Någon sådan rabattkod finns inte.
Kunden har försökt använda koden och skriver ett omdöme.
Ny regel i koden: svar som nämner rabatter går alltid till en människa först.
Tre nya testfall om rabatter läggs till i testlistan.
Alla tre testfallen går igenom. Felet har inte kommit tillbaka sedan dess.
Kommer AI:n att svara fel?
Ja. Det är det enda säkra svaret, och det är bättre att utgå från det än att hoppas på motsatsen. Precis som en ny medarbetare kommer den ibland att missförstå, gissa eller lova för mycket.
Skillnaden mellan ett AI-projekt som fungerar och ett som stängs ner är sällan hur ofta det blir fel. Det är vad som händer sedan: om felet fångas innan kunden ser det, om det går att rätta, och om det kommer tillbaka.
Vad är ett skyddsnät för AI?
Ett skyddsnät är allt som gör att ett fel blir ofarligt. Det har fyra delar, och ni behöver inte alla från dag ett:
| Del | Vad den gör | När ni behöver den |
|---|---|---|
| Människan i loopen | En person ser svaret innan det får effekt | Från början, särskilt för kundsvar |
| Rätta och ångra | Det går att ändra eller dra tillbaka ett svar | Så fort svar går direkt till någon |
| Vägen till en människa | Användaren kan alltid få prata med en person | Alltid, i allt som kunder ser |
| Fel-loggen | Varje fel sparas och blir ett nytt testfall | Från början |
Hur fungerar människan i loopen?
Människan i loopen betyder att AI:n föreslår och en människa bestämmer. I kundtjänst ser handläggaren ett färdigt förslag på svar, ändrar det om det behövs och skickar det. AI:n gör det tråkiga, människan står för omdömet.
Det låter långsamt, men är det sällan. Att läsa och godkänna ett bra förslag tar några sekunder. Att skriva svaret från början tar minuter. Ni sparar fortfarande det mesta av tiden, och ni slipper att kunderna drabbas av felen.
Varje gång en handläggare ändrar ett förslag får ni dessutom veta något. Om handläggarna ändrar varannan rabattfråga vet ni precis var assistenten behöver bli bättre.
Vilka svar ska alltid granskas?
Även när ni har vågat släppa granskningen för de enkla ärendena finns det svar som alltid ska ses av en människa. Gör en lista och bygg in den som regler, inte som en instruktion till AI:n:
- Pengar: rabatter, återbetalningar, priser som inte står i prislistan.
- Löften: leveransdatum, garantier, undantag från villkoren.
- Känsliga ämnen: hälsa, juridik, klagomål på personal, hot.
- Allt AI:n inte är säker på, om ni kan mäta det, till exempel när den inte hittat något stöd i underlaget.
En regel i koden gäller varje gång. En instruktion i prompten följs oftast, och för de här kategorierna räcker inte det.
Hur rättar man ett AI-svar som redan har gått ut?
Det beror på var svaret hamnade, men principen är densamma: det ska gå snabbt och det ska vara någons uppgift.
- Ett mejl eller chattsvar: skicka ett kort, ärligt rättelsemeddelande. ”Vi gav dig fel uppgift om leveranstiden. Rätt är …” fungerar bättre än man tror.
- Något som sparats i ett system: gör det möjligt att se vilka poster AI:n har ändrat, och att ändra tillbaka dem.
- Något som publicerats: ha en rutin för att ta ner och rätta, precis som för vilket annat fel som helst.
Det viktigaste är att någon äger det. Mer om det i Vem äger AI-funktionen när den är i drift?
Hur ser man till att samma fel inte kommer tillbaka?
Gör varje fel ni upptäcker till ett nytt testfall.
Felet med rabattkoden blir en ny rad i testlistan: frågan om den försenade kaffemaskinen, och regeln att svaret inte får innehålla ”rabattkod”. Nästa gång någon ändrar prompten körs testet, och om felet kommer tillbaka märks det innan någon kund ser det. Hur testlistan fungerar beskrivs i Ert första test av AI-svaren.
Efter några månader består testlistan av era egna misstag, och den testar precis det som har gått fel hos just er.
När kan man släppa granskningen?
När siffrorna säger det, och då typ för typ. Om handläggarna godkänner 98 av 100 förslag om leveranstider utan ändringar, kan leveranstidsfrågor börja gå direkt till kunden. Rabattfrågor, där de ändrar vart tredje svar, behåller granskningen.
De flesta väl fungerande AI-funktioner har en blandning: det enkla går direkt, det svåra granskas, det känsliga granskas alltid. Ribban för varje typ bestämmer ni som i Hur bra är bra nog?
Den tekniska sidan av skyddsnätet, med godkännanden som överlever omstarter och verktyg som bara får göra det de ska, beskrivs i Agents in production på engelska.