Hoe werkt een AI-chatbot? Uitleg zonder vaktaal

Wat gebeurt er als een klant iets typt?

In een paar seconden doorloopt de chatbot vier stappen: de vraag lezen, informatie zoeken, een antwoord schrijven en kijken of er een vervolgstap nodig is.

Stel, een klant typt om 22:40 op je website: "Kan ik mijn bestelling nog annuleren?" De chatbot stuurt die vraag niet meteen door naar een taalmodel. Eerst zoekt hij in jouw kennisbank naar stukken tekst over annuleren, bijvoorbeeld een alinea uit je voorwaarden. Daarna gaat de vraag samen met die alinea en een set instructies ("antwoord kort, in je-vorm, verzin niets") naar het taalmodel. Het model schrijft het antwoord. Als laatste kijkt de software of er nog iets moet gebeuren, zoals een ticket aanmaken of een collega waarschuwen.

Voor de klant voelt dat als één gesprek. In werkelijkheid zijn het losse onderdelen die elk hun eigen taak hebben. Dat is goed nieuws, want elk onderdeel kun je apart instellen en verbeteren. Twijfel je nog welk type AI bij je klantenservice past, lees dan eerst ons overzicht van chatbot, AI-telefoniste en voice agent.

Wat is een taalmodel en hoe 'begrijpt' het je vraag?

Een taalmodel begrijpt niets zoals een mens dat doet. Het rekent uit welk stukje tekst het meest waarschijnlijk volgt.

Het model knipt tekst eerst in kleine stukjes, tokens genoemd: hele woorden, delen van woorden of leestekens. Tijdens de training heeft het geleerd welke tokens vaak bij elkaar horen. Bij het schrijven voorspelt het steeds het volgende token en kiest het de meest waarschijnlijke, legt Microsoft uit in zijn documentatie over tokens. Zo bouwt het een antwoord op, stukje voor stukje, tot het klaar is.

Omdat het model zoveel tekst heeft gezien, kan het vragen in gewone spreektaal aan. Een klant die "mn pakket is nog steeds nie binnen" typt, krijgt toch een zinnig antwoord. Dat is het grote verschil met oudere chatbots. Het nadeel zit in hetzelfde mechanisme. Het model kiest wat waarschijnlijk klinkt, en dat hoeft niet waar te zijn. Weet het iets niet, dan kan het vol overtuiging iets verzinnen. Dat heet hallucineren, en daar kom ik verderop op terug.

Wat is het verschil met een ouderwetse chatbot?

Een oude chatbot volgt een vooraf getekende beslisboom. Een AI-chatbot schrijft elk antwoord opnieuw.

De handleiding voor chatbots van Gebruiker Centraal beschrijft de klassieke, regelgebaseerde chatbot als een bot die de gebruiker via voorgeprogrammeerde regels door vaste paden leidt. Herkent hij een trefwoord, dan geeft hij het antwoord dat daarbij hoort. Typ je iets wat de maker niet had voorzien, dan loop je vast in "Sorry, dat begrijp ik niet."

Een AI-chatbot heeft die paden niet nodig. Hij snapt ook een vraag die net anders gesteld is, en hij kan doorvragen als iets onduidelijk is. De keerzijde is controle. Bij een beslisboom weet je precies wat de bot zegt, bij een taalmodel nooit helemaal. Daarom kiezen veel bedrijven voor een mengvorm: vaste antwoorden voor dingen waar geen fout in mag zitten, zoals retourvoorwaarden of openingstijden, en het taalmodel voor de rest van het gesprek.

Hoe weet een AI-chatbot iets over jouw bedrijf?

Via een kennisbank. De chatbot zoekt bij elke vraag eerst in jouw eigen documenten en geeft wat hij vindt mee aan het taalmodel.

Die techniek heet RAG, retrieval augmented generation. AWS omschrijft het als een manier om een taalmodel te laten werken met een betrouwbare kennisbron buiten zijn trainingsdata, zonder het model opnieuw te trainen. Je hoeft dus geen eigen AI te bouwen. Je zet je informatie klaar, en de chatbot zoekt erin.

In de praktijk is die kennisbank een verzameling van je FAQ, productinformatie, prijslijst en voorwaarden, aangevuld met interne afspraken. De software hakt die teksten in kleine stukken en slaat ze zo op dat de bot op betekenis kan zoeken. Vraagt een klant om "geld terug", dan vindt hij ook de alinea over retourneren, ook al staat het woord "geld" er niet in.

Het DDMA wijst op de zwakke plek: RAG werkt alleen goed als je interne kennis op orde is. Staan er drie verschillende levertijden op je site, dan kan de chatbot ze alle drie noemen.

Kan een AI-chatbot ook iets doen, zoals een afspraak inplannen?

Ja, als je hem koppelt aan je andere systemen. Dan zoekt hij niet alleen informatie op, hij voert ook een taak uit.

In vaktaal heet dat tool calling. De chatbot krijgt een lijstje acties die hij mag gebruiken, bijvoorbeeld "zoek de status van een bestelling op" of "zet een afspraak in de agenda". Het taalmodel kiest welke actie past bij de vraag, de software voert die uit en het model verwerkt de uitkomst in zijn antwoord. De klant ziet alleen een gewoon bericht, zoals: "Je pakket is gisteren verstuurd en komt morgen."

Hoe meer acties je toevoegt, hoe meer je moet testen. Een chatbot die alleen vragen beantwoordt, is eenvoudiger te bouwen en te controleren dan een die in je agenda of boekhouding schrijft. Wat dat verschil in geld betekent, lees je in wat een AI-chatbot voor je website kost.

Wat gaat er mis met AI-chatbots?

Het grootste risico is een fout antwoord dat heel zeker klinkt. En jij bent daarvoor verantwoordelijk, niet de chatbot.

Dat bleek in februari 2024 in Canada. De chatbot van Air Canada vertelde een klant dat hij een rouwkorting achteraf kon aanvragen, terwijl dat volgens het beleid van de maatschappij niet kon. Air Canada voerde aan dat de chatbot zelf verantwoordelijk was voor wat hij zei. Het Civil Resolution Tribunal van British Columbia ging daar niet in mee: de maatschappij moest 812,02 Canadese dollar aan schadevergoeding en kosten betalen, meldde de BBC. Wat je chatbot belooft, heb jij beloofd.

Het tweede risico is privacy. De Autoriteit Persoonsgegevens kreeg meldingen van datalekken doordat medewerkers persoonsgegevens van klanten of patiënten in een AI-chatbot invoerden. Bij een klantchatbot typen klanten zelf hun naam, adres of ordernummer in. Je moet dus weten waar die gegevens heen gaan, en je hebt een verwerkersovereenkomst nodig met de leverancier.

Hoe zorg je dat jouw chatbot betrouwbaar antwoordt?

Door hem smal te laten beginnen en altijd een uitweg naar een mens te geven.

Mijn advies voor een MKB-bedrijf is duidelijk: laat de chatbot alleen antwoorden uit je kennisbank, en laat hem zeggen "Dat weet ik niet zeker, ik zet je door naar een collega" als het antwoord er niet in staat. Die ene instructie had het probleem van Air Canada waarschijnlijk voorkomen. Een bot die soms eerlijk "weet ik niet" zegt, is meer waard dan een bot die altijd iets roept.

Lees de eerste weken elk gesprek terug. Je ziet dan welke vragen de bot niet kon beantwoorden, en dat zijn precies de gaten in je kennisbank. Vul ze aan en de bot wordt elke week beter, zonder dat er aan de techniek iets verandert.

Laat betalingen en klachten altijd bij een mens uitkomen. Een chatbot mag die vragen herkennen en netjes doorzetten, met het gesprek erbij, zodat je klant zijn verhaal niet twee keer hoeft te vertellen. Wil je hetzelfde idee aan de telefoon, lees dan wat een AI-telefoniste is en wat het kost. Wil je weten of het voor jouw bedrijf zin heeft, neem dan contact op.