Hoe werkt een taalmodel (LLM)?
Achter chatassistenten zoals ChatGPT en Copilot zit een groot taalmodel, ook wel LLM (large language model) genoemd. Je hoeft de techniek niet te beheersen om het goed te gebruiken, maar een beetje begrip helpt enorm.
Het volgende woord voorspellen
Een taalmodel doet in de kern één ding: het voorspelt welk stukje tekst logisch volgt op de tekst die er al staat. Door dat steeds te herhalen, ontstaat een volledig antwoord. Die stukjes tekst heten tokens; een token is vaak een deel van een woord.
Training: leren van heel veel tekst
Een model wordt getraind op enorme hoeveelheden tekst. Tijdens die training leert het patronen in taal: grammatica, feiten die vaak voorkomen, schrijfstijlen en redeneringen. Daarna wordt het vaak verder bijgestuurd, bijvoorbeeld met voorbeelden van goede antwoorden en feedback van mensen, zodat het beter instructies volgt en behulpzamer reageert.
Het model onthoudt die teksten niet als een database. Het heeft een statistisch beeld gevormd van hoe taal in elkaar zit. Daardoor kan het nieuwe zinnen maken, maar ook overtuigend klinken zonder dat iets klopt.
Context: wat het model “ziet”
Bij elk antwoord kijkt het model naar de context: jouw vraag, het eerdere gesprek en eventuele documenten die je meegeeft. Hoeveel het tegelijk kan meenemen, heet het contextvenster. Informatie die niet in de training of de context zit, kent het model niet. Daarom helpt het om relevante achtergrond mee te geven in je prompt.
Kennis met een houdbaarheidsdatum
De training stopt op een bepaald moment. Wat daarna gebeurt, weet het model niet, tenzij de tool actuele informatie opzoekt, bijvoorbeeld via internet of via documenten van je organisatie. Controleer daarom altijd of een antwoord actueel is.
Wat betekent dit voor jou?
- Geef context mee: het model kent jouw situatie niet vanzelf.
- Wees specifiek: een duidelijke opdracht leidt tot een bruikbaarder antwoord.
- Controleer feiten: het model voorspelt taal, het verifieert niet automatisch.
- Het antwoord kan per keer verschillen: probeer het gerust opnieuw of vraag door.
Lees verder: waarom maakt AI fouten? en een goede prompt schrijven.
Veelgestelde vragen
Wat betekent LLM?
LLM staat voor large language model, oftewel groot taalmodel: een AI-model dat getraind is op grote hoeveelheden tekst om taal te begrijpen en te genereren.
Leert een taalmodel van mijn gesprekken?
Dat hangt af van de tool en de instellingen. Bij sommige diensten kunnen gesprekken worden gebruikt om modellen te verbeteren, bij zakelijke versies vaak niet. Controleer de voorwaarden en instellingen.
Meer uit de kennisbank
- Wat is AI? Kunstmatige intelligentie in gewone taal
- Wat is generatieve AI?
- Waarom maakt AI fouten? Over hallucinaties