Ik lees in mijn eigen AI gegenereerde nieuwsbrief dat dat wetenschappers hebben aangetoond dat lange prompts niet per se betere prompts zijn. Tijd om daar eens in te duiken.
Wat Zegt die Wetenschap?
De onderzoeken wijzen uit dat prompts boven de 500 woorden doorgaans leiden tot verminderde resultaten. Sterker nog: voor elke 100 woorden die je toevoegt boven die grens, daalt het begrip van het model met ongeveer 12 procent. De optimale lengtes zijn:
- Simpele taken: 50-100 woorden (samenvattingen, korte uitleg)
 - Gemiddelde complexiteit: 150-300 woorden (analyses, creatieve briefings)
 - Complexe opdrachten: 300-500 woorden (technische documentatie, uitgebreide rapporten)
 
Het Echte Probleem: Prompt Bloat
De grootste bedreiging voor kwaliteit is niet zozeer de lengte, maar de rommeligheid van een prompt. Gebruikers hebben de neiging om hele documenten in hun prompt te plakken, wat eerder verwarring dan duidelijkheid creëert. Dit fenomeen heet "prompt bloat" en zorgt voor vier concrete problemen.
- Het leidt tot afleiding: irrelevante context maakt antwoorden minder accuraat.
 - Je krijgt last van het "lost-in-the-middle" effect. Cruciale informatie die in het midden van een lange prompt staat, wordt letterlijk over het hoofd gezien.
 - Irrelevante details worden ook ingelezen en hebben hoe dan ook een invloed op het resultaat; als is het maar omdat ze ruimte in de ‘context window’ gebruiken.
 - Er ontstaan rommelige redeneringen wanneer onnodige informatie doorsijpelt in het denkproces van de AI.
 
De Oplossing: Structuur Boven Lengte
In plaats van steeds meer woorden toe te voegen, moet de focus liggen op de juiste structuur. De "gelaagde prompt-methode" werkt het beste. Begin met context en persona ("Je bent een professionele tekstschrijver"). Vervolgens de primaire taak ("Vat het volgende document samen").
Plaats passieve data, zoals grote tekstblokken, in het midden, maar omheen deze met duidelijke scheidingstekens. Ik gebruik zelf altijd XML tags zoals 
De meeste mensen vergeten dat het einde van een prompt het belangrijkst is. Plaats daarom beperkingen en format-vereisten altijd aan het slot, waar ze de meeste impact hebben door het "recency effect".
Zero-Shot Versus Few-Shot Prompting
Voor de meeste alledaagse taken volstaat een "zero-shot" prompt: een opdracht zonder voorbeelden. Het instellen van een duidelijke rol ("Je bent een HR-consultant") helpt het model om zijn kennisdomein meteen te beperken. Denk aan ChatGPT als een gigantische bibliotheek: door een rol te specificeren, stuur je het naar de juiste afdeling.
Voor gespecialiseerde taken kan "few-shot" prompting nodig zijn, waarbij je concrete voorbeelden geeft. Dit maakt de prompt wel langer, dus gebruik deze methode alleen wanneer echt nodig.
Praktische Checklist
Een effectieve prompt bevat:
- één duidelijke taak bovenaan vergeet hierin je doelgroep niet
 - de rol die de AI moet aannemen
 - een aantal concrete eisen
 - een afgebakend blok met de inhoud waar je iets mee wilt
 - en de beperkingen aan het einde
 
Houd het totaal tussen 150-300 woorden voor taken van gemiddelde complexiteit en vermijd in elk geval prompts langer dan 500 woorden.
Conclusie
De beste manier om ChatGPT te gebruiken is niet door eindeloze instructies te schrijven, maar door slimme, gestructureerde prompts te maken. Kwaliteit gaat boven kwantiteit.
Vorige post: AI Assisted Software Engineering