OpenAI heeft zojuist een update vrijgegeven waarmee je je eigen aangepaste versie van GPT-3.5 Turbo kan maken. Je creëert daarmee een model dat veel beter kan antwoorden op de manier waarop je dat wilt.

Waarom is deze update spannend?

Deze functie van finetuning opent nieuwe mogelijkheden voor ontwikkelaars en bedrijven die unieke ervaringen willen creëren voor hun gebruikers. Je traint hiermee een eigen versie van het model die antwoordt op in de stijl, taal en structuur zoals jij dat wilt.

Dit levert een aantal voordelen op:

• Verbeterde stuurbaarheid: Bedrijven kunnen het model beter sturen, zoals het formuleren van bondige antwoorden, of altijd reageren in een bepaalde taal. Zo kan een ontwikkelaar het model zo fijn afstemmen dat het altijd in het Nederlands reageert als daarom wordt gevraagd.
• Betrouwbare formattering van de output: Finetuning verbetert het vermogen van het model om reacties altijd in hetzelfde formaat terug te geven zoals html of json.
• Aangepaste tone of voice: De tone of voice van de output kan aangepast worden zodat deze beter past het merk. Een organisatie met een herkenbare merktoon kan finetuning gebruiken om het model consistenter te maken met hun toon.

Daarnaast kan je kortere prompts gebruiken maar toch dezelfde prestaties houden. De rest van wat je in de prompt zou willen meegeven heeft het model ten slotte al geleerd.

Hoe werkt finetuning?

Finetuning werkt eigenlijk heel gemakkelijk:

1. Verzamel een aantal (minimaal 10 maar liever 50) vragen die je aan de chatbot wil stellen en antwoorden die hij zou moeten geven. Let hierbij goed op de structuur van de output en tone of voice.
2. Upload deze naar OpenAI. Hier is een een speciale URL voor.
3. Roepen tenslotte een andere URL bij OpenAI aan om je eigen afgestemde model te trainen.

Zodra een model de training voor de finetuning heeft voltooid, kan je het direct in productie gebruiken.

Zie https://openai.com/blog/gpt-3-5-turbo-fine-tuning-and-api-updates