Pre-training

Eerste, grootste fase waarin een taalmodel patronen leert uit een enorme algemene tekstdataset. Wordt meestal gevolgd door fine-tuning en alignment om gedrag bij te sturen.