Transformer
Een transformermodel is een type neuraal netwerk dat speciaal is ontworpen om sequentiële data te verwerken, zoals tekst, spraak of tijdreeksdata. In tegenstelling tot traditionele modellen zoals RNN's en CNN's, maken transformers gebruik van een aandachtmechanisme om het belang van elementen in de invoersequentie te wegen, wat krachtige prestaties mogelijk maakt in toepassingen zoals NLP, spraakherkenning, genomica en meer.