Definitie
Mechanisme in een neuraal netwerk dat bepaalt welke delen van de invoer extra gewicht krijgen bij het genereren van een antwoord. Vormt de kern van de transformer-architectuur.
Mechanisme in een neuraal netwerk dat bepaalt welke delen van de invoer extra gewicht krijgen bij het genereren van een antwoord. Vormt de kern van de transformer-architectuur.