Wat is een contextschakelaar?

In de begintijd van computers waren CPU's puur sequentiële machines. Dit hielp om ontwerpen eenvoudig te houden. Het beperkte echter ook de prestaties. Veel processen zullen gegevens uit het systeem-RAM of de harde schijf moeten opvragen. Hoewel het systeem-RAM snel is, is het nog steeds niet zo snel als de CPU, waardoor het inactief blijft, wachtend op gegevens totdat het antwoord terugkomt van het RAM. De situatie is nog erger voor gegevens die van de harde schijf worden opgevraagd, een opslagapparaat dat veel langzamer is dan RAM. Hier kan de CPU geruime tijd inactief zijn, wachtend op een reactie. Helaas is dit probleem bij sequentiële processors gewoonweg onvermijdelijk.

Gelukkig zijn moderne CPU's niet langer sequentieel. Ze bieden veel geavanceerde functies, zoals out-of-order-uitvoering en meerdere threads. Out-of-order uitvoering stelt de CPU in staat om komende instructies te analyseren en ze opnieuw te ordenen om de efficiëntie te maximaliseren. Multi-threading stelt de CPU in staat om talloze verschillende threads of processen te laten draaien.

Behalve dat er meerdere kernen zijn, kan de CPU er niet meer dan één tegelijk uitvoeren. Het kan het echter zo laten lijken door regelmatig tussen beide te schakelen om ervoor te zorgen dat ze elk een aanzienlijke hoeveelheid constante CPU-tijd krijgen. Het proces van schakelen tussen threads wordt een contextwisseling genoemd.

Hoe werkt een contextschakelaar?

Een contextwisseling bestaat uit twee delen, waarbij de vorige thread wordt uitgeschakeld en de nieuwe wordt ingeschakeld. Om de oude thread te wijzigen, moet de CPU de huidige status opslaan in een Process Control Block of schakelframe. Dit omvat de waarden van alle relevante CPU-registers en bestaat altijd uit de waarde van de programmateller. Zodra de thread is opgeslagen, kan een ingang worden toegevoegd aan een rij die gereed is, zodat deze indien nodig kan worden hersteld.

Schakelen in de volgende thread is hetzelfde proces in omgekeerde volgorde. Afhankelijk van de weging wordt er een thread uit de gereedstaande wachtrij geselecteerd. Als alternatief kan het worden gekozen door een onderbreking die aangeeft dat een gebeurtenis waarop de thread wachtte, nu klaar of voltooid is. De gegevens voor de thread worden vervolgens naar de juiste registers gekopieerd en de thread wordt hersteld. Op dit punt is de nieuwe thread klaar om door te gaan met werken vanaf het punt waar het stopte.

Prestatie-impact

Het proces van het lezen en schrijven van gegevens bij het in- of uitschakelen van een thread kost enige tijd, maar niet veel, omdat het gebruikte geheugen meestal snel is. Er zijn echter nog meer prestatiekosten. Bij het wisselen van threads zijn de gegevens in de CPU-caches en -buffers van de vorige thread mogelijk niet relevant voor de nieuwe thread. Dit kan leiden tot een aanzienlijke toename van TLB ( Translation Lookaside Buffer ) en cache-missers.

Dit effect is niet significant als de twee threads door hetzelfde proces zijn voortgebracht, aangezien ze waarschijnlijk aanzienlijke geheugenelementen zullen delen. De TLB moet volledig worden leeggemaakt bij het schakelen tussen threads van verschillende methoden. Dit leidt tot een 100% TLB miss rate, terwijl de hit rate van de CPU-cache ook aanzienlijk wordt verlaagd.

Hoewel CPU's hardware-ondersteuning bieden voor contextwisseling, gebruiken besturingssystemen dit meestal niet. Bij het wisselen van hardwarecontext is men zich niet bewust van de relevantie van gegevens. Daarom moet het alle registers opslaan en herstellen, waardoor de benodigde tijd en opslagruimte toenemen.

Bovendien slaat hardwarecontextomschakeling de gegevens van drijvende-kommaregisters niet op, functionaliteit die nodig kan zijn. Softwarecontextomschakeling wordt daarom over het algemeen gebruikt. Hiermee kunnen de gegevens uit alle registers worden bewaard, inclusief registers met drijvende komma. Softwarecontextschakelaars hebben wel degelijk inzicht in de relevantie van gegevens. Dit betekent dat het kan kiezen welke het opslaat als dat nodig is.

Conclusie

Een contextomschakeling is een proces waarbij een moderne CPU omschakelt welke thread wordt uitgevoerd. Het proces omvat het opslaan van de relevante gegevens van de huidige thread en het herstellen van de relevante gegevens van de nieuwe thread. Contextomschakeling brengt prestatiekosten met zich mee die verband houden met de tijd die nodig is om de omschakeling uit te voeren, en de verhoogde snelheid van cache- en TLB-missers omdat deze niet worden opgeslagen. Contextwisselingen gebeuren ofwel om ervoor te zorgen dat alle threads voldoende CPU-tijd hebben of vanwege een onderbreking die aangeeft dat een gebeurtenis waarop de lijn wachtte, voltooid is.