Netwerklatentie - de invloed ervan op (cloud)serverimplementaties en IT-toepassingen

Op het gebied van netwerken staat de vertraging die optreedt bij het verwerken van netwerkgegevens bekend als 'netwerklatentie'. Het is het interval tussen het aanvragen en ontvangen van de gegevens. Deze netwerklatentie, ook wel 'vertraging' genoemd, geeft aan hoe lang een gegevensoverdracht erover doet om van het ene communicatie-eindpunt naar het andere te gaan via een datacommunicatienetwerk.

Netwerklatentie kan veel verschillende vormen en scenario's aannemen binnen een IT-omgeving en dedicated server setup. Netwerklatentie kan bijvoorbeeld optreden wanneer de IT-infrastructuur in het ene datacenter is verbonden met een IT-omgeving in een ander datacenter via een datacenter interconnect (DCI). Het kan bijvoorbeeld gaan om een ziekenhuis dat gevoelige patiëntgegevens heeft opgeslagen in zijn eigen serverruimte, terwijl gegevens uit de serverruimte toegankelijk zijn via IT-infrastructuur op dedicated servers in een datacenter van een derde partij. In de context van de cloud kan netwerklatentie bijvoorbeeld optreden wanneer een ontwikkelaar bij een klantorganisatie gegevens verstuurt naar of ophaalt van het platform van een cloud serviceprovider (CSP) via het beschikbare netwerk. Als we het hebben over multi-cloud, kan netwerklatentie optreden wanneer een bedrijfsapplicatie in de ene cloudomgeving communiceert met een andere bedrijfsapplicatie in een andere cloudomgeving. Welke vorm het ook aanneemt, netwerklatentie kan een grote impact hebben op een bedrijf en een effectief gebruik van zijn IT-toepassingen.

Cloud, Financiën, Gaming, Videoconferenties

Lage netwerklatentie is zeker belangrijk voor latentiegevoelige sectoren zoals financiën en handel, maar ook gaming, en cloud gaming meer specifiek, maar ook voor cloudomgevingen in het algemeen. Eigenlijk is netwerklatentie een belangrijke factor voor een groot aantal soorten bedrijven, vooral omdat bijna elke organisatie tegenwoordig met cloud-gebaseerde oplossingen werkt. In het geval van real-time communicatievereisten en real-time tracking zijn de netwerklatentievereisten meestal hoger, maar eigenlijk speelt het een rol in de prestaties van elke cloudgebaseerde of anderszins gehoste (web)applicatie.

Videoconferencing is een goed voorbeeld van een toepassing met real-time communicatieprincipes die door veel bedrijven wordt gebruikt en waarbij de netwerklatentie van invloed is op hoe snel audio- en videogegevens tussen deelnemers kunnen worden overgedragen en ontvangen. Zelfs een kleine vertraging in videoconferenties kan leiden tot problemen zoals korrelige video, haperende audio en vertraagde reacties op berichten of opdrachten. Deelnemers kunnen het daardoor moeilijk vinden om duidelijk te communiceren, wat hen kan frustreren en de productiviteit kan verlagen. Real-time communicatie is beter af met de laagste netwerklatentie, zodat audio- en videogegevens snel en zonder vertraging worden overgedragen. Lagere latenties resulteren in minder onderbrekingen zodat een dialoog natuurlijker verloopt, wat een betere samenwerking en communicatie mogelijk maakt.

Welke factoren beïnvloeden de netwerklatentie?

De snelheid waarmee gegevens worden verzonden van de serverbron naar de gebruiker wordt sterk beïnvloed door netwerkvertraging. Hoewel afstand een primaire factor is, is het niet de enige factor die bijdraagt aan de netwerklatentie die gepaard kan gaan met een serveropstelling in een datacenteromgeving. De efficiëntie van de netwerkbackbone waarmee de server is verbonden, speelt ook een cruciale rol bij het bepalen van de latentie. Bij Worldstream hebben we in de loop der jaren een wereldwijde netwerkbackbone opgebouwd die strategisch is opgebouwd met een ultralage latentie, waarbij afstand vaak een ondergeschikte rol speelt.

De bandbreedte die het Worldstream-netwerk levert bij een bezettingsgraad van 45% is een ander aspect. Deze enorme hoeveelheid bandbreedte draagt ook bij aan de gewenste lage netwerklatentie. Bandbreedte en latentie zijn nauw met elkaar verbonden als het gaat om netwerkprestaties en het creëren van optimale verbindingen voor een serveromgeving. Als er veel bandbreedte beschikbaar is, komt dit de beperking van netwerklatentiewaarden ten goede. Als er minder bandbreedte beschikbaar is, zal dit een nadelig effect hebben op de effectief bereikte latentie-waarden.

Intelligente routering is een belangrijk element binnen een netwerkarchitectuur die de latentie kan beïnvloeden. Gegevens worden meestal verzonden over meerdere autonome systemen. De netwerkbackbone van Worldstream is ook op deze manier opgebouwd. Gegevens worden over verschillende netwerken verzonden en routers zijn verantwoordelijk voor de verwerking en overdracht naar de eindbestemming. Het proces van gegevensoverdracht duurt langer naarmate er meer netwerken en Internet Exchange (IX)-punten worden doorkruist. Om dit netwerkverkeer op de juiste manier naar de beoogde locatie te leiden, speelt de efficiëntie van netwerkrouters een cruciale rol. Hoe snel gegevens kunnen worden getransporteerd, hangt sterk af van hoe effectief deze routers zijn en hoe efficiënt deze apparatuur zijn werk doet. De tijd die gegevens nodig hebben om hun bestemming te bereiken, kan aanzienlijk worden beïnvloed door de snelheid waarmee routers de gegevens analyseren en verwerken.

Afstand is dus niet de enige factor die kan bijdragen aan netwerklatentie binnen een serveropstelling in een datacenter. Netwerkefficiëntie, routering en routerefficiëntie spelen allemaal een cruciale rol bij het bepalen van de snelheid waarmee gegevens worden verzonden. Door rekening te houden met deze factoren kunnen serverbeheerders de netwerklatentie aanpakken en de gebruikers van hun (web)applicaties een optimale ervaring bieden.

De netwerklatentie wordt ook beïnvloed door de capaciteit, snelheid en configuratie van een server. Hoewel we in dit blogartikel niet in detail ingaan op de invloed van de serverconfiguratie op de netwerklatentie, is het belangrijk om in gedachten te houden dat ook deze bijdraagt aan het bereiken van lage netwerklatentiewaarden. Alleen de functie van het netwerk bij het genereren van ideale latentiewaarden wordt in dit artikel behandeld.

Netwerkbandbreedte vs. latentie

Zoals gezegd zijn bandbreedte en latentie twee kritieke factoren die aan elkaar gerelateerd zijn, terwijl ze een grote invloed kunnen hebben op de prestaties en gebruikerservaring van servers en de applicaties die erop draaien. Het belang ervan varieert echter op basis van het type server en de bewerkingen die erop worden uitgevoerd.

In het geval van gameservers, bijvoorbeeld, is netwerkbandbreedte een kritieke factor wanneer multi-player use cases worden overwogen. Het bepaalt hoeveel gamers tegelijkertijd verbinding kunnen maken en het spel kunnen spelen. Met een hoge netwerkbandbreedte kunnen meer spelers verbinding maken en zonder vertraging deelnemen aan het spel. Aan de andere kant, als de server een lage bandbreedteverbinding heeft en meerdere spelers tegelijkertijd het spel spelen, kan dit leiden tot lag en kunnen spelers waarneembare vertragingen ervaren tussen hun invoer en het gedrag van het spelpersonage, wat leidt tot een ondermaatse spelervaring. Het effect van bandbreedte kan echter minder belangrijk zijn als er niet zoveel spelers tegelijk gamen op dezelfde verbinding.

Voor (live)streamingtoepassingen die op servers draaien, zijn zowel bandbreedte als latentie cruciale factoren. Een lage bandbreedte kan leiden tot lange buffertijden of een slechte videokwaliteit, wat een frustrerende ervaring is voor gebruikers. Daarentegen kan een hoge latentie leiden tot een merkbare vertraging in livestreaming, waardoor het voor gebruikers moeilijk wordt om te genieten van realtime content.

Webhostingapplicaties die op servers draaien, zijn ook sterk afhankelijk van bandbreedte en latentie. Een lage bandbreedte kan ervoor zorgen dat websites langzaam laden, wat kan leiden tot een hoger bouncepercentage en een lager conversiepercentage. Aan de andere kant kan een hoge latentie leiden tot frustratie door een traag ladende webpagina, waardoor gebruikers hun interesse verliezen en de website verlaten.

Bandbreedte en latentie zijn dus allebei cruciale factoren die de prestaties en gebruikerservaring van servers en de applicaties die erop draaien aanzienlijk kunnen beïnvloeden. Servers die een hoge gegevensoverdracht vereisen, zoals gaming- en (live)streamingservers, hebben meestal verbindingen met een hoge bandbreedte nodig om optimale prestaties te garanderen. Webhostingservers hebben daarentegen meestal een balans nodig van bandbreedte en latentie om een snelle en betrouwbare gebruikerservaring te bieden.

Netwerklatentie - Hoe te meten

Het meten van netwerkvertraging kan essentieel zijn voor serverimplementaties omdat het direct invloed heeft op de prestaties van netwerkafhankelijke applicaties en diensten die op deze servers worden ingezet. Latency kan worden gemeten aan de hand van twee belangrijke meetgegevens: Time to First Byte (TTFB) en Round Trip Time (RTT). TTFB berekent de tijd die het duurt voordat de eerste byte van de gegevens de oorsprongsserver bereikt nadat een client een verzoek heeft verzonden, terwijl RTT de tijd meet die een gegevenspakket nodig heeft om van de browser van de gebruiker naar een netwerkserver en terug te reizen. Terwijl netwerken met ultralage latentie een analyse in nanoseconden (ns) vereisen, controleren beheerders TTFB en RTT meestal in milliseconden (ms).

Om de netwerklatentie te meten, gebruiken beheerders gewoonlijk drie methoden: Ping, traceroute en MTR (My Traceroute). Ping controleert de bereikbaarheid van een host op een IP-netwerk en geeft informatie over ongeveer de helft van de latentiewaarde van het netwerk. Traceroute test de bereikbaarheid en registreert de route die pakketten afleggen om de host te bereiken, terwijl MTR de ping- en traceroute-methodes grondiger combineert. Door deze methoden te gebruiken, kunnen beheerders inzicht krijgen in de netwerklatentie en eventuele problemen identificeren die de prestaties kunnen beïnvloeden.

Netwerkdoorvoer

In termen van een algemeen begrip van netwerkprestaties en de effecten die deze kunnen hebben op een serveromgeving en de applicaties die erop draaien, zijn we er nog niet met alleen het uitleggen van de concepten netwerklatentie en bandbreedte. Doorvoer, jitter en pakketverlies zijn andere variabelen die de netwerkprestaties kunnen beïnvloeden en daarmee de prestaties van op servers draaiende IT-applicaties in het algemeen.

Throughput verwijst naar het volume netwerkverkeer dat op een bepaald moment van een bron of verzameling bronnen naar een bepaalde bestemming of groep bestemmingen gaat. In wezen meet het de snelheid en efficiëntie van gegevensoverdracht. Doorvoer kan worden uitgedrukt als een aantal pakketten, bytes of bits per seconde, waarbij de meest gebruikte meeteenheid Mbit/s of megabits per seconde is. Inzicht in doorvoer als onderdeel van de algehele netwerkoperaties is cruciaal om een efficiënte gegevensoverdracht te garanderen voor elke server-implementatie van IT.

Doorvoer bepaalt het aantal pakketten/berichten dat succesvol kan worden afgeleverd op de beoogde bestemmingen, waardoor het een andere essentiële meeteenheid is voor het evalueren van netwerkprestaties. Een hoge verwerkingscapaciteit wordt bereikt wanneer de meerderheid van de berichten succesvol wordt afgeleverd, terwijl een laag succespercentage zal leiden tot een lagere verwerkingscapaciteit. Een afname in doorvoer kan de netwerkprestaties direct beïnvloeden, wat waarschijnlijk resulteert in een slechte servicekwaliteit. Een goede pakketaflevering kan cruciaal zijn om verbinding te maken en effectief te communiceren. Tijdens een VoIP Voice over IP-verbinding bijvoorbeeld kan een lage doorvoer resulteren in audioskips en een slechte communicatiekwaliteit voor de gebruikers. Het is dus essentieel om goede doorvoerniveaus te handhaven voor optimale netwerkprestaties.

Verschillende factoren kunnen bijdragen tot een slechte netwerkdoorvoer, maar ineffectieve hardwareprestaties zijn één van de belangrijkste oorzaken. De termen netwerkbandbreedte en -doorvoer worden vaak door elkaar gebruikt, hoewel dit zeker twee netwerktermen zijn die betekenis geven aan verschillende netwerkkenmerken. Beschouw bandbreedte als de grenzen van een netwerkverbinding. Doorvoer daarentegen is de snelheid waarmee gegevens door het netwerk worden verzonden.

Net als bij bandbreedte worden bitrate-eenheden gebruikt om doorvoer te meten. De bitrate is de hoeveelheid bits die verwerkt worden in een bepaalde hoeveelheid tijd. Bits per seconde (bit/s) of kilobits per seconde (kbit/s) zijn de gebruikelijke meeteenheden. Het berekent de hoeveelheid gegevens die in een bepaalde tijd van het ene netwerkeindpunt naar het andere wordt verplaatst.

Jitter - Streaming video en audio

Naast netwerklatentie, bandbreedte en doorvoer is jitter ook iets dat een rol kan spelen in de prestaties van netwerkcommunicatie en server-gebaseerde IT-toepassingen die gebruik maken van een netwerk. De variatie in vertraging tussen pakketstromen van het ene netwerkpunt naar het andere wordt jitter genoemd. Net als bij netwerklatentie wordt jitter gemeten in milliseconden.

Lage niveaus van jitter zullen waarschijnlijk geen merkbaar effect hebben op een netwerkervaring, dus deze zullen niet noodzakelijk een significant probleem veroorzaken. Er kunnen zelfs korte, onvoorspelbare afwijkende jittervariaties optreden in bepaalde omstandigheden. Onder deze omstandigheden is jitter minder een probleem.

Streaming audio- en videodiensten worden het meest beïnvloed door jitter. Om het voorbeeld van VoIP-toepassingen te herhalen: het is mogelijk dat jitter de oorzaak is van VoIP-gesprekken die tijdelijk in kwaliteit afnemen of zelfs volledig worden onderbroken waarbij aanzienlijke delen van het gesprek verloren gaan of onduidelijk zijn.

Jitter vertegenwoordigt in feite de mate van onvoorspelbaarheid in latentie doorheen een netwerk, terwijl latentie de hoeveelheid tijd is die gegevens nodig hebben om van het ene netwerkpunt naar het andere te reizen en een rondreis te voltooien. Een hoge latentie kan onaangenaam zijn, maar jitter, of (onverwachte) latentie, kan net zo vervelend en slecht zijn voor de bedrijfsvoering van een serviceprovider. Om een continue netwerkkwaliteit te garanderen, vooral als het gaat om het gebruik van diensten zoals VoIP en live streaming op een serverinfrastructuur, moet jitter zeker worden aangepakt als het gaat om het vaststellen van de hoogste netwerkprestaties.

Jitter - Hoe te meten

Net als latentie kunnen jitterwaarden ook gemeten worden. Om netwerkjitter te kwantificeren en de impact ervan te bepalen op IT-applicaties die op een server draaien, kan de gemiddelde pakket-tot-pakket vertragingstijd worden berekend. Als alternatief kunnen verschillende absolute pakketvertragingen in sequentiële netwerkcommunicatie gemeten worden. Het soort netwerkverkeer heeft invloed op hoe jitter precies gemeten moet worden. Afhankelijk van of er controle is over één of beide netwerk eindpunten, zal de procedure voor het meten van jitter in VoIP communicatie variëren.

Het berekenen van de gemiddelde round-trip tijd en de minimale round-trip tijd voor een set pakketten zal een ping jitter test mogelijk maken als er slechts controle is over één netwerk eindpunt vanuit een gebruikersperspectief. De variatie tussen de intervallen van verzenden en ontvangen voor een enkel pakket wordt een real-time jittermeting genoemd en kan worden gebruikt om jitter te kwantificeren als er controle is over beide netwerkeinden. Als er meerdere pakketten worden verzonden, kan jitter worden berekend als het gemiddelde verschil tussen realtime jittermetingen en de gemiddelde realtime jitter over alle netwerkpakketten.

Netwerk pakketverlies

Wanneer pakketten worden getransporteerd via een netwerk, maar een of meer ervan verloren gaan tijdens de transmissie, staat dit bekend als pakketverlies. Toepassingen die real-time gegevensoverdracht nodig hebben, hebben het meest te lijden onder pakketverlies. Online videogames, Voice over IP en op video gebaseerde samenwerkingstools zijn hier enkele voorbeelden van. Netwerkcongestie, slecht functionerende of oude netwerkapparatuur en softwareproblemen kunnen bijdragen aan pakketverlies.

Netwerkcongestie is een van de meest voorkomende oorzaken van netwerkpakketverlies. Wanneer een verbinding bijna op zijn maximale verwerkingscapaciteit werkt, kunnen pakketten verloren gaan. Andere veel voorkomende redenen zijn slecht werkende hardware, algemene radiogerelateerde problemen en soms kan apparatuur opzettelijk pakketten verliezen om doelen te bereiken zoals het verminderen van de verkeersdoorvoer of voor routering.

Pakketverlies zal vaak de doorvoer of snelheid van een netwerkverbinding vertragen. Als het gaat om latentiegevoelige protocollen of toepassingen zoals streaming video, videogames of VoIP, kan dit soms leiden tot een daling van de servicekwaliteit.

Door de concepten latentie, bandbreedte, doorvoer, jitter en pakketverlies te bespreken, hebben we de sleutelfactoren aangestipt die de prestaties van een netwerk bepalen. Hoe de verschillende netwerkwaarden bepaald kunnen worden, kan helpen bij het op maat maken van je specifieke server-gebaseerde IT-toepassingen en een netwerkontwerp dat daar nauw bij aansluit.

Voor sommigen kan het intimiderend zijn om de berekeningen uit dit artikel uit te voeren. Als dit het geval is, bijvoorbeeld bij het bepalen van jitterniveaus, is een andere praktische manier om jitter te onderzoeken het testen van bandbreedte. Als je ondersteuning nodig hebt, zowel bij elke vorm van netwerkmeting als bij een gewenste afstemming op gebruikerstoepassingen, kun je altijd de experts van Worldstream raadplegen. Onze engineers zijn zeer deskundig op dit gebied en ons supportteam helpt je graag verder.

Conclusie

Tot slot is netwerklatentie een vertraging die optreedt tijdens het verwerken van netwerkgegevens. Het kan verschillende vormen en scenario's aannemen binnen een IT-omgeving en dedicated server setup. Lage netwerklatentie is een belangrijke factor voor verschillende bedrijven, vooral voor bedrijven die cloud-gebaseerde oplossingen gebruiken. Het heeft ook invloed op hoe snel audio- en videogegevens kunnen worden overgedragen en ontvangen tussen deelnemers, wat resulteert in problemen zoals korrelige video, haperende audio en vertraagde reacties. Lagere latenties resulteren in minder onderbrekingen en betere samenwerking en communicatie.

Het kan vooral een belangrijke metriek zijn voor latentiegevoelige sectoren zoals financiën en handel, gaming, videoconferenties en VoIP, maar ook voor cloudomgevingen in het algemeen. Netwerklatentievereisten zijn meestal hoger bij real-time communicatievereisten en real-time tracking, maar in feite speelt het een rol bij de prestaties van elke cloudgebaseerde of anderszins gehoste (web)applicatie.

Netwerklatentie is namelijk een belangrijke factor bij gegevensoverdracht. Daarom heeft Worldstream een wereldwijde netwerkbackbone met ultralage latentie gebouwd. Latentie is ook nauw verbonden met bandbreedte, terwijl intelligente routing een belangrijk element is binnen een netwerkarchitectuur die van invloed kan zijn op latentie. Gegevens verplaatsen zich over netwerken en routers zijn verantwoordelijk voor het verwerken en overbrengen van de gegevens naar hun bestemming. Routerefficiëntie, routing en routering spelen allemaal een cruciale rol bij het bepalen van de snelheid waarmee gegevens worden verzonden. De wereldwijde backbone van Worldstream is op deze manier opgebouwd, waardoor ultralage latentieniveaus mogelijk zijn.

Servercapaciteit, snelheid en configuratie dragen ook bij aan het bereiken van lage netwerklatentiewaarden, hoewel dit buiten het bestek van dit blogartikel valt. Wat we er in dit artikel over kunnen zeggen is het volgende. Het serveraanbod van Worldstream dat wereldwijd aan onze klanten wordt geleverd, is een onbeheerde oplossing die altijd kan worden aangepast aan de latentiebehoeften en applicatievereisten van de klant. Het stelt onze klanten op unieke wijze in staat end-to-end low-latentie setups te creëren, inclusief de implementatie van het netwerk en de bijbehorende serverconfiguraties.

Netwerkbandbreedte en -doorvoer worden vaak door elkaar gebruikt, hoewel deze twee termen een verschillende betekenis hebben voor netwerkkenmerken. Doorvoer is het volume netwerkverkeer dat op een bepaald moment van een bron of verzameling bronnen naar een bepaalde bestemming of groep bestemmingen gaat. Inzicht in doorvoer als onderdeel van de algemene netwerkoperaties is cruciaal om een efficiënte gegevensoverdracht te garanderen voor elke server-gebaseerde IT-toepassing. Verschillende factoren kunnen bijdragen aan een slechte netwerkdoorvoer, maar ineffectieve hardwareprestaties zijn een van de belangrijkste oorzaken. De netwerkbackbone van Worldstream is gebouwd met hardware van de hoogste kwaliteit en de modernste technologie, die beide bijdragen aan de toonaangevende doorvoerwaarden die we in onze wereldwijde netwerkbackbone kunnen bereiken.

Jitter moet ook worden aangepakt als het gaat om het bereiken van de hoogste netwerkprestaties. Jitter is een variatie in vertraging tussen pakketstromen van het ene netwerkpunt naar het andere die de prestaties van netwerkcommunicatie en server-gebaseerde IT-toepassingen kan beïnvloeden. Jitter vertegenwoordigt de mate van onvoorspelbaarheid in latentie, terwijl latentie de hoeveelheid tijd is die gegevens nodig hebben om van het ene netwerkpunt naar het andere te reizen en een rondreis te voltooien. Vooral streaming audio- en videodiensten hebben last van jitter. Het feit dat Worldstream met succes een groot aantal klanten in dit marktsegment kan bedienen, is natuurlijk ook een indicatie van de lage jitterwaarden van de netwerkbackbone die aan deze klanten wordt geleverd.

Over Worldstream en zijn globale netwerkbackbone

Worldstream is opgericht in 2006 door jeugdvrienden met een gedeelde passie voor gaming. Uit onvrede over de hoge kosten en de onbetrouwbaarheid van gameservers ontstond het idee om betere oplossingen te bieden. Sindsdien is het Westlandse IT-bedrijf uitgegroeid tot internationale speler van IT-infrastructuur (IaaS) met eigen datacenters in Nederland.  

Worldstream wil de levens van IT-leiders bij technologiebedrijven makkelijker maken. Als leverancier van datacenter-, hardware- en netwerkdiensten bedient Worldstream diverse zakelijke markten, waaronder Managed Service Providers (MSP's), System Integrators (SI's), Independent Software Vendors (ISV’s) en webhostingbedrijven. Het belangrijkste doel van Worldstream is om IT-leiders weer enthousiast te maken over hun IT-infrastructuur met hoogwaardige infrastructuur, toonaangevende service en sterke partnerschappen.

Het eigen wereldwijde netwerk van Worldstream heeft voldoende bandbreedtecapaciteit beschikbaar. Het maximale bandbreedtegebruik van dit netwerk is slechts 45%, waardoor servergebruikers verzekerd zijn van uitzonderlijke schaalbaarheid en ultieme DDoS-bescherming. Onze wereldwijde backbone met ultralage latency is voor verschillende klanten reden om het te gebruiken in hun datacenteromgeving. Onze ervaren en deskundige technische supportafdeling is 24/7 beschikbaar om klanten te helpen met hun netwerk- en serverimplementaties.

Meer over het globale networkbackbone van Worldstream vind je hier.

Interessant voor jou:

• 7 voordelen van een public cloud infrastructuur.
• Het verschil tussen bare metal cloud en dedicated servers.
• Wat zijn je opties tegen een stijgende lijn in DDoS-aanvallen? 

Vragen aan de auteur over deze blogpost? Je kan ons  hier bereiken.