Leksikon
Latency og throughput
Latency er hvor hurtigt ét svar kommer; throughput er hvor mange svar systemet kan nå. Forstå de to mål, der tilsammen beskriver en løsnings ydeevne.
To sider af ydeevne
Når man taler om, hvor "hurtigt" et system er, dækker det egentlig to forskellige ting:
- Latency er forsinkelsen på ét enkelt svar — hvor lang tid der går, fra du beder om noget, til du får det. Måles i millisekunder.
- Throughput er kapaciteten — hvor mange forespørgsler systemet kan håndtere per sekund.
Hvorfor forskellen betyder noget
De to hænger ikke altid sammen. Et system kan svare lynhurtigt på ét kald (lav latency), men gå i knæ, når mange kalder samtidig (lav throughput) — og omvendt. En webshop på en travl dag har brug for begge dele: hurtige svar og nok kapacitet til alle.
Hvorfor man måler på P99, ikke gennemsnit
Gennemsnitlig latency snyder, fordi den skjuler de uheldige. Derfor ser man på P99 — den tid, 99 % af brugerne får svar inden for. Hvis gennemsnittet er fint, men P99 er elendigt, betyder det, at hver hundrede bruger har en dårlig oplevelse. Det er den slags, vi holder øje med, så en løsning føles hurtig for alle — ikke bare i gennemsnit.
Flere opslag i leksikonet
Se hele leksikonet →Relaterede ydelser
Skal det her omsættes til noget, der virker hos jer? Så er det typisk her, vi kommer ind.
Fra begreb til løsning
Skal et af begreberne her omsættes til noget der rent faktisk virker i din virksomhed, så tag en uforpligtende snak med os.