Stackrig berechnet seine Live-Zahlen mit einem schnellen Flussmodell. Dieses Modell prüfen wir
gegen eine langsamere, exakte Simulation, die jede Anfrage durch dieselben Designs verfolgt.
Unten steht jede Prüfung der aktuellen Engine: wo die beiden innerhalb der Toleranz
übereinstimmen, und die wenigen Stellen, an denen sie es nicht tun und die wir als bekannte
Grenzen veröffentlichen.
121 Szenarien, 766 Prüfungen: 688 stimmen innerhalb der Toleranz, 78 sind veröffentlichte Grenzen (unten erklärt). Keine Fehlschläge.
Toleranzen: Raten und Auslastung ±5 %, Latenz-Perzentile ±15 %, Fehleranteile ±0,5 Punkte oder ±15 %. Jeder Wert der exakten Simulation ist der Mittelwert aus 8 unabhängigen Läufen.
Engine 0.1.0 · Seiten-Build eefec0d (2026-10-14)
So prüfen wir
Jedes Szenario unten läuft zweimal: einmal mit dem schnellen Modell, das die Live-Zahlen im Playground liefert, und einmal mit einer langsamen, exakten Simulation, die jede einzelne Anfrage durch das Design verfolgt.
Die beiden müssen bei Durchsatz und Auslastung auf ±5 % und bei den Latenz-Perzentilen auf ±15 % übereinstimmen; die exakte Simulation wird 8-mal wiederholt und gemittelt, damit ihr eigenes Rauschen klein bleibt.
Wo sie nicht übereinstimmen, sagen wir es: Die bekannten Grenzen unten erklären in einfachen Worten, um welche Situation es geht (etwa lange Überlast, Retries, die sich selbst nähren, oder ein Breaker genau an seiner Schwelle) und in welche Richtung die Live-Zahlen abweichen.
Übereinstimmung mit einer exakten Simulation ist nicht dasselbe wie Übereinstimmung mit echten Maschinen. Deshalb lassen wir dieselben Designs auch auf echten Cloud-VMs unter Last laufen und veröffentlichen, wie weit das Modell von diesen Messungen entfernt ist, mit dem Aufbau jedes Laufs.
Bekannte Grenzen
S7 · Überlast mit endlichem Puffer: Bei voller Accept-Queue liegt die p99 des Live-Modells etwa 20 % zu hoch: Die Wartezeit ist dann nahezu konstant, was die Verteilung des Modells nicht abbildet.
S8 · Timeouts und Retries (stabil): Ein Retry direkt nach einem Timeout trifft auf denselben Stau. Das Live-Modell koppelt Retries über die gemeinsame Wartezeit und die verwaiste Arbeit abgelaufener Aufrufe, unterschätzt lange Stauphasen aber trotzdem: Die Fehlerquote am Ende liegt bei etwa einem Fünftel der exakten Simulation.
S8b · Timeout unter der gesunden p99: Wenn Retries plus normale Last mehr sind, als der Dienst bewältigt, ist ein Retry-Sturm ein zweiter, sich selbst erhaltender Zustand. Die exakte Simulation fällt nach einem zufälligen Schub innerhalb von Sekunden hinein; das Live-Modell braucht einen Auslöser und bleibt dann ebenfalls darin (S37). Der Playground warnt, wenn einem Design das droht.
S11 · Periodische Traffic-Spitzen (Zeitmittel): Über periodische Spitzen liegt die p99 etwa 18 % zu hoch: Kurzzeitige Queues werden gemittelt, nicht nachgespielt.
S16b Ca 2 · Stoßweise Ankünfte, 75 % ausgelastet: Bei sehr stoßweisen Ankünften liegt der Median etwa 23 % zu niedrig; das Ende der Verteilung (p95, p99) bleibt in der Toleranz.
S20b · Autoscaling-Sprung mit Kaltstarts (neue Instanzen anfangs 3-mal langsamer): Eine frische Instanz ist für sich allein überlastet, während das Live-Modell ihre Geschwindigkeit mit den warmen mittelt: Die p99 liegt etwa 30 % zu niedrig, und der Autoscaler entscheidet sich womöglich eine Stufe höher.
S28b · Thundering Herd: langsame Ladevorgänge nach einem Flush, mit und ohne Coalescing: Ohne Coalescing und mit der Datenbank tief in Überlast beendet das Live-Modell jeden Ladevorgang nach der Wartezeit, die er beim Start antraf, während in der exakten Simulation frühe Ladevorgänge heißer Schlüssel den Rückstau überholen: Etwa 30–40 % zu viele Misses erreichen die Datenbank. Mit Coalescing stimmt es.
S33 · Circuit Breaker gegen eine Abhängigkeit, die zu 60 % fehlschlägt: Er öffnet, und die Aufrufe scheitern sofort: Solange der Breaker offen ist, sieht die Abhängigkeit nur die Half-Open-Proben, ein paar pro Zyklus, und ob ein Zyklus ihn schließt, ist ein Münzwurf: Ihre Ankunftsrate (hier unter 1 pro Sekunde) rauscht in beiden Modellen.
S33b · Circuit Breaker nahe seiner Schwelle mit Fallback-Skip: Er öffnet und schließt immer wieder: Nahe seiner Schwelle öffnet ein geschlossener Breaker im Live-Modell nach genau der Mindestzahl an Aufrufen wieder, während ihn in der exakten Simulation ein glückliches Fenster etwas länger geschlossen hält: Die Abhängigkeit sieht etwa halb so viele Aufrufe (4 gegen 8 pro Sekunde, von 200) und die Aufrufer etwa halb so viele Fehler (0,6 % gegen 1,1 %).
S35e · Gesättigter Connection-Pool ohne Timeout: Der Aufrufer weist den Überschuss ab: Der Pool ist voll, und alle Threads des Aufrufers warten auf ihn, also weist der Aufrufer den Überschuss ab. Die exakte Simulation stellt ihn zuerst in die Accept-Queue des Aufrufers, das Live-Modell lehnt ihn sofort ab: Fehlerquote und Durchsatz stimmen, die p99 ist etwa halb so groß.
S35f · Überlasteter Connection-Pool mit Timeout und einem Retry: Überlastet und mit Timeout kippt die exakte Simulation in einen Zusammenbruch: Sobald die Datenbank sich staut, bekommt jeder wartende Aufruf kurz vor seinem Timeout eine Verbindung, sodass alle Aufrufe die Datenbank erreichen und sie überlastet bleibt. Das Live-Modell bleibt in dem Zustand, in dem der Überschuss seinen Timeout abwartet. Beide melden den Pool als voll.
S36 · Blockierende Queue bei 125 %: Producer warten auf Platz, und die API weist den Überschuss ab: Gesättigt wartet ein Producer fast genau die Zeit, die die Consumer für die Nachrichten vor ihm brauchen. Das Live-Modell streut diese Wartezeit breiter: Der Median stimmt, die p99 liegt etwa ein Drittel zu hoch.
S36b · Blockierende Queue mit einem 20-ms-Limit fürs Warten auf Platz: Mit einem 20-ms-Limit warten die meisten Producer in der exakten Simulation fast so lange, bevor sie Platz bekommen; das Live-Modell lässt mehr von ihnen auf einmal hinein, daher ist der Median niedriger. Das Ende der Verteilung und die Fehlerquote stimmen.
S38h · Virtuelle Nutzer, deren Engpass eine reine Lese-Datenbank aus vier gleichen Servern ist: Wenige Nutzer verteilen sich zufällig auf mehrere gleiche Datenbankserver, sodass zu jedem Zeitpunkt manche Server eine Queue haben, während andere leer laufen. Das Live-Modell verteilt sie gleichmäßig: Sein Durchsatz liegt etwa 5 % zu hoch und seine p99 etwa ein Drittel zu niedrig.
S43b · Shared-Core-Instanz (GCP e2-small) bei 85 % der CPU, die sie halten kann: Auf einem geteilten Kern teilen sich gleichzeitig laufende Anfragen seine begrenzte Geschwindigkeit. Das Live-Modell trifft den Durchschnitt, unterschätzt die langsamsten Anfragen aber um etwa ein Fünftel.
S44 · Mehrere Datenbank-Lesezugriffe pro Anfrage, nacheinander, durch einen Connection-Pool, bei 50 bis 90 % Last: Mit 4 Lesezugriffen durch einen Pool von 2 bei 70 % Last liegt der Median 15 % zu niedrig, am Rand der Toleranz. Jede p95 und p99 stimmt.
S44b · Mehrere Datenbank-Lesezugriffe pro Anfrage an eine Datenbank, deren zwei Threads sich einen Kern teilen: Mit nur 2 Verbindungen in eine Datenbank, deren Threads sich einen Kern teilen, verschiebt sich die Wartezeit nahe Volllast stark bei kleiner Änderung der Abfragezeit: Median und p95 des Live-Modells liegen bei 90 % Last 15 bis 18 % zu niedrig, der Median mit vier Lesezugriffen pro Anfrage schon ab 70 % Last. Mit 16 Verbindungen und vier Lesezugriffen bei 90 % Last liegt seine p99 16 % unter diesem Lauf der exakten Simulation, deren eigene p99 dort zwischen wiederholten Läufen um ein Fünftel schwankt; gegen achtmal so viele Läufe liegt sie 6 % zu niedrig.
S46 · Sehr stoßweise Ankünfte (wie für Serverless-Funktionen gemessen) an einem Dienst, 50 bis 90 % ausgelastet: Bei sehr stoßweisen Ankünften stimmen die langsamen Anfragen (p95 innerhalb 11 %), aber die typische Anfrage ist im Live-Modell 20 bis 60 % zu schnell, und bei halber Last liegt seine p99 bis zu 40 % zu hoch.
S46b · Sehr stoßweise Ankünfte an einem Dienst, dessen Aufrufer nach 100 ms aufgeben: die Fehlerquote: Bei sehr stoßweisen Ankünften und kurzem Timeout zeigt das Live-Modell bei 75 % Last ein Viertel bis ein Drittel zu wenige fehlgeschlagene Anfragen und bei 90 % etwa ein Sechstel zu wenige.
S46c · Sehr stoßweise Ankünfte an einem Dienst mit vier Instanzen: Bei sehr stoßweisen Ankünften auf vier Instanzen stimmen die langsamen Anfragen (p95 und p99 innerhalb 10 %); die typische Anfrage ist im Live-Modell 15 bis 35 % zu schnell.
S46d · Sehr stoßweise Ankünfte durch einen Connection-Pool in eine Datenbank: Hinter einem Connection-Pool stimmt die p99 ab 75 % Last. Bei halber Last liegt sie ein Viertel bis zwei Fünftel zu hoch, wie an einem einzelnen Dienst. Die p95 bei 75 % Last liegt etwa ein Fünftel zu niedrig und der Median ein Viertel bis drei Fünftel: Mit Schüben warten die meisten Anfragen länger, als das Live-Modell sagt, während die langsamsten stimmen.
S47 n2 cv0.03 50 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: nahezu konstante Arbeit, 50 % ausgelastet: Ein Server, der jede n-te Anfrage bekommt und nahezu konstante Arbeit leistet, staut kaum, und das bisschen Warten, das bleibt, ist gleichmäßiger, als das Live-Modell annimmt: Seine p99 liegt bis zu etwa ein Viertel zu hoch. Der Median stimmt.
S47 n2 cv0.03 70 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: nahezu konstante Arbeit, 70 % ausgelastet: Ein Server, der jede n-te Anfrage bekommt und nahezu konstante Arbeit leistet, staut kaum, und das bisschen Warten, das bleibt, ist gleichmäßiger, als das Live-Modell annimmt: Seine p99 liegt bis zu etwa ein Viertel zu hoch. Der Median stimmt.
S47 n2 cv0.03 90 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: nahezu konstante Arbeit, 90 % ausgelastet: Ein Server, der jede n-te Anfrage bekommt und nahezu konstante Arbeit leistet, staut kaum, und das bisschen Warten, das bleibt, ist gleichmäßiger, als das Live-Modell annimmt: Seine p99 liegt bis zu etwa ein Viertel zu hoch. Der Median stimmt.
S47 n2 cv2 50 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 50 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
S47 n2 cv2 70 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 70 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
S47 n2 cv2 90 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 90 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
S47 n4 cv0.03 70 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: nahezu konstante Arbeit, 70 % ausgelastet: Ein Server, der jede n-te Anfrage bekommt und nahezu konstante Arbeit leistet, staut kaum, und das bisschen Warten, das bleibt, ist gleichmäßiger, als das Live-Modell annimmt: Seine p99 liegt bis zu etwa ein Viertel zu hoch. Der Median stimmt.
S47 n4 cv2 50 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 50 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
S47 n4 cv2 70 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 70 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
S47 n4 cv2 90 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 90 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
S47 n8 cv0.03 90 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: nahezu konstante Arbeit, 90 % ausgelastet: Ein Server, der jede n-te Anfrage bekommt und nahezu konstante Arbeit leistet, staut kaum, und das bisschen Warten, das bleibt, ist gleichmäßiger, als das Live-Modell annimmt: Seine p99 liegt bis zu etwa ein Viertel zu hoch. Der Median stimmt.
S47 n8 cv2 50 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 50 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
S47 n8 cv2 70 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 70 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
S47 n8 cv2 90 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 90 % ausgelastet: So ungleichmäßige Arbeit liegt außerhalb des Bereichs, für den das Live-Modell geprüft ist: Sein Median liegt bis zu etwa ein Drittel zu hoch, seine p99 bis zu etwa ein Viertel.
Timeouts, während ein Rückstau wächst: Wenn ein Server so lange hinterherhinkt, dass Anfragen ihren Timeout abwarten, zeigt das Live-Modell die Fehler bis zu einen Timeout zu früh: wenn die Anfrage ankommt, die ablaufen wird, nicht wenn ihr Timeout abläuft. Beispiel: 2.000 Anfragen pro Sekunde an einen Server, der 1.600 schafft, mit 30 s Timeout. Das Live-Modell zeigt die ersten Fehler nach etwa 117 s; die exakte Simulation und die Rechnung sagen 150 s. Ab dann stimmen beide überein.
Ein Retry-Budget in einem Schub: Ein Retry-Budget spart die Retries an, die es nicht gebraucht hat, und kann sie ausgeben, wenn ein Schub beginnt. Das Live-Modell spart nichts an: In den ein bis zwei dichtesten Sekunden eines Schubs zeigt es etwa ein Drittel bis die Hälfte weniger Aufrufe als die exakte Simulation, sodass die Last auf dem Dienst dahinter in diesen Sekunden niedriger aussieht, als sie ist. Danach stimmen beide überein.
Eine Datenbank-Platte nahe ihrer Grenze: Commits, die ankommen, während die Platte schreibt, teilen sich den nächsten Flush. Bis 90 % des Durchsatzes der Platte liegt die Wartezeit des Live-Modells auf einen Flush innerhalb von etwa einem Zehntel einer Simulation Commit für Commit, seine p99 innerhalb von etwa einem Siebtel. Darüber liegt seine p99 zu hoch: bei 95 % um etwa ein Fünftel.
Messungen in der echten Cloud
Dieselben Designs, auf echten Cloud-VMs ausgeführt und unter Last gemessen (Stand 2026-09-30). Aufbau: der Dienst und, wo genannt, PostgreSQL jeweils auf einer eigenen Google-Cloud-VM n2-standard-2 (2 vCPU), der Lastgenerator auf einer dritten VM; die Last steigt in Stufen von 60 s, mit gleichmäßiger Rate oder mit zufälligen (Poisson-)Ankünften. Die Tabelle zeigt, wie weit das Live-Modell im Mittel von der Messung entfernt ist, über die Laststufen bis 90 % CPU.
Mittlere absolute Abweichung des Live-Modells von echten Maschinen
Lauf
Ankünfte
Durchsatz
p50
p95
p99
S1: ein CPU-gebundener Dienst (2 vCPU, n2)
gleichmäßig
0,0 %
6,6 %
6,7 %
6,3 %
S1: ein CPU-gebundener Dienst (2 vCPU, n2)
Poisson
1,0 %
22,6 %
23,1 %
26,9 %
S2: Dienst → Postgres (je 2 vCPU, n2)
gleichmäßig
0,0 %
130,6 %
97,6 %
44,0 %
S2: Dienst → Postgres (je 2 vCPU, n2)
Poisson
0,2 %
99,8 %
30,7 %
42,1 %
Der Durchsatz stimmt mit den echten Maschinen auf 1 % überein. Bei einem CPU-gebundenen Dienst liegen die Latenz-Perzentile bei gleichmäßiger Rate innerhalb 7 % und bei zufälligen (Poisson-)Ankünften innerhalb von etwa 25 %. Bei einem Dienst vor PostgreSQL dauern die echten Anfragen unter einer Millisekunde, sodass kleine feste Kosten dominieren und der Median des Modells bis zu etwa 1,7-fach daneben liegt. Nahe der Kapazität der Datenbank unterschätzt das Modell die langsamsten Anfragen noch, weil Anfragen dort in der Anwendung auch auf eine freie Datenbankverbindung warten, was wir noch kalibrieren. Bis dahin lies Stackrigs Werte für die langsamsten Anfragen nahe der Kapazität einer Datenbank als optimistisch.
Jede Prüfung
766 von 766 Prüfungen angezeigt.
S1 · Ein Dienst, 4 Threads, 75 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
rate
300
300
−0,0 %
±5,0 %
innerhalb
s
util
0,750
0,750
+0,1 %
±5,0 %
innerhalb
end-to-end
p50
11,84
11,60
+2,1 %
±15,0 %
innerhalb
end-to-end
p95
41,50
40,53
+2,4 %
±15,0 %
innerhalb
end-to-end
p99
63,48
63,48
0,0 %
±15,0 %
innerhalb
S2 · Load Balancer → Dienst → Datenbank mit Replikat
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
1210
1209
+0,1 %
±5,0 %
innerhalb
s
util
0,550
0,550
−0,0 %
±5,0 %
innerhalb
db
util
0,682
0,680
+0,3 %
±5,0 %
innerhalb
end-to-end
p50
16,36
15,87
+3,1 %
±15,0 %
innerhalb
end-to-end
p95
39,55
36,62
+8,0 %
±15,0 %
innerhalb
end-to-end
p99
55,18
53,22
+3,7 %
±15,0 %
innerhalb
S3 · Cache vor der Datenbank
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
400
401
−0,4 %
±5,0 %
innerhalb
db
util
0,700
0,704
−0,6 %
±5,0 %
innerhalb
end-to-end
p50
2,11
2,11
0,0 %
±15,0 %
innerhalb
end-to-end
p95
11,60
11,60
0,0 %
±15,0 %
innerhalb
end-to-end
p99
22,22
22,22
0,0 %
±15,0 %
innerhalb
S4 · Paralleler und sequenzieller Fan-out
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
600
603
−0,4 %
±5,0 %
innerhalb
db
util
0,600
0,603
−0,5 %
±5,0 %
innerhalb
end-to-end
p50
35,64
35,64
0,0 %
±15,0 %
innerhalb
end-to-end
p95
65,43
65,43
0,0 %
±15,0 %
innerhalb
end-to-end
p99
86,91
86,91
0,0 %
±15,0 %
innerhalb
S5 · Queue mit Workern
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
w
rate
199
199
+0,1 %
±5,0 %
innerhalb
w
util
0,745
0,743
+0,3 %
±5,0 %
innerhalb
q
qp99
58,11
55,18
+5,3 %
±15,0 %
innerhalb
w
np99
73,24
73,24
0,0 %
±15,0 %
innerhalb
S6 · Rate Limit beim 1,2-Fachen des Traffics
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
err
0,167
0,168
−0,7 %
±15,0 %
innerhalb
end-to-end
p50
1,79
1,79
0,0 %
±15,0 %
innerhalb
end-to-end
p99
5,31
5,43
−2,2 %
±15,0 %
innerhalb
S7 · Überlast mit endlichem Puffer
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
err
0,169
0,169
−0,2 %
±15,0 %
innerhalb
s
util
0,997
0,998
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
69,34
79,10
−12,3 %
±15,0 %
innerhalb
end-to-end
p95
143
127
+12,3 %
±15,0 %
innerhalb
end-to-end
p99
193
158
+22,2 %
±15,0 %
Grenze
S7c · Überlast mit endlichem Puffer (gleichmäßige Ankünfte)
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
ok per s from t = 0
399
399
−0,1 %
±5,0 %
innerhalb
S8 · Timeouts und Retries (stabil)
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
268
270
−1,0 %
±5,0 %
innerhalb
s-db-read
edgeErr
0,0671
0,0793
−15,3 %
±15,0 %
Grenze
c
err
0,00117
0,00643
−81,8 %
±15,0 %
Grenze
end-to-end
p50
4,46
4,46
0,0 %
±15,0 %
innerhalb
end-to-end
p95
12,08
12,33
−2,0 %
±15,0 %
innerhalb
end-to-end
p99
18,80
18,31
+2,7 %
±15,0 %
innerhalb
S8b · Timeout unter der gesunden p99
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
290
750
−61,4 %
±5,0 %
Grenze
c
err
0,0591
1,00
−94,1 %
±15,0 %
Grenze
S9 · Erschöpfter Thread-Pool
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
slots
0,892
0,891
+0,1 %
±5,0 %
innerhalb
c
err
0,00
0,00
0,0 %
±15,0 %
innerhalb
end-to-end
p50
110
110
0,0 %
±15,0 %
innerhalb
end-to-end
p95
236
232
+1,7 %
±15,0 %
innerhalb
end-to-end
p99
316
309
+2,5 %
±15,0 %
innerhalb
S10 · Stark schwankende Bedienzeiten
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
util
0,800
0,799
+0,1 %
±5,0 %
innerhalb
end-to-end
p50
24,66
22,22
+11,0 %
±15,0 %
innerhalb
end-to-end
p95
127
124
+2,4 %
±15,0 %
innerhalb
end-to-end
p99
213
197
+7,9 %
±15,0 %
innerhalb
S11 · Periodische Traffic-Spitzen (Zeitmittel)
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
util
0,636
0,636
−0,0 %
±5,0 %
innerhalb
end-to-end
p50
12,33
12,33
0,0 %
±15,0 %
innerhalb
end-to-end
p99
146
118
+24,0 %
±15,0 %
Grenze
S12 · Die Vorlage „Web-App mit Datenbank“ aus der Live-Demo
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
util
0,440
0,440
−0,0 %
±5,0 %
innerhalb
api
util
0,187
0,187
+0,2 %
±5,0 %
innerhalb
end-to-end
p50
21,24
21,24
0,0 %
±15,0 %
innerhalb
end-to-end
p95
55,18
55,18
0,0 %
±15,0 %
innerhalb
end-to-end
p99
86,91
86,91
0,0 %
±15,0 %
innerhalb
S13 · Queue-Consumer mit begrenzten Slots
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
w
rate
60,00
60,02
−0,0 %
±5,0 %
innerhalb
w
slots
0,825
0,826
−0,1 %
±5,0 %
innerhalb
w
util
0,0750
0,0752
−0,2 %
±5,0 %
innerhalb
q
qp99
197
197
0,0 %
±15,0 %
innerhalb
S14 · Schreibzugriffe in einen Read-through-Cache
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
k
rate
2250
2254
−0,2 %
±5,0 %
innerhalb
db
rate
300
300
−0,2 %
±5,0 %
innerhalb
db
util
0,525
0,525
−0,1 %
±5,0 %
innerhalb
k
util
0,0225
0,0225
−0,1 %
±5,0 %
innerhalb
k
np99
14,28
14,04
+1,7 %
±15,0 %
innerhalb
end-to-end
p50
3,45
3,39
+1,8 %
±15,0 %
innerhalb
end-to-end
p95
10,13
9,89
+2,5 %
±15,0 %
innerhalb
end-to-end
p99
17,33
17,33
0,0 %
±15,0 %
innerhalb
S15 · 8 Threads auf 4 Kernen mit Hyperthreads, 80 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
rate
1050
1052
−0,2 %
±5,0 %
innerhalb
s
util
0,761
0,761
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
11,60
11,35
+2,2 %
±15,0 %
innerhalb
end-to-end
p95
38,57
39,55
−2,5 %
±15,0 %
innerhalb
end-to-end
p99
62,01
63,48
−2,3 %
±15,0 %
innerhalb
S15b · 2 vCPUs auf 1 Kern, gleichmäßige Ankünfte
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
rate
230
230
−0,0 %
±5,0 %
innerhalb
s
util
0,698
0,698
−0,0 %
±5,0 %
innerhalb
end-to-end
p50
6,53
6,53
0,0 %
±15,0 %
innerhalb
end-to-end
p95
7,26
7,39
−1,7 %
±15,0 %
innerhalb
end-to-end
p99
7,63
7,75
−1,6 %
±15,0 %
innerhalb
S16a Ca 0.5 · Gleichmäßigere Ankünfte als zufällig, 75 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
rate
300
300
−0,1 %
±5,0 %
innerhalb
s
util
0,750
0,749
+0,1 %
±5,0 %
innerhalb
end-to-end
p50
10,38
10,13
+2,4 %
±15,0 %
innerhalb
end-to-end
p95
22,22
21,24
+4,6 %
±15,0 %
innerhalb
end-to-end
p99
30,52
28,56
+6,8 %
±15,0 %
innerhalb
S16b Ca 2 · Stoßweise Ankünfte, 75 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
rate
300
299
+0,5 %
±5,0 %
innerhalb
s
util
0,750
0,747
+0,4 %
±5,0 %
innerhalb
end-to-end
p50
14,04
18,31
−23,3 %
±15,0 %
Grenze
end-to-end
p95
54,20
56,15
−3,5 %
±15,0 %
innerhalb
end-to-end
p99
83,01
83,01
0,0 %
±15,0 %
innerhalb
S16c Ca 0 chain · Gleichmäßige Ankünfte durch Dienst → Datenbank, 80 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
util
0,300
0,300
−0,0 %
±5,0 %
innerhalb
db
util
0,800
0,800
−0,0 %
±5,0 %
innerhalb
db
np99
13,55
12,57
+7,8 %
±15,0 %
innerhalb
end-to-end
p50
8,18
8,42
−2,9 %
±15,0 %
innerhalb
end-to-end
p95
14,28
13,55
+5,4 %
±15,0 %
innerhalb
end-to-end
p99
18,80
16,85
+11,6 %
±15,0 %
innerhalb
S17 · Timeout-Sturm ohne Retries
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c (arrivalCv 1)
goodput per s from t = 0
138
155
−10,5 %
±15,0 %
innerhalb
c (arrivalCv 0)
goodput per s from t = 0
145
144
+0,8 %
±15,0 %
innerhalb
S17b · Endliche Queue, deren Wartezeit bei vollem Puffer etwa dem Timeout entspricht
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
util
1,00
1,00
+0,0 %
±5,0 %
innerhalb
c
err
0,458
0,521
−12,2 %
±15,0 %
innerhalb
c-s
edgeErr
0,458
0,521
−12,2 %
±15,0 %
innerhalb
S18 · Netzwerk-Roundtrip vor einem knappen Timeout, 1 Retry
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
442
442
+0,1 %
±5,0 %
innerhalb
s-db-read
edgeErr
0,106
0,106
+0,3 %
±15,0 %
innerhalb
s
np99
41,50
41,50
0,0 %
±15,0 %
innerhalb
end-to-end
p50
20,75
20,75
0,0 %
±15,0 %
innerhalb
end-to-end
p95
35,64
35,64
0,0 %
±15,0 %
innerhalb
end-to-end
p99
43,46
43,46
0,0 %
±15,0 %
innerhalb
S20 · Autoscaling: Der Traffic springt aufs 3-Fache, die Instanzen ziehen nach (Kubernetes HPA)
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
instance trajectory: largest gap (instances)
0,00
0,00
0,0 %
±100,0 %
innerhalb
s
instances billed (mean)
6,90
6,90
+0,0 %
±5,0 %
innerhalb
c
err
0,0870
0,0870
+0,1 %
±15,0 %
innerhalb
end-to-end
p99
961
914
+5,1 %
±15,0 %
innerhalb
S20b · Autoscaling-Sprung mit Kaltstarts (neue Instanzen anfangs 3-mal langsamer)
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
instance trajectory: largest gap (instances)
0,875
0,00
+87,5 %
±100,0 %
innerhalb
s
instances billed (mean)
8,85
8,28
+6,9 %
±5,0 %
Grenze
c
err
0,109
0,114
−4,2 %
±15,0 %
innerhalb
end-to-end
p99
1359
1953
−30,4 %
±15,0 %
Grenze
S21 · Scale from zero: Die erste Anfrage wartet auf den Start
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
first successful response (s)
10,10
10,00
+1,0 %
±5,0 %
innerhalb
c
ok responses per s
19,99
19,86
+0,7 %
±5,0 %
innerhalb
c
err
9,94e-7
0,00
0,0 %
±15,0 %
innerhalb
S22 · Autoscaling über eine Tageskurve des Traffics: Instanzstunden
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
instance trajectory: largest gap (instances)
1,00
0,00
+100,0 %
±100,0 %
innerhalb
s
instances billed (mean)
3,09
3,19
−3,2 %
±5,0 %
innerhalb
c
err
2,85e-16
0,00
0,0 %
±15,0 %
innerhalb
end-to-end
p99
79,10
75,20
+5,2 %
±15,0 %
innerhalb
S27 · Cache-Flush unter Last: Datenbanklast, während der Cache sich aufwärmt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
requests per s after the flush: first second
757
754
+0,4 %
±5,0 %
innerhalb
db
requests per s after the flush: seconds 1–10
5644
5590
+1,0 %
±5,0 %
innerhalb
db
requests per s after the flush: seconds 10–60
17208
17203
+0,0 %
±5,0 %
innerhalb
S28 · Cache-TTL: Zusammen gespeicherte Schlüssel laufen zusammen ab (mit und ohne Coalescing)
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
coalesced: peak rate of the expiry wave (per 0.5 s)
286
296
−3,4 %
±10,0 %
innerhalb
db
coalesced: flush, first 5 s
5628
5608
+0,4 %
±10,0 %
innerhalb
db
coalesced: expiry wave 34–40 s
3015
2961
+1,8 %
±10,0 %
innerhalb
db
herd: peak rate of the expiry wave (per 0.5 s)
286
297
−3,5 %
±10,0 %
innerhalb
db
herd: flush, first 5 s
5637
5638
−0,0 %
±10,0 %
innerhalb
db
herd: expiry wave 34–40 s
3024
2967
+1,9 %
±10,0 %
innerhalb
S28b · Thundering Herd: langsame Ladevorgänge nach einem Flush, mit und ohne Coalescing
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
coalesced: first 2 s after the flush
1964
1952
+0,6 %
±10,0 %
innerhalb
db
coalesced: seconds 2–20
1951
1964
−0,7 %
±10,0 %
innerhalb
db
herd: first 2 s after the flush
4762
3663
+30,0 %
±10,0 %
Grenze
db
herd: seconds 2–20
5080
3636
+39,7 %
±10,0 %
Grenze
S29 · Anfrageklassen: Browse und Checkout nehmen verschiedene Wege durch einen gemeinsamen Dienst und eine Datenbank
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
app [browse]
rate
450
451
−0,3 %
±5,0 %
innerhalb
db [browse]
rate
900
903
−0,3 %
±5,0 %
innerhalb
end-to-end [browse]
p50
14,77
13,79
+7,1 %
±15,0 %
innerhalb
end-to-end [browse]
p95
45,41
44,43
+2,2 %
±15,0 %
innerhalb
end-to-end [browse]
p99
71,29
69,34
+2,8 %
±15,0 %
innerhalb
app [checkout]
rate
50,00
49,84
+0,3 %
±5,0 %
innerhalb
db [checkout]
rate
100
99,67
+0,3 %
±5,0 %
innerhalb
end-to-end [checkout]
p50
65,43
63,48
+3,1 %
±15,0 %
innerhalb
end-to-end [checkout]
p95
124
122
+1,6 %
±15,0 %
innerhalb
end-to-end [checkout]
p99
162
158
+2,5 %
±15,0 %
innerhalb
app
util
0,750
0,747
+0,4 %
±5,0 %
innerhalb
db
util
0,550
0,550
−0,0 %
±5,0 %
innerhalb
end-to-end
p99
110
106
+3,7 %
±15,0 %
innerhalb
S30 · Anfrageklassen unter Last: Langsame Checkouts lassen Browse am gemeinsamen Dienst warten
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
app [browse]
rate
320
321
−0,3 %
±5,0 %
innerhalb
db [browse]
rate
640
642
−0,3 %
±5,0 %
innerhalb
end-to-end [browse]
p50
20,26
17,82
+13,7 %
±15,0 %
innerhalb
end-to-end [browse]
p95
84,96
86,91
−2,2 %
±15,0 %
innerhalb
end-to-end [browse]
p99
135
135
0,0 %
±15,0 %
innerhalb
app [checkout]
rate
80,00
79,74
+0,3 %
±5,0 %
innerhalb
db [checkout]
rate
160
159
+0,3 %
±5,0 %
innerhalb
end-to-end [checkout]
p50
79,10
77,15
+2,5 %
±15,0 %
innerhalb
end-to-end [checkout]
p95
162
162
0,0 %
±15,0 %
innerhalb
end-to-end [checkout]
p99
221
217
+1,8 %
±15,0 %
innerhalb
app
util
0,800
0,799
+0,1 %
±5,0 %
innerhalb
S31 · Anfrageklassen durch eine Queue: Nachrichten behalten ihre Klasse, Arbeit je Klasse am Worker
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
w [small]
rate
450
450
−0,1 %
±5,0 %
innerhalb
w [big]
rate
150
150
−0,2 %
±5,0 %
innerhalb
db [big]
rate
150
150
−0,2 %
±5,0 %
innerhalb
w
util
0,825
0,826
−0,1 %
±5,0 %
innerhalb
db
util
0,300
0,300
+0,1 %
±5,0 %
innerhalb
q
qp99
0,000969
0,000969
0,0 %
±15,0 %
innerhalb
end-to-end [small]
p99
13,06
13,06
0,0 %
±15,0 %
innerhalb
end-to-end [big]
p99
12,82
12,82
0,0 %
±15,0 %
innerhalb
S32 · Retry-Budget: drei Retries gegen eine Abhängigkeit, die zu 30 % fehlschlägt, begrenzt auf 10 % der Aufrufe plus 5 pro Sekunde
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
x
rate
335
334
+0,4 %
±5,0 %
innerhalb
s-x
shed
65,40
65,17
+0,3 %
±5,0 %
innerhalb
c
err
0,218
0,219
−0,1 %
±15,0 %
innerhalb
end-to-end
p50
21,73
21,73
0,0 %
±15,0 %
innerhalb
end-to-end
p95
57,13
56,15
+1,7 %
±15,0 %
innerhalb
end-to-end
p99
86,91
86,91
0,0 %
±15,0 %
innerhalb
S33 · Circuit Breaker gegen eine Abhängigkeit, die zu 60 % fehlschlägt: Er öffnet, und die Aufrufe scheitern sofort
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s-x
open
1,00
0,998
+0,2 %
±5,0 %
innerhalb
s-x
shed
199
199
+0,3 %
±5,0 %
innerhalb
c
err
0,999
0,998
+0,1 %
±15,0 %
innerhalb
x
rate
0,600
0,918
−34,6 %
±5,0 %
Grenze
S33b · Circuit Breaker nahe seiner Schwelle mit Fallback-Skip: Er öffnet und schließt immer wieder
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s-x
open
0,987
0,968
+1,9 %
±5,0 %
innerhalb
c
err
0,00610
0,0114
−46,6 %
±15,0 %
Grenze
x
rate
4,07
7,79
−47,7 %
±5,0 %
Grenze
s-x
shed
196
192
+1,9 %
±5,0 %
innerhalb
S34 · Rate Limit an einem Dienst: 600 Anfragen pro Sekunde gegen ein Limit von 500
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s
err
0,167
0,168
−0,8 %
±15,0 %
innerhalb
s
util
0,0625
0,0623
+0,3 %
±5,0 %
innerhalb
end-to-end
p50
1,91
1,91
0,0 %
±15,0 %
innerhalb
end-to-end
p95
6,04
6,04
0,0 %
±15,0 %
innerhalb
end-to-end
p99
10,38
10,38
0,0 %
±15,0 %
innerhalb
S35 · Connection-Pool: 4 Verbindungen pro Instanz, 75 % ausgelastet, das Warten auf eine Verbindung
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s-db-read
poolUtil
0,750
0,750
+0,0 %
±5,0 %
innerhalb
db
rate
2400
2401
−0,0 %
±5,0 %
innerhalb
c
err
4,06e-9
0,00
+100,0 %
±15,0 %
innerhalb
end-to-end
p50
4,82
4,82
0,0 %
±15,0 %
innerhalb
end-to-end
p95
11,35
11,35
0,0 %
±15,0 %
innerhalb
end-to-end
p99
15,87
15,87
0,0 %
±15,0 %
innerhalb
S35b · Bulkhead: 2 Slots und kein Warten, der Überschuss scheitert sofort
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s-db-read
poolUtil
0,517
0,518
−0,2 %
±5,0 %
innerhalb
db
rate
828
831
−0,4 %
±5,0 %
innerhalb
c
err
0,310
0,308
+0,6 %
±15,0 %
innerhalb
s-db-read
shed
372
371
+0,5 %
±5,0 %
innerhalb
end-to-end
p50
3,51
3,51
0,0 %
±15,0 %
innerhalb
end-to-end
p99
12,33
12,33
0,0 %
±15,0 %
innerhalb
S35c · Connection-Pool bei 87 % mit einem 20-ms-Timeout, der das Warten einschließt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s-db-read
poolUtil
0,874
0,871
+0,4 %
±5,0 %
innerhalb
db
rate
2798
2801
−0,1 %
±5,0 %
innerhalb
c
err
0,00429
0,00366
+17,3 %
±15,0 %
innerhalb
end-to-end
p50
6,77
6,53
+3,7 %
±15,0 %
innerhalb
end-to-end
p95
16,36
15,87
+3,1 %
±15,0 %
innerhalb
end-to-end
p99
20,75
19,78
+4,9 %
±15,0 %
innerhalb
S35d · Connection-Pool nahe der Kapazität mit einem 5-ms-Limit fürs Warten
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s-db-read
poolUtil
0,888
0,890
−0,2 %
±5,0 %
innerhalb
db
rate
2842
2849
−0,2 %
±5,0 %
innerhalb
c
err
0,0525
0,0501
+4,9 %
±15,0 %
innerhalb
s-db-read
shed
158
150
+4,9 %
±5,0 %
innerhalb
end-to-end
p50
6,41
6,41
0,0 %
±15,0 %
innerhalb
end-to-end
p99
17,82
17,82
0,0 %
±15,0 %
innerhalb
S35e · Gesättigter Connection-Pool ohne Timeout: Der Aufrufer weist den Überschuss ab
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s-db-read
poolUtil
1,00
1,00
−0,0 %
±5,0 %
innerhalb
db
rate
3200
3201
−0,0 %
±5,0 %
innerhalb
c
err
0,111
0,111
+0,3 %
±15,0 %
innerhalb
end-to-end
p50
32,71
98,63
−66,8 %
±15,0 %
Grenze
end-to-end
p99
59,08
118
−50,0 %
±15,0 %
Grenze
S35f · Überlasteter Connection-Pool mit Timeout und einem Retry
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
s-db-read
poolUtil
1,00
1,00
+0,0 %
±5,0 %
innerhalb
db
rate
3200
6086
−47,4 %
±5,0 %
Grenze
c
err
0,945
1,00
−5,5 %
±15,0 %
innerhalb
S36 · Blockierende Queue bei 125 %: Producer warten auf Platz, und die API weist den Überschuss ab
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
w
rate
397
401
−1,2 %
±5,0 %
innerhalb
c
err
0,207
0,198
+4,6 %
±15,0 %
innerhalb
end-to-end
p50
387
395
−2,0 %
±15,0 %
innerhalb
end-to-end
p99
633
480
+31,7 %
±15,0 %
Grenze
q
qp99
127
170
−25,3 %
±15,0 %
Grenze
S36b · Blockierende Queue mit einem 20-ms-Limit fürs Warten auf Platz
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
w
rate
400
400
−0,1 %
±5,0 %
innerhalb
c
err
0,200
0,200
−0,1 %
±15,0 %
innerhalb
end-to-end
p50
3,88
15,87
−75,6 %
±15,0 %
Grenze
end-to-end
p95
23,19
22,22
+4,4 %
±15,0 %
innerhalb
end-to-end
p99
24,66
23,68
+4,1 %
±15,0 %
innerhalb
S36c · Blockierende Queue bei 87 %: Sie blockiert selten
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
w
rate
350
349
+0,2 %
±5,0 %
innerhalb
c
err
0,00
0,00
0,0 %
±15,0 %
innerhalb
q
qp99
88,87
90,82
−2,2 %
±15,0 %
innerhalb
end-to-end
p50
2,23
2,23
0,0 %
±15,0 %
innerhalb
end-to-end
p99
6,65
6,53
+1,9 %
±15,0 %
innerhalb
S37 · Metastabiler Retry-Sturm: Nach einer 5-s-Spitze auf die doppelte Last hält der Sturm an
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
750
751
−0,1 %
±5,0 %
innerhalb
c
err
1,00
1,00
−0,0 %
±15,0 %
innerhalb
S38 · Virtuelle Nutzer: 6 Nutzer mit 0,1 s Denkzeit, unterhalb des Knicks
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
rate
51,34
51,39
−0,1 %
±5,0 %
innerhalb
s
util
0,513
0,515
−0,2 %
±5,0 %
innerhalb
c
users
0,866
0,860
+0,6 %
±15,0 %
innerhalb
end-to-end
p50
11,84
11,60
+2,1 %
±15,0 %
innerhalb
end-to-end
p99
73,24
79,10
−7,4 %
±15,0 %
innerhalb
S38b · Virtuelle Nutzer: 11 Nutzer mit 0,1 s Denkzeit, am Knick
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
rate
83,46
83,59
−0,2 %
±5,0 %
innerhalb
s
util
0,835
0,839
−0,6 %
±5,0 %
innerhalb
c
users
2,65
2,61
+1,6 %
±15,0 %
innerhalb
end-to-end
p50
25,15
24,66
+2,0 %
±15,0 %
innerhalb
end-to-end
p99
118
120
−1,6 %
±15,0 %
innerhalb
S38c · Virtuelle Nutzer: 33 Nutzer mit 0,1 s Denkzeit, Durchsatz am Anschlag
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
rate
100,00
99,58
+0,4 %
±5,0 %
innerhalb
s
util
1,00
1,00
−0,0 %
±5,0 %
innerhalb
c
users
23,00
23,00
−0,0 %
±15,0 %
innerhalb
end-to-end
p50
213
225
−5,2 %
±15,0 %
innerhalb
end-to-end
p99
434
387
+12,1 %
±15,0 %
innerhalb
S38d · Virtuelle Nutzer: 40 Nutzer durch einen Dienst und eine Datenbank
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
rate
193
193
+0,1 %
±5,0 %
innerhalb
api
util
0,193
0,193
+0,1 %
±5,0 %
innerhalb
c
users
1,39
1,39
+0,3 %
±15,0 %
innerhalb
end-to-end
p50
6,04
6,04
0,0 %
±15,0 %
innerhalb
end-to-end
p99
24,17
24,17
0,0 %
±15,0 %
innerhalb
S38e · Virtuelle Nutzer ohne Denkzeit: 20 Nutzer, die immer warten, wie ein Lasttest ohne Pause
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
rate
100
100
−0,0 %
±5,0 %
innerhalb
s
util
1,00
1,00
+0,0 %
±5,0 %
innerhalb
c
users
20,00
20,00
+0,0 %
±15,0 %
innerhalb
end-to-end
p50
186
193
−4,0 %
±15,0 %
innerhalb
end-to-end
p99
355
332
+7,1 %
±15,0 %
innerhalb
S38f · Virtuelle Nutzer, deren Engpass die Datenbank hinter der App ist: ein Primary mit Schreibzugriffen und ein Replikat
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
rate
192
192
+0,0 %
±5,0 %
innerhalb
db
rate
385
385
−0,0 %
±5,0 %
innerhalb
end-to-end
p50
277
285
−2,7 %
±15,0 %
innerhalb
end-to-end
p99
852
852
0,0 %
±15,0 %
innerhalb
S38g · Virtuelle Nutzer, deren Engpass die Datenbank hinter der App ist: ein Primary mit Schreibzugriffen und drei Replikate
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
rate
294
296
−0,8 %
±5,0 %
innerhalb
db
rate
588
593
−0,8 %
±5,0 %
innerhalb
end-to-end
p50
254
225
+13,0 %
±15,0 %
innerhalb
end-to-end
p99
773
727
+6,5 %
±15,0 %
innerhalb
S38h · Virtuelle Nutzer, deren Engpass eine reine Lese-Datenbank aus vier gleichen Servern ist
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
c
rate
500
475
+5,2 %
±5,0 %
Grenze
db
rate
1000
951
+5,2 %
±5,0 %
Grenze
end-to-end
p50
114
120
−4,9 %
±15,0 %
innerhalb
end-to-end
p99
213
309
−31,0 %
±15,0 %
Grenze
S39 · Zonen: Eine API in drei Zonen ruft ein Backend in einer auf, zwei von drei Aufrufen gehen über Zonengrenzen
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
be
rate
900
901
−0,1 %
±5,0 %
innerhalb
be
util
0,450
0,451
−0,2 %
±5,0 %
innerhalb
end-to-end
p50
11,11
11,35
−2,2 %
±15,0 %
innerhalb
end-to-end
p99
30,03
28,56
+5,1 %
±15,0 %
innerhalb
S40 · Regionen: Frankfurt ruft Virginia auf (115 ms), mit 120 ms Timeout
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
be
rate
300
300
+0,2 %
±5,0 %
innerhalb
c
err
0,182
0,181
+0,5 %
±15,0 %
innerhalb
end-to-end
p50
120
120
0,0 %
±15,0 %
innerhalb
end-to-end
p99
127
127
0,0 %
±15,0 %
innerhalb
S41 · Lese-Replikate spielen 300 Schreibzugriffe pro Sekunde neben ihren Lesezugriffen nach: wie weit sie zurückliegen
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
1300
1299
+0,0 %
±5,0 %
innerhalb
db
util
0,377
0,376
+0,2 %
±5,0 %
innerhalb
db
lag
1,07
0,989
+8,6 %
±15,0 %
innerhalb
end-to-end
p50
3,69
3,63
+1,7 %
±15,0 %
innerhalb
end-to-end
p99
20,26
19,78
+2,5 %
±15,0 %
innerhalb
S41b · Lese-Replikate spielen einen dichten Schreibstrom nach, ihr einer Replay-Thread bei 72 %
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
1450
1452
−0,1 %
±5,0 %
innerhalb
db
lag
5,96
5,93
+0,6 %
±15,0 %
innerhalb
end-to-end
p50
4,46
4,33
+2,8 %
±15,0 %
innerhalb
end-to-end
p99
34,67
33,69
+2,9 %
±15,0 %
innerhalb
S42 · Failover: Die Zone des Primary fällt aus, ein Standby übernimmt nach 20 s
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
outage: seconds with most requests failing
20,00
20,00
0,0 %
±5,0 %
innerhalb
c
error share over the run
0,222
0,223
−0,4 %
±15,0 %
innerhalb
db
arrivals: before the outage
23000
23001
−0,0 %
±5,0 %
innerhalb
db
arrivals: after the failover
34963
34896
+0,2 %
±5,0 %
innerhalb
S42b · Failover: Die Zone des Primary fällt aus, ein Lese-Replikat übernimmt nach 30 s
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
outage: seconds with most requests failing
30,00
30,00
0,0 %
±5,0 %
innerhalb
c
error share over the run
0,300
0,300
+0,0 %
±15,0 %
innerhalb
db
arrivals: before the outage
23000
23043
−0,2 %
±5,0 %
innerhalb
db
arrivals: after the failover
34963
35002
−0,1 %
±5,0 %
innerhalb
S43 · Burstable-Instanz: Ihre CPU-Credits gehen aus, und sie fällt auf ihre Grundleistung zurück
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
time the credits run out (s)
300
300
0,0 %
±5,0 %
innerhalb
c
ok per s at the baseline
40,00
39,70
+0,8 %
±5,0 %
innerhalb
c
error share over the run
0,0931
0,0971
−4,2 %
±15,0 %
innerhalb
S43b · Shared-Core-Instanz (GCP e2-small) bei 85 % der CPU, die sie halten kann
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
70,00
69,67
+0,5 %
±5,0 %
innerhalb
api
util
0,791
0,789
+0,3 %
±5,0 %
innerhalb
end-to-end
p50
56,15
53,22
+5,5 %
±15,0 %
innerhalb
end-to-end
p95
221
270
−18,1 %
±15,0 %
Grenze
end-to-end
p99
340
426
−20,2 %
±15,0 %
Grenze
S43c · Shared-Core-Instanz unter Volllast gegen unsere Messung einer echten e2-small
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
saturated throughput vs the vm12 measurement (views/s)
766
772
−0,7 %
±10,0 %
innerhalb
S44 · Mehrere Datenbank-Lesezugriffe pro Anfrage, nacheinander, durch einen Connection-Pool, bei 50 bis 90 % Last
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
pool 2, 1 call, 50 %
p50
2,90
2,90
0,0 %
±15,0 %
innerhalb
pool 2, 1 call, 50 %
p95
4,70
4,70
0,0 %
±15,0 %
innerhalb
pool 2, 1 call, 50 %
p99
6,16
5,92
+4,1 %
±15,0 %
innerhalb
pool 2, 1 call, 70 %
p50
3,20
3,27
−1,9 %
±15,0 %
innerhalb
pool 2, 1 call, 70 %
p95
6,65
6,53
+1,9 %
±15,0 %
innerhalb
pool 2, 1 call, 70 %
p99
9,16
8,91
+2,7 %
±15,0 %
innerhalb
pool 2, 1 call, 80 %
p50
3,69
3,81
−3,2 %
±15,0 %
innerhalb
pool 2, 1 call, 80 %
p95
9,16
8,91
+2,7 %
±15,0 %
innerhalb
pool 2, 1 call, 80 %
p99
12,82
12,57
+1,9 %
±15,0 %
innerhalb
pool 2, 1 call, 90 %
p50
5,31
5,43
−2,2 %
±15,0 %
innerhalb
pool 2, 1 call, 90 %
p95
16,36
15,87
+3,1 %
±15,0 %
innerhalb
pool 2, 1 call, 90 %
p99
23,68
23,68
0,0 %
±15,0 %
innerhalb
pool 2, 2 calls, 50 %
p50
4,82
4,94
−2,5 %
±15,0 %
innerhalb
pool 2, 2 calls, 50 %
p95
8,67
8,91
−2,7 %
±15,0 %
innerhalb
pool 2, 2 calls, 50 %
p99
12,33
11,84
+4,1 %
±15,0 %
innerhalb
pool 2, 2 calls, 70 %
p50
5,43
5,92
−8,2 %
±15,0 %
innerhalb
pool 2, 2 calls, 70 %
p95
14,28
13,79
+3,5 %
±15,0 %
innerhalb
pool 2, 2 calls, 70 %
p99
20,75
19,78
+4,9 %
±15,0 %
innerhalb
pool 2, 2 calls, 80 %
p50
6,77
7,26
−6,7 %
±15,0 %
innerhalb
pool 2, 2 calls, 80 %
p95
20,75
20,26
+2,4 %
±15,0 %
innerhalb
pool 2, 2 calls, 80 %
p99
30,52
29,05
+5,0 %
±15,0 %
innerhalb
pool 2, 2 calls, 90 %
p50
11,35
11,60
−2,1 %
±15,0 %
innerhalb
pool 2, 2 calls, 90 %
p95
41,50
39,55
+4,9 %
±15,0 %
innerhalb
pool 2, 2 calls, 90 %
p99
62,01
56,15
+10,4 %
±15,0 %
innerhalb
pool 2, 4 calls, 50 %
p50
8,67
8,91
−2,7 %
±15,0 %
innerhalb
pool 2, 4 calls, 50 %
p95
16,85
17,33
−2,8 %
±15,0 %
innerhalb
pool 2, 4 calls, 50 %
p99
24,66
23,68
+4,1 %
±15,0 %
innerhalb
pool 2, 4 calls, 70 %
p50
9,64
11,35
−15,1 %
±15,0 %
Grenze
pool 2, 4 calls, 70 %
p95
29,54
29,05
+1,7 %
±15,0 %
innerhalb
pool 2, 4 calls, 70 %
p99
43,46
40,53
+7,2 %
±15,0 %
innerhalb
pool 2, 4 calls, 80 %
p50
13,06
14,53
−10,1 %
±15,0 %
innerhalb
pool 2, 4 calls, 80 %
p95
44,43
43,46
+2,2 %
±15,0 %
innerhalb
pool 2, 4 calls, 80 %
p99
67,38
63,48
+6,2 %
±15,0 %
innerhalb
pool 2, 4 calls, 90 %
p50
23,68
24,66
−4,0 %
±15,0 %
innerhalb
pool 2, 4 calls, 90 %
p95
90,82
86,91
+4,5 %
±15,0 %
innerhalb
pool 2, 4 calls, 90 %
p99
139
131
+6,0 %
±15,0 %
innerhalb
pool 16, 1 call, 50 %
p50
2,90
2,90
0,0 %
±15,0 %
innerhalb
pool 16, 1 call, 50 %
p95
4,33
4,33
0,0 %
±15,0 %
innerhalb
pool 16, 1 call, 50 %
p99
5,43
5,19
+4,7 %
±15,0 %
innerhalb
pool 16, 1 call, 70 %
p50
3,14
3,20
−1,9 %
±15,0 %
innerhalb
pool 16, 1 call, 70 %
p95
5,80
5,68
+2,2 %
±15,0 %
innerhalb
pool 16, 1 call, 70 %
p99
7,63
7,39
+3,3 %
±15,0 %
innerhalb
pool 16, 1 call, 80 %
p50
3,51
3,57
−1,7 %
±15,0 %
innerhalb
pool 16, 1 call, 80 %
p95
7,51
7,39
+1,7 %
±15,0 %
innerhalb
pool 16, 1 call, 80 %
p99
10,38
10,13
+2,4 %
±15,0 %
innerhalb
pool 16, 1 call, 90 %
p50
4,58
4,82
−5,1 %
±15,0 %
innerhalb
pool 16, 1 call, 90 %
p95
12,33
12,82
−3,8 %
±15,0 %
innerhalb
pool 16, 1 call, 90 %
p99
17,82
18,31
−2,7 %
±15,0 %
innerhalb
pool 16, 2 calls, 50 %
p50
4,82
4,94
−2,5 %
±15,0 %
innerhalb
pool 16, 2 calls, 50 %
p95
7,63
7,51
+1,6 %
±15,0 %
innerhalb
pool 16, 2 calls, 50 %
p99
10,13
9,64
+5,1 %
±15,0 %
innerhalb
pool 16, 2 calls, 70 %
p50
5,31
5,55
−4,4 %
±15,0 %
innerhalb
pool 16, 2 calls, 70 %
p95
11,35
11,35
0,0 %
±15,0 %
innerhalb
pool 16, 2 calls, 70 %
p99
15,87
15,50
+2,4 %
±15,0 %
innerhalb
pool 16, 2 calls, 80 %
p50
6,16
6,53
−5,6 %
±15,0 %
innerhalb
pool 16, 2 calls, 80 %
p95
15,87
15,87
0,0 %
±15,0 %
innerhalb
pool 16, 2 calls, 80 %
p99
23,19
22,71
+2,2 %
±15,0 %
innerhalb
pool 16, 2 calls, 90 %
p50
9,16
9,64
−5,1 %
±15,0 %
innerhalb
pool 16, 2 calls, 90 %
p95
29,05
31,01
−6,3 %
±15,0 %
innerhalb
pool 16, 2 calls, 90 %
p99
43,46
45,41
−4,3 %
±15,0 %
innerhalb
pool 16, 4 calls, 50 %
p50
8,42
8,91
−5,5 %
±15,0 %
innerhalb
pool 16, 4 calls, 50 %
p95
14,28
14,28
0,0 %
±15,0 %
innerhalb
pool 16, 4 calls, 50 %
p99
19,29
18,80
+2,6 %
±15,0 %
innerhalb
pool 16, 4 calls, 70 %
p50
9,40
10,38
−9,4 %
±15,0 %
innerhalb
pool 16, 4 calls, 70 %
p95
22,71
23,19
−2,1 %
±15,0 %
innerhalb
pool 16, 4 calls, 70 %
p99
32,71
31,74
+3,1 %
±15,0 %
innerhalb
pool 16, 4 calls, 80 %
p50
11,60
12,57
−7,8 %
±15,0 %
innerhalb
pool 16, 4 calls, 80 %
p95
33,69
33,69
0,0 %
±15,0 %
innerhalb
pool 16, 4 calls, 80 %
p99
48,34
47,36
+2,1 %
±15,0 %
innerhalb
pool 16, 4 calls, 90 %
p50
18,80
19,78
−4,9 %
±15,0 %
innerhalb
pool 16, 4 calls, 90 %
p95
63,48
65,43
−3,0 %
±15,0 %
innerhalb
pool 16, 4 calls, 90 %
p99
96,68
96,68
0,0 %
±15,0 %
innerhalb
S44b · Mehrere Datenbank-Lesezugriffe pro Anfrage an eine Datenbank, deren zwei Threads sich einen Kern teilen
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
pool 2, 1 call, 50 %
p50
3,39
3,39
0,0 %
±15,0 %
innerhalb
pool 2, 1 call, 50 %
p95
5,80
6,41
−9,5 %
±15,0 %
innerhalb
pool 2, 1 call, 50 %
p99
8,18
8,42
−2,9 %
±15,0 %
innerhalb
pool 2, 1 call, 70 %
p50
3,97
4,09
−3,0 %
±15,0 %
innerhalb
pool 2, 1 call, 70 %
p95
9,16
9,64
−5,1 %
±15,0 %
innerhalb
pool 2, 1 call, 70 %
p99
12,82
13,06
−1,9 %
±15,0 %
innerhalb
pool 2, 1 call, 80 %
p50
4,70
5,07
−7,2 %
±15,0 %
innerhalb
pool 2, 1 call, 80 %
p95
12,57
13,79
−8,8 %
±15,0 %
innerhalb
pool 2, 1 call, 80 %
p99
18,31
19,29
−5,1 %
±15,0 %
innerhalb
pool 2, 1 call, 90 %
p50
7,26
8,42
−13,8 %
±15,0 %
innerhalb
pool 2, 1 call, 90 %
p95
23,19
27,59
−15,9 %
±15,0 %
Grenze
pool 2, 1 call, 90 %
p99
34,67
40,53
−14,5 %
±15,0 %
innerhalb
pool 2, 2 calls, 50 %
p50
5,80
5,92
−2,1 %
±15,0 %
innerhalb
pool 2, 2 calls, 50 %
p95
11,11
12,57
−11,7 %
±15,0 %
innerhalb
pool 2, 2 calls, 50 %
p99
16,36
17,33
−5,6 %
±15,0 %
innerhalb
pool 2, 2 calls, 70 %
p50
7,02
7,93
−11,5 %
±15,0 %
innerhalb
pool 2, 2 calls, 70 %
p95
19,78
20,75
−4,7 %
±15,0 %
innerhalb
pool 2, 2 calls, 70 %
p99
28,56
30,03
−4,9 %
±15,0 %
innerhalb
pool 2, 2 calls, 80 %
p50
9,16
10,62
−13,8 %
±15,0 %
innerhalb
pool 2, 2 calls, 80 %
p95
30,03
31,74
−5,4 %
±15,0 %
innerhalb
pool 2, 2 calls, 80 %
p99
44,43
48,34
−8,1 %
±15,0 %
innerhalb
pool 2, 2 calls, 90 %
p50
16,36
19,29
−15,2 %
±15,0 %
Grenze
pool 2, 2 calls, 90 %
p95
60,06
73,24
−18,0 %
±15,0 %
Grenze
pool 2, 2 calls, 90 %
p99
90,82
104
−13,1 %
±15,0 %
innerhalb
pool 2, 4 calls, 50 %
p50
10,62
11,11
−4,4 %
±15,0 %
innerhalb
pool 2, 4 calls, 50 %
p95
22,22
25,63
−13,3 %
±15,0 %
innerhalb
pool 2, 4 calls, 50 %
p99
32,71
35,64
−8,2 %
±15,0 %
innerhalb
pool 2, 4 calls, 70 %
p50
13,06
15,50
−15,7 %
±15,0 %
Grenze
pool 2, 4 calls, 70 %
p95
40,53
44,43
−8,8 %
±15,0 %
innerhalb
pool 2, 4 calls, 70 %
p99
61,04
63,48
−3,8 %
±15,0 %
innerhalb
pool 2, 4 calls, 80 %
p50
17,82
21,24
−16,1 %
±15,0 %
Grenze
pool 2, 4 calls, 80 %
p95
63,48
71,29
−11,0 %
±15,0 %
innerhalb
pool 2, 4 calls, 80 %
p99
96,68
103
−5,7 %
±15,0 %
innerhalb
pool 2, 4 calls, 90 %
p50
34,67
42,48
−18,4 %
±15,0 %
Grenze
pool 2, 4 calls, 90 %
p95
135
154
−12,7 %
±15,0 %
innerhalb
pool 2, 4 calls, 90 %
p99
201
217
−7,2 %
±15,0 %
innerhalb
pool 16, 1 call, 50 %
p50
3,51
3,45
+1,8 %
±15,0 %
innerhalb
pool 16, 1 call, 50 %
p95
5,80
6,41
−9,5 %
±15,0 %
innerhalb
pool 16, 1 call, 50 %
p99
8,18
8,42
−2,9 %
±15,0 %
innerhalb
pool 16, 1 call, 70 %
p50
4,09
4,21
−2,9 %
±15,0 %
innerhalb
pool 16, 1 call, 70 %
p95
9,16
9,40
−2,6 %
±15,0 %
innerhalb
pool 16, 1 call, 70 %
p99
12,82
12,57
+1,9 %
±15,0 %
innerhalb
pool 16, 1 call, 80 %
p50
4,82
5,07
−4,8 %
±15,0 %
innerhalb
pool 16, 1 call, 80 %
p95
12,57
12,82
−1,9 %
±15,0 %
innerhalb
pool 16, 1 call, 80 %
p99
18,31
18,31
0,0 %
±15,0 %
innerhalb
pool 16, 1 call, 90 %
p50
7,14
7,51
−4,9 %
±15,0 %
innerhalb
pool 16, 1 call, 90 %
p95
21,73
22,71
−4,3 %
±15,0 %
innerhalb
pool 16, 1 call, 90 %
p99
31,74
32,71
−3,0 %
±15,0 %
innerhalb
pool 16, 2 calls, 50 %
p50
6,16
6,04
+2,0 %
±15,0 %
innerhalb
pool 16, 2 calls, 50 %
p95
10,86
12,08
−10,1 %
±15,0 %
innerhalb
pool 16, 2 calls, 50 %
p99
15,50
16,36
−5,2 %
±15,0 %
innerhalb
pool 16, 2 calls, 70 %
p50
7,39
7,75
−4,7 %
±15,0 %
innerhalb
pool 16, 2 calls, 70 %
p95
18,80
19,29
−2,5 %
±15,0 %
innerhalb
pool 16, 2 calls, 70 %
p99
27,59
27,59
0,0 %
±15,0 %
innerhalb
pool 16, 2 calls, 80 %
p50
9,16
9,89
−7,4 %
±15,0 %
innerhalb
pool 16, 2 calls, 80 %
p95
28,08
28,56
−1,7 %
±15,0 %
innerhalb
pool 16, 2 calls, 80 %
p99
41,50
40,53
+2,4 %
±15,0 %
innerhalb
pool 16, 2 calls, 90 %
p50
15,01
16,36
−8,2 %
±15,0 %
innerhalb
pool 16, 2 calls, 90 %
p95
52,25
55,18
−5,3 %
±15,0 %
innerhalb
pool 16, 2 calls, 90 %
p99
81,05
84,96
−4,6 %
±15,0 %
innerhalb
pool 16, 4 calls, 50 %
p50
11,35
11,11
+2,2 %
±15,0 %
innerhalb
pool 16, 4 calls, 50 %
p95
21,24
24,17
−12,1 %
±15,0 %
innerhalb
pool 16, 4 calls, 50 %
p99
31,01
33,69
−8,0 %
±15,0 %
innerhalb
pool 16, 4 calls, 70 %
p50
13,79
15,01
−8,1 %
±15,0 %
innerhalb
pool 16, 4 calls, 70 %
p95
38,57
41,50
−7,1 %
±15,0 %
innerhalb
pool 16, 4 calls, 70 %
p99
57,13
59,08
−3,3 %
±15,0 %
innerhalb
pool 16, 4 calls, 80 %
p50
17,82
20,26
−12,0 %
±15,0 %
innerhalb
pool 16, 4 calls, 80 %
p95
59,08
63,48
−6,9 %
±15,0 %
innerhalb
pool 16, 4 calls, 80 %
p99
88,87
92,77
−4,2 %
±15,0 %
innerhalb
pool 16, 4 calls, 90 %
p50
31,01
34,67
−10,6 %
±15,0 %
innerhalb
pool 16, 4 calls, 90 %
p95
114
131
−12,7 %
±15,0 %
innerhalb
pool 16, 4 calls, 90 %
p99
178
213
−16,5 %
±15,0 %
Grenze
S44c · Mehrere Lesezugriffe pro Anfrage, Prüfpunkte, die beim Bau des Modells beiseitegelegt wurden, und ein Cache plus eine Datenbank in einer Anfrage
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
pool 2, 3 calls, 60 %
p50
6,90
7,51
−8,1 %
±15,0 %
innerhalb
pool 2, 3 calls, 60 %
p95
16,36
16,36
0,0 %
±15,0 %
innerhalb
pool 2, 3 calls, 60 %
p99
23,19
23,19
0,0 %
±15,0 %
innerhalb
pool 2, 3 calls, 85 %
p50
12,57
13,06
−3,7 %
±15,0 %
innerhalb
pool 2, 3 calls, 85 %
p95
44,43
41,50
+7,1 %
±15,0 %
innerhalb
pool 2, 3 calls, 85 %
p99
65,43
61,04
+7,2 %
±15,0 %
innerhalb
pool 2, 2 calls, 60 %
p50
5,07
5,31
−4,6 %
±15,0 %
innerhalb
pool 2, 2 calls, 60 %
p95
10,86
10,62
+2,3 %
±15,0 %
innerhalb
pool 2, 2 calls, 60 %
p99
15,50
14,53
+6,7 %
±15,0 %
innerhalb
pool 2, 4 calls, 60 %
p50
8,91
9,64
−7,6 %
±15,0 %
innerhalb
pool 2, 4 calls, 60 %
p95
21,73
22,22
−2,2 %
±15,0 %
innerhalb
pool 2, 4 calls, 60 %
p99
31,74
31,74
0,0 %
±15,0 %
innerhalb
pool 16, 3 calls, 60 %
p50
6,90
7,39
−6,6 %
±15,0 %
innerhalb
pool 16, 3 calls, 60 %
p95
13,31
13,55
−1,8 %
±15,0 %
innerhalb
pool 16, 3 calls, 60 %
p99
18,31
18,31
0,0 %
±15,0 %
innerhalb
pool 16, 3 calls, 85 %
p50
10,62
11,35
−6,5 %
±15,0 %
innerhalb
pool 16, 3 calls, 85 %
p95
31,74
32,71
−3,0 %
±15,0 %
innerhalb
pool 16, 3 calls, 85 %
p99
47,36
47,36
0,0 %
±15,0 %
innerhalb
pool 16, 2 calls, 60 %
p50
4,94
5,19
−4,7 %
±15,0 %
innerhalb
pool 16, 2 calls, 60 %
p95
9,16
8,91
+2,7 %
±15,0 %
innerhalb
pool 16, 2 calls, 60 %
p99
12,33
11,84
+4,1 %
±15,0 %
innerhalb
pool 16, 4 calls, 60 %
p50
8,91
9,40
−5,2 %
±15,0 %
innerhalb
pool 16, 4 calls, 60 %
p95
17,33
17,33
0,0 %
±15,0 %
innerhalb
pool 16, 4 calls, 60 %
p99
24,17
23,68
+2,1 %
±15,0 %
innerhalb
cache + database, 2 calls each, 60 %
p50
6,16
6,41
−3,8 %
±15,0 %
innerhalb
cache + database, 2 calls each, 60 %
p95
10,38
10,13
+2,4 %
±15,0 %
innerhalb
cache + database, 2 calls each, 60 %
p99
13,55
13,06
+3,7 %
±15,0 %
innerhalb
cache + database, 2 calls each, 85 %
p50
8,42
8,91
−5,5 %
±15,0 %
innerhalb
cache + database, 2 calls each, 85 %
p95
21,73
21,24
+2,3 %
±15,0 %
innerhalb
cache + database, 2 calls each, 85 %
p99
31,01
30,03
+3,3 %
±15,0 %
innerhalb
S44d · Mehrere Lesezugriffe pro Anfrage auf zwei Threads, die sich einen Kern teilen, Prüfpunkte, die beim Bau des Modells beiseitegelegt wurden
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
pool 2, 3 calls, 60 %
p50
8,91
9,64
−7,6 %
±15,0 %
innerhalb
pool 2, 3 calls, 60 %
p95
21,73
24,17
−10,1 %
±15,0 %
innerhalb
pool 2, 3 calls, 60 %
p99
31,74
33,69
−5,8 %
±15,0 %
innerhalb
pool 2, 3 calls, 85 %
p50
17,33
20,26
−14,5 %
±15,0 %
innerhalb
pool 2, 3 calls, 85 %
p95
63,48
71,29
−11,0 %
±15,0 %
innerhalb
pool 2, 3 calls, 85 %
p99
96,68
101
−3,9 %
±15,0 %
innerhalb
pool 2, 2 calls, 60 %
p50
6,29
6,65
−5,5 %
±15,0 %
innerhalb
pool 2, 2 calls, 60 %
p95
14,53
15,87
−8,5 %
±15,0 %
innerhalb
pool 2, 2 calls, 60 %
p99
21,24
21,73
−2,2 %
±15,0 %
innerhalb
pool 2, 4 calls, 60 %
p50
11,60
12,57
−7,8 %
±15,0 %
innerhalb
pool 2, 4 calls, 60 %
p95
29,05
32,71
−11,2 %
±15,0 %
innerhalb
pool 2, 4 calls, 60 %
p99
43,46
46,39
−6,3 %
±15,0 %
innerhalb
pool 16, 3 calls, 60 %
p50
9,40
9,64
−2,5 %
±15,0 %
innerhalb
pool 16, 3 calls, 60 %
p95
20,75
22,71
−8,6 %
±15,0 %
innerhalb
pool 16, 3 calls, 60 %
p99
30,03
31,01
−3,1 %
±15,0 %
innerhalb
pool 16, 3 calls, 85 %
p50
16,85
18,80
−10,4 %
±15,0 %
innerhalb
pool 16, 3 calls, 85 %
p95
57,13
62,01
−7,9 %
±15,0 %
innerhalb
pool 16, 3 calls, 85 %
p99
84,96
90,82
−6,5 %
±15,0 %
innerhalb
pool 16, 2 calls, 60 %
p50
6,65
6,65
0,0 %
±15,0 %
innerhalb
pool 16, 2 calls, 60 %
p95
14,04
15,01
−6,5 %
±15,0 %
innerhalb
pool 16, 2 calls, 60 %
p99
20,26
20,75
−2,4 %
±15,0 %
innerhalb
pool 16, 4 calls, 60 %
p50
12,33
12,57
−1,9 %
±15,0 %
innerhalb
pool 16, 4 calls, 60 %
p95
27,59
31,01
−11,0 %
±15,0 %
innerhalb
pool 16, 4 calls, 60 %
p99
40,53
44,43
−8,8 %
±15,0 %
innerhalb
S45 · Eine Datenbank 20 % über ihrer Kapazität hinter einem Dienst, mit und ohne zweiten Dienst davor: wann der Zusammenbruch kommt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
2 calls per request, service in front
collapse relative to no service in front
1,00
1,05
−4,6 %
±15,0 %
innerhalb
2 calls per request, service in front
collapse: s until less than half succeed
7,79
9,45
−17,6 %
±25,0 %
innerhalb
2 calls per request, no service in front
collapse: s until less than half succeed
7,79
9,02
−13,7 %
±25,0 %
innerhalb
2 calls per request, service in front
ok per s in the first 4 s
422
377
+11,8 %
±15,0 %
innerhalb
2 calls per request, no service in front
ok per s in the first 4 s
423
376
+12,3 %
±15,0 %
innerhalb
4 calls per request, service in front
collapse relative to no service in front
0,998
0,969
+2,9 %
±15,0 %
innerhalb
4 calls per request, service in front
collapse: s until less than half succeed
8,35
7,03
+18,8 %
±25,0 %
innerhalb
4 calls per request, no service in front
collapse: s until less than half succeed
8,37
7,25
+15,5 %
±25,0 %
innerhalb
4 calls per request, service in front
ok per s in the first 4 s
203
177
+14,7 %
±15,0 %
innerhalb
4 calls per request, no service in front
ok per s in the first 4 s
204
178
+14,4 %
±15,0 %
innerhalb
S46 · Sehr stoßweise Ankünfte (wie für Serverless-Funktionen gemessen) an einem Dienst, 50 bis 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
CV 3, 50 %
p50
10,38
13,31
−22,0 %
±15,0 %
Grenze
CV 3, 50 %
p95
31,74
32,71
−3,0 %
±15,0 %
innerhalb
CV 3, 50 %
p99
56,15
45,41
+23,7 %
±15,0 %
Grenze
CV 3, 75 %
p50
15,87
30,03
−47,2 %
±15,0 %
Grenze
CV 3, 75 %
p95
98,63
110
−10,6 %
±15,0 %
innerhalb
CV 3, 75 %
p99
158
174
−9,0 %
±15,0 %
innerhalb
CV 3, 90 %
p50
59,08
77,15
−23,4 %
±15,0 %
Grenze
CV 3, 90 %
p95
309
309
0,0 %
±15,0 %
innerhalb
CV 3, 90 %
p99
480
434
+10,8 %
±15,0 %
innerhalb
CV 3.7, 50 %
p50
10,38
14,53
−28,6 %
±15,0 %
Grenze
CV 3.7, 50 %
p95
39,55
37,60
+5,2 %
±15,0 %
innerhalb
CV 3.7, 50 %
p99
75,20
54,20
+38,7 %
±15,0 %
Grenze
CV 3.7, 75 %
p50
16,85
41,50
−59,4 %
±15,0 %
Grenze
CV 3.7, 75 %
p95
143
154
−7,6 %
±15,0 %
innerhalb
CV 3.7, 75 %
p99
232
240
−3,3 %
±15,0 %
innerhalb
CV 3.7, 90 %
p50
83,01
114
−27,4 %
±15,0 %
Grenze
CV 3.7, 90 %
p95
449
488
−8,0 %
±15,0 %
innerhalb
CV 3.7, 90 %
p99
711
695
+2,2 %
±15,0 %
innerhalb
S46b · Sehr stoßweise Ankünfte an einem Dienst, dessen Aufrufer nach 100 ms aufgeben: die Fehlerquote
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
CV 3, 50 %
err
0,000573
0,00
+100,0 %
±15,0 %
innerhalb
CV 3, 75 %
err
0,0483
0,0650
−25,6 %
±15,0 %
Grenze
CV 3, 90 %
err
0,341
0,398
−14,3 %
±15,0 %
innerhalb
CV 3.7, 50 %
err
0,00342
0,000115
+2859,3 %
±15,0 %
innerhalb
CV 3.7, 75 %
err
0,104
0,153
−32,2 %
±15,0 %
Grenze
CV 3.7, 90 %
err
0,450
0,554
−18,7 %
±15,0 %
Grenze
S46c · Sehr stoßweise Ankünfte an einem Dienst mit vier Instanzen
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
CV 3, 50 %
p50
11,60
14,04
−17,4 %
±15,0 %
Grenze
CV 3, 50 %
p95
35,64
38,57
−7,6 %
±15,0 %
innerhalb
CV 3, 50 %
p99
56,15
55,18
+1,8 %
±15,0 %
innerhalb
CV 3, 75 %
p50
18,80
25,63
−26,7 %
±15,0 %
Grenze
CV 3, 75 %
p95
84,96
88,87
−4,4 %
±15,0 %
innerhalb
CV 3, 75 %
p99
131
131
0,0 %
±15,0 %
innerhalb
CV 3, 90 %
p50
52,25
62,01
−15,7 %
±15,0 %
Grenze
CV 3, 90 %
p95
229
240
−4,9 %
±15,0 %
innerhalb
CV 3, 90 %
p99
355
348
+2,2 %
±15,0 %
innerhalb
CV 3.7, 50 %
p50
11,60
15,26
−24,0 %
±15,0 %
Grenze
CV 3.7, 50 %
p95
42,48
43,46
−2,2 %
±15,0 %
innerhalb
CV 3.7, 50 %
p99
67,38
63,48
+6,2 %
±15,0 %
innerhalb
CV 3.7, 75 %
p50
21,24
31,74
−33,1 %
±15,0 %
Grenze
CV 3.7, 75 %
p95
108
114
−5,1 %
±15,0 %
innerhalb
CV 3.7, 75 %
p99
170
170
0,0 %
±15,0 %
innerhalb
CV 3.7, 90 %
p50
65,43
79,10
−17,3 %
±15,0 %
Grenze
CV 3.7, 90 %
p95
309
340
−9,2 %
±15,0 %
innerhalb
CV 3.7, 90 %
p99
473
488
−3,2 %
±15,0 %
innerhalb
S46d · Sehr stoßweise Ankünfte durch einen Connection-Pool in eine Datenbank
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
CV 3, 50 %
p50
4,33
5,68
−23,7 %
±15,0 %
Grenze
CV 3, 50 %
p95
14,77
13,55
+9,0 %
±15,0 %
innerhalb
CV 3, 50 %
p99
24,17
18,80
+28,6 %
±15,0 %
Grenze
CV 3, 75 %
p50
7,39
14,28
−48,3 %
±15,0 %
Grenze
CV 3, 75 %
p95
42,48
52,25
−18,7 %
±15,0 %
Grenze
CV 3, 75 %
p99
73,24
75,20
−2,6 %
±15,0 %
innerhalb
CV 3, 90 %
p50
25,15
39,55
−36,4 %
±15,0 %
Grenze
CV 3, 90 %
p95
146
166
−11,8 %
±15,0 %
innerhalb
CV 3, 90 %
p99
232
254
−8,5 %
±15,0 %
innerhalb
CV 3.7, 50 %
p50
4,33
6,29
−31,1 %
±15,0 %
Grenze
CV 3.7, 50 %
p95
18,31
16,36
+11,9 %
±15,0 %
innerhalb
CV 3.7, 50 %
p99
32,71
23,19
+41,1 %
±15,0 %
Grenze
CV 3.7, 75 %
p50
8,42
20,26
−58,4 %
±15,0 %
Grenze
CV 3.7, 75 %
p95
63,48
77,15
−17,7 %
±15,0 %
Grenze
CV 3.7, 75 %
p99
108
120
−9,8 %
±15,0 %
innerhalb
CV 3.7, 90 %
p50
36,62
60,06
−39,0 %
±15,0 %
Grenze
CV 3.7, 90 %
p95
221
225
−1,7 %
±15,0 %
innerhalb
CV 3.7, 90 %
p99
348
371
−6,3 %
±15,0 %
innerhalb
S47 n2 cv0.03 50 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: nahezu konstante Arbeit, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
100,00
99,95
+0,0 %
±5,0 %
innerhalb
api
util
0,500
0,500
+0,1 %
±5,0 %
innerhalb
end-to-end
p50
12,57
12,82
−1,9 %
±15,0 %
innerhalb
end-to-end
p99
34,67
28,08
+23,5 %
±15,0 %
Grenze
S47 n2 cv0.03 70 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: nahezu konstante Arbeit, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
140
139
+0,4 %
±5,0 %
innerhalb
api
util
0,700
0,697
+0,4 %
±5,0 %
innerhalb
end-to-end
p50
13,31
14,04
−5,2 %
±15,0 %
innerhalb
end-to-end
p99
52,25
43,46
+20,2 %
±15,0 %
Grenze
S47 n2 cv0.03 90 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: nahezu konstante Arbeit, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
180
180
+0,2 %
±5,0 %
innerhalb
api
util
0,900
0,899
+0,1 %
±5,0 %
innerhalb
end-to-end
p50
25,63
26,12
−1,9 %
±15,0 %
innerhalb
end-to-end
p99
131
108
+20,7 %
±15,0 %
Grenze
S47 n2 cv1 50 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
100,00
100
−0,2 %
±5,0 %
innerhalb
api
util
0,500
0,500
+0,1 %
±5,0 %
innerhalb
end-to-end
p50
13,31
12,82
+3,8 %
±15,0 %
innerhalb
end-to-end
p99
88,87
88,87
0,0 %
±15,0 %
innerhalb
S47 n2 cv1 70 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
140
140
+0,1 %
±5,0 %
innerhalb
api
util
0,700
0,699
+0,2 %
±5,0 %
innerhalb
end-to-end
p50
19,78
18,80
+5,2 %
±15,0 %
innerhalb
end-to-end
p99
139
131
+6,0 %
±15,0 %
innerhalb
S47 n2 cv1 90 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
180
180
+0,0 %
±5,0 %
innerhalb
api
util
0,900
0,902
−0,3 %
±5,0 %
innerhalb
end-to-end
p50
54,20
53,22
+1,8 %
±15,0 %
innerhalb
end-to-end
p99
371
387
−4,0 %
±15,0 %
innerhalb
S47 n2 cv2 50 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
100,00
100
−0,2 %
±5,0 %
innerhalb
api
util
0,500
0,500
+0,0 %
±5,0 %
innerhalb
end-to-end
p50
14,53
12,33
+17,8 %
±15,0 %
Grenze
end-to-end
p99
332
293
+13,3 %
±15,0 %
innerhalb
S47 n2 cv2 70 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
140
140
−0,0 %
±5,0 %
innerhalb
api
util
0,700
0,705
−0,7 %
±5,0 %
innerhalb
end-to-end
p50
30,52
25,63
+19,0 %
±15,0 %
Grenze
end-to-end
p99
539
434
+24,3 %
±15,0 %
Grenze
S47 n2 cv2 90 · Load Balancer verteilt Anfragen reihum auf 2 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
180
179
+0,4 %
±5,0 %
innerhalb
api
util
0,900
0,901
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
127
118
+7,4 %
±15,0 %
innerhalb
end-to-end
p99
1297
1016
+27,7 %
±15,0 %
Grenze
S47 n4 cv0.03 50 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: nahezu konstante Arbeit, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
200
199
+0,3 %
±5,0 %
innerhalb
api
util
0,500
0,498
+0,3 %
±5,0 %
innerhalb
end-to-end
p50
12,57
12,57
0,0 %
±15,0 %
innerhalb
end-to-end
p99
21,24
19,78
+7,4 %
±15,0 %
innerhalb
S47 n4 cv0.03 70 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: nahezu konstante Arbeit, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
280
280
+0,1 %
±5,0 %
innerhalb
api
util
0,700
0,700
+0,1 %
±5,0 %
innerhalb
end-to-end
p50
12,57
12,82
−1,9 %
±15,0 %
innerhalb
end-to-end
p99
32,71
27,59
+18,6 %
±15,0 %
Grenze
S47 n4 cv0.03 90 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: nahezu konstante Arbeit, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
360
360
−0,1 %
±5,0 %
innerhalb
api
util
0,900
0,901
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
16,36
18,80
−13,0 %
±15,0 %
innerhalb
end-to-end
p99
73,24
67,38
+8,7 %
±15,0 %
innerhalb
S47 n4 cv1 50 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
200
200
+0,2 %
±5,0 %
innerhalb
api
util
0,500
0,499
+0,3 %
±5,0 %
innerhalb
end-to-end
p50
12,08
11,84
+2,1 %
±15,0 %
innerhalb
end-to-end
p99
77,15
83,01
−7,1 %
±15,0 %
innerhalb
S47 n4 cv1 70 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
280
280
+0,2 %
±5,0 %
innerhalb
api
util
0,700
0,701
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
17,33
16,36
+6,0 %
±15,0 %
innerhalb
end-to-end
p99
118
127
−6,9 %
±15,0 %
innerhalb
S47 n4 cv1 90 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
360
360
−0,1 %
±5,0 %
innerhalb
api
util
0,900
0,899
+0,1 %
±5,0 %
innerhalb
end-to-end
p50
46,39
43,46
+6,7 %
±15,0 %
innerhalb
end-to-end
p99
309
309
0,0 %
±15,0 %
innerhalb
S47 n4 cv2 50 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
200
200
−0,1 %
±5,0 %
innerhalb
api
util
0,500
0,503
−0,5 %
±5,0 %
innerhalb
end-to-end
p50
13,55
11,35
+19,4 %
±15,0 %
Grenze
end-to-end
p99
316
270
+17,4 %
±15,0 %
Grenze
S47 n4 cv2 70 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
280
280
−0,1 %
±5,0 %
innerhalb
api
util
0,700
0,698
+0,3 %
±5,0 %
innerhalb
end-to-end
p50
28,08
21,73
+29,2 %
±15,0 %
Grenze
end-to-end
p99
508
434
+17,1 %
±15,0 %
Grenze
S47 n4 cv2 90 · Load Balancer verteilt Anfragen reihum auf 4 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
360
360
−0,0 %
±5,0 %
innerhalb
api
util
0,900
0,895
+0,5 %
±5,0 %
innerhalb
end-to-end
p50
120
101
+19,4 %
±15,0 %
Grenze
end-to-end
p99
1234
1422
−13,2 %
±15,0 %
innerhalb
S47 n8 cv0.03 50 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: nahezu konstante Arbeit, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
400
399
+0,2 %
±5,0 %
innerhalb
api
util
0,500
0,499
+0,2 %
±5,0 %
innerhalb
end-to-end
p50
12,57
12,57
0,0 %
±15,0 %
innerhalb
end-to-end
p99
13,79
15,50
−11,0 %
±15,0 %
innerhalb
S47 n8 cv0.03 70 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: nahezu konstante Arbeit, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
560
560
−0,1 %
±5,0 %
innerhalb
api
util
0,700
0,701
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
12,57
12,57
0,0 %
±15,0 %
innerhalb
end-to-end
p99
20,75
19,29
+7,6 %
±15,0 %
innerhalb
S47 n8 cv0.03 90 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: nahezu konstante Arbeit, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
720
720
−0,0 %
±5,0 %
innerhalb
api
util
0,900
0,900
−0,0 %
±5,0 %
innerhalb
end-to-end
p50
13,06
15,01
−13,0 %
±15,0 %
innerhalb
end-to-end
p99
44,43
38,57
+15,2 %
±15,0 %
Grenze
S47 n8 cv1 50 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
400
400
+0,1 %
±5,0 %
innerhalb
api
util
0,500
0,498
+0,4 %
±5,0 %
innerhalb
end-to-end
p50
11,60
11,35
+2,2 %
±15,0 %
innerhalb
end-to-end
p99
71,29
77,15
−7,6 %
±15,0 %
innerhalb
S47 n8 cv1 70 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
560
561
−0,1 %
±5,0 %
innerhalb
api
util
0,700
0,701
−0,2 %
±5,0 %
innerhalb
end-to-end
p50
15,87
15,26
+4,0 %
±15,0 %
innerhalb
end-to-end
p99
108
118
−8,3 %
±15,0 %
innerhalb
S47 n8 cv1 90 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: Arbeit, die schwankt wie bei einem typischen Handler, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
720
721
−0,2 %
±5,0 %
innerhalb
api
util
0,900
0,900
+0,0 %
±5,0 %
innerhalb
end-to-end
p50
41,50
39,55
+4,9 %
±15,0 %
innerhalb
end-to-end
p99
277
293
−5,3 %
±15,0 %
innerhalb
S47 n8 cv2 50 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
400
401
−0,2 %
±5,0 %
innerhalb
api
util
0,500
0,500
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
13,06
10,62
+23,0 %
±15,0 %
Grenze
end-to-end
p99
301
277
+8,5 %
±15,0 %
innerhalb
S47 n8 cv2 70 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
560
561
−0,2 %
±5,0 %
innerhalb
api
util
0,700
0,696
+0,5 %
±5,0 %
innerhalb
end-to-end
p50
27,10
20,26
+33,7 %
±15,0 %
Grenze
end-to-end
p99
496
418
+18,7 %
±15,0 %
Grenze
S47 n8 cv2 90 · Load Balancer verteilt Anfragen reihum auf 8 Server mit je einem Thread: sehr ungleichmäßige Arbeit, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
720
719
+0,1 %
±5,0 %
innerhalb
api
util
0,900
0,895
+0,5 %
±5,0 %
innerhalb
end-to-end
p50
114
94,73
+20,6 %
±15,0 %
Grenze
end-to-end
p99
1203
1109
+8,5 %
±15,0 %
innerhalb
S47b n4 50 · Load Balancer vor 4 Servern mit je 2 Threads, 50 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
400
399
+0,2 %
±5,0 %
innerhalb
api
util
0,500
0,498
+0,4 %
±5,0 %
innerhalb
end-to-end
p50
10,62
10,38
+2,4 %
±15,0 %
innerhalb
end-to-end
p99
56,15
55,18
+1,8 %
±15,0 %
innerhalb
S47b n4 70 · Load Balancer vor 4 Servern mit je 2 Threads, 70 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
560
561
−0,2 %
±5,0 %
innerhalb
api
util
0,700
0,701
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
13,31
12,82
+3,8 %
±15,0 %
innerhalb
end-to-end
p99
71,29
71,29
0,0 %
±15,0 %
innerhalb
S47b n4 90 · Load Balancer vor 4 Servern mit je 2 Threads, 90 % ausgelastet
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
720
721
−0,2 %
±5,0 %
innerhalb
api
util
0,900
0,902
−0,2 %
±5,0 %
innerhalb
end-to-end
p50
27,59
27,10
+1,8 %
±15,0 %
innerhalb
end-to-end
p99
162
162
0,0 %
±15,0 %
innerhalb
S47c · Die Hälfte der Anfragen über den Load Balancer, die andere Hälfte direkt an die Server
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
280
281
−0,2 %
±5,0 %
innerhalb
api
util
0,700
0,701
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
16,36
16,85
−2,9 %
±15,0 %
innerhalb
end-to-end
p99
77,15
77,15
0,0 %
±15,0 %
innerhalb
S47d · Load Balancer vor einem einzigen Server
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
api
rate
70,00
70,07
−0,1 %
±5,0 %
innerhalb
api
util
0,700
0,701
−0,2 %
±5,0 %
innerhalb
end-to-end
p50
24,17
23,68
+2,1 %
±15,0 %
innerhalb
end-to-end
p99
174
174
0,0 %
±15,0 %
innerhalb
S49 · Zeit in einer Queue während eines einminütigen Job-Schubs, Worker durch die CPU begrenzt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
q
time in the queue p50, 10 s into the burst
3344
3219
+3,9 %
±15,0 %
innerhalb
q
time in the queue p99, 10 s into the burst
3406
3531
−3,5 %
±15,0 %
innerhalb
q
time in the queue p50, at the end of the burst
19750
19750
0,0 %
±15,0 %
innerhalb
q
time in the queue p99, at the end of the burst
20250
20750
−2,4 %
±15,0 %
innerhalb
q
time in the queue p50, 30 s after the burst
29750
29750
0,0 %
±15,0 %
innerhalb
q
time in the queue p99, 30 s after the burst
30250
31250
−3,2 %
±15,0 %
innerhalb
q
time in the queue p50, 60 s after the burst
17250
17750
−2,8 %
±15,0 %
innerhalb
q
time in the queue p99, 60 s after the burst
18750
19250
−2,6 %
±15,0 %
innerhalb
S49b · Zeit in einer Queue während eines einminütigen Job-Schubs, Worker durch einen langsamen Aufruf begrenzt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
q
time in the queue p50, 10 s into the burst
3344
3219
+3,9 %
±15,0 %
innerhalb
q
time in the queue p99, 10 s into the burst
3469
3594
−3,5 %
±15,0 %
innerhalb
q
time in the queue p50, at the end of the burst
19750
19750
0,0 %
±15,0 %
innerhalb
q
time in the queue p99, at the end of the burst
20250
20750
−2,4 %
±15,0 %
innerhalb
q
time in the queue p50, 30 s after the burst
29750
29750
0,0 %
±15,0 %
innerhalb
q
time in the queue p99, 30 s after the burst
30250
30750
−1,6 %
±15,0 %
innerhalb
q
time in the queue p50, 60 s after the burst
17250
18250
−5,5 %
±15,0 %
innerhalb
q
time in the queue p99, 60 s after the burst
18750
19750
−5,1 %
±15,0 %
innerhalb
S49c · Zeit in einer Queue, während einer von zwei Workern eine Minute fehlt, Worker durch die CPU begrenzt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
q
time in the queue p50, 10 s after the worker is gone
2844
2594
+9,6 %
±15,0 %
innerhalb
q
time in the queue p99, 10 s after the worker is gone
3094
3156
−2,0 %
±15,0 %
innerhalb
q
time in the queue p50, when the worker returns
17250
17250
0,0 %
±15,0 %
innerhalb
q
time in the queue p99, when the worker returns
17250
18250
−5,5 %
±15,0 %
innerhalb
q
time in the queue p50, 30 s after the worker returned
4438
4188
+6,0 %
±15,0 %
innerhalb
q
time in the queue p99, 30 s after the worker returned
6063
5438
+11,5 %
±15,0 %
innerhalb
S49d · Zeit in einer Queue, während einer von zwei Workern eine Minute fehlt, Worker durch einen langsamen Aufruf begrenzt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
q
time in the queue p50, 10 s after the worker is gone
2906
2656
+9,4 %
±15,0 %
innerhalb
q
time in the queue p99, 10 s after the worker is gone
3281
3031
+8,2 %
±15,0 %
innerhalb
q
time in the queue p50, when the worker returns
17250
17250
0,0 %
±15,0 %
innerhalb
q
time in the queue p99, when the worker returns
17750
17750
0,0 %
±15,0 %
innerhalb
q
time in the queue p50, 30 s after the worker returned
4438
4313
+2,9 %
±15,0 %
innerhalb
q
time in the queue p99, 30 s after the worker returned
6063
5563
+9,0 %
±15,0 %
innerhalb
S50 1500/s · Postgres schreibt auf eine schnelle Platte, Commits teilen sich Flushes: 1.500 Schreibzugriffe pro Sekunde
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
1500
1502
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
2,17
2,17
0,0 %
±15,0 %
innerhalb
end-to-end
p99
2,84
2,84
0,0 %
±15,0 %
innerhalb
S50 300/s · Postgres schreibt auf eine schnelle Platte, Commits teilen sich Flushes: 300 Schreibzugriffe pro Sekunde
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
300
300
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
1,60
1,60
0,0 %
±15,0 %
innerhalb
end-to-end
p99
2,66
2,66
0,0 %
±15,0 %
innerhalb
S50 3000/s · Postgres schreibt auf eine schnelle Platte, Commits teilen sich Flushes: 3.000 Schreibzugriffe pro Sekunde
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
3000
3004
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
2,35
2,35
0,0 %
±15,0 %
innerhalb
end-to-end
p99
3,08
3,14
−1,9 %
±15,0 %
innerhalb
S50b 30 % · Postgres schreibt auf eine langsame Platte, ihr Durchsatz zu 30 % genutzt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
750
750
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
2,90
2,96
−2,1 %
±15,0 %
innerhalb
end-to-end
p99
4,82
5,31
−9,2 %
±15,0 %
innerhalb
S50b 60 % · Postgres schreibt auf eine langsame Platte, ihr Durchsatz zu 60 % genutzt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
1500
1502
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
4,82
4,82
0,0 %
±15,0 %
innerhalb
end-to-end
p99
9,64
10,13
−4,8 %
±15,0 %
innerhalb
S50b 85 % · Postgres schreibt auf eine langsame Platte, ihr Durchsatz zu 85 % genutzt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
2125
2126
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
11,60
11,84
−2,1 %
±15,0 %
innerhalb
end-to-end
p99
28,56
28,08
+1,7 %
±15,0 %
innerhalb
S50c 1600/s · MySQL schreibt (zwei Flushes pro Commit): 1.600 Schreibzugriffe pro Sekunde
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
1600
1602
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
5,43
5,43
0,0 %
±15,0 %
innerhalb
end-to-end
p99
10,38
10,86
−4,5 %
±15,0 %
innerhalb
S50c 200/s · MySQL schreibt (zwei Flushes pro Commit): 200 Schreibzugriffe pro Sekunde
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
200
200
+0,2 %
±5,0 %
innerhalb
end-to-end
p50
2,11
2,11
0,0 %
±15,0 %
innerhalb
end-to-end
p99
3,88
3,97
−2,3 %
±15,0 %
innerhalb
S50c 800/s · MySQL schreibt (zwei Flushes pro Commit): 800 Schreibzugriffe pro Sekunde
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
800
801
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
3,33
3,39
−1,8 %
±15,0 %
innerhalb
end-to-end
p99
5,31
5,80
−8,4 %
±15,0 %
innerhalb
S50d · Schreibzugriffe, die nicht auf den Flush der Platte warten, ihr Durchsatz zu 60 % genutzt
Wo
Metrik
Live-Modell
Exakte Simulation
Abweichung
Toleranz
Ergebnis
db
rate
1500
1502
−0,1 %
±5,0 %
innerhalb
end-to-end
p50
1,17
1,11
+5,5 %
±15,0 %
innerhalb
end-to-end
p99
3,69
3,57
+3,4 %
±15,0 %
innerhalb
S50e · Eine API mit 2 Lese- und 0,3 Schreibzugriffen pro Anfrage; nur die Schreibzugriffe warten auf die Platte