Wie viele Nutzer schafft ein 12-Dollar-Server? Wir haben es gemessen
Wir erhalten eine Provision, wenn du über die Links unten einkaufst. We earn commissions when you shop through the links below.
Eine VM für 12 $ im Monat mit Nginx, Node.js und Postgres unter virtuellen Nutzern: etwa 800 Nutzer bei einer Sekunde Denkzeit und eine CPU-Drosselung, die das Gastsystem nicht zeigt.
Kurze Antwort: Das hängt davon ab, was die Nutzer tun. Eine Cloud-VM für 12 $ im Monat mit Nginx, Node.js und Postgres hat etwa 800 Nutzer bedient, die zwischen zwei Seitenaufrufen jeweils 1 Sekunde Pause machen (796 Seitenaufrufe/s, p99 5 ms). Bei 1.000 Nutzern lag p99 bei 865 ms, bei 1.300 brach sie ein. Dieselbe Maschine mit Nutzern, die nie pausieren, wie bei einem Lasttest ohne Sleep, brach bei 256 Nutzern ein.
Die Überraschung: Unter Last wird die CPU dieser Maschine gedrosselt, und Linux zeigt das nicht an. Die Steal-Zeit blieb bei 0 %, während derselbe Code pro Sekunde CPU-Zeit 3,5–7× langsamer lief. Wer die Maschine bei geringer Last profiliert, überschätzt sie etwa um das 2-Fache.
„Wie viele Nutzer schafft mein Server?“ ist die Frage hinter viel Kapazitätsplanung, und ein beliebtes Video („How Many Users Can a $12 Server Handle?“) hat uns Lust gemacht, sie mit eigenen Zahlen zu beantworten. Alles Folgende ist unsere eigene Messung samt Aufbau, dazu das, was unser Live-Modell für dieselbe Maschine vorhergesagt hat.
Nutzer sind keine Anfragen pro Sekunde
Ein Nutzer, der eine Seite lädt, eine Weile liest und wieder klickt, schickt viel weniger Anfragen als ein Lasttest, der so schnell feuert, wie er kann. Den Zusammenhang beschreibt Littles Gesetz für ein geschlossenes System:
users = page views per second × (think time + response time)
796 views/s × (1 s + 0.0025 s) ≈ 800 users
Dieselbe Maschine „schafft“ also 800 Nutzer, die eine Sekunde pausieren, und ein paar hundert, die nie pausieren. Frag erst, welche Nutzer, bevor du fragst, wie viele.
Der Aufbau
- Die Maschine: Google Cloud
e2-small(2 geteilte vCPUs, 2 GB, us-central1), 12,23 $ im Monat bei Abrechnung nach Bedarf, Debian 12. - Der Stack, alles auf dieser einen VM: Nginx vor einem Node.js-Prozess, PostgreSQL 15 mit seinen Standardeinstellungen und ein Connection-Pool mit 10 Verbindungen.
- Ein Seitenaufruf: ein Lesezugriff über den Primärschlüssel auf eine Tabelle mit 1.000.000 Zeilen (beliebte Zeilen werden öfter gelesen), ein Insert bei jedem 10. Aufruf, etwa 900 Byte HTML.
- Die Nutzer: virtuelle Nutzer von einer zweiten VM in derselben Zone. Jeder denkt eine zufällige Zeit lang nach (im Mittel 1 s, oder 0 s beim Lauf ohne Pause), ruft eine Seite ab, wartet auf die vollständige Antwort und wiederholt das. 90 s pro Stufe, die ersten 15 s nicht mitgezählt.
Die Ergebnisse (1 s Denkzeit)
| Nutzer | Aufrufe/s | Mittlere Antwortzeit | p99 | Maschine ausgelastet |
|---|---|---|---|---|
| 200 | 201 | 2,8 ms | 5 ms | 14 % |
| 400 | 398 | 2,5 ms | 5 ms | 22 % |
| 600 | 600 | 2,4 ms | 4 ms | 29 % |
| 800 | 796 | 2,5 ms | 5 ms | 37 % |
| 1.000 | 740 | 343 ms | 865 ms | 80 % |
| 1.300 | 757 | 712 ms | 1.419 ms | 96 % |
| 1.600 | 740 | 1.161 ms | 2.291 ms | 81 % |
Bis 800 Nutzer kam jede Seite in wenigen Millisekunden zurück. Dann stieß die Maschine an ihre Obergrenze von etwa 760 Seitenaufrufen pro Sekunde: Mehr Nutzer bedeuteten keinen höheren Durchsatz mehr, nur längeres Warten. Der Speicher war nie die Grenze, die CPU war es. Ohne Denkzeit war dieselbe Obergrenze mit viel weniger Nutzern erreicht: Von 16 bis 64 Nutzern lag p99 um 200 ms, bei 128 Nutzern bei fast einer halben Sekunde, und bei 256 Nutzern überschritt es 1,5 s. (Dieser Lauf begann direkt nach dem gesättigten, auf einer schon gedrosselten Maschine; mehr zur Drosselung weiter unten.)
Die Grenze, die du nicht siehst: eine gedrosselte geteilte CPU
Unterhalb des Knicks kostete ein Seitenaufruf etwa 0,8 ms CPU für die ganze Maschine. Hinter dem Knick kostete er etwa dreimal so viel, während Linux 0 % Steal zeigte, die Zahl, die dir normalerweise sagt, dass ein Nachbar oder der Hypervisor dir CPU wegnimmt. Also haben wir die CPU selbst gemessen: eine feste Schleife, bei der wir gezählt haben, wie viel Arbeit sie pro Sekunde ihrer eigenen CPU-Zeit schafft.
| Zustand der Maschine | Schleifendurchläufe pro CPU-Sekunde |
|---|---|
| Unterhalb des Knicks | 364–396 Millionen |
| Gesättigt | 52–116 Millionen |
Derselbe Code schaffte pro Sekunde „CPU-Zeit“ 3,5–7× weniger. Die e2-small wird als Maschine mit geteiltem Kern verkauft, bei der ein Bruchteil ihrer zwei vCPUs dauerhaft zur Verfügung steht und kurze Bursts darüber möglich sind; wenn der Burst aufgebraucht ist, werden die vCPUs gebremst, und Linux verbucht die verlorene Zeit als ausgelastet, nicht als Steal. Zwei Lehren für die Dimensionierung: Ein Profil, das bei geringer Last aufgenommen wurde, überschätzt diese Maschine etwa um das 2-Fache, und „Steal = 0 %“ beweist auf einer VM mit geteiltem Kern nichts. Die ehrliche Kapazität ist der Durchsatz unter anhaltender Last.
Was Stackrigs Live-Modell vorhergesagt hat
Wir haben dieselbe Maschine in Stackrigs Live-Modell mit virtuellen Nutzern laufen lassen, zweimal: einmal mit der Kapazität aus einem Profil bei geringer Last, so wie du es machen würdest, wenn du zuerst profilierst, und einmal mit der Kapazität, die die Maschine unter Last tatsächlich durchhält. Das sind Ergebnisse des Modells, verglichen mit der Messung:
| Was | Gemessen | Modell, Kapazität unter Last | Modell, Profil bei geringer Last |
|---|---|---|---|
| Knick | etwa 800 Nutzer | etwa 760 Nutzer (−5 %) | etwa 1.600 Nutzer (2×) |
| Aufrufe/s bei 1.300 Nutzern | 757 | 759 | 1.298 |
| Mittlere Antwortzeit bei 1.300 Nutzern | 712 ms | 711 ms | 3 ms |
| p99 bei 1.300 Nutzern | 1.419 ms | 820 ms | 9 ms |
Mit der richtigen Kapazität findet das Modell den Knick auf 5 % genau, und dahinter den Durchsatz auf 3 % und die mittlere Antwortzeit auf 10 % genau. Zwei ehrliche Grenzen: Hinter dem Knick ist das p99 des Modells 1,7–2× zu niedrig, weil die Drosselung zum gewöhnlichen Warten in der Schlange noch lange Pausen hinzufügt, und knapp unterhalb des Knicks bildet es etwas zu früh eine Warteschlange, weil die echte Maschine dort noch Burst-Reserven hatte. Mit dem Profil bei geringer Last liegt das Modell bei der Kapazität um den Faktor 2 daneben, und genau das ist die Falle, die die Drosselung jeder Schätzung stellt. Wie das Modell bei anderen Aufbauten abschneidet, steht unter Wie genau ist Stackrig?
Hilft ein Cache?
Wir haben einen Cache im Prozess hinzugefügt, mit den 10.000 zuletzt gelesenen Zeilen (etwa 56 % der Lesezugriffe trafen ihn). Die Obergrenze stieg von etwa 760 auf etwa 940 Seitenaufrufe pro Sekunde, +23 %, aber der Punkt, an dem es einbricht, hat sich kaum bewegt: Der größte Teil der CPU pro Seitenaufruf ging an Node.js und Nginx, nicht an Postgres. Eine Einschränkung: Der Lauf mit Cache begann auf einer Maschine, die vom vorigen Lauf schon gedrosselt war. Das ist also eine gemessene Beobachtung, kein sauberer Vorher-Nachher-Vergleich, und wir nennen dafür keine Zahl von Nutzern.
Was diese Messung dir nicht sagt
- Eine Maschine, ein Lauf pro Konfiguration, eine Zone; VMs mit geteiltem Kern unterscheiden sich von Host zu Host, und das Burst-Guthaben hängt davon ab, was die Maschine vorher getan hat.
- Eine winzige Seite. Eine Seite mit mehreren Abfragen, Templates oder API-Aufrufen kostet pro Aufruf mehr CPU und drückt jede Zahl nach unten.
- Andere VM-Typen, dedizierte Kerne und verwaltete Datenbanken verhalten sich anders; eine VM mit dedizierten Kernen hat diese Drosselung nicht.
Probier es an deinem eigenen Design aus
Die Vorlage „Web app with database“ im Playground hat denselben Aufbau (Webserver vor einem Postgres). Stell ihren Client auf virtuelle Nutzer um, setz eine Denkzeit und sieh zu, wo dein Knick liegt und was er kostet.
„Web app with database“ im Playground öffnen
Oder mach eine Challenge daraus: „How many users?“ → Du bekommst ein Design, ein Ziel und ein Budget, und der Playground prüft deine Lösung live. Dein Fortschritt bleibt in deinem Browser.
Die App kannst du kostenlos im Browser ausprobieren, ohne Konto. Um zu erfahren, wann Pro fertig ist, trag dich in die Warteliste ein.