Wie viele Anfragen pro Sekunde schafft ein Postgres?
Wir erhalten eine Provision, wenn du über die Links unten einkaufst. We earn commissions when you shop through the links below.
Ein PostgreSQL auf einer VM mit 2 vCPUs, gemessen: etwa 6.000 einfache indizierte Lesezugriffe pro Sekunde bei 100 % CPU, wo p99 zu steigen beginnt, und wie du deine eigene Zahl abschätzt.
Kurze Antwort: CPU pro Abfrage mal Anzahl der Kerne. Wir haben ein Postgres auf einer Cloud-VM mit 2 vCPUs mit einem einfachen indizierten Lesezugriff gemessen: Es schaffte etwa 6.000 Abfragen pro Sekunde bei 100 % CPU, ungefähr 0,33 ms CPU pro Abfrage.
Die Zahl, mit der du planen solltest, ist niedriger. Bei zufälligen Ankünften (Poisson) blieb p99 bis etwa 75 % CPU (4.800 Abfragen/s) unter 7 ms, hatte sich bei 88 % verdoppelt, und bei 100 % warteten Anfragen sekundenlang.
„Hält ein Postgres unseren Launch aus?“ hat keine allgemeingültige Antwort, denn eine Abfrage kann 50 µs oder 50 ms CPU kosten. Zahlen in Blogs reichen von ein paar Hundert bis zu Millionen Abfragen pro Sekunde, und sie sagen selten, was die Abfrage war. Deshalb hier eine Messung, die wir selbst gemacht haben, mit dem vollständigen Aufbau, und eine Methode, mit der du deine Zahl bekommst.
Der Aufbau
- Datenbank-VM: Google Cloud
n2-standard-2(2 vCPU = 1 physischer Kern mit 2 Hyperthreads, 8 GB),europe-west3, Debian 12, PostgreSQL 15 aus den Debian-Paketen,shared_buffers = 1GB, alles andere voreingestellt. - Daten: eine Tabelle mit 1.000.000 Zeilen und einem abdeckenden Index; die ganze Tabelle passt in den Arbeitsspeicher, Lesezugriffe gehen also nie auf die Platte.
- Abfrage: ein Aggregat pro Anfrage über etwa 1.000 Zeilen eines Buckets:
SELECT count(*), sum(v) FROM items WHERE bucket = $1. Nur lesend. - Anwendung: ein Node.js-Dienst auf einer eigenen
n2-standard-2-VM, 2 Worker, ein Connection-Pool von 16 zu Postgres, eine Abfrage pro HTTP-Anfrage. - Last: ein Open-Loop-Generator auf einer dritten VM (
n2-standard-4), 256 Verbindungen, 10 Stufen zu je 60 Sekunden von 640 bis 6.080 Anfragen/s; Latenz gezählt ab dem geplanten Sendezeitpunkt. Zwei Läufe: gleichmäßig verteilte Ankünfte und zufällige Ankünfte (Poisson). - CPU pro Abfrage: die Steigung der belegten CPU der Datenbank-VM über dem Durchsatz zwischen den Laststufen, nicht belegte CPU geteilt durch Abfragen auf einer Stufe. Das Verhältnis bei niedriger Last rechnet die Hintergrundarbeit im Leerlauf den Abfragen zu und hat die Kosten in unseren ersten Läufen um bis zu 2× überschätzt.
Die Ergebnisse
| Angebotene Anfragen/s | DB-CPU (zufällig) | p99 zufällig | DB-CPU (gleichmäßig) | p99 gleichmäßig |
|---|---|---|---|---|
| 640 | 9 % | 1,4 ms | 8 % | 1,1 ms |
| 1.920 | 28 % | 1,6 ms | 20 % | 0,9 ms |
| 3.200 | 49 % | 2,5 ms | 35 % | 1,1 ms |
| 3.840 | 60 % | 3,5 ms | 44 % | 1,3 ms |
| 4.480 | 70 % | 5,7 ms | 58 % | 1,6 ms |
| 4.800 | 75 % | 6,9 ms | 65 % | 2,0 ms |
| 5.120 | 80 % | 7,3 ms | 73 % | 3,3 ms |
| 5.440 | 88 % | 12,6 ms | 83 % | 4,2 ms |
| 5.760 | 94 % | 21,0 ms | 91 % | 6,0 ms |
| 6.080 | 99 % | 1.966 ms | 99 % | 1.572 ms |
Drei Dinge fallen auf:
- Der Durchsatz ist linear, bis die CPU voll ist. Jede Stufe bis 5.760 Anfragen/s wurde vollständig bedient; bei 6.080 angebotenen kamen nur etwa 5.950–6.000 durch (ein zweiter Lauf auf demselben Maschinentyp: 5.890).
- Die Tail-Latenz steigt lange vor 100 %. Bei zufälligen Ankünften verdoppelte sich p99 zwischen 70 % und 88 % CPU und hatte sich bis 94 % fast noch einmal verdoppelt. Das ist Warteschlangenbildung: Wenn Anfragen gehäuft ankommen, warten die zweite und dritte eines Pulks auf die erste.
- Wie stoßweise die Last kommt, zählt so viel wie der Durchschnitt. Dieselbe Last mit gleichmäßig verteilten Ankünften hatte ab 60 % CPU ein um 2,5–3,5× niedrigeres p99. Echter Nutzertraffic ist näher an Zufall als an einem Metronom, und ein Retry-Sturm oder ein Cronjob zur vollen Stunde ist schlimmer als Zufall.
Wie du deine eigene Zahl abschätzt
- Ermittle die CPU-Kosten deiner typischen Abfrage. Fahr zwei gleichbleibende Laststufen (zum Beispiel 20 % und 50 % dessen,
was du erwartest) und rechne
(busy cores at level 2 − busy cores at level 1) / (queries/s at level 2 − queries/s at level 1). Unser Lauf: etwa 0,29 ms unter 80 % CPU und 0,33 ms in der Sättigung. - Kapazität ≈ vCPU ÷ CPU pro Abfrage. Hier 2 ÷ 0,33 ms ≈ 6.000/s. Nimm die CPU pro Abfrage, die nahe der Sättigung gemessen wurde, und miss auf dem Maschinentyp, auf dem du laufen wirst: Zwei Hyperthreads eines Kerns schaffen oft weniger als zwei volle Kerne.
- Plane mit 60–70 % davon, wenn dir p99 wichtig ist, mit weniger, wenn dein Traffic stoßweise kommt.
- Prüf, was die Zahl nicht abdeckt (nächster Abschnitt). Schreibzugriffe, Lesezugriffe auf die Platte und Lock-Konkurrenz senken sie jeweils, oft deutlich.
Was diese Messung dir nicht sagt
- Schreibzugriffe. Unsere Abfrage ist nur lesend. Jeder bestätigte Schreibzugriff wartet, bis das WAL auf der Platte ist; der dauerhafte Schreibdurchsatz hängt von der Platte und von Group Commit ab und ist meist weit niedriger als bei Lesezugriffen.
- Daten, die größer sind als der Arbeitsspeicher. Die Tabelle passt in
shared_buffers. Sobald Lesezugriffe auf die Platte gehen, setzen deren IOPS und Latenz die Grenze statt der CPU. - Schwerere Abfragen. Joins, Sortierungen und Scans über mehr Zeilen kosten mehr CPU pro Abfrage; die Methode oben funktioniert weiterhin, die Zahl ändert sich.
- Verbindungen. Wir haben einen Pool von 16 verwendet. Hunderte direkte Verbindungen kosten Speicher und Kontextwechsel; stell einen Pooler davor.
- Verwaltete Datenbanken und andere Maschinentypen. Dies ist eine selbst verwaltete VM. Cloud SQL, RDS oder Aurora bringen ihren eigenen Overhead und ihre eigenen Grenzen mit; größere VMs skalieren mit den Kernen, bis Locks oder das WAL zur Grenze werden.
- Eine Arbeitslast, zwei Läufe. Nimm es als einen Datenpunkt mit seinem Aufbau, nicht als Benchmark von Postgres.
Warum wir das gemessen haben
Stackrig simuliert Architekturen im Browser und zeigt, wo sie brechen, und ein Postgres-Primary ist meist das Erste, was bricht. Wir machen diese Messungen, um die Simulation an echten Maschinen zu kalibrieren, und wir veröffentlichen, wie weit das Modell danebenliegt: Durchsatz und CPU hat es richtig getroffen, aber nahe der Kapazität einer Datenbank war sein p99 in diesen Läufen zu optimistisch, vor allem weil das Design für die Kalibrierung das Warten auf eine Verbindung im Pool der Anwendung ausgelassen hat. Die Engine modelliert Pool-Grenzen seit v0.2; der erneute Abgleich mit diesen Läufen ist in Arbeit. Die Einzelheiten stehen unter Wie genau ist Stackrig?
Auf der Startseite läuft in der Live-Demo das Design Web app with database: Zieh den Traffic auf 3× und sieh zu, wie die Datenbank zum Engpass wird.
„Web app with database“ im Playground öffnen
Die App kannst du kostenlos im Browser ausprobieren, ohne Konto. Um zu erfahren, wann Pro fertig ist, trag dich in die Warteliste ein.