**Wenn ein Upstream ausfällt, sollten Ihre Nutzer davon nichts mitbekommen.**
—
Mehrere Upstream-Routen für dasselbe Modell Wenn eine ausfällt, wechselt die Anfrage zur nächsten.
—
Circuit-Breaking ist auf eine Route begrenzt Es betrifft die fehlerhafte Route, nicht das gesamte Modell.
—
Fehler werden protokolliert und sind nachvollziehbar Sie werden nicht einfach still verschluckt.
Um drei Uhr morgens liefert ein Upstream erstmals 5xx zurück. Niemand hat Bereitschaftsdienst, und eine eigene Retry-Logik gibt es nicht. Die Anfrage wird über eine andere Route abgeschlossen; erst am nächsten Tag sehen Sie in den Logs, was passiert ist.