Dieser Artikel ist der erste Teil der Fastly-Serie „Pillars of Resilience“ und befasst sich damit, wie wir unser globales Netzwerk für maximale Verfügbarkeit und Performance entwerfen, entwickeln und betreiben. Lesen Sie die vollständige Serie:
Jede Anfrage zählt. Von Transaktionen bis zum Streaming hängt das Nutzererlebnis von Latenz und Zuverlässigkeit ab. Eine langsame oder nicht verfügbare Website verärgert nicht nur Nutzer; sie wirkt sich auf den Gewinn aus, untergräbt das Markenvertrauen und führt zu entgangenem Umsatz. In globaler Skalierung vergrößert sich die Herausforderung, Inhalte zuverlässig auszuliefern, exponentiell.
Sie haben von uns schon früher etwas über Netzwerkstabilität gehört. Wir sind von diesem Thema gewissermaßen eingenommen – manche würden vielleicht sogar sagen: besessen. Es ist eine fundamentale Philosophie, die tief in unserer Kultur, Architektur und unseren Prozessen verankert ist. Einige der Prinzipien, über die wir sprechen werden, wurden bereits veröffentlicht [1][2]. Aber wir führen sie alle zusammen, um zu veranschaulichen, wie Fastly sein Netzwerk für maximale Netzwerkstabilität konzipiert hat. Wir werden die Grundprinzipien und Technologien untersuchen, dank denen wir Inhalte nicht nur blitzschnell, sondern auch mit kompromissloser Verfügbarkeit ausliefern können. Wir nennen diese unsere Säulen der Netzwerkstabilität.
Die Herausforderung der globalen Verteilung
Stellen Sie sich einmal vor, ein einzelnes Inhaltselement wie ein Bild an Hunderte von Millionen von auf der ganzen Welt verteilten Nutzern auszuliefern. All diese Nutzer befinden sich nicht in geografischer Nähe zu einem einzigen Standort, der den Inhalt bereitstellt. Sie nutzen wahrscheinlich auch nicht alle dasselbe Zugangsnetzwerk. Dieser Inhalt kann von überall aus dem Internet stammen. Wenn er beliebt ist, wollen ihn viele Menschen haben. Dieses globale Verteilungsparadigma bringt eine Reihe ganz eigener Herausforderungen mit sich:
Geografische Latenz: Die Lichtgeschwindigkeit ist ein physikalisches Limit. Eine Anfrage eines Nutzers in London an einen Point of Presence (POP) in Sydney ist immer langsamer als eine Anfrage an einen POP in Paris, egal wie leistungsfähig die Server im POP in Sydney sind.
Netzwerküberlastung: Internet-Traffic ist nicht einheitlich. Bestimmte Routen können überlastet werden, was zu Engpässen und beeinträchtigter Performance führt.
Single Points of Failure: Ein Glasfaserschaden, ein Stromausfall oder selbst ein Konfigurationsfehler in einem einzigen Rechenzentrum kann einen großen Teil eines Netzwerks offline nehmen.
Gegnerische Ereignisse: Von DDoS-Angriffen bis hin zu gezielten bösartigen Aktivitäten muss das Netzwerk darauf vorbereitet sein, eine ständige Flut von Bedrohungen abzufangen und abzuwehren.
Für ein Content Delivery Network (CDN) sind dies nicht nur theoretische Probleme; sie sind die alltägliche Realität. Der Wert eines CDN ist direkt an seine Fähigkeit gebunden, diese Herausforderungen konsequent zu meistern und die Inhalte der Kunden an die Endnutzer auszuliefern. Für unsere Kunden ist ein hochverfügbares und resilientes CDN kein „Nice-to-have“; es ist eine grundlegende Anforderung. Durch die Auslagerung der Inhaltsauslieferung an ein CDN wie Fastly erzielen Unternehmen erhebliche Vorteile:
Garantierte Verfügbarkeit: Ihre Website oder Anwendung bleibt selbst dann erreichbar, wenn ein Problem mit Ihrem Origin-Server oder einer wichtigen Netzwerkroute besteht.
Überragende Performance: Inhalte werden vom nächstgelegenen verfügbaren POP bereitgestellt, was die Latenz minimiert und für eine schnellere, reaktionsschnellere User Experience sorgt.
Kosteneinsparungen: Durch das Abfangen von Traffic-Spitzen und die Abwehr von Angriffen verringert ein ausfallsicheres CDN die Belastung Ihrer eigenen Infrastruktur, wodurch betriebliche Kosten gesenkt werden.
Rundum-Sicherheit: Sie können sich auf die Entwicklung Ihres Kernprodukts konzentrieren, mit dem Wissen, dass der zugrunde liegende Auslieferungsmechanismus so konzipiert ist, dass er der Unberechenbarkeit des Internets standhält.
Um es klar zu sagen: Niemand ist dagegen immun. Ausfälle passieren. Sie gehören beim Betrieb einer komplexen, globalen Infrastruktur zum Alltag. Netzwerkstabilität bedeutet, den Beginn der Störung so schnell wie möglich zu erkennen. Netzwerkstabilität bedeutet, die Auswirkungen der Störung zu minimieren. Netzwerkstabilität ist die Geschwindigkeit, mit der Services wieder auf ihr normales Niveau zurückgebracht werden. Das wahre Maß einer Plattform ist nicht die Vermeidung von Ausfällen, sondern wie sie auf diese reagiert und sich von ihnen erholt.
Die System-Netzwerkstabilität bestimmt die Tiefe und Breite des Tiefpunkts der Auswirkungen.
Das Fundament der Netzwerkstabilität: Observability
Bevor wir näher auf die einzelnen Säulen eingehen, besprechen wir zunächst eine grundlegende Fähigkeit, die sich durch alle zieht: Observability.
Sie können kein resilientes System entwickeln, wenn Sie sein Verhalten nicht verstehen. Wir bei Fastly glauben, dass es bei der Beobachtung eines Systems nicht nur darum geht, einfache Metriken wie die CPU-Auslastung oder die Bandbreite zu betrachten. Es geht darum, zu jedem beliebigen Zeitpunkt Fragen zum Zustand des Netzwerks beantworten zu können. Dies umfasst:
Metriken: Verfolgung von Performance-Indikatoren wie Anfrageraten, Latenz und Cache-Hitraten.
Logs: Erfassung detaillierter Ereignisaufzeichnungen zur Diagnose von Problemen.
Traces: Verfolgen einer einzelnen Anfrage auf ihrem Weg durch das System, um Engpässe und Fehlerquellen zu identifizieren.
Einfache Metriken können nur einen reaktiven Netzwerkbetrieb unterstützen. Sie bieten nicht genügend Kontext, insbesondere angesichts der Komplexität eines globalen CDN. Betrachten Sie die folgende Visualisierung:
Jede Permutation des Zustands der Produktivumgebung (Code, Konfiguration, Workload) ist unterschiedlich
Der Ist-Zustand unseres Systems ändert sich ständig. Software ist nicht statisch. Der Netzwerkzustand ist nicht statisch. Kunden-Workloads sind nicht statisch. Wir müssen ein Netzwerk betreiben, für das es keine Vergleichsbasis gibt. Wenn sich diese Variablen weiterentwickeln, entwickelt sich auch unsere Sicht auf das Normale weiter.
Unsere Engineers haben Zugriff auf eine Live-Ansicht des gesamten Netzwerks in all seinen Bereichen. 2,1 Billionen Datenpunkte jeden Tag. Unsere Standard-Erfassungsfrequenz beträgt 15 Sekunden, wobei einige Metriken zur Erleichterung von Diagnose und Debugging auch mit viel höheren Frequenzen erfasst werden können. Wir verfügen über einen grundlegenden Satz an Metriken, die immer erfasst werden, sowie über weitere Sätze, die aktiviert werden können, wenn der Beginn eines Problems erkannt wird. Die Metrikerfassung kann auch so konfiguriert werden, dass sie verschiedene Perzentile (z. B. 99,9999 im Vergleich zu 99,99) erfasst, da einige Ereignisse bei unterschiedlichen Auflösungen ein charakteristisches Erscheinungsbild aufweisen.
Diese umfassende Observability ist entscheidend für alles, von der proaktiven Wartung bis hin zur schnellen Reaktion auf Störungen. Sie ermöglicht es uns, Probleme nicht nur zu erkennen, sondern auch ihre Ursache präzise zu verstehen – ein unerlässlicher Schritt beim Aufbau eines wirklich widerstandsfähigen Systems. Unsere Observability-Funktion erleichtert auch die datengestützte Kapazitätsplanung und Systemoptimierungen. Das ermöglicht es uns, Anpassungen vorzunehmen, bevor etwas Schlimmes passiert.
Es ist entscheidend, dass jeder versteht, dass eine solche Funktion nicht kostenlos ist. Das Erfassen einer solchen Menge an Daten ist kostspielig. Es müssen mehrere Datenpipelines gewartet werden, um die Metriken zu erfassen. Für die Speicherung der Metriken wird Backend-Speicher benötigt. Compute-Ressourcen werden benötigt, um die Daten in Informationen umzuwandeln. Es dürfte kaum überraschen, dass Observability zu unseren drei größten Kategorien bei den Infrastrukturkosten gehört. Aber wir halten diese Ausgaben für notwendig, um unsere komplexe Infrastruktur wirklich zu verstehen.
Was kommt als Nächstes?
In den folgenden Beiträgen werden wir die einzelnen Säulen der Netzwerkstabilität untersuchen, die das Fundament unserer globalen Infrastruktur bilden. Wir besprechen, wie wir unser Netzwerk so konzipieren, dass es hochverfügbar ist, wie wir es widerstandsfähig gegen Ausfälle entwickeln und wie wir es so betreiben, dass es selbst den schwierigsten Ereignissen standhält und sich davon erholt.