Bending Spoons mit flexiblem Fastly: 50 % weniger Latenz und erhebliche Einsparungen bei den Egress-Kosten

Bending Spoons hat eine lange Tradition darin, das Unmögliche zu meistern – die Entwicklung der Technologie für eine Reihe digitaler Produkte, die fast eine Milliarde Nutzer weltweit begeistern.

Und bei so unterschiedlichen Produkten wie der hochrangigen persönlichen Produktivitäts-App Evernote und dem KI-gestützten Fotobearbeitungs- und -generierungstool Remini ist es wichtig, den richtigen Partner für die Edge-Cloud-Plattform zu finden, um sicherzustellen, dass jedes Produkt fantastisch aussieht, benutzerfreundlich ist und unter der Haube absolut zuverlässig läuft.

Angesichts der ständig wachsenden Nutzerbasis und eines Teams, das eine zunehmende Anzahl von Produkten verwaltet, wurde es bald zur Priorität, einen Partner zu finden, der Experte im Bereich Netzwerke ist und wettbewerbsfähige Konditionen bietet, während er einen zuverlässigen und leistungsstarken, herkunftsunabhängigen Service für kritische Workloads bereitstellt.

Der Erwerb und die Umgestaltung eines Technologieprodukts in einem breiten Portfolio ist wie der lang ersehnte Neuzugang eines Autos in Ihrer Werkstatt – man kennt den genauen Umfang der Arbeit erst, wenn man die Motorhaube öffnet und einen fachkundigen Blick auf den Motor wirft. Wie Davide Pedranz, Platform Engineer bei Bending Spoons, erklärt: „Nehmen wir zum Beispiel Cabinet. Es war klein und wir haben nur die Assets erworben, sodass wir es innerhalb weniger Monate von Grund auf neu aufbauen und fast auf den aktuellen Stand der App bringen konnten. Evernote war jedoch anders, weil wir das gesamte Unternehmen übernahmen, das Produkt viel komplexer war und es schon seit 15 Jahren existierte. Es handelte sich um etwa 10 Millionen Zeilen Code. Das ist also nichts, was man mal eben so über Nacht lesen und umschreiben kann.“

Von Caching- und Loadbalancing-Technologien bis hin zum Enterprise Support wollte Bending Spoons in eine Plattform investieren, die leistungsstark genug ist, um alle vorhandenen Anwendungsfälle abzudecken, UND vielseitig genug, um ehrgeiziges Wachstum durch zukünftige Akquisitionen zu unterstützen.

Gestapelte Herausforderungen

Durch den regelmäßigen Erwerb neuer Produkte kann Ihr Tech-Stack exponentiell erweitert werden. Daher stellt die Realisierung einer reibungslosen, optimierten Integration eine weitere bedeutende Herausforderung dar.

Bending Spoons begann mit der Google Cloud Platform (GCP).

Der Basis-Stack bestand aus Cloud DNS zur Verwaltung von DNS-Einträgen, Cloud CDN (wo erforderlich), externem HTTP-Loadbalancer, verwalteten Instanzgruppen (VMs) auf Compute Engine und verschiedenen Datenbanken (je nach Anwendungsfall). Neben einer Caching-Lösung bei Bedarf (in der Regel Redis) nutzte das Unternehmen auch GCS zum Speichern von Dateien, Pub/Sub für asynchrone Warteschlangen und BigQuery für Analysen.

Und talentierte, fleißige „Spooners“ sind der Schlüssel zum Erreichen der „unmöglichen Mission“ des Unternehmens. Jedes Team betreibt seine eigene Infrastruktur, und jedes kann eine interne Bibliothek mit vorgefertigten Infrastrukturkomponenten (geschrieben als Terraform-Module) verwenden. Diese flexible und agile Struktur gewährt Teams Unabhängigkeit und Schnelligkeit und stellt gleichzeitig sicher, dass die resultierenden Infrastrukturen einander angemessen ähnlich sind.

Konsistenz und Integration zu erreichen ist eine Herausforderung, die mit der jüngsten Zunahme von Übernahmen noch komplexer geworden ist. Wie Davide sagt: „Wir versuchen, die Infrastruktur so umzugestalten oder neu aufzubauen, dass sie unseren internen Standards ähnelt. Nach der Übernahme von Evernote haben wir beispielsweise innerhalb weniger Monate die gesamte Produktionsinfrastruktur (sowie die Nicht-Produktionsinfrastruktur) von Grund auf neu aufgebaut.“

Durch die Übernahme von Evernote hat Bending Spoons die Akamai-Plattform übernommen. Obwohl sie Inhalte bereitstellte, war ihr Hauptanwendungsfall die Sicherheit. Es musste jedoch eine neue Lösung gefunden werden, die die Aktualisierung des zugrunde liegenden Services mit intelligenteren Drosselungsmaßnahmen (Rate Limiting und Request Tarpitting) kombinierte.

Nachdem Bending Spoon die wichtigsten Marktteilnehmer kontaktiert hatte, wandte es sich an Fastly, das intuitivere UI-/Terraform-Module, deutlich schnellere Bereitstellungen von Konfigurationsänderungen und leistungsfähigere Primitive bereitstellen konnte – beispielsweise war Tarpitting angesichts der Backend-Einschränkungen hervorragend. „Wir wussten, dass Fastly die coolen Kids auf dem Markt sind“, sagt Davide, „und die CDN-Plattform sah seriös aus, also haben wir sie ausprobiert, sie hat uns sehr gut gefallen und wir haben Geschäftsvereinbarungen gefunden, die für beide Seiten gut waren. Also haben wir uns entschieden, dass wir es versuchen werden. Als Akamai erfuhr, dass wir wechseln wollten, boten sie uns einen um 10 % niedrigeren Preis an. Aber wir wollten dieses Spiel nicht mitspielen. Wir wollten eine großartige Plattform und stellten fest, dass Fastly Akamai in allen Aspekten überlegen ist.“

Fastly erprobt und getestet

Bending Spoons suchte einen Anbieter, der wichtige Kriterien wie maßgeschneiderte Konfigurationen, Zuverlässigkeit der Services, kurze Zeit zwischen Konfigurationsänderungen und Liveschaltung, guten Support für Terraform, APIs und Dokumentation erfüllte.

Nachdem angemessene geschäftliche Konditionen vereinbart worden waren, testete das Team von Davide Konfigurationen für die wichtigsten Anwendungsfälle der Services, die es zu Fastly migrieren wollte – nicht triviale VCL-Konfigurationen, Überwachung mit Prometheus und Logging in BigQuery.

Der gesamte Prozess verlief schnell und reibungslos. Die Geschäftsverhandlungen dauerten drei bis vier Monate, die technische Demo dauerte zwei Wochen und die Migration der ersten Services erfolgte bereits vor der Vertragsunterzeichnung.

Jetzt, da es eingerichtet ist, hat Fastly CDN zwei Hauptanwendungsfälle: 

Für CDN.  Dateien sind häufig statische Assets, die im Cloud Storage (GCS) gespeichert sind. Manchmal werden sie dynamisch von Webanwendungen generiert und abhängig von den vom Backend bereitgestellten Cache Control Headern zwischengespeichert. Bending Spoons setzt aggressive Surrogate-Control-Richtlinien ein und stützt sich bei der Aktualisierung dieser Inhalte auf die leistungsstarken Cache-Invalidierungsfunktionen von Fastly.

Für Egress. Bending Spoons ist in diesem Setup nicht an Caching auf der Edge interessiert. Stattdessen setzt das Unternehmen einen Fastly VCL-Service ein, um den Traffic von seinem Cloud-Anbieter zum Internet über Fastly abzuwickeln. 

Beeindruckende Ergebnisse bei Remini 

Da Fastly auf Hochtouren läuft, stammen die bislang beeindruckendsten Ergebnisse im Portfolio von Bending Spoons von Remini – einem Produkt, das Nutzern mithilfe proprietärer KI-Modelle dabei hilft, ihre Bilder und Videos zu verbessern.

Nachdem die KI ihre Magie entfaltet hat, verwendet der Client eine signierte URL, um die verbesserten Bilder aus dem GCS herunterzuladen. Und Fastly macht an dieser Stelle einen gewaltigen Unterschied. Früher wurde das Bild direkt von GCS heruntergeladen, aber jetzt verweist die signierte URL auf eine benutzerdefinierte Domain, die von Fastly verwaltet wird, und Fastly ruft das Bild aus dem GCS ab und stellt es dem Client zur Verfügung. Caching ist explizit deaktiviert, da der Inhalt für den Nutzer privat ist.

Sehen wir uns die Ergebnisse an:

Davide erklärt: 

„Der Inhalt wird in den USA von Google an Fastly geliefert (durch Shielding), dann geht der Traffic nach Amsterdam und von Amsterdam aus geht er in das öffentliche Internet in Richtung Indien. Bei dieser Kette würde ich davon ausgehen, dass die Latenzzeit von Amsterdam nach Indien deutlich höher ist als die von Google nach Indien über das private Netzwerk von Google. Ich war jedoch sehr erfreut, dass dies dank Argo Smart Routing und dem Performance-Netzwerk von Fastly nicht der Fall war. Das war also ein Ergebnis. Nachdem wir das Problem in Indien gelöst hatten, haben wir es weltweit bereitgestellt. Und auch die Zahlen sind recht interessant – es ist rund 50 % schneller als vorher.“

„Im zweiten Diagramm hier“, erklärt Davide, „ist die Darstellung nach Plattformen unterteilt. Sie können sehen, dass mit der schrittweisen Einführung für immer mehr Nutzer ab dem Download-Schritt (der von dieser Migration betroffen ist) die mittlere End-to-End-Latenz beim Herunterladen eines Bildes aus einem GCS-Bucket um etwa 50 % gesunken ist.“

Die genaue Höhe der möglichen Einsparungen hängt von Ihren Geschäftsvereinbarungen mit Ihrem Cloud-Anbieter ab. Die Partnerschaft zwischen Fastly und Google bot niedrigere Egress-Gebühren beim Senden von Traffic von der GCP zu Fastly. Je nach Traffic-Volumen waren die Einsparungen erheblich.

Um die nächste Kurve

Das Akquisitionsmodell von Bending Spoons schreitet zügig voran, und WeTransfer ist das nächste Produkt, das die Spooners erwerben werden. Und obwohl es noch zu früh ist, um genau sagen zu können, wie Fastly helfen könnte, ist die Plattform jetzt ein fester Bestandteil des Toolkits. 

„Fastly ist nicht nur leistungsstark, sondern auch sehr flexibel“, sagt Davide. Selbst wenn man sich an den alten VCL-Ansatz hält, kann man einige sehr ausgefallene Funktionen nutzen, die von typischen Cloud-Anbietern nicht angeboten werden. Fastly unterstützt auch viele Logging-Optionen mit BigQuery, und wir können Metriken von Fastly-Services zur Überwachung in Prometheus abrufen. Ich gehe davon aus, dass wir intern weiterhin neue Anwendungsfälle für Fastly für unsere Plattform und für Produkte finden werden, die wir in Zukunft erwerben oder auf den Markt bringen werden.