Bending Spoons avec Flexible Fastly : réduction de 50 % de la latence et économies significatives sur les frais de sortie de données

Bending Spoons a l'habitude de faire face à l'impossible, en développant la technologie qui alimente un portefeuille de produits numériques qui séduisent près d'un milliard d'utilisateurs dans le monde entier.

Avec des produits aussi divers que l'application de productivité personnelle Evernote et l'outil d'amélioration et de génération de photos par l'IA Remini, il est essentiel de trouver le bon partenaire pour la plateforme cloud afin de s'assurer que chaque produit est attrayant, facile à utiliser et fiable.

Avec une base d'utilisateurs en constante augmentation et une équipe gérant un nombre croissant de produits, il est rapidement devenu prioritaire de trouver un partenaire expert en réseaux qui puisse offrir des conditions compétitives tout en fournissant un service fiable et performant, indépendant de l'origine, pour les charges de travail essentielles.

Acquérir et transformer un produit technologique dans un large portefeuille, c'est comme recevoir enfin une voiture convoitée dans votre atelier, vous ne connaissez pas l'ampleur exacte du travail avant d'avoir ouvert le capot et d'avoir jeté un œil expert sur le moteur. Comme l'explique Davide Pedranz, ingénieur de la plateforme Bending Spoons : « Prenons l'exemple de Cabinet. Elle était petite et nous n'avons acquis que les actifs, si bien que nous avons réussi à la reconstruire de zéro à un niveau proche de celui de l'application actuelle en l'espace de quelques mois. Cependant, pour Evernote c'était différent car nous rachetions l'ensemble de l'entreprise, le produit était beaucoup plus complexe et l'entreprise existait depuis 15 ans. Il y avait environ 10 millions de lignes de code, donc ce n’est pas quelque chose que vous pouvez lire et réécrire du jour au lendemain. »

Des technologies de mise en cache et d'équilibrage de charge au support d'entreprise, Bending Spoons souhaitait investir dans une plateforme suffisamment puissante pour couvrir tous les cas d'utilisation existants ET suffisamment polyvalente pour soutenir une croissance ambitieuse par le biais d'acquisitions futures.

Une montagne de défis

L’acquisition régulière de produits signifie que votre pile technologique peut s’étendre de manière exponentielle. Ainsi, parvenir à une intégration fluide et rationalisée constitue un autre défi majeur.

Bending Spoons a démarré avec Google plateforme cloud (GCP).

Sa pile de base comprenait Cloud DNS pour gérer les enregistrements DNS, Cloud CDN (si nécessaire), un équilibreur de charge HTTP externe, des groupes d'instances gérées (VM) sur Compute Engine et diverses bases de données (selon le cas d'utilisation). En plus d'une solution de mise en cache en cas de besoin (généralement Redis), ils ont également utilisé GCS pour stocker les fichiers, Pub/Sub pour les files d'attente asynchrones et BigQuery pour les analyses.

Les « Spooners » talentueux et assidus sont la clé de la réussite de cette « mission impossible ». Chaque équipe gère sa propre infrastructure et peut utiliser une bibliothèque interne de composants d’infrastructure orientés (écrits sous forme de modules Terraform). Cette configuration flexible et agile offre aux équipes indépendance et rapidité tout en garantissant que les infrastructures résultantes restent raisonnablement similaires.

Atteindre la cohérence et l'intégration est un défi devenu plus complexe avec l'augmentation récente des acquisitions. Comme le dit Davide : « Nous essayons de refactoriser ou de reconstruire l’infrastructure pour qu’elle soit conforme à nos normes internes. Par exemple, après l'acquisition d'Evernote, nous avons reconstruit l'ensemble de l'infrastructure de production (et de non-production) à partir de zéro en quelques mois.

Grâce à l’acquisition d’Evernote, Bending Spoons a hérité de la plateforme Akamai. Bien qu'elle diffuse du contenu, son principal cas d'utilisation était la sécurité. Cependant, une nouvelle solution s'imposait, combinant la mise à jour du service sous-jacent et le déploiement de mesures d'atténuation plus intelligentes (limites de débit et tarpitting des requêtes).

Après avoir contacté les principaux acteurs du marché, Bending Spoon s’est rapproché de Fastly, qui pouvait fournir des modules UI/Terraform plus intuitifs, des déploiements beaucoup plus rapides des changements de configuration et des primitives plus puissantes, par exemple, le tarpitting était excellent compte tenu des contraintes du back-end. « Nous savions que Fastly était l'enfant chéri du marché », déclare Davide, « et que la plateforme CDN avait l'air légitime, alors nous l'avons essayée, nous l'avons beaucoup appréciée et nous avons trouvé des solutions commerciales qui convenaient aux deux parties. Donc, nous nous sommes lancés. Lorsqu'Akamai a appris que nous voulions changer de fournisseur, il nous a proposé une remise de 10 %. Mais cela ne nous intéressait pas. Nous voulions une meilleure plateforme, et nous trouvons Fastly plus performant qu'Akamai à tous points de vue. »

Fastly, éprouvé et testé

Bending Spoons recherchait un fournisseur répondant à des critères essentiels tels que les configurations personnalisées, la fiabilité du service, le temps écoulé entre un changement de configuration et la mise en service, une bonne prise en charge de Terraform, des API et de la documentation.

Une fois que des conditions commerciales raisonnables ont été obtenues, l'équipe de Davide a testé différentes configurations pour les principaux cas d'utilisation des services qu'elle prévoyait de migrer vers Fastly : configurations VCL non triviales, surveillance avec Prometheus et journalisation dans BigQuery.

L'ensemble du processus s'est déroulé rapidement et sans encombre, avec des discussions commerciales qui ont duré 3 à 4 mois, une démonstration technique de deux semaines et la migration des premiers services avant même la signature du contrat.

Maintenant qu’il est en place, Fastly CDN a deux cas d’utilisation principaux : 

Pour le CDN.  Les fichiers sont souvent des ressources statiques stockées sur Google Cloud Storage (GCS). Parfois, ils sont générés dynamiquement par des applications web et mis en cache en fonction des en-têtes de contrôle de cache fournis par le back-end. Bending Spoons applique des politiques de contrôle de substitution agressives, en s'appuyant sur les puissantes capacités d'invalidation du cache de Fastly lors de la mise à jour de ce contenu.

Pour la sortie. Bending Spoons n'est pas intéressé par la mise en cache en périphérie dans cette configuration. Au lieu de cela, elle déploie un service Fastly VCL pour acheminer le trafic de son fournisseur de cloud vers Internet via Fastly. 

Résultats impressionnants pour Remini 

Avec Fastly en pleine effervescence, les résultats les plus frappants du portefeuille de Bending Spoons proviennent de Remini, un produit qui aide les utilisateurs à améliorer leurs images et leurs vidéos grâce à des modèles d'IA exclusifs.

Une fois que l'IA a fait son travail, le client utilise une URL signée pour télécharger les images améliorées à partir de GCS. Et Fastly fait toute la différence à ce stade. Auparavant, l'image était téléchargée directement à partir de GCS, mais désormais, l'URL signée renvoie à un domaine personnalisé géré par Fastly, et Fastly récupère l'image depuis GCS et la transmet au client. La mise en cache est explicitement désactivée car le contenu est privé pour l'utilisateur.

Examinons les résultats :

Davide explique : 

« Le contenu est transmis de Google à Fastly aux États-Unis (par le biais d'une protection), puis le trafic est acheminé vers Amsterdam, d'où il sort sur l'internet public en direction de l'Inde. Avec cette chaîne, je m'attendrais à ce que la latence que vous pouvez introduire entre Amsterdam et l'Inde soit nettement plus élevée que celle que vous pourriez avoir entre Google et l'Inde sur son réseau privé. Au lieu de cela, j’ai été ravi de voir que ce n’était pas le cas grâce au réseau de performance Argo Smart Routing et Fastly. Voilà qui était fait. Après avoir résolu le problème en Inde, nous l’avons déployé dans le monde entier. Et les chiffres sont également très intéressants : c’est environ 50 % plus rapide qu’avant. »

« Dans le deuxième graphique », explique Davide, « il est divisé par plateforme et vous pouvez voir qu'au fur et à mesure que nous le déployons pour un nombre croissant de personnes à partir de l'étape de téléchargement (celle qui est impactée par cette migration), la latence médiane de bout en bout pour télécharger une image à partir d'un bucket GCS a diminué d'environ 50 %. »

Le montant exact des économies possibles dépendra de vos accords commerciaux avec votre fournisseur cloud. Le partenariat entre Fastly et Google a permis de réduire les frais de sortie lors de l'envoi de trafic depuis GCP vers Fastly. En fonction du volume de trafic, les économies réalisées ont été considérables.

Au prochain virage

Le modèle d'acquisition de Bending Spoons continue à un rythme soutenu, et WeTransfer est le prochain produit sur lequel les Spooners mettront la main. Et bien qu'il soit trop tôt pour dire exactement comment Fastly pourrait être utile, la plateforme fait désormais partie intégrante de la boîte à outils. 

« En plus d'être performant, Fastly est également très flexible », explique Davide. « Même si vous vous en tenez à l'ancienne approche VCL, vous pouvez faire des choses très sophistiquées qui ne sont pas disponibles auprès des fournisseurs de services clouds habituels. Fastly prend également en charge de nombreuses options de journalisation avec BigQuery, et nous pouvons extraire des métriques des services Fastly vers Prometheus à des fins de surveillance. Je pense que nous continuerons à trouver de nouveaux cas d'utilisation de Fastly en interne pour notre plateforme et pour les produits que nous acquerrons ou lancerons à l'avenir. »