Bending Spoons e Flexible Fastly: riduzione del 50% della latenza e notevole risparmio sui costi di uscita

Bending Spoons ha una storia di successi impossibili: ha sviluppato la tecnologia per alimentare un portafoglio di prodotti digitali che soddisfano quasi un miliardo di utenti in tutto il mondo.

Con prodotti così diversi tra loro come Evernote, l'app per la produttività personale più apprezzata, e Remini, lo strumento di miglioramento e generazione di foto basato sull'IA, è fondamentale trovare il partner giusto per la piattaforma cloud edge, in modo da garantire che ogni prodotto risulti perfetto, facile da usare ed estremamente affidabile.

Con una base di utenti in costante aumento e un team che gestisce un numero crescente di prodotti, ben presto si è palesata la necessità di trovare urgentemente un partner esperto di networking in grado di offrire condizioni competitive e allo stesso tempo di fornire un servizio affidabile e performante indipendente dall'origine per i carichi di lavoro critici.

Acquisire e trasformare un prodotto tecnologico in un ampio portafoglio è come ottenere finalmente l'auto dei propri sogni nella propria officina: non si conosce l'entità esatta del lavoro da svolgere finché non si apre il cofano e si dà un'occhiata da esperti al motore. Come spiega Davide Pedranz, ingegnere della piattaforma Bending Spoons: "Prendiamo, ad esempio, Cabinet. Era piccola e abbiamo acquisito solo gli asset, quindi siamo riusciti a ricostruirla da zero fino a quasi al punto in cui si trova ora l'app in un paio di mesi. Ma con Evernote era diverso perché stavamo acquisendo l'intera azienda, il prodotto era molto più complesso ed esisteva da 15 anni. C'erano circa 10 milioni di righe di codice, quindi non potevamo leggerle e riscriverle da un giorno all’altro".

Dalle tecnologie di caching e bilanciamento del carico al supporto aziendale, Bending Spoons voleva investire in una piattaforma abbastanza potente da coprire tutti i casi d'uso esistenti, e al contempo abbastanza versatile da supportare una crescita ambiziosa attraverso acquisizioni future.

Una serie di sfide

Acquisire regolarmente prodotti significa che lo stack tecnologico può espandersi in modo esponenziale. Perciò, ottenere un'integrazione fluida e snella è un'altra sfida importante.

Bending Spoons ha iniziato con Google Cloud Platform (GCP).

Lo stack di base era costituito da Cloud DNS per gestire i record DNS, Cloud CDN (quando necessario), bilanciatore di carico HTTP esterno, gruppi di istanze gestite (VM) su Compute Engine e vari database (a seconda del caso d'uso). Oltre a una soluzione di caching quando serve (tipicamente Redis), si utilizzano anche GCS per l'archiviazione dei file, Pub/Sub per le code asincrone e BigQuery per le analisi.

E gli "Spooner" talentuosi e diligenti sono la chiave per raggiungere la sua "missione impossibile". Ogni team gestisce la propria infrastruttura e ognuno può utilizzare una libreria interna di componenti infrastrutturali (scritti come moduli Terraform). Questa configurazione flessibile e agile offre ai team indipendenza e velocità, ma garantisce che le infrastrutture risultanti siano ragionevolmente simili.

Raggiungere la coerenza e l'integrazione è una sfida, diventata ancora più complessa con il recente aumento delle acquisizioni. Come afferma Davide: "Cerchiamo di eseguire il refactoring o di ricostruire l'infrastruttura in modo che sia simile ai nostri standard interni. Ad esempio, dopo l’acquisizione di Evernote, abbiamo ricostruito da zero l’intera infrastruttura di produzione (e non) in pochi mesi".

Con l'acquisizione di Evernote, Bending Spoons ha ereditato la piattaforma Akamai. Anche se forniva contenuti, il suo caso d'uso principale era la sicurezza. Tuttavia, era necessaria una nuova soluzione che combinasse l'aggiornamento del servizio sottostante e l’implementazione di misure di attenuazione più intelligenti (limiti di velocità e tarpitting delle richieste).

Dopo aver contattato le principali aziende del mercato, Bending Spoon ha scelto Fastly, che poteva fornire moduli UI/Terraform più intuitivi, implementazioni molto più rapide delle modifiche alla configurazione e primitive più potenti, ad esempio, il tarpitting era eccellente dati i vincoli del back-end. "Sapevamo che Fastly era il più forte sul mercato", racconta Davide, "e la piattaforma CDN sembrava valida, così l'abbiamo provata, ci è piaciuta molto e abbiamo trovato un'offerta commerciale vantaggiosa per entrambe le parti. Abbiamo deciso di fare un passo avanti. Quando Akamai ha scoperto che volevamo cambiare, ci ha offerto un prezzo inferiore del 10%. Ma non siamo stati al gioco. Volevamo una piattaforma migliore e Fastly ci sembrava superiore ad Akamai sotto tutti gli aspetti".

Provato da Fastly

Bending Spoons cercava un fornitore che rispondesse a criteri cruciali, tra cui configurazioni personalizzate, affidabilità del servizio, tempo che intercorre tra la modifica della configurazione e la messa in funzione, un buon supporto per Terraform, API e documentazione.

Una volta assicurati spot ragionevoli, il team di Davide ha testato le configurazioni per i principali casi d'uso dei servizi che intendeva migrare su Fastly: configurazioni VCL non banali, monitoraggio con Prometheus e logging su BigQuery.

L'intero processo è stato rapido e senza intoppi: le discussioni commerciali si sono protratte per 3-4 mesi, la demo tecnica è durata due settimane e la migrazione dei servizi iniziali è avvenuta ancor prima che venisse firmato il contratto.

Ora che è in funzione, la CDN di Fastly ha due casi d'uso principali: 

Per la CDN.  I file sono spesso risorse statiche archiviate su Cloud Storage (GCS). A volte sono generati dinamicamente dalle applicazioni web e messi in cache a seconda delle intestazioni di controllo della cache fornite dal back-end. Bending Spoons applica criteri aggressivi di controllo dei surrogati, affidandosi alle potenti funzionalità di Fastly per l'invalidazione della cache durante l'aggiornamento dei contenuti.

Per l'uscita. In questa configurazione, a Bending Spoons non interessa il caching sull'edge. Invece, distribuisce un servizio Fastly VCL per servire il traffico dal suo cloud provider a Internet attraverso Fastly. 

Risultati sorprendenti di Remini 

Con Fastly a pieno regime, i risultati più eclatanti del portafoglio di Bending Spoons finora sono stati ottenuti da Remini, un prodotto che aiuta gli utenti a migliorare le loro immagini e i loro video utilizzando modelli di intelligenza artificiale proprietari.

Dopo che l'IA ha fatto la sua magia, il cliente utilizza un URL firmato per scaricare le immagini migliorate dal GCS. E Fastly fa una differenza enorme a questo punto. In precedenza, l'immagine veniva scaricata direttamente da GCS, ma ora l'URL firmato punta a un dominio personalizzato gestito da Fastly, e Fastly recupera l'immagine da GCS e la serve al client. Il caching è esplicitamente disabilitato in quanto il contenuto è privato per l'utente.

Diamo un'occhiata ai risultati.

Davide spiega: 

"Il contenuto viene fornito da Google a Fastly negli Stati Uniti (tramite schermatura), poi il traffico passa ad Amsterdam, e da Amsterdam esce sulla rete internet pubblica verso l'India. Con questa catena, mi aspetto che la latenza che puoi introdurre andando da Amsterdam all'India sia significativamente più alta di quella che avresti da Google all'India sulla loro rete privata. Invece, sono stato molto felice di constatare che non è così grazie a Precision Path e alla rete performante di Fastly. Quindi, questo è stato un risultato. Dopo l'India, abbiamo distribuito in tutto il mondo. E anche i numeri sono piuttosto interessanti: è più veloce del 50% rispetto a prima".

"Nel secondo grafico", mostra Davide, "è diviso per piattaforma e si può vedere che, man mano che lo spingiamo a un numero sempre maggiore di persone, dalla fase di download (quella interessata da questa migrazione) la latenza mediana end-to-end per scaricare un'immagine da un bucket GCS è diminuita del 50% circa".

La cifra esatta dei possibili risparmi dipenderà dagli accordi commerciali con il tuo provider di cloud. La partnership tra Fastly e Google ha garantito tariffe inferiori per inviare il traffico da GCP a Fastly. A seconda del volume di traffico, i risparmi erano significativi.

I prossimi passaggi

Il modello di acquisizione di Bending Spoons continua a ritmo sostenuto e WeTransfer è il prossimo prodotto su cui gli Spooner punteranno gli occhi. Anche se è troppo presto per dire esattamente come Fastly potrebbe aiutare, la piattaforma è ormai un punto fermo del kit di strumenti. 

"Oltre a essere performante, Fastly è anche molto flessibile", afferma Davide. "Anche se ci si attiene al vecchio approccio VCL, si possono fare cose molto sofisticate che non sono disponibili presso i tipici fornitori di cloud. Fastly supporta anche molte opzioni di logging con BigQuery e possiamo inserire le metriche dei servizi Fastly in Prometheus per il monitoraggio. Mi aspetto che continueremo a trovare nuovi casi d'uso internamente per la nostra piattaforma e per i prodotti che acquisiremo o lanceremo in futuro".