Die Fastly Edge-Cloud-Plattform

Zurück zum Blog

Folgen und abonnieren

Betaversion des Python-SDK: Wie die Sprache der KI mit Fastly schneller und sicherer läuft

Erik Rose

Staff Engineer – WebAssembly

Ajay Bharadwaj

Produktmanager, Fastly

Terri Allegretto

Senior Manager, Product Marketing, Entwicklerplattform

Ihre Backends sind in Python geschrieben. Sie entwickeln KI-Agenten in Python. Wäre es nicht sinnvoll, Ihren Edge-Code auch in Python zu schreiben? Mit der Beta-Version des Fastly Compute Python SDK ist dies nun möglich! 

Da Fastly eines der größten, schnellsten und sichersten Netzwerke der Welt betreibt, können wir Ihrem wachsenden Python-Code jeden möglichen Vorteil bieten. Ganz gleich, ob Sie Ihr erstes KI-Projekt mit Vibe Coding programmieren, Zugriffskontroll-Token validieren oder etwas tun, das wir uns noch gar nicht vorstellen können – dieses neue SDK verlagert Ihren Python-Code an die Edge, ganz nah an Ihre Nutzer heran. Und das mit branchenführender Geschwindigkeit und Sicherheit.

Standard-CPython, Standard-Frameworks

Um maximale Kompatibilität zu gewährleisten, kompilieren wir Standard-CPython so, dass es innerhalb unserer isolierten WebAssembly-Sandboxes ausgeführt werden kann. Anschließend stellen wir einen Adapter bereit, um Standard-WSGI-Apps auf unserer leistungsstarken HTTP-Implementierung auszuführen. Wenn Sie populäre Python-Web-Frameworks wie Flask verwenden – oder sogar ein ungewöhnliches, solange es WSGI entspricht – kann Ihr Code auf unseret Edge nahezu unverändert ausgeführt werden und sich vollständig idiomatisch anfühlen. Reine Python-Module funktionieren ebenfalls von Anfang an hervorragend.

Eine einfache Hello-World-Flask-Anwendung, die auf Fastly Compute läuft, sieht folgendermaßen aus:

from fastly_compute.wsgi import WsgiHttpIncoming
from flask import Flask

app = Flask(__name__)

@app.route("/")
def hello_world():
    return "Hello from Python, living on the Fastly edge!"

# The only special line: register the Flask app as the recipient
# of incoming requests, using our WSGI adapter.
HttpIncoming = WsgiHttpIncoming(app)

Wie wir Python schnell machen

Falls Sie unseren jüngsten Vortrag auf der Wasm I/O zum Thema Componentizing Fastly Compute verfolgt haben, wissen Sie, dass es umfangreicher technischer Arbeit bedarf, um laufzeitintensive Sprachen auf der Edg leistungsfähig zu machen. Wir haben eine ganze Reihe von Tricks angewendet, um den typischerweise langsamen Start von CPython zu eliminieren und dem Endnutzer die schnellstmögliche Performance zu bieten.

  • Speicher-Snapshotting: Im Normalfall wird eine große Menge an Python-Code, wie Modul-Top-Level, beim Start ausgeführt, was zu massiven Kaltstart-Verzögerungen führt. Fastly umgeht dies vollständig. Wir lassen Python diese Ausführung zur Erstellungszeit durchführen und erstellen anschließend einen vorinitialisierten Speicher-Snapshot. In der Produktivumgebung instanziieren wir innerhalb von Mikrosekunden aus diesem Snapshot, wodurch der Start noch schneller erfolgt als bei gewöhnlichem Python auf einem lokalen Rechner.

  • Datenzyklen auf der Edge vs. in der Cloud: Für Echtzeit-Anwendungen und KI-Agenten ist die Nähe entscheidend. Wenn die Nutzung Ihrer Anwendung eine Reihe von Netzwerk-Roundtrips zum Nutzer erfordert – beispielsweise das Überprüfen eines Kontexts, das Aufrufen eines Tools und anschließend das Abrufen eines Geheimnisses –, beeinträchtigt der Hin- und Her-Verkehr zu einem zentralisierten Cloud-Server die Leistung erheblich. Durch die Lokalisierung der Datenorchestrierung in der Nähe des Nutzers dank des Edge-Netzwerks von Fastly wird ein schnelles Nutzererlebnis gewährleistet und der Kunde zufriedengestellt.

Wie wir Python sicher machen

Die Diskussion über KI hat sich in sehr kurzer Zeit erheblich weiterentwickelt. Wie wir letzten Monat auf der PyCon 2026 in den speziellen Themenbereichen zu KI und Sicherheit beobachten konnten, hat sich der Schwerpunkt vom reinen Prompt Engineering hin zur Einführung autonomer, agentenbasierter Arbeitsabläufe in die Produktion verlagert.

Dies führt zu enormen technischen Herausforderungen, da Python als sehr dynamische Sprache historisch schwer in einer Sandbox isoliert werden konnte. Die Ausführung von durch LLMs generiertem Code, der nicht uneingeschränkt vertrauenswürdig ist, innerhalb Ihrer Kerninfrastruktur birgt erhebliche Sicherheitsrisiken. Umgekehrt bietet das Isolationsmodell von Fastly einen absolut sicheren Ort, um diesen Code auszuführen. Wir isolieren die Ausführung jeder einzelnen Anfrage in einer eigenen, temporären WebAssembly-Sandbox.

Wenn der Code etwas Unbeabsichtigtes tut, sei es ein Fehler oder eine böswillige Handlung, ist der Wirkungsradius auf unsere Edge begrenzt, völlig außerhalb der Reichweite Ihrer kritischen Backend-Infrastruktur. Außerdem sind viele Exploits, wie das jüngste Copy Fail und seine Vorgänger, auf unserer Plattform unmöglich, da die Oberfläche der Kernel-API geschützt ist – was bei typischer containerbasierter Isolation nicht der Fall ist.

Wie wir Python schön halten

Auf Fastly müssen Sie keinen umständlichen Cross-Language-Wrapper-Code schreiben. Durch die Nutzung von WebAssembly Components und der WIT IDL stellen wir typsichere APIs bereit, die wie reines, modernes Python aussehen, sich so anfühlen und sich so verhalten, obwohl sie mit leistungsstarkem nativem Code im Backend kompatibel sind.

Über die zuvor erwähnte WSGI-Unterstützung hinaus machen wir zusätzliche HTTP-Anfragen vertraut und schnell, indem wir Ihnen eine kompatible Implementierung der de-facto-standardmäßigen requests-Bibliothek zur Verfügung stellen, die an unseren optimierten Netzwerk-Stack delegiert. Importieren Sie sie einfach so …

from fastly_compute import requests

... und dann können Sie damit wie gewohnt HTTP-Aufrufe durchführen.

Aktuelle Einschränkungen

Da es sich um eine Betaversion handelt und unser Fokus auf Sicherheit und Geschwindigkeit liegt, beachten Sie bitte folgende Vorwarnungen:

  • Native ML-Berechnungsframeworks sind noch nicht verfügbar. NumPy, SciPy und Pandas brauchen noch etwas zusätzliche Arbeit, bevor sie in unserer Umgebung laufen. Reine Python-Logik und alle nativen Erweiterungen, die WASI unterstützen, sind aktuell uneingeschränkt nutzbar.

  • Top-Level-Importe erforderlich. Damit unser Build-Prozess zur Erstellung von Speicher-Snapshots diese erfassen kann, müssen die Pakete auf der obersten Ebene eines Moduls importiert werden. (Wenn Sie Drittanbieter-Code haben, der innere Importe verwendet, können Sie dies umgehen, indem Sie diese anderswo auf oberster Ebene importieren.)

  • Kein Dateisystem und keine Threads. Wenn Sie Vorlagen von der Festplatte laden oder mehrere Threads innerhalb einer Webanfrage verwenden, muss Ihr Code angepasst werden. Es gibt noch kein virtuelles Dateisystem oder eine solche Parallelität in unseren Sandboxen.

Legen Sie noch heute los

Sind Sie bereit, Ihren Python-Code auf die Edge zu bringen? So fangen Sie an:

Wir empfehlen, Pull-Anfragen oder offene Themen im GitHub-Repository einzureichen. Teilen Sie uns bitte mit, welche Python-Pakete Ihnen Probleme bereiten, was Sie damit entwickeln, und wie wir die Entwicklererfahrung auf dem Weg zur Verfügbarkeit für alle Fastly-Kunden verbessern können!

Sind Sie bereit, loszulegen?

Treten Sie noch heute mit uns in Kontakt