Visibilidad. Control. Gobernanza. Para cada llamada de IA.

ARC es un plano de control que gobierna el tráfico de IA en toda tu organización al rastrear el gasto en tiempo real, aplicar controles de acceso y habilitar la conmutación por error automática entre modelos de IA. Ofrece a los equipos una vista única del uso de tokens, los costos y las solicitudes en todos los proveedores de IA que utilizan.

ARC rastrea los conteos de tokens de entrada/salida, los volúmenes de solicitudes y los costos calculados en tiempo real, asignados a claves virtuales y sesiones de cliente. Los tableros y tablas de clasificación en tiempo real muestran exactamente qué aplicaciones, equipos o desarrolladores generan el mayor gasto, para que puedas detectar y solucionar puntos críticos rápidamente.

ARC mantiene las funciones y cargas de trabajo de IA al reintentar automáticamente las solicitudes y conmutar por error de forma transparente a modelos de respaldo en el edge cuando un proveedor principal deja de funcionar.

ARC aplica la limitación de velocidad por clave virtual, lo que limita cuánto puede consumir cualquier aplicación, agente o usuario individual. Esto protege tu presupuesto y las cuotas del proveedor ascendente para que no se agoten por bucles de agentes autónomos descontrolados o picos de tráfico inesperados.

AI Firewall protege las aplicaciones de IA de ataques dirigidos específicamente a los modelos, como los intentos de inyección de prompts, en los que una entrada en lenguaje natural intenta desencadenar acciones no intencionadas. AI Firewall de Fastly está diseñado específicamente para estas amenazas de IA, a diferencia de un firewall de aplicaciones web tradicional.

Utiliza un proceso de tres pasos: primero, el motor de detección SmartParse de Fastly inspecciona las solicitudes en busca de amenazas específicas de LLM, se inyectan barreras de protección para sanear las respuestas y se validan las salidas para respuestas de rechazo y protección contra fugas.

ARC es el plano de control que gestiona el tráfico, el costo y la fiabilidad de la IA entre proveedores. AI Firewall es una capa de seguridad que se despliega dentro de ARC y agrega detección de amenazas y barreras de protección. La mayoría de las organizaciones utilizan AI Firewall como parte de su despliegue de ARC, tanto para la gobernanza como para la protección.