F5 et NVIDIA améliorent la rentabilité des usines d’IA grâce à de nouvelles fonctionnalités d’accélération de l’inférence IA

F5 BIG-IP Next for Kubernetes accéléré par les DPU BlueField améliore le débit de jetons, réduit le coût par jeton et permet de déployer une infrastructure d’IA mutualisée sécurisée, transformant ainsi les usines d’IA à l’ère agentique

SEATTLE – F5 (NASDAQ : FFIV), leader mondial de la mise à disposition et de la sécurisation de chaque application et API, a annoncé aujourd’hui l’élargissement des capacités offertes dans le cadre de sa collaboration continue avec NVIDIA afin d’accélérer et d’optimiser les infrastructures d’inférence d’IA.

L’intégration étendue associe F5 BIG-IP Next for Kubernetes aux DPU NVIDIA BlueField-3, créant ainsi une couche d’infrastructure intelligente et sensible à la télémétrie qui augmente le débit de jetons grâce à une meilleure utilisation des GPU, réduit la latence et permet de déployer à grande échelle des plateformes d’IA multilocataires sécurisées.

Dans les systèmes d’IA, les tokens constituent l’unité mesurable de la production de l’IA : les mots, symboles ou fragments de données générés et traités lors de l’inférence. Le volume et la vitesse de production des tokens déterminent en définitive l’expérience utilisateur, l’efficacité de l’infrastructure et le chiffre d’affaires par accélérateur.

Alors que les entreprises et les fournisseurs de GPUaaS s’efforcent de monétiser l’IA et de passer de l’expérimentation à des services générateurs de revenus, l’efficacité de l’infrastructure est devenue un indicateur déterminant. La réussite ne se mesure plus simplement à la capacité GPU déployée, mais de plus en plus à l’économie des tokens, au débit soutenu de tokens, au délai d’obtention du premier token (TTFT), au coût par token et au chiffre d’affaires par accélérateur GPU. La solution conjointe de F5 et NVIDIA est conçue pour répondre directement à ces indicateurs.

Optimiser l’économie des tokens grâce à une infrastructure d’IA intelligente

Le passage d’une inférence centrée sur les applications à des workflows d’IA pilotés par des agents exige de nouvelles approches architecturales afin d’optimiser le débit de tokens et de réduire les coûts. BIG-IP Next for Kubernetes exploite désormais les statistiques de NVIDIA NIM, les signaux d’exécution de Dynamo et la télémétrie des GPU pour prendre des décisions de routage tenant compte de l’inférence avant l’exécution. En affectant en temps réel les charges de travail aux accélérateurs les plus adaptés, la solution augmente le taux d’utilisation soutenu tout en réduisant la latence et les nouveaux calculs.

« L’infrastructure d’IA ne se résume plus à l’accès aux GPU ni à la mise à l’échelle de leur déploiement. Il s’agit désormais de maximiser la valeur économique générée par chaque accélérateur », a déclaré Kunal Anand, directeur des produits chez F5. « Avec NVIDIA, nous permettons aux usines d’IA de considérer la production de jetons comme un indicateur commercial mesurable. BIG-IP Next for Kubernetes fournit l’intelligence et la gouvernance nécessaires pour accroître le rendement des GPU, réduire le coût par jeton et faire évoluer les plateformes d’IA partagées en toute confiance. »

Efficacité de l’infrastructure validée : une amélioration structurelle

Les chiffres de performance parlent d’eux-mêmes. Lors de tests validés par The Tolly Group, BIG-IP Next for Kubernetes, accéléré par les DPU NVIDIA BlueField-3, a permis d’obtenir jusqu’à 40 % d’augmentation du débit de jetons, un temps d’obtention du premier jeton (TTFT) réduit de 61 %, ainsi qu’une réduction de 34 % de la latence globale des requêtes.

Il ne s’agit pas de gains marginaux. En déchargeant les fonctions de réseau, de TLS/chiffrement, d’équilibrage de charge optimisé pour l’IA et de gestion du trafic sur les DPU NVIDIA BlueField-3, BIG-IP Next for Kubernetes préserve les ressources processeur de l’hôte et permet aux GPU de se consacrer à leur fonction première : assurer une inférence soutenue, à haut débit et à grande échelle. Il en résulte une meilleure utilisation des GPU, une réduction des délais d’attente et une augmentation du nombre de tokens produits, ce qui permet de diminuer le coût par token à empreinte d’infrastructure constante. Point essentiel, aucune modification des modèles n’a été nécessaire : ces gains peuvent donc être immédiatement exploités au sein des infrastructures d’usines d’IA existantes. Pour les entreprises et les fournisseurs NeoCloud qui rivalisent sur le plan de l’économie des tokens, c’est ce qui distingue une infrastructure qui limite la production de l’IA d’une infrastructure qui l’accélère.

« L’infrastructure de calcul accéléré de NVIDIA, associée à la plateforme de fourniture et de sécurisation des applications de F5, adaptée à l’IA, permet d’optimiser l’économie des jetons dans les usines d’IA en assurant une inférence évolutive et rentable, sans aucune modification des modèles », a déclaré Kevin Deierling, vice-président senior chargé des réseaux chez NVIDIA. « Ensemble, F5 et NVIDIA permettent aux entreprises de faire évoluer l’inférence de leurs usines d’IA de manière efficace et économique. »

Conçu pour l’IA pilotée par des agents et les plateformes d’IA mutualisées

Les charges de travail d’IA modernes sont de plus en plus pilotées par des agents, persistantes et sensibles au contexte. Elles nécessitent une gestion intelligente du trafic que l’équilibrage de charge traditionnel ne peut pas assurer. La solution BIG-IP Next for Kubernetes améliorée peut désormais prendre en charge :

• Routage tenant compte de l’inférence pour les workflows d’IA agentique
• Intégration à NVIDIA DOCA Platform Framework (DPF) pour simplifier le déploiement et la gestion du cycle de vie des DPU NVIDIA BlueField
• EVPN-VXLAN avec des VRF dynamiques pour une architecture mutualisée sécurisée au niveau du réseau
• Sécurité intégrée, gouvernance des jetons et observabilité au sein des environnements d’IA Kubernetes

Ces fonctionnalités permettent aux entreprises et aux fournisseurs de NeoCloud de partager en toute sécurité une infrastructure GPU entre différentes unités opérationnelles ou avec des clients externes, tout en préservant l’isolation des performances et des niveaux de service prévisibles.

Un plan de contrôle pour l’économie des usines d’IA

F5 et NVIDIA fournissent aux entreprises des outils validés et des bonnes pratiques pour optimiser l’architecture d’inférence. Grâce à ces avancées, BIG-IP Next for Kubernetes est en passe de devenir un plan de contrôle stratégique pour l’économie des usines d’IA, en régulant la consommation de jetons, en optimisant les flux de trafic et en maximisant le retour sur investissement de l’infrastructure.

Plutôt que de surdimensionner leurs ressources pour compenser les inefficacités, les organisations peuvent désormais tirer davantage de valeur économique de chaque GPU déjà en production. Elles bénéficient ainsi d’un meilleur revenu par GPU, d’une réduction des coûts opérationnels et de services d’IA évolutifs conçus pour soutenir une croissance durable. En associant la télémétrie de l’infrastructure et l’accélération par DPU de NVIDIA aux capacités de F5 en matière d’intelligence du trafic et de sécurité, les deux entreprises aident les organisations à transformer leurs usines d’IA en plateformes efficaces et monétisables, prêtes pour l’ère agentique.

Ressources complémentaires

• Blog : Les usines d’IA ont besoin d’une infrastructure intelligente. Les nouveaux résultats de The Tolly Group montrent pourquoi.
• Rapport : Tests indépendants réalisés par Tolly : F5 BIG-IP Next for Kubernetes

À propos de F5

F5, Inc. (NASDAQ: FFIV) est le leader mondial de la mise à disposition et de la sécurisation de toutes les applications. Forte de trois décennies d’expertise, F5 a conçu la plateforme de référence du secteur — F5 Application Delivery and Security Platform (ADSP) — afin de mettre à disposition et de sécuriser chaque application et chaque API, où qu’elles se trouvent : sur site, dans le cloud, en périphérie et dans des environnements hybrides et multicloud. F5 s’engage à innover et à collaborer avec les organisations les plus grandes et les plus avancées au monde afin d’offrir des expériences numériques rapides, disponibles et sécurisées. Ensemble, nous nous aidons mutuellement à prospérer et donnons vie à un monde numérique meilleur.

Pour plus d’informations, consultez f5.com
Découvrez les recherches de F5 Labs sur les menaces à l’adresse f5.com/labs
Suivez-nous pour en savoir plus sur F5, nos partenaires et nos technologies : Blog | LinkedIn | X | YouTube | Instagram | Facebook

F5, BIG-IP et BIG-IP Next sont des marques commerciales, des marques de service ou des noms commerciaux de F5, Inc., aux États-Unis et dans d’autres pays. Tous les autres noms de produits et de sociétés mentionnés dans le présent document peuvent être des marques commerciales appartenant à leurs propriétaires respectifs. La collaboration décrite dans ce communiqué de presse n’implique aucune coentreprise, aucun partenariat juridique ni aucune relation de mandat entre F5 et NVIDIA.

Déclarations prospectives
Le présent communiqué de presse contient des déclarations prospectives concernant les performances, l’efficacité et les avantages économiques attendus de l’intégration de F5 avec NVIDIA, qui sont soumis à des risques et à des incertitudes.