Akamai Technologies Inc. étend sa plate-forme d'infrastructure AI Cloud avec une paire de nouveaux composants fondamentaux appelés Akamai Inference et Akamai Agent Sandbox.
Ils fournissent à leurs entreprises clientes un environnement géré hautement personnalisable à partir duquel elles peuvent servir et exécuter des charges de travail et des agents d'intelligence artificielle sur n'importe quelle infrastructure, de ses centres de données cloud à la périphérie du réseau.
La société affirme répondre à la demande croissante des entreprises en faveur d'une infrastructure de service plus flexible mais plus fiable et d'un moyen d'intégrer l'IA à des sources de données propriétaires et tierces avec des protocoles de gouvernance stricts. Alors que les agents d’IA autonomes assument davantage de responsabilités en matière de codage logiciel, les organisations ont également besoin de limites plus strictes pour sécuriser ces systèmes.
Akamai AI Cloud vise à fournir tout cela, et bien plus encore, en offrant aux clients tout ce dont ils ont besoin pour que leurs charges de travail et leurs agents d'IA soient opérationnels : calcul, stockage dans le cloud, mise en réseau et sécurité. Il offre également un vaste choix d’unités de traitement graphique et d’autres accélérateurs d’IA disponibles sur plus de 4 350 emplacements périphériques. La plate-forme Akamai Cloud est au cœur de la stratégie d'IA de l'entreprise, qui envisage l'inférence d'IA au plus près des utilisateurs finaux et des données dont ils ont besoin afin de minimiser la latence.
Compte tenu de ses objectifs ambitieux, le lancement d'Akamai Inference est un événement majeur. Akamai a déclaré qu'il s'agissait d'une offre de services gérés qui permet aux clients d'accéder à des dizaines de modèles d'IA ouverts et personnalisés via des interfaces de programmation d'applications compatibles OpenAI. Le principal avantage d'Akamai Inference est qu'il permet aux équipes de déployer de nouvelles applications et agents d'IA en périphérie sans réécrire le code.
Au lancement, les entreprises pourront choisir parmi 12 modèles ouverts allant de 8 milliards à 2,8 billions de paramètres, dont le Nemotron 3 Ultra de Nvidia Corp., le gpt-oss-120b d'OpenAI Group PBC et le Gemma 4 de Google LLC. Il existe également une sélection de modèles « d'intégration » spécialisés pour les pipelines de génération augmentés par récupération. Ceux-ci sont destinés à connecter les modèles ouverts aux services de bases de données gérées d'Akamai pour garantir que leurs réponses sont fondées sur les données de l'entreprise.
L'Akamai Agent Sandbox, quant à elle, est axée sur l'exécution sécurisée. Il s'agit d'un espace d'exécution isolé pour exécuter des agents d'IA qui fonctionnent de manière autonome pour le compte des utilisateurs humains. Dans le bac à sable, les agents IA s'exécutent sur Akamai Functions, avec leur code contenu dans des environnements WebAssembly isolés gérés par le framework open source Spin. Grâce à ces sandbox, les entreprises seront en mesure d'appliquer un contrôle granulaire sur tout, depuis le calcul et la mémoire de l'agent jusqu'aux API système et à l'accès au réseau sortant, en s'assurant de ne jamais dépasser leurs limites.
Adam Karon, directeur de l'exploitation et directeur général d'Akamai Cloud, a déclaré que la société est convaincue que l'inférence va devenir la priorité principale de la grande majorité des entreprises à l'avenir. « Nos clients ont déjà prouvé cette thèse », a-t-il déclaré. « Ils veulent créer, exécuter et protéger l'IA sur la même plate-forme. Akamai Inference et Akamai Sandbox ajoutent les couches d'inférence et d'exécution qui transforment notre infrastructure d'IA en une pile d'IA complète, et notre portefeuille de sécurité en protège chaque couche. »
La société souhaite également offrir à ses clients plus de choix quant au matériel qu'ils utilisent pour alimenter leurs charges de travail d'IA. C'est pourquoi elle a également révélé qu'elle étendait sa flotte de plates-formes GPU au sein d'Akamai AI Cloud. Il offre désormais accès aux clusters Nvidia Blackwell Ultra, notamment aux GPU RTX PRO 6000 Blackwell Server Edition. Chaque nœud Blackwell Ultra à huit GPU fournit jusqu'à 2,3 téraoctets de mémoire HBM3e totale, permettant la prise en charge du raisonnement en contexte long, a déclaré Akamai.
Akamai prévoit également d'étendre davantage sa flotte avec la plate-forme GPU Vera Rubin de nouvelle génération de Nvidia, qui sera disponible au cours de la nouvelle année, a-t-il indiqué.
