Dévoilée le 8 juillet, l’offre AI Runners lancée par le fournisseur de plateforme d’IA Clarifai met à la disposition des développeurs et des ingénieurs MLops des options flexibles pour déployer et gérer les modèles d’IA. En particulier, ces derniers pourront connecter des modèles fonctionnant sur des machines locales ou des serveurs privés directement à la plateforme d’IA de Clarifai via une API accessible au public. Selon Clarifai, alors que l’IA par agent gagne toujours plus de terrain, les AI Runners fournissent une solution rentable et sécurisée pour gérer les demandes croissantes des charges de travail d’IA. Ces charges sont « essentiellement des charges ngrok pour les modèles d’IA, qui permettent de construire sur la configuration actuelle et de garder ses modèles exactement là où les utilisateurs le souhaitent, tout en profitant de la puissance et la robustesse de l’API de Clarifai pour toutes sortes de mises en œuvre des agents d’IA ».

Clarifai explique qu’avec sa plateforme, les développeurs peuvent exécuter leurs modèles ou leurs outils MCP (Model Context Protocol) sur une machine de développement locale, un serveur sur site ou une grappe de clouds privés. Selon l’entreprise, la connexion à l’API de Clarifai peut alors se faire sans réseau complexe. Cela signifie que les utilisateurs peuvent conserver les données sensibles et les modèles personnalisés dans leur propre environnement et tirer parti de l’infrastructure de calcul existante sans être dépendants d’un fournisseur. Les AI Runners permettent de servir des modèles personnalisés par l’intermédiaire de l’API publique de Clarifai, et de les intégrer ainsi dans n’importe quelle application.