Expert LLMOps Engineer - Industrialisation IA & LLM

A propos du poste

Rejoignez une aventure technologique de pointe au sein d'IT Road Consulting. Dans le cadre de l'industrialisation de nos solutions d'intelligence artificielle à grande échelle, nous recherchons un(e) LLMOps Engineer expert(e) pour structurer, sécuriser et piloter les pipelines IA de nouvelle génération, avec un focus majeur sur les modèles de langage (LLM) et les systèmes conversationnels complexes.

Missions principales

• Industrialisation & CI/CD : Mise en place d'un Model Registry et automatisation complète des pipelines de déploiement pour les modèles et les agents IA.
• Observabilité & Qualité : Implémentation du tracing des interactions, analyse de la pertinence des réponses et détection proactive des défaillances.
• Sécurité & Conformité : Gestion du masquage des données sensibles (PII), sécurisation des accès et protection des APIs LLM.
• Gouvernance & Optimisation : Suivi rigoureux de la consommation de tokens, mise en place de stratégies de limitation et optimisation des coûts opérationnels.
• Cycle de vie des Agents IA : Gestion du versioning, déploiement, tests A/B et amélioration continue des performances des agents.
• Infrastructure & Orchestration : Scaling via Kubernetes et gestion optimisée des ressources de calcul (notamment GPU).
• Gestion des incidents : Définition de mécanismes de sécurité critiques (kill switch, rollback) et rédaction de runbooks.

Profil recherché

• Minimum 5 ans d'expérience confirmée en DevOps, MLOps ou SRE.
• Expérience concrète et réussie dans la mise en production de systèmes d'IA ou de modèles LLM.
• Forte culture de l'industrialisation, de la fiabilité logicielle et de la cybersécurité.
• Capacité à naviguer dans des environnements complexes et à optimiser des infrastructures gourmandes en ressources.

Competences requises

• Orchestration de conteneurs (Kubernetes, Docker).
• Pipelines CI/CD et automatisation de déploiement.
• Maîtrise des frameworks LLM et des problématiques de gestion de tokens.
• Expertise en monitoring et observabilité de modèles.
• Gestion de l'infrastructure GPU et optimisation des coûts Cloud.