LLMOps Engineer (H/F)

À propos du poste

Vous souhaitez bâtir le socle opérationnel d’une plateforme agentic ambitieuse ? Nous recherchons un(e) LLMOps Engineer pour concevoir et opérer l’infrastructure, l’outillage et les pratiques qui rendent nos systèmes LLM fiables, observables, coût‑efficaces et sûrs en production.

Missions principales

• Construire et opérer l’infrastructure IA : model serving, CI/CD, observabilité et gouvernance des coûts.
• Mettre en place des systèmes de gestion de prompts robustes (versioning, rollback, tests automatisés, A/B testing).
• Développer des pipelines d’évaluation et de qualité pour garantir des agents IA fiables et sécurisés.
• Assurer la scalabilité et la sécurité des déploiements via Docker, Kubernetes, Terraform et les principaux fournisseurs cloud (AWS, Azure, GCP).
• Garantir que chaque agent, pipeline RAG et intégration LLM en production est observable, reproductible et en amélioration continue.

Profil recherché

• Minimum 3 ans d’expérience en MLOps, DevOps/SRE ou platform engineering avec exposition aux systèmes AI/ML.
• Expérience en fine‑tuning (LoRA, QLoRA), embeddings à grande échelle et bases de données vectorielles.
• Familiarité avec MLflow, Weights & Biases ou Neptune pour le suivi d’expériences ML.
• Connaissance des pratiques de Responsible AI et de la sécurité des infrastructures IA.
• Contributions open‑source ou publications sur les pratiques LLMOps.

Compétences requises

• Expertise en gestion du cycle de vie des prompts et gouvernance.
• Maîtrise du model serving (OpenAI, Anthropic, vLLM, Hugging Face, Ollama).
• Connaissance des architectures multi‑modèle et optimisation coût/latence/qualité.
• Expérience en LLMOps : CI/CD, monitoring, détection de drift, garde‑fous et Responsible AI.
• Compétences solides en observabilité et infrastructure cloud (Grafana, Prometheus, Datadog).