Senior test automation engineer for ai assistants / ingénieur qa pour assistant ia h/f

Senior Test Automation Engineer for AI assistants / Ingénieur QA pour assistant IA H/F

CDI - Cestas

Rejoignez l’aventure Lectra ! Prenez part à une véritable aventure technologique et contribuez avec Lectra à faire évoluer notre société et nos industries grâce à la puissance de l’industrie Logiciels, équipements, données et services… Lectra est un acteur majeur sur les marchés de la mode, de l’automobile et de l’ameublement, et participe au développement de l’industrie avec audace et passion. Et ce n’est pas tout ! Nos solutions d’intelligence industrielle à la pointe de la technologie facilitent aussi la transformation digitale des entreprises. Nous sommes donc toujours à la recherche de nouveaux talents férus de technologies pour rejoindre nos équipes ! Lectra, c’est plus de 50 ans d’expérience et une présence dans plus de 100 pays à travers le monde. C’est aussi 3000 collaborateurs unis par une même passion et animés par un vrai sens de l’innovation. Prêts à rejoindre cette aventure unique et à façonner l’avenir des technologies avec nous ?

Nous sommes à la recherche de notre nouvel(le) Ingénieur(e) senior d’automatisation de tests H/F spécialisé dans la gestion de la qualité d’assistants s’appuyant sur l’Intelligence Artificielle, tels que des applications RAG (Retrieval-Augmented Generation), des chatbots basés sur des LLMs (Large Language Models), et d'autres solutions conversationnelles avancées.

Nos équipes de R&D sont engagées dans la création d’assistants IA capables de traiter une variété de contenus, allant des données métiers aux documents d'entreprise pour simplifier l’utilisation de nos solutions à nos clients. Nos applications doivent évoluer avec les besoins de nos utilisateurs, ce qui nous amène à adopter une architecture flexible pour changer facilement de modèles de langage (LLM) sous-jacents. Dans cet environnement dynamique, nous valorisons l'exploration, la créativité et l'innovation.

Vous serez amené à travailler au sein d'une équipe agile, où votre capacité à innover et à faire de la veille technologique sera essentielle. Dans ce rôle, vous serez responsable de la mise en œuvre de méthodes de testing adaptées, tout en garantissant que nos solutions répondent aux standards de qualité.

Pour réussir dans ce poste, vous devrez faire preuve de curiosité et d'une volonté d'explorer de nouveaux outils et pratiques. Votre capacité à structurer l'analyse des résultats et à prendre des décisions sera essentielle pour mener à bien vos missions. Vous devrez également apprécier le travail collaboratif et être disposé à partager vos connaissances et à apprendre de vos collègues.

Missions

1. Concevoir et mettre en œuvre des stratégies de test innovantes pour nos assistants IA, intégrant des pratiques innovantes et des outils adaptés.

2. Définir et appliquer des méthodes d’évaluation spécifiques aux modèles LLM : détection d’hallucinations, robustesse des prompts, évaluation de la cohérence et de la fidélité des réponses.

3. Effectuer une veille technologique active pour identifier les nouveaux outils et méthodes qui pourraient optimiser nos processus.

4. Développer des scénarios de tests automatisés et manuels, en tenant compte des divers cas d'utilisation et des caractéristiques des utilisateurs.

5. Analyser les résultats des tests de manière structurée et claire, et formuler des recommandations basées sur des données probantes.

6. Diffuser les pratiques et connaissances.

Compétences requises

7. Formation : Diplôme en informatique, en ingénierie, en science des données ou dans un domaine connexe.

8. Expérience : Minimum 5 ans d’expérience dans le monde du développement logiciel, dont une expérience significative dans la définition et mise en œuvre d'une stratégie de tests sur un projet de développement faisant intervenir les technologies IA LLM, Machine Learning ou données.

9. Compétences techniques :

10. Maîtrise des langages de programmation (tels que Python, Java ou Kotlin)

11. Connaissance des frameworks d'IA (MLFlow, Langchain, Langgraph, TensorFlow)

12. Connaissance des outils d’évaluation de LLM (par exemple : TruLens, PromptLayer, DeepEval, LLM-as-a-Judge)

13. Expérience avec des outils d'analyse de données et de visualisation (Pandas, SQL, PowerBI)

14. Compétences analytiques : Capacité à analyser des ensembles de données complexes et à interpréter les résultats de manière critique.

15. Compétences en communication : Excellentes compétences en communication écrite et orale, avec la capacité de présenter des résultats techniques à des publics non techniques.

16. Sensibilité à l'éthique de l'IA : Compréhension des enjeux éthiques liés à l'IA, y compris la gestion des biais et la transparence des modèles.

Atouts :

17. Expérience dans la validation de modèles d'IA ou de machine learning.

18. Familiarité avec les indicateurs de performance (précision, rappel, fidélité) appliqués à l’IA.

19. Expertise dans la collecte et l’analyse de golden datasets.

20. Connaissance des méthodologies de test logiciel et des bonnes pratiques en matière de validation.

Ce que nous vous proposons

21. Travailler dans un environnement international, multiculturel (32 nationalités) et agile,
22. Des locaux refaits à neuf récemment sur un site boisé de 12 hectares,
23. Un CSE attractif proposant des subventions pour les voyages, de la location de matériel (randonnée, surf, réception…), activités culturelles et sportives, une médiathèque…
24. Prise en charge mutuelle à hauteur de 60%
25. Mise à disposition du complexe sportif du Bouzet à Cestas,
26. Un restaurant d’entreprise,
27. 70 jours de télétravail par an.