Ingénieur∙e de recherche et développement en Intelligence Artificielle et Interprétabilité Mécanistique - CDD 9 mois

Grande école d’ingénieur généraliste de l’IMT-Institut Mines-Télécom, premier groupe d’écoles d’ingénieurs de France, IMT Atlantique a pour ambition d’accompagner les transitions, de former des ingénieurs responsables et mettre l'excellence scientifique et technique au service de l'enseignement, de la recherche et de l'innovation.

BRAIn est une équipe de recherche du Lab-STICC (CNRS UMR 6285) faisant partie du département Mathematical and Electrical Engineering (MEE) à IMT Atlantique. L'objectif de BRAIN est d'explorer des questions clés à l'intersection de l'Intelligence Artificielle, de l'Apprentissage Profond et du Traitement du Signal, avec des applications utilisant des images, des sons, des textes et des domaines plus complexes, y compris les données de neuroimagerie.

La chaire GRASP (« GRAph Signal Processing for Interpreting and Steering Multimodal LLMs »), financée par le cluster SEQUOIA, propose d’utiliser le traitement du signal sur graphes (Graph Signal Processing, GSP) comme cadre mathématique pour l’interprétabilité mécanistique des grands modèles de langage (LLM) et de leurs déclinaisons multimodales (MLLM). L’idée centrale consiste à représenter une architecture profonde (Transformer, modèle à espace d’états) comme un graphe de communication, et ses activations comme des signaux définis sur ce graphe. Les outils de la littérature du GSP permettent alors de décomposer le calcul interne en composantes interprétables et de quantifier le couplage structure-fonction, un concept issu des neurosciences cognitives. Appliqué aux modèles multimodaux, ce cadre vise à diagnostiquer le « découplage perceptuel », c’est-à-dire la tendance de ces modèles à privilégier leurs a priori linguistiques au détriment des données sensorielles (audio, image, EEG, IRMf), puis à le corriger par une approche de « steering as filtering » qui filtre spectralement les activations sans réentraînement du modèle. Les méthodes sont validées sur des applications scientifiques exigeantes, en éco-acoustique et en neuroimagerie.

Le poste s’inscrit dans la phase d’amorçage de la chaire : il s’agit de construire les briques méthodologiques et logicielles du cadre GSP, de les valider sur des LLM ouverts usuels en interprétabilité, puis de les étendre aux modèles de langage multimodaux.

Sous la responsabilité de Nicolas Farrugia (Professeur, titulaire de la chaire GRASP), en collaboration avec les doctorantes et doctorants de la chaire ainsi qu’avec les membres de l’équipe BRAIn (Lab-STICC, UMR CNRS 6285). 

• Formalise les architectures modernes (Transformers, modèles à espace d’états) sous forme de graphes de communication exploitables dans le cadre GSP, et implémente les opérateurs spectraux fondamentaux

• Situe le cadre GSP par rapport à l’état de l’art de l’interprétabilité mécanistique et des approches de modélisation parcimonieuse (autoencodeurs parcimonieux, apprentissage de dictionnaires, factorisation matricielle non négative).

• Développe des outils réutilisables en Python (NumPy/SciPy, PyTorch), documentés et couverts par des tests.

• Met en place les protocoles d’extraction et de stockage des activations sur des LLM ouverts couramment utilisés en interprétabilité (ex. familles Pythia, modèles à base de concepts, etc.).

• Conduit les premières validations des méthodes proposées et comparaison aux méthodes existantes (sondes linéaires, activation patching, autoencodeurs parcimonieux).

• Étend ensuite l’analyse aux modèles multimodaux (audio-texte, vision-texte)

• Réalise les expériences à grande échelle sur les infrastructures de calcul GPU (Jean Zay / GENCI et moyens locaux) et assure le suivi rigoureux des expériences.

• Rédige et maintient la documentation, les notebooks de démonstration et les scripts de reproduction des résultats.

• Contribue à la rédaction de publications scientifiques et de communications en conférence.

• Participe à l’animation scientifique de la chaire (réunions, séminaires, appui technique ponctuel aux doctorants et stagiaires).

• Contribue à la diffusion open source des outils développés et aux échanges avec les partenaires académiques et industriels de la chaire.

• Doctorat en traitement du signal, apprentissage automatique ou neurosciences computationnelles ;

• ou diplôme d’ingénieur / Master 2 complété par une première expérience significative en recherche et développement (stage long, doctorat en cours, ou expérience en R&D industrielle).

• Maîtrise de Python et de l’écosystème scientifique associé (NumPy, SciPy, PyTorch).

• Expertise établie dans au moins l’un des domaines suivants : (i) traitement du signal, traitement du signal sur graphes, modélisation parcimonieuse (apprentissage de dictionnaires, factorisation matricielle non négative, ACP/ACI) ; (ii) apprentissage profond, en particulier architectures de type Transformer ; (iii) domaine applicatif exigeant en traitement de données (neuroimagerie EEG/IRMf, audio) avec une forte affinité pour l’apprentissage automatique.

• Solides bases en algèbre linéaire, théorie des graphes et analyse spectrale.

• Pratique du développement collaboratif (Git, tests, environnements reproductibles) et du travail sur cluster de calcul (Linux, SLURM).

• Capacité à lire, comprendre et réimplémenter des travaux scientifiques récents.

• Anglais scientifique lu et écrit (rédaction d’articles et de documentation).

• Connaissance de l’interprétabilité mécanistique (autoencodeurs parcimonieux, sondes linéaires, activation patching) et des bibliothèques associées (TransformerLens, NNsight, SAELens…).

• Expérience des LLM et MLLM ouverts (familles Pythia, Qwen, Llama, modèles audio-texte) et de l’écosystème Hugging Face.

• Expérience du calcul haute performance multi-GPU (Jean Zay / GENCI, SLURM, FSDP / DeepSpeed).

• Notions de neurosciences cognitives, en particulier de couplage structure-fonction cérébral, ou d’éco-acoustique.

• Contributions open source et/ou publications dans des conférences ou revues d’apprentissage automatique ou de traitement du signal.

• Autonomie et capacité à structurer un travail exploratoire sur un sujet de recherche ouvert.

• Rigueur scientifique et goût pour la formalisation mathématique.

• Aptitude au travail en équipe et dans un contexte interdisciplinaire (traitement du signal, IA, neurosciences, sciences de l’environnement).

• Qualités de communication écrite et orale, capacité à présenter des résultats techniques à des publics variés.

Curiosité, force de proposition et sens du partage (documentation, code réutilisable).

• Poste financé dans le cadre de la chaire GRASP (cluster SEQUOIA), avec accès aux moyens de calcul GPU nationaux (Jean Zay / GENCI) et aux ressources locales.

• Environnement collaboratif intégrant un réseau académique international (Université de Montréal, MILA) et des partenaires industriels de la chaire.

• Déplacements ponctuels à prévoir (réunions de projet, écoles thématiques, conférences scientifiques).

• Environnement exceptionnel de travail

• Ecosystème d’innovation stimulant (startups, étudiants, recherche, entreprises)

• Collaborations avec des organismes de recherche renommés

🥗 Restauration collective sur place

🏃‍♀️ Offres de loisirs/sport

🚌 Prise en charge des transports en commun

🚴‍♂️ Forfait mobilité durable (pour le covoiturage ou les trajets en vélo)

👨‍👩‍👧‍👦 Complément familial

💶 Large gamme de prestations sociales

🖥️ Télétravail partiel possible

🌴 Nombreux congés

💰 Rémunération indicative : à partir de 33 614€ brut annuel, selon le profil et l’expérience (charges salariales réduites en secteur public).

• Sur le contenu du poste : Nicolas FARRUGIA - Professeur - nicolas.farrugia@imt-atlantique.fr

• Sur les aspects administratifs/RH: Mélissandre MORVAN – Assistante recrutement rh-recrutement@imt-atlantique.fr

• Nature et durée du contrat : CDD 9 mois de droit public ou détachement sur contrat pour les fonctionnaires renouvelable

• Localisation du poste : IMT Atlantique campus de Brest - 655 Av. du Technopôle, 29280 Plouzané

• À usage interne :

  • Catégorie –métier du poste : II R

• Les postes offerts au recrutement sont ouverts à toutes et tous avec, sur demande, des aménagements pour les candidates et candidats en situation de handicap

• Emploi ouvert aux titulaires de la fonction publique et/ou aux personnes contractuelles

• Toute candidature peut faire l’objet d’une enquête administrative