Judith Le Roy
Explicabilité et IA de confiance
M2 Mathématiques & IA | Université Paris-Saclay | Stage LIP6
(elle/she)
Email | LinkedIn | GitHub | CV
Profil#
Étudiante en M2 Mathématiques & IA à l’Université Paris-Saclay, je travaille sur l’explicabilité des systèmes d’IA (XAI) avec un intérêt particulier pour les méthodes d’audit inter-modèles, la robustesse, et les garanties formelles applicables aux systèmes critiques. Je cherche à poursuivre en thèse à partir d’octobre 2026 sur ces questions, dans un environnement de recherche appliquée à fort enjeu d’intérêt général (santé, éducation, IA de confiance, recherche publique).
Recherche actuelle#
Stage M2 — Explicabilité Inter-Modèles pour l’IA Éducative#
LIP6, Sorbonne Université | Avril – Septembre 2026
Encadrement : Marie-Jeanne Lesot (LFI) et Sébastien Lallé (MOCAH)
Développement de méthodes XAI model-agnostic pour analyser les disparités entre modèles d’IA prédisant le même phénomène (réseaux Bayésiens vs. réseaux de neurones profonds). Application au student modeling en AIED.
Contributions visées :
- Revue de littérature sur l’XAI inter-modèles, un domaine émergent à l’intersection de l’audit algorithmique et de l’IA de confiance
- Framework open-source d’audit de cohérence multi-modèles
- Méthodes pour quantifier et expliquer les désaccords entre modèles hétérogènes prédisant la même cible
Projets de recherche antérieurs#
Stage M1 — Framework HMM pour ADN ancien dégradé#
LISN, Université Paris-Saclay | 2025
Face aux limitations des outils existants (Admixfrog, DAISEG), conception d’une pipeline de génération de datasets synthétiques avec paramètres de dégradation contrôlés. Framework permettant la validation robuste d’algorithmes probabilistes sur données génomiques bruitées — un travail directement transposable aux enjeux d’évaluation et de certification de modèles ML en contexte adverse.
Code GitHub
M2 Mathématiques & Intelligence Artificielle (2025-26)
Université Paris-Saclay
Cours : Probabilistic Generative Models, Sequential Learning, Aspects théoriques du Deep Learning
M1 Mathématiques & IA (2024-25)
Université Paris-Saclay | Mention Assez Bien
Spécialisation : apprentissage supervisé/non-supervisé, deep learning, optimisation
CPGE B/L (2019-22)
Lycée Janson de Sailly | Lycée Henri IV
16/20 au concours ENS en mathématiques
Axes de recherche#
- Explicabilité inter-modèles — cohérence, audit et comparaison de systèmes d’IA hétérogènes prédisant le même phénomène
- IA de confiance — robustesse, garanties formelles, transparence des décisions algorithmiques, méthodes vérifiables
- Applications critiques d’intérêt général — santé, éducation, recherche publique, systèmes à fort enjeu de fiabilité
Compétences techniques#
Machine Learning & XAI
PyTorch, Scikit-learn, modèles Bayésiens, HMM, Transformers, méthodes XAI (SHAP, LIME, méthodes par prototypes)
Programmation & Outils
Python (avancé), R, SQL, Git/GitHub, LaTeX, calcul distribué (Slurm)
Mathématiques
Probabilités avancées, optimisation, traitement du signal, statistiques inférentielles
Publications & Communications#
(Section en préparation — Stage M2 en cours)
Philosophie, transition et amulettes politiques.
« Ce que nous sommes n’est pas la conséquence inévitable d’une nature, mais le produit d’une oppression. Et nous ne pouvons sortir de cette catégorie qu’en la détruisant. » — Monique Wittig, La Pensée straight (1980)
Les amulettes Je collectionne les femmes puissantes. J’enregistre des edits sur Instagram, je garde des chansons qui me font marcher droit, j’écoute en boucle certaines scènes de séries et de films. Avant je les regardais comme on regarde un saint au plafond d’une chapelle, en me disant sois comme elle sans vraiment croire que je pouvais l’être. Maintenant je sais que je peux. La différence est immense, et toute la transition tient dans cet écart.
...
« Le nettoyage de la science bourgeoise présuppose l’assimilation de la science bourgeoise, et non sa critique sauvage ou de creuses condamnations. » — Léon Trotsky, Culture et socialisme, 1926
Le retour du spectre En 1993, Jacques Derrida publie Spectres de Marx. Derrida est le fondateur de ce qu’on appelle la « déconstruction », une méthode philosophique née dans les années 1960 qui consiste à analyser les oppositions structurantes d’un discours (parole/écriture, nature/culture, masculin/féminin) pour montrer qu’elles ne sont pas naturelles mais construites, et que l’un des termes domine toujours l’autre. La déconstruction a exercé une influence considérable sur les sciences humaines, les études littéraires, les études de genre et la théorie queer, au point de devenir une référence centrale de ce qu’on appelle, souvent de façon imprécise, le « post-structuralisme ». Derrida lui-même n’est pas marxiste. Mais en 1993, dans un contexte de victoire idéologique du libéralisme (le mur de Berlin est tombé, Fukuyama a décrété la fin de l’histoire, le marxisme est déclaré mort), il pose un geste décisif : le spectre revient précisément parce qu’on l’a déclaré mort. C’est le propre des spectres. Plus on s’acharne à les exorciser, plus ils insistent.
...
« La colère des femmes est riche d’informations et d’énergie. Focalisée avec précision, elle peut devenir une source d’énergie puissante au service du progrès et du changement. » — Audre Lorde, The Uses of Anger (1981)
Lorde dit que la colère est chargée d’informations. Je veux écrire sur ce qu’elle m’a transmis : non pas son dépassement héroïque, non pas sa conversion en vertu militante, mais ce qu’elle dit sur le monde, et ce qu’elle a failli me coûter quand je n’ai pas su l’entendre.
...
« La philosophie des époques de déclin est toujours aussi leur apologie. » — Georg Lukács, Histoire et conscience de classe (1923)
Le succès d’un désespoir Le Problème à trois corps de Liu Cixin est devenu un phénomène mondial. Le roman est célébré dans les milieux scientifiques et technologiques, recommandé par Barack Obama, et adapté par Netflix. On y salue l’ampleur cosmique, la rigueur scientifique, l’ambition formelle. Pour beaucoup, il s’agirait d’une œuvre lucide, débarrassée des illusions humanistes.
...
« La misère religieuse est tout à la fois l’expression de la misère réelle et la protestation contre la misère réelle. » — Karl Marx, Contribution à la critique de la philosophie du droit de Hegel, 1844
Shabbat Pendant un an, j’ai fréquenté la synagogue chaque shabbat. J’assistais aux offices, aux cours de judaïsme, j’apprenais l’hébreu. Je me préparais à la conversion avec le sérieux de quelqu’un qui a trouvé sa place. Je me souviens de ce que je ressentais : une certitude. Quelque chose s’était résolu.
...
« Visibility is a trap; it summons surveillance and the law; it provokes voyeurism, fetishism, the colonialist/imperial appetite for possession. Yet it retains a certain political appeal. » — Peggy Phelan, Unmarked: The Politics of Performance
En Novembre, je me suis recréé un compte TikTok avec pour ambition de documenter ma transition. Un jour je poste une vidéo d’outfit. Une journée après j’avais reçu plus de trois cents commentaires, majoritairement des hommes avec des photos de profil en voiture, qui expliquent que je suis malade, que mes parents ont raté quelque chose et autres joyeusetés.
...
« Le libre développement de chacun est la condition du libre développement de tous. » — Karl Marx & Friedrich Engels, Le Manifeste du Parti communiste
L’ordre des termes dans cette phrase du Manifeste n’est pas anodin. Marx ne dit pas que le collectif produit le singulier. Il dit l’inverse. C’est une formule anti-totalitaire dans sa structure même. Mais c’est aussi une formule anti-libérale, parce que ce “libre développement” n’est pas le self-made man. Il a des conditions. Il dépend des autres.
...
Je suis un homme de grande impatience. J’ai pris de la mescaline pour me réduire. » — Henri Michaux, Misérable miracle, 1956
La même molécule Un cadre tech de San Francisco microdose du LSD avant sa réunion. Il appelle ça de l’optimisation cognitive. Un jeune homme noir de Saint-Denis se fait contrôler avec trois grammes de cannabis. Il finit en garde à vue.
Même geste et deux destins.
La drogue n’existe pas comme catégorie stable. Ce qui existe, ce sont des usages. Des corps autorisés à se modifier et des corps criminalisés pour la même chose.
...
« Tout ce qui était solidement établi se volatilise, tout ce qui était sacré est profané, et les hommes sont enfin forcés de considérer d’un œil désillusionné leur position dans la vie, leurs relations réciproques. » — Karl Marx & Friedrich Engels, Le Manifeste du Parti communiste
Il y a une chanson de SOPHIE qui s’appelle Take Me to Dubai. Je l’écoute en boucle et je ne sais pas quoi en faire. Dubai : ville du pétrocapitalisme triomphant, des îles artificielles, du luxe obscène construit par des travailleurs migrants surexploités. Dubai : le plastique à l’échelle urbaine, la fantasmagorie du capital poussée jusqu’à son point de délire.
...