Université de Rennes Déjouer les dissimulations : outils pour l'audit de systèmes de prédiction en boîte noire Thinking out of the (black)-box : tools for audits in the presence of malicious model providers auditapprentissage automatiquerégulation de l'IAmanipulation d'évaluations machine learning auditsmachine learning governanceevaluation manipulation Prédictions conformes (informatique) Audit informatique Intelligence artificielle Les systèmes de prédiction fondés sur l'apprentissage automatique sont désormais largement accessibles mais restent trop souvent opaque, s'apparentant à des boîtes noires pour leurs utilisateurs. L'audit, en tant qu'évaluation indépendante est un outil essentiel à la gouvernance de ces systèmes. Cependant, la facilité de détection des audits et leurs conséquences potentiellement coûteuses pour le fournisseur du système rend les audits en boite noire particulièrement vulnérables aux dissimulations. Cette thèse explore les limites de l'audit en boîte noire et présente trois contributions pour y remédier : la formalisation de l'audit robuste comme un problème de construction d'une _connaissance a priori_ pour l'auditeur, l'étude de l'apport de la connaissance de la classe d'hypothèses par l'auditeur, et enfin l'introduction d'une technique d'empreinte de modèle pour détecter les modifications du système post-audit. Machine learning-based prediction services are now widely deployed across industries by companies, governments, and individuals. Yet, these services often rely on a complex AI supply chain, whose components (training data, models, infrastructure), while critical to their performance, are partially or completely hidden to the final users. Thus, to an external user or regulator, these prediction services appear as black-boxes, complicating their evaluation and opening avenues for manipulations. In the presence of deceptive model providers, this thesis aims to understand the fundamental limits to black-box auditing and designing protocols to provide guarantees beyond the black-box interaction model. This manuscript presents three contributions towards that goal. First, I present a formalization of this quest for the minimal assumption beyond the black-box as a prior construction problem and provide a new audit method leveraging the labeled data available to the auditor. Then, I study the benefits of requesting the hypothesis class used by the platform to inform the audit. Finally, in an attempt to cheaply detect post-audit attacks, I introduce a new model fingerprint baseline and theoretical analysis to detect model change. Electronic Thesis or DissertationText en application/pdf1 : 8130 Kohttps://ged.univ-rennes1.fr/nuxeo/site/esupversions/135d073e-e3bb-4270-8c42-684788d09b4f Godinot Augustin 1998-04-23 FR 297028200 agodinot@pm.me 2026URENS009 http://www.theses.fr/2026URENS009 2026-02-10 Informatique Université de Rennesthesis.degree.grantor_1 26693823X Doctorat non ouiLe MerrerErwanintervenant_1122221532TrédanGillesintervenant_2119990385RoumyAlineintervenant_3150161522PapernotNicolasintervenant_6296514179GarreauDamienintervenant_4228800625BelletAurélienintervenant_517653136X MATISSEecoleDoctorale_1 267602553 INRIA-RENNES partenaireRecherche_1 133175863 ddc:004 Le MerrerErwanTrédanGillesRoumyAlineGarreauDamienBelletAurélienPapernotNicolasUniversité de RennesMATISSE INRIA-RENNES ASCII PDF 8325450