Accéder directement au contenu Accéder directement à la navigation
Communication dans un congrès

Efficient Statistical Assessment of Neural Network Corruption Robustness

Karim Tit 1 Teddy Furon 2 Mathias Rousset 3, 4
2 LinkMedia - Creating and exploiting explicit links between multimedia fragments
Inria Rennes – Bretagne Atlantique , IRISA-D6 - MEDIA ET INTERACTIONS
4 SIMSMART - SIMulation pARTiculaire de Modèles Stochastiques
IRMAR - Institut de Recherche Mathématique de Rennes, Inria Rennes – Bretagne Atlantique
Abstract : We quantify the robustness of a trained network to input uncertainties with a stochastic simulation inspired by the field of Statistical Reliability Engineering. The robustness assessment is cast as a statistical hypothesis test: the network is deemed as locally robust if the estimated probability of failure is lower than a critical level. The procedure is based on an Importance Splitting simulation generating samples of rare events. We derive theoretical guarantees that are nonasymptotic w.r.t. sample size. Experiments tackling large scale networks outline the efficiency of our method making a low number of calls to the network function.
Type de document :
Communication dans un congrès
Liste complète des métadonnées

https://hal.archives-ouvertes.fr/hal-03407011
Contributeur : Teddy Furon Connectez-vous pour contacter le contributeur
Soumis le : vendredi 29 octobre 2021 - 15:22:09
Dernière modification le : mardi 4 janvier 2022 - 06:06:52

Fichier

Robustness_Estimation_with_Las...
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-03407011, version 2

Citation

Karim Tit, Teddy Furon, Mathias Rousset. Efficient Statistical Assessment of Neural Network Corruption Robustness. NeurIPS 2021 - 35th Conference on Neural Information Processing Systems, Dec 2021, Sydney (virtual), Australia. ⟨hal-03407011v2⟩

Partager

Métriques

Les métriques sont temporairement indisponibles