diff options
author | Jan Aalmoes <jan.aalmoes@inria.fr> | 2024-09-13 00:07:42 +0200 |
---|---|---|
committer | Jan Aalmoes <jan.aalmoes@inria.fr> | 2024-09-13 00:07:42 +0200 |
commit | faa07a8f3337c5d191597ea9b9587cc0969d663c (patch) | |
tree | a46440db847ce447917abecb7971d90db4a1f150 /aia/intro.tex | |
parent | 7fc151d6a198d13dc9e1374522ec396d72905d3f (diff) |
avnacé aia, remerciement notations, notes
Diffstat (limited to 'aia/intro.tex')
-rw-r--r-- | aia/intro.tex | 20 |
1 files changed, 20 insertions, 0 deletions
diff --git a/aia/intro.tex b/aia/intro.tex new file mode 100644 index 0000000..b921ffc --- /dev/null +++ b/aia/intro.tex @@ -0,0 +1,20 @@ +Nous avons vu à la Section~\ref{} que, pour imposer l'équitée à un modèle, nous pouvons utiliser différentes méthodes qui agissent lors de l'entraînement. +Utiliser ces méthodes peut causer une augmentation de certain risque liée à la confidentialité des donnée d'entraînement, ainsi il est admis qu'il y ai un compromis à faire enre equitée et confidentialitée~\cite{dudu2023sok}. +Cependant ce compromis ne concerne que les risquées liée aux attaque de MIA et rentre en coflit avec la confidentialité diférentielles~\cite{chang2021privacy,cummings,ijcai2022p766}. + +Dans ce chapitre nous allons étudier les intéractions entre ces mécanismes d'équitée et l'attaque AIA. +Nous allons montrer que sous cet angle, l'équitée et la confidentialitée travailent de concert. +Cette étude peut être vue sous deux angles. +Le premier aspect consiste à étudier comment les mécanisme d'équitée peuvent être utilisé pour mitiger différent types d'AIA. +Le second aspect, en lien avec le primer, est d'utiliser les AIA pour contrôler dans un environement boîte noire le niveau d'équitée d'un modèle. + +\subsection{Contributions} +Dans ce chapitre nous apportons les contributions suivante : +\begin{itemize} + \item Une définition de l'équitée qui généralise la \textit{demographic parity} à la regression. + \item Diverse relations analytique et synthétques entre AIA, \textit{demographic parity} et \textit{equality of odds} qui remplissent les objectifs de: + calcul de niveau d'équitée en boîte noire et + garanties théoriques sur le niveau de confidentialité des donnée des utilisateurs de modèles. + \item La construction de deux nouvelles attaque AIA efficaces quand l'attribut sensible présente un déséquilibre. + \item Une étude empirique des relations entre niveau d'équitée, utilisation d'algorithmes imposants l'équitée et succès des attaques AIA. +\end{itemize} |