\FloatBarrier
\begin{figure}
    \centering
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/census/census_egd_attack_hard_race.pdf}
        \caption{Census (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/census/census_egd_attack_hard_sex.pdf}
        \caption{Census (sex)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
       \includegraphics[width=\linewidth]{ACSAC/figures/egd/compas/compas_egd_attack_hard_race.pdf}
        \caption{Compas (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/compas/compas_egd_attack_hard_sex.pdf}
        \caption{Compas (sex)}
    \end{subfigure}
\centering
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/meps/meps_egd_attack_hard_race.pdf}
        \caption{Meps (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/meps/meps_egd_attack_hard_sex.pdf}
        \caption{Meps (sex)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/lfw/lfw_egd_attack_hard_race.pdf}
        \caption{Lfw (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/lfw/lfw_egd_attack_hard_sex.pdf}
        \caption{Lfw (sex)}
    \end{subfigure}

    \caption{Impact de la réduction pour une classification équitable sur le succès de \AIAHard.
    \\\textit{Baseline} = sans réduction.
    \\\textit{Theoretical} = $\frac{1}{2}(1+DemParLvl)$ avec réduction.
    \\\textit{Empirical} = avec réduction.
    }
    \label{fig:aiaegd}
\end{figure}



\begin{figure}[!htb]
   \centering
   \footnotesize
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/census/census_advdeb_attack_soft_experimental_race.pdf}
        \caption{Census (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/census/census_advdeb_attack_soft_experimental_sex.pdf}
        \caption{Census (sex)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/compas/compas_advdeb_attack_soft_experimental_race.pdf}
        \caption{Compas (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/compas/compas_advdeb_attack_soft_experimental_sex.pdf}
        \caption{Compas (sex)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/meps/meps_advdeb_attack_soft_experimental_race.pdf}
        \caption{Meps (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/meps/meps_advdeb_attack_soft_experimental_sex.pdf}
        \caption{Meps (sex)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/lfw/lfw_advdeb_attack_soft_experimental_race.pdf}
        \caption{Lfw (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/lfw/lfw_advdeb_attack_soft_experimental_sex.pdf}
        \caption{Lfw (sex)}
    \end{subfigure}

    \caption{Impact du rééquilibrage adverse sur le succès de \AIASoft. 
    \\\textit{baseline} = sans rééquilibrage adverse.
    \\\textit{AdvDebias} = avec rééquilibrage adverse.}
   \label{fig:aiadeb}
\end{figure}

\begin{figure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/census/census_advdeb_attack_hard_race.pdf}
        \caption{Census (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/census/census_advdeb_attack_hard_sex.pdf}
        \caption{Census (sex)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/compas/compas_advdeb_attack_hard_race.pdf}
        \caption{Compas (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/compas/compas_advdeb_attack_hard_sex.pdf}
        \caption{Compas (sex)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/meps/meps_advdeb_attack_hard_race.pdf}
        \caption{Meps (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/meps/meps_advdeb_attack_hard_sex.pdf}
        \caption{Meps (sex)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/lfw/lfw_advdeb_attack_hard_race.pdf}
        \caption{Lfw (race)}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/lfw/lfw_advdeb_attack_hard_sex.pdf}
        \caption{Lfw (sex)}
    \end{subfigure}
    \caption{Impact du rééquilibrage adverse sur le succès de \AIAHard.
    \\\textit{baseline} = succès de l'attaque sans rééquilibrage adverse.
    \\\textit{Empirical} = succès de l'attaque avec rééquilibrage adverse.
    \\\textit{Theoretical} = $\frac{1}{2}(1+DemParLvl)$ avec rééquilibrage adverse}
    \label{fig:aia-adv-hard}
\end{figure}

\begin{figure}[!htb]
    \centering
    \begin{subfigure}{0.24\linewidth}
    \centering
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/census/census_egd_utility.pdf}
        \caption{CENSUS}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
    \centering
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/compas/compas_egd_utility.pdf}
        \caption{COMPAS}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
    \centering
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/meps/meps_egd_utility.pdf}
        \caption{MEPS}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
    \centering
        \includegraphics[width=\linewidth]{ACSAC/figures/egd/lfw/lfw_egd_utility.pdf}
        \caption{LFW}
        \label{fig:utilityegd-lfw}
    \end{subfigure}
    \caption{Impact de l'utilisation de la réduction pour une classification équitable sur l'utilité.
    \\\textit{Baseline} = sans réduction.
    \\\textit{EGD+DemPar} = avec réduction.
    }
    \label{fig:utilityegd}
\end{figure}


\begin{figure}[!htb]
    \centering
    \begin{subfigure}{0.24\linewidth}
    \centering
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/census/census_advdeb_utility.pdf}
        \caption{CENSUS}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
    \centering
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/compas/compas_advdeb_utility.pdf}
        \caption{COMPAS}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
    \centering
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/meps/meps_advdeb_utility.pdf}
        \caption{MEPS}
    \end{subfigure}
    \begin{subfigure}{0.24\linewidth}
    \centering
        \includegraphics[width=\linewidth]{ACSAC/figures/advdebias/lfw/lfw_advdeb_utility.pdf}
        \caption{LFW}
        \label{fig:utilityadv-lfw}
    \end{subfigure}
    \caption{Impact de l'utilisation du rééquilibrage adverse sur l'utilité.
    \\\textit{baseline} = sans rééquilibrage adverse.
    \\\textit{AdvDebias} = avec rééquilibrage adverse.
    }
    \label{fig:utilityadv}
\end{figure}
Nous observons sur les Figures~\ref{fig:aiaegd},~\ref{fig:aia-adv-hard} et~\ref{fig:aiadeb} que les méthodes pour imposer l'équité ont bien réduit les succès des attaques, que ce soit en classification ou en régression.
De plus, nous voyons sur les Figures~\ref{fig:aiaegd} et~\ref{fig:aia-adv-hard} que le succès maximal de l'attaque vaut bien $\frac{1}{2}(1+DemParLvl)$ comme nous l'avons montré à la Propriété~\ref{prop:aia-demparlvl}.
Enfin, nous mettons en perspective ce résultat avec la dégradation d'utilité qu'entraîne l'utilisation de ces méthodes sur les Figures~\ref{fig:utilityegd} et~\ref{fig:utilityadv}.
Les deux méthodes semblent protéger de manière similaire les attributs sensibles pour \AIAHard~cependant, la méthode adverse est la seule pouvant mitiger \AIASoft.
En contrepartie, la réduction pour une classification équitable semble moins dégrader l'utilité comme nous pouvons le voir en comparant les Figures~\ref{fig:utilityegd-lfw} et~\ref{fig:utilityadv-lfw}.

En conclusion, nous recommandons d'utiliser le rééquilibrage adverse quand il y a un risque que le logit soit partagé ou quand la tâche principale est une régression.
Si ce n'est pas le cas, par exemple si le modèle est utilisé localement et que seule la prédiction est partagée, nous recommandons d'utiliser la réduction pour une classification équitable.
\FloatBarrier
