orhtographe dernière cerificationflow

9 files changed, 201 insertions, 32 deletions

diff --git a/aia/exp.tex b/aia/exp.tex
index b60b46b..0677494 100644
--- a/aia/exp.tex
+++ b/aia/exp.tex
@@ -47,7 +47,7 @@
             \scriptsize
             \begin{itemize}
                 \item \emph{COMPAS récidivisme (tabulaire)}
-                \item ML = Forêt aléatoire
+                \item ML = Réseau de neurones
             \end{itemize}
             \includegraphics[width=150px]{images/figures/advdebias/compas/compas_advdeb_attack_hard_sex.pdf}
         \end{subfigure}
diff --git a/aia/intro.tex b/aia/intro.tex
index 5a191b7..8b464c5 100644
--- a/aia/intro.tex
+++ b/aia/intro.tex
@@ -8,7 +8,7 @@
     \frametitle{Deux surfaces d'attaque pour réaliser l'AIA}
     \emph{$X$} les données d'entrée.
     \begin{itemize}
-        \item \textcolor{accent}{Logit}
+        \item \textcolor{accent}{Logit\footnote{Ou \textit{soft label}}}
             \begin{equation*}
                 l\circ X
             \end{equation*}
diff --git a/aia/prediction.tex b/aia/prediction.tex
index e58b98f..6201b37 100644
--- a/aia/prediction.tex
+++ b/aia/prediction.tex
@@ -192,7 +192,7 @@
             \caption{Prédiction de la réussite à l'examen du barreau (LAW)}
         \end{subfigure}
     \end{figure}
-    Les classification finie est 
+    La classification finie est 
     \begin{itemize}
         \item \emph{$3\times$ plus rapide} qu'une forêt aléatoire sur (LAW)
         \item \emph{$4\times$ plus rapide} qu'une forêt aléatoire sur (COMPAS)
diff --git a/aia/protection.tex b/aia/protection.tex
index fd6b571..776b77e 100644
--- a/aia/protection.tex
+++ b/aia/protection.tex
@@ -109,4 +109,11 @@
         \text{max}_aBA(a)=\frac{1}{\#G}
     \end{equation*}
 
+    \pause
+    \vpsace{20px}
+    \begin{itemize}
+        \item Formule explicite entre une notion de confidentialité et une notion d'équitée.
+
+        \item Cette quantité permet un audit de l'équitée ainsi que du risque d'une AIA.
+    \end{itemize}
 \end{frame}
diff --git a/aia/protectionv2.tex b/aia/protectionv2.tex
index 121788a..d04bb64 100644
--- a/aia/protectionv2.tex
+++ b/aia/protectionv2.tex
@@ -32,8 +32,8 @@
         \end{equation*}
     \end{definition}
     \pause
-    \begin{definition}[S est protégé]
-        $S$ est protégé contre l'AIA sur $f$ si et seulement si
+    \begin{definition}[S est protégée]
+        $S$ est protégée contre l'AIA sur $f$ si et seulement si
         \begin{equation*}
             \forall a\in A~
             P_{(a\circ f\circ X,S)}=
@@ -49,7 +49,7 @@
         Les trois propositions suivantes sont équivalentes.
         \begin{itemize}
             \item[$(\alpha)$] $f$ satisfait la parité démographique pour $S$
-            \item[$(\beta)$] $S$ est protégé contre l'AIA sur $f$
+            \item[$(\beta)$] $S$ est protégée contre l'AIA sur $f$
             \item[$(\gamma)$] $\max_{a\in A} BA(f) = \frac{1}{\#G}$
         \end{itemize}
     \end{theorem}
@@ -88,5 +88,13 @@
             \frac{1}{2}(1+DemParLvl)
         \end{equation*}
     \end{theorem}
+    \pause
+
+    \vspace{20px}
+    \begin{itemize}
+        \item Formule explicite entre une notion de confidentialité et une notion d'équité.
+
+        \item Cette quantité permet un audit de l'équité ainsi que du risque d'une AIA.
+    \end{itemize}
 \end{frame}
 
diff --git a/backup.tex b/backup.tex
index d306341..d112b4b 100644
--- a/backup.tex
+++ b/backup.tex
@@ -104,3 +104,125 @@
         \caption{Recensement USA (ADULT). Prédiction du salaire ($>\$50K$).}
     \end{figure}
 \end{frame}
+
+{
+    \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}}
+\begin{frame}
+    %\vspace{70px}
+    \hspace{70px}
+    \begin{minipage}{250px}
+        \centering
+        \Large
+        \textcolor{accent}{
+            Autre notion d'équité
+        }
+    \end{minipage}
+\end{frame}
+}
+
+\begin{frame}
+    \frametitle{Définitions de l'équité}
+    \begin{definition}[Equité de chances\footnote{\textit{Equality of odds}}]
+        \begin{align*}
+            \forall (y,\hat{y},s_0,s_1)\in F\times F\times G\times G\\
+            P(f\circ X=\hat{y}\mid Y=y\wedge S=s_0)=
+            P(f\circ X=\hat{y}\mid Y=y\wedge S=s_1)
+        \end{align*}
+    \end{definition}
+    \begin{definition}[Effet différencié\footnote{\textit{Disparate impact}}]
+        \begin{equation*}
+            \frac{P(f\circ X=Y\mid S=0)}{P(f\circ X=Y\mid S=1)}
+        \end{equation*}
+    \end{definition}
+\end{frame}
+\begin{frame}
+    \frametitle{L'équité des chances ne protège pas contre l'AIA prédiction}
+    \begin{table}
+        \begin{tabular}{|c|c|c|c|}
+            \hline
+            $y$ & $s$ & $\hat{y}$ & $a$\\
+            \hline
+            0 & 0 & 0 & 0\\
+            \hline
+            1 & 0 & 0 & 0\\
+            \hline
+            0 & 1 & 1 & 1\\
+            \hline
+            1 & 1 & 1 & 1\\
+            \hline
+        \end{tabular}
+        \caption{L'attaque $a$ infère l'attribut sensible avec $100\%$ d'exactitude alors que le modèle $\hat{Y}$ satisfait l'équité des chances.}
+    \end{table}
+\end{frame}
+\begin{frame}
+    \frametitle{L'équité classique ne protège pas contre l'AIA logit}
+    \begin{table}
+        \begin{tabular}{|c|c|c|c|c|c|c|}
+            \hline
+            $x$ & $y$ & $s$ & $f(x)=1-x$ & $\hat{y}$ & $a(x)=1-|0,5-t(x)|$ & $\hat{s}$ $(\tau=0,65)$\\
+            \hline
+            0,1 & 1&1&0,9&1&0,6&1\\
+            \hline
+            0,2&1&0&0,8&1&0,7&0\\
+            \hline
+            0,8&0&0&0,2&0&0,7&0\\
+            \hline
+            0,9&0&1&0,1&0&0,6&1\\
+            \hline
+        \end{tabular}
+        \caption{Base de données et formule explicite pour le modèle cible $f$ et l'attaque $a$}
+    \end{table}
+    \begin{align*}
+        P(\hat{Y}=0|S=1,Y=0) = P(\hat{Y}=0|S=0,Y=0) = 1\\
+        P(\hat{Y}=1|S=1,Y=0) = P(\hat{Y}=1|S=0,Y=0) = 0\\
+        P(\hat{Y}=0|S=1,Y=1) = P(\hat{Y}=0|S=0,Y=1) = 0\\
+        P(\hat{Y}=1|S=1,Y=1) = P(\hat{Y}=1|S=0,Y=1) = 1\\
+    \end{align*}
+\end{frame}
+
+{
+    \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}}
+\begin{frame}
+    %\vspace{70px}
+    \hspace{70px}
+    \begin{minipage}{250px}
+        \centering
+        \Large
+        \textcolor{accent}{
+            Espaces métriques informationnels
+        }
+    \end{minipage}
+\end{frame}
+}
+\begin{frame}
+    \frametitle{Notions de distance sur les lois de probabilité}
+    \begin{definition}[Divergence de Kullback-Leibler]
+        \begin{equation*}
+            D_{KL}(P_{f\circ X}~||~P_Y) = 
+            \int_{y\in F}
+            \text{log}\left(
+            \frac{P_{f\circ X}(dy)}{P_Y(dy)}
+            \right)
+            P_{f\circ X}(dy)
+        \end{equation*}
+        Où $s(\square) = \frac{P_{f\circ X}(\square)}{P_Y(\square)}$, la dérivée de Radon-Nikodym, est une fonction mesurable telle que 
+        \begin{equation*}
+            \forall A\in\mathcal{F}P_{f\circ X}(A) = 
+            \int_AsdP_Y
+        \end{equation*}
+    \end{definition}
+\end{frame}
+
+\begin{frame}
+    \frametitle{Information mutuelle}
+    \begin{definition}[Information mutuelle]
+        \begin{equation*}
+            I(X;Y) = D_{KL}\left(P_{(X,Y)}~||~P_X\otimes P_Y\right)
+        \end{equation*}
+    \end{definition}
+    \begin{propriete}[Inégalité du traitement des données]
+        \begin{equation*}
+            I(X;Y)\geq I(f\circ X;Y)
+        \end{equation*}
+    \end{propriete}
+\end{frame}
diff --git a/ckoi.tex b/ckoi.tex
index 9922989..3dd2806 100644
--- a/ckoi.tex
+++ b/ckoi.tex
@@ -64,7 +64,7 @@
 \begin{frame}
     \frametitle{L'IA comme produit}
     \begin{minipage}{270px}
-    \includegraphics[width=\linewidth]{images/ckoi/gafam.png}
+    \includegraphics[width=\linewidth]{images/ckoi/gafam2.png}
     \end{minipage}
     \begin{minipage}{120px}
     \footnotesize
@@ -138,6 +138,11 @@ prédictions, du contenu, des recommandations ou des décisions qui peuvent infl
     \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/toc/background.pdf}}
 \begin{frame}
 
+\Large
+\underline{Introduction}
+\pause
+\normalsize
+
     IA : enjeux, fonctionnement et modélisation de l'apprentissage automatique
     \vspace{10px}
     \pause
@@ -146,6 +151,11 @@ prédictions, du contenu, des recommandations ou des décisions qui peuvent infl
     \vspace{10px}
     \pause
 
+\Large
+\underline{Contributions}
+\pause
+\normalsize
+
     \emph{L'apprentissage ensembliste pour attaquer l'attribut sensible}
     \vspace{10px}
     \pause
@@ -404,28 +414,39 @@ age : 85 sex : 1 race : 0
     \begin{minipage}[t]{0.45\linewidth}
         \centering
         \input{tikz/attack_mia}
-        Inférence de l'appartenance aux données d'entraînement (MIA)
+        Inférence de l'appartenance aux données d'entraînement (MIA\textsuperscript{1})
     \end{minipage}
     \hspace{10px}
     \begin{minipage}[t]{0.45\linewidth}
         \centering
         \input{tikz/attack}
-        Inférence d'un attribut sensible (AIA)
+        Inférence d'un attribut sensible (AIA\textsuperscript{2})
     \end{minipage}
+
+    \vspace{40px}
+    \footnotesize
+1. \textit{Membership Inference Attack}
+
+2. \textit{Attribute Inference Attack}
 \end{frame}
 
 \begin{frame}
     \frametitle{Imposer l'équité}
     \emph{L'algorithme d'entraînement peut être modifié pour imposer l'équité au modèle final.}
     \begin{itemize}
-        \item \textit{FairGrad: Fairness Aware Gradient Descent}, Gaurav Maheshwari and Michaël Perrot, 2022.
-        \item \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.
-        \item 
-             \textit{A reductions approach to fair classification.}
-             Agarwal, A. and  Beygelzimer, A. and Dudík, M. and Langford, J. and Wallach, H., 2018
-        %\item \textit{Deep Learning with Differential Privacy},
-        %     Martín Abadi and Andy Chu and Ian Goodfellow, 2016.
+        \item Apprentissage adverse avec deux réseaux de neurones en compétition\textsuperscript{1}
+        \item Optimisation sous contrainte : approche problème primal/dual\textsuperscript{2,3}
     \end{itemize}
+
+    \vspace{40px}
+    \footnotesize
+    1. \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.
+    
+    2. \textit{FairGrad: Fairness Aware Gradient Descent}, Gaurav Maheshwari and Michaël Perrot, 2022.
+
+
+    3. \textit{A reductions approach to fair classification.}
+    Agarwal, A. and  Beygelzimer, A. and Dudík, M. and Langford, J. and Wallach, H., 2018
 \end{frame}
 
 \begin{frame}
@@ -433,16 +454,23 @@ age : 85 sex : 1 race : 0
     \begin{itemize}
         \item  \emph{Il y a un compromis à faire entre équité et MIA.}
             \begin{itemize}
-                \item \textit{On the Privacy Risks of Algorithmic Fairness},
-                Hongyan Chang and Reza Shokri, 2021.
-                \item \textit{Differential Privacy Has Disparate Impact on Model Accuracy}, Eugene Bagdasaryan and Cornell Tech and Omid Poursaeed and Cornell Tech and Vitaly Shmatikov, 2019.
+                \item Imposer l'équité augmente le risque de MIA\textsuperscript{1}
+                \item Mitiger le risque de MIA avec de la confidentialité différentielle induit des inéquités \textsuperscript{2}
             \end{itemize}
-        \pause
         \item \emph{L'équité et l'AIA présentent des similarités.}
             \begin{itemize}
-                \item \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.
+                \item Mitiger le risque AIA implique de rendre le modèle équitable\textsuperscript{3}
             \end{itemize}
     \end{itemize}
+
+    \vspace{30px}
+    \footnotesize
+    1. \textit{On the Privacy Risks of Algorithmic Fairness},
+                Hongyan Chang and Reza Shokri, 2021.
+
+    2. \textit{Differential Privacy Has Disparate Impact on Model Accuracy}, Eugene Bagdasaryan and Cornell Tech and Omid Poursaeed and Cornell Tech and Vitaly Shmatikov, 2019.
+
+    3. \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.
 \end{frame}
 
 \begin{frame}
@@ -457,11 +485,12 @@ age : 85 sex : 1 race : 0
             \caption{Après rééquilibrage adverse}
         \end{subfigure}
     \end{figure}
-    \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.
 
-    \vspace{50px} 
+    \vspace{40px} 
     \footnotesize
-    \textsuperscript{1}\textit{Adversarial debiasing}
+    1. \textit{Adversarial debiasing}
+
+    \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.
 \end{frame}
 
 \begin{frame}
diff --git a/main.pdf b/main.pdf
index c35fb45..215dfe2 100644
--- a/main.pdf
+++ b/main.pdf
diff --git a/merci.tex b/merci.tex
index 2e4e288..45d42c4 100644
--- a/merci.tex
+++ b/merci.tex
@@ -14,25 +14,28 @@
     \frametitle{Perspectives}
     \begin{minipage}[t]{0.45\linewidth}
         \emph{A court terme}
+        \begin{enumerate}
 
-             Mieux évaluer la classification finie, y compris dans le domaine de l'AIA
+            \item Mieux évaluer la classification finie, y compris dans le domaine de l'AIA
 
-             Mieux évaluer l'impact de l'utilisation de données synthétiques 
+            \item Mieux évaluer l'impact de l'utilisation de données synthétiques 
 
-             Construire la boîte EQ (la classification finie peut aider)
+            \item Construire la boîte EQ (la classification finie peut aider)
 
-             Trouver des exemples d'espaces métriques informationnels 
+            \item Trouver des exemples d'espaces métriques informationnels 
+        \end{enumerate}
     \end{minipage}
     \hspace{30px}
     \pause
     \begin{minipage}[t]{0.45\linewidth}
         \emph{A long terme}
+        \begin{enumerate}
+            \item Une IA ne permettant ni AIA ni MIA 
 
-            Une IA ne permettant ni AIA ni MIA 
+            \item Un consensus sur l'équité 
 
-            Un consensus sur l'équité 
-
-            Une compréhension théorique des réseaux de neurones
+            \item Une compréhension théorique des réseaux de neurones
+        \end{enumerate}
 
     \end{minipage}
 \end{frame}