diff options
author | Jan Aalmoes <jan.aalmoes@inria.fr> | 2024-12-07 18:20:32 +0100 |
---|---|---|
committer | Jan Aalmoes <jan.aalmoes@inria.fr> | 2024-12-07 18:20:32 +0100 |
commit | 4ad65f91926a75ee0e761c5c60b7ca74e43910d3 (patch) | |
tree | cd008d9a5895758c3143fe62fecbd42823539d71 | |
parent | 4ac32b3af9cc5bb8f29ba2ec20c89567eba752a2 (diff) |
Meilleur flow, title card à la mumbo jumbo
-rw-r--r-- | aia/exp.tex | 106 | ||||
-rw-r--r-- | aia/intro.tex | 26 | ||||
-rw-r--r-- | aia/prediction.tex | 182 | ||||
-rw-r--r-- | aia/protection.tex | 106 | ||||
-rw-r--r-- | background.tex | 19 | ||||
-rw-r--r-- | ckoi.tex | 252 | ||||
-rw-r--r-- | eq/intro.tex | 38 | ||||
-rw-r--r-- | eq/prediction.tex | 0 | ||||
-rw-r--r-- | main.pdf | bin | 7889463 -> 8746309 bytes | |||
-rw-r--r-- | main.tex | 27 | ||||
-rw-r--r-- | merci.tex | 17 | ||||
-rw-r--r-- | synth.tex | 18 | ||||
-rw-r--r-- | tikz/chaussette/a.tex | 5 |
13 files changed, 760 insertions, 36 deletions
diff --git a/aia/exp.tex b/aia/exp.tex new file mode 100644 index 0000000..6651744 --- /dev/null +++ b/aia/exp.tex @@ -0,0 +1,106 @@ +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} +\begin{frame} + %\vspace{70px} + \hspace{70px} + \begin{minipage}{250px} + \Large + \textcolor{accent}{ + Evaluation expérimentale de l'utilisation de l'équitée comme mécanisme de protéction de l'attribut sensible. + } + \end{minipage} +\end{frame} +} +\begin{frame} + \begin{figure} + \centering + \input{tikz/data} + \label{fig:aia-data} + \end{figure} +\end{frame} + +\begin{frame} + \frametitle{Experimental validation on prediction: results} + \begin{figure} + \captionsetup{singlelinecheck=off} + \centering + \begin{subfigure}{0.4\textwidth} + \centering + \scriptsize + \begin{itemize} + \item \emph{Labeled Faces in the Wild (images)} + \item ML = Convolutional Neural Network + \end{itemize} + \includegraphics[width=150px]{images/figures/advdebias/lfw/lfw_advdeb_attack_hard_sex.pdf} + \end{subfigure} + \hspace{0.1\textwidth} + \begin{subfigure}{0.4\textwidth} + \centering + \scriptsize + \begin{itemize} + \item \emph{COMPAS recidivism dataset (tabular)} + \item ML = Random Forest + \end{itemize} + \includegraphics[width=150px]{images/figures/advdebias/compas/compas_advdeb_attack_hard_sex.pdf} + \end{subfigure} + \end{figure} + \vspace{10px} + + \scriptsize + \begin{tabular}{lll} + &\emph{Regularization}&\emph{Value}\\ + \emph{Baseline}&None&Attack result\\ + \emph{Theoretical}&Adversarial debiasing&$\frac{1}{2}(1+DemParLvl)$\\ + \emph{Empirical}&Adversarial debiasing&Attack result\\ + \end{tabular} +\normalsize + \hspace{10px} +Attack surface = $1_{[\tau,1]}\circ f\circ X$. +\end{frame} + +\begin{frame} + \frametitle{Experimental validation on logit: building an attack} + \begin{enumerate} + \item On part. + \item Build a random forest on this dataset. + \item Ajust the threshold to take into account class imbalance. + \end{enumerate} +\end{frame} + +\begin{frame} + \frametitle{Experimental validation on logit: results} + \begin{figure} + \captionsetup{singlelinecheck=off} + \centering + \begin{subfigure}{0.4\textwidth} + \centering + \scriptsize + \begin{itemize} + \item \emph{Labeled Faces in the Wild (images)} + \item ML = Convolutional Neural Network + \end{itemize} + \includegraphics[width=150px]{images/figures/advdebias/lfw/lfw_advdeb_attack_soft_experimental_sex.pdf} + \end{subfigure} + \hspace{0.1\textwidth} + \begin{subfigure}{0.4\textwidth} + \centering + \scriptsize + \begin{itemize} + \item \emph{COMPAS recidivism dataset (tabular)} + \item ML = Random Forest + \end{itemize} + \includegraphics[width=150px]{images/figures/advdebias/compas/compas_advdeb_attack_soft_experimental_sex.pdf} + \end{subfigure} + \end{figure} + \vspace{10px} + + \scriptsize + \begin{tabular}{lll} + &\emph{Regularization}&\emph{Value}\\ + \emph{Baseline}&None&Attack result\\ + \emph{AdvDebias}&Adversarial debiasing&Attack result\\ + \end{tabular} +\normalsize + \hspace{10px} +Attack surface = $f\circ X$. +\end{frame} diff --git a/aia/intro.tex b/aia/intro.tex new file mode 100644 index 0000000..a8cc780 --- /dev/null +++ b/aia/intro.tex @@ -0,0 +1,26 @@ +\begin{frame} + \frametitle{Deux surface d'attaque pour réaliser l'AIA} + \emph{$X$} les données d'entrée. + \begin{itemize} + \item \textcolor{accent}{Logit} + \begin{equation*} + l\circ X + \end{equation*} + A valeurs dans $[0,1]^m$. + \vspace{20px} + + \item \textcolor{accent}{Prédiction} + \begin{align*} + \text{argmax}\circ l\circ X + \end{align*} + A valeurs dans $\{0,1,\cdots,m\}$. + \end{itemize} + \vspace{10px} + + En fonction du contexte on notera le modèle cible $f=l$ ou $f=\text{argmax}\circ l$. +\end{frame} + + + + + diff --git a/aia/prediction.tex b/aia/prediction.tex new file mode 100644 index 0000000..b302f4f --- /dev/null +++ b/aia/prediction.tex @@ -0,0 +1,182 @@ + +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} +\begin{frame} + %\vspace{70px} + \hspace{70px} + \begin{minipage}{250px} + \Large + \textcolor{accent}{ + Un nouvel algorithme d'apprentissage ensembliste pour l'AIA. + } + \end{minipage} +\end{frame} +} +\begin{frame} + \frametitle{AIA pour la prédiction} + \input{tikz/ef} + \pause + \vspace{10px} + + \emph{$n^m$ applications à essayer !} + \vspace{10px} + + Question de recherche : + \emph{Comment choisir la meilleur application sans les assayer toutes ?} + \vspace{10px} + + On cherche $a:F\rightarrow G$ telle que + $P_{a\circ f\circ X}$ approche $P_{S}$. +\end{frame} + +\begin{frame} + \frametitle{Classification finie} + \begin{minipage}[t]{0.2\linewidth} + \begin{tabular}{cc} + \textbf{Y}&\textbf{S}\\ + 0&$\bigcirc$\\ + 2&$\times$\\ + 1&$\bigcirc$\\ + 0&$\bigcirc$\\ + 2&$\times$\\ + 0&$\bigcirc$\\ + 1&$\bigcirc$\\ + 1&$\bigtriangleup$\\ + 0&$\bigcirc$\\ + 2&$\bigcirc$\\ + 1&$\bigcirc$\\ + 1&$\bigtriangleup$\\ + 2&$\bigcirc$\\ + 2&$\bigcirc$\\ + \end{tabular} + \end{minipage} + \begin{minipage}[t]{0.75\linewidth} + On cherche une fonction $a$ de $F = \{0,1,2\}$ dans $G = \{\bigcirc,\bigtriangleup,\times\}$. + \\\vspace{0.5cm}\\ + Nous n'allons pas essayer les \emph{$3^3=27$ fonctions}. + \\\vspace{0.5cm}\\ + A la place, étudions deux manières de \emph{ranger le jeu de données}. + \end{minipage} +\end{frame} + +\begin{frame} + \frametitle{Premier rangement} + \input{tikz/chaussette/a} +\end{frame} + +\begin{frame} + \begin{definition}[Exactitude\footnote{\textit{Accuracy}}] + L'exactitude de $a$ pour prédire $S$ est + \begin{equation*} + P(a\circ f\circ X=S) + \end{equation*} + \end{definition} + \pause + \frametitle{Maximisation de l'exactitude} + \begin{theorem} + L'application qui maximise l'éxactitude est + \begin{equation*} + a: \left\{ + \begin{matrix} + F\rightarrow G\\ + e\mapsto \text{argmax}_{i\in G} P(S=i|f\circ X=e) + \end{matrix} + \right. + \end{equation*} + \end{theorem} + \vspace{10px} + + \footnotesize + \textit{The behavior-knowledge space method for combination of multiple classifiers}, Huang, YS et Suen, C.Y. 1993 +\end{frame} + +\begin{frame} + \frametitle{Problème avec la maxamisation de l'exactitude} + \begin{minipage}{0.4\linewidth} + \begin{tabular}{cccc} + &\textcolor{principale}{Faux Positifs}&\textcolor{principale}{Faux Négatif}&\textcolor{principale}{Exactitude}\\ + \textcolor{principale}{$\bigcirc$}&100\%&0\%&100\%\\ + \textcolor{principale}{$\bigtriangleup$}&0\%&100\%&0\%\\ + \textcolor{principale}{$\times$}&0\%&100\%&0\%\\ + \end{tabular} + \vspace{20px} + + \pause + Désequilibre dans les classes\footnote{\textit{Class imbalance}} : + \begin{itemize} + \item $P(S=\bigcirc)=\frac{10}{14}\simeq 71\%$ + \item $P(S=\bigtriangleup)=\frac{2}{14}\simeq 14\%$ + \item $P(S=\times)=\frac{2}{14}\simeq 14\%$ + \end{itemize} + \end{minipage} + \pause + \hspace{50px} + \begin{minipage}{0.4\linewidth} + \vspace{70px} + \begin{figure} + \includegraphics[width=1.2\linewidth]{images/race_split.pdf} + \caption{Ethnies\footnote{\textit{Races}} en Alabama} + \end{figure} + \end{minipage} +\end{frame} + +\begin{frame} + \frametitle{Deuxième rangement} + \vspace{5px} + + \input{tikz/chaussette/ba} +\end{frame} + +\begin{frame} + \frametitle{Maximisation de l'exactitude équilibrée} + \begin{definition}[Exactitude équilibrée\footnote{\textit{Balanced accuracy}}] + \begin{equation*} + \frac{1}{\#F}\sum_{i\in F}P(a\circ f\circ X=i\mid S=i) + \end{equation*} + \end{definition} + \pause + \begin{theorem} + L'application qui maximise l'exactitude équilibrée est + \begin{equation*} + a:\left\{ + \begin{matrix} + F \rightarrow G\\ + e\mapsto \text{argmax}_{i\in G}P(f\circ X=e|S=i) + \end{matrix} + \right. + \end{equation*} + \end{theorem} +\end{frame} + +\begin{frame} + \frametitle{Problème avec la maxamisation de l'exactitude} + \emph{Maximisation de l'exactitude} + \vspace{5px} + + \begin{tabular}{cccc} + &\textcolor{principale}{Faux Positifs}&\textcolor{principale}{Faux Négatif}&\textcolor{principale}{Exactitude}\\ + \textcolor{principale}{$\bigcirc$}&100\%&0\%&1\\ + \textcolor{principale}{$\bigtriangleup$}&0\%&100\%&0\\ + \textcolor{principale}{$\times$}&0\%&100\%&0\\ + \end{tabular} + \vspace{10px} + + \emph{Maximisation de l'exactitude équilibré} + \vspace{5px} + + \begin{tabular}{cccc} + &\textcolor{principale}{Faux Positifs}&\textcolor{principale}{Faux Négatif}&\textcolor{principale}{Exactitude}\\ + \textcolor{principale}{$\bigcirc$}&0\%&60\%&40\%\\ + \textcolor{principale}{$\bigtriangleup$}&25\%&0\%&100\%\\ + \textcolor{principale}{$\times$}&25\%&0\%&100\%\\ + \end{tabular} +\end{frame} + +\begin{frame} + \frametitle{Conclusion sur l'AIA de la prédiction} + \begin{itemize} + \item Nous avons construit une \emph{fonction d'attaque $a$} de $F$, l'ensemble des \emph{prédictions possibles du modèle cible} vers $G$, l'ensemble des \emph{attributs sensibles}. + \pause + \item Cette fonction \emph{maximise l'exactitude équilibrée}. + \end{itemize} +\end{frame} diff --git a/aia/protection.tex b/aia/protection.tex new file mode 100644 index 0000000..8332c35 --- /dev/null +++ b/aia/protection.tex @@ -0,0 +1,106 @@ +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} +\begin{frame} + %\vspace{70px} + \hspace{70px} + \begin{minipage}{250px} + \Large + \textcolor{accent}{ + Comment proteger l'attribut sensible contre l'AIA ? + } + \end{minipage} +\end{frame} +} +\begin{frame} + \frametitle{Protection de l'attribut sensible} + On cherche une notion qui définisse : + + \emph{L'attribut sensible des utilisateur est protégé.} + \pause + \begin{definition} + Un CCA est un classifieur ayant une \emph{prédiction indépendante de l'étiquette}. + C'est-à-dire que pour un classifieur $f: E\rightarrow F$. + Avec une étiquette $Y:\Omega\rightarrow F$ + et une entrée $X:\Omega\rightarrow E$. + Alors pour $\hat{Y}=f\circ X$, nous avons + \emph{$P_{(Y,\hat{Y})} = P_Y\otimes P_{\hat{Y}}$} + \end{definition} + + \pause + Nous allons voir que CCA et exactitude équilibré sont liées. +\end{frame} + +\begin{frame} + \frametitle{Etude de l'exactitude équilibré} + \begin{propriete} + \label{th:aia-bluey} + Soit $(\Omega,\mathcal{T},P)$ un espace probabilisé. + Soient $(E,\mathcal{E})$ et $(F,\mathcal{P}(F))$ des espaces mesurables avec $F$ un ensemble fini. + Soient les variables aléatoires suivantes : + $X:\Omega\rightarrow E$ et + $Y:\Omega\rightarrow F$ + Soit $A$ l'ensemble des fonctions mesurables de $(E,\mathcal{E})$ dans $(F,\mathcal{P}(F))$. + + Nous appelons $BA$ la fonction qui à toutes les fonctions $f$ de $A$ associe l'exactitude équilibrée de $f \circ X$ pour l'étiquette $Y$. + \begin{equation*} + \exists f\in A~BA(f)< \frac{1}{\#F} + \implies + \exists f\in A~BA(f)>\frac{1}{\#F} + \end{equation*} + \end{propriete} + + \pause + \begin{propriete} + \begin{equation*} + \text{max}_fBA(f)=\frac{1}{\#F}\iff + \forall f~BA(f)=\frac{1}{\#F} + \end{equation*} + \end{propriete} +\end{frame} + +\begin{frame} + \frametitle{Etude de l'exactitude équilibré} + \begin{theorem} + \label{th:fini-bacca} + En notant $BA(f)$ l'exactitude équilibrée de $f$. + \begin{equation*} + \forall f~BA(f)=\frac{1}{\#F} \iff + \forall f~\text{$f$ est un CCA} + \end{equation*} + \end{theorem} + \pause + + \vspace{10px} + Ainsi, si $\text{max}_fBA(f)=\frac{1}{\#F}$ alors + aucun classifieur ne pourra prédire l'étiquette. + + \pause + \vspace{10px} + \emph{Pour savoir si $X$ permet d'inférer $Y$ il suffit de calculer $\text{max}_fBA(f)$.} + + \pause + \vspace{10px} + L'algorithme classification finie permet de claculer $\text{max}_fBA(f)$. +\end{frame} + +\begin{frame} + \frametitle{Lien entre exactitude équilibré et protection contre l'AIA} + L'attribut sensible est protégé quand + \begin{equation*} + P_{(f\circ X,S)}= + P_{f\circ X}\otimes P_S + \end{equation*} + + \pause + \begin{equation*} + \iff + \forall a~\text{$a$ est un CCA pour prédire $S$ à parire de $f\circ X$} + \end{equation*} + + \pause + \begin{equation*} + \iff + \text{max}_aBA(a)=\frac{1}{\#G} + \end{equation*} + +\end{frame} diff --git a/background.tex b/background.tex index 05b96b3..0316aa1 100644 --- a/background.tex +++ b/background.tex @@ -61,6 +61,25 @@ \frametitle{Confidentialité : Inférence d'un attribut sensible (AIA)} \input{tikz/attack} \end{frame} + +\begin{frame} + \frametitle{Two risk factors in model's output} + \begin{itemize} + \item \textcolor{accent}{Logit} + \begin{equation*} + f\circ X + \end{equation*} + Takes values in $[0,1]$. + \vspace{20px} + + \item \textcolor{accent}{Prediction} + \begin{equation*} + 1_{[\tau,1]}\circ f\circ X + \end{equation*} + Takes values in $\{0,1\}$. + \end{itemize} +\end{frame} + \begin{frame} \frametitle{Pourquoi se concentrer sur ces deux enjeux ?} \begin{itemize} @@ -1,4 +1,31 @@ \begin{frame} + \frametitle{L'IA dans la culture} + \begin{minipage}{270px} + \includegraphics[width=\linewidth]{images/ckoi/bad_ai.png} + \end{minipage} + \begin{minipage}{120px} + \footnotesize + \begin{itemize} + \item \textcolor{accent}{Antagoniste} + \begin{itemize} + \item \textit{2001: A space odissey} + \item \textit{Terminator} + \item \textit{The Matrix} + \end{itemize} + \item \textcolor{accent}{Être social} + \begin{itemize} + \item \textit{Her} + \item \textit{The bicentennial man} + \end{itemize} + \item \textcolor{accent}{Facteur de risques} + \begin{itemize} + \item \textit{Wargames} + \item \textit{Avengers: Age of Ultron} + \end{itemize} + \end{itemize} + \end{minipage} +\end{frame} +\begin{frame} \frametitle{L'IA dans les institutions} \begin{minipage}{270px} \includegraphics[width=\linewidth]{images/ckoi/insti.png} @@ -66,33 +93,6 @@ \end{frame} \begin{frame} - \frametitle{L'IA dans la culture} - \begin{minipage}{270px} - \includegraphics[width=\linewidth]{images/ckoi/bad_ai.png} - \end{minipage} - \begin{minipage}{120px} - \footnotesize - \begin{itemize} - \item \textcolor{accent}{Antagoniste} - \begin{itemize} - \item \textit{2001: A space odissey} - \item \textit{Terminator} - \item \textit{The Matrix} - \end{itemize} - \item \textcolor{accent}{Être social} - \begin{itemize} - \item \textit{Her} - \item \textit{The bicentennial man} - \end{itemize} - \item \textcolor{accent}{Facteur de risques} - \begin{itemize} - \item \textit{Wargames} - \item \textit{Avengers: Age of Ultron} - \end{itemize} - \end{itemize} - \end{minipage} -\end{frame} -\begin{frame} \frametitle{Qu'est-ce que l'IA ?} \textcolor{principale}{Dictionnaire de l'Académie française :} \textquote{Ensemble de propriétés \emph{rapprochant du cerveau humain} certains systèmes informatiques très évolués}\pause @@ -127,6 +127,44 @@ prédictions, du contenu, des recommandations ou des décisions qui peuvent infl %\end{figure} %\end{frame} +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/toc/background.pdf}} +\begin{frame} + + IA : Enjeux, Fonctionnement et modélisation de l'aprentissage automatique + \vspace{10px} + \pause + + Intersection entre confidentialité et équité + \vspace{10px} + \pause + + \emph{L'apprentissage ensembliste pour attaquer l'attribut sensible} + \vspace{10px} + \pause + + \emph{Comment protéger l'attribut sensible ?} + \vspace{10px} + \pause + + \emph{Vers une protection multiple avec des données synthétiques} +\end{frame} +} + +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} +\begin{frame} + %\vspace{70px} + \hspace{70px} + \begin{minipage}{250px} + \Large + \textcolor{accent}{ + Quels sont les enjeux de l'intelligence artificielle ? + } + \end{minipage} +\end{frame} +} + \begin{frame} \frametitle{Financement de la recherche en IA} \vspace{10px} @@ -204,5 +242,165 @@ prédictions, du contenu, des recommandations ou des décisions qui peuvent infl \end{itemize} \end{itemize} \end{frame} +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} +\begin{frame} + %\vspace{70px} + \hspace{70px} + \begin{minipage}{250px} + \Large + \textcolor{accent}{ + Comment fonctionne l'IA et l'aprentissage automatique ? + } + \end{minipage} +\end{frame} +} +\begin{frame} + \frametitle{Apprentissage automatique : Base de donnée} +\begin{minipage}{0.3\linewidth} +\includegraphics[width=50px]{images/img/0.png} + +age : 36 sex : 1 race : 0 + +\includegraphics[width=50px]{images/img/4.png} + +age : 4 sex : 1 race : 0 + +\includegraphics[width=50px]{images/img/7.png} + +age : 65 sex : 0 race : 0 +\end{minipage} +\begin{minipage}{0.3\linewidth} + +\includegraphics[width=50px]{images/img/14.png} + +age : 46 sex : 1 race : 0 + +\includegraphics[width=50px]{images/img/79.png} + +age : 75 sex : 0 race : 1 + +\includegraphics[width=50px]{images/img/75.png} + +age : 55 sex : 1 race : 1 +\end{minipage} +\begin{minipage}{0.3\linewidth} + +\includegraphics[width=50px]{images/img/128.png} + +age : 44 sex : 0 race : 1 +\includegraphics[width=50px]{images/img/134.png} +age : 13 sex : 0 race : 0 + +\includegraphics[width=50px]{images/img/155.png} + +age : 85 sex : 1 race : 0 +\end{minipage} + +\end{frame} + +\begin{frame} + \frametitle{Apprentissage automatique : fonctionement} + On se donne $(\Omega,\mathcal{T},P)$ un espace probabilisé. + Ainsi que + $(E,\mathcal{E})$, + $(F,\mathcal{G})$ et + $(G,\mathcal{G})$ + des espaces mesurables. + \begin{itemize} + \item $X:(\Omega,\mathcal{T})\rightarrow (E,\mathcal{E})$ Les données d'entrée (l'image) + \item $Y:(\Omega,\mathcal{T})\rightarrow (F,\mathcal{F})$ Les étiquettes (l'age) + \item $S:(\Omega,\mathcal{T})\rightarrow (G,\mathcal{G})$ L'attribut sensible (le genre ou la couleur de peau) + \item $f:(E,\mathcal{E})\rightarrow (F,\mathcal{F})$ Le modèle d'apprentissag automatique + \end{itemize} + \vspace{10px} + + \pause + \emph{Entraînement : on cherche $f$ telle que $P_{f\circ X}$ soit proche de $P_{Y}$.} + \vspace{10px} + + \pause + \emph{Evaluation : on a un point $x\in E$, on calcul $f(x)$.} + +\end{frame} + +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} +\begin{frame} + %\vspace{70px} + \hspace{70px} + \begin{minipage}{250px} + \Large + \textcolor{accent}{ + Quels sont les liens entre équité et confidentialité ? + } + \end{minipage} +\end{frame} +} + +\begin{frame} + \frametitle{Confidentialité : Inférence de l'appartenance (MIA)} + \centering + \input{tikz/attack_mia} +\end{frame} + +\begin{frame} + \frametitle{Confidentialité : Inférence d'un attribut sensible (AIA)} + \centering + \input{tikz/attack} +\end{frame} + +\begin{frame} + \frametitle{Imposer l'équitée} + \emph{L'algorithme d'entraînement peut être modifié pour imposer l'équitée au modèle finale.} + \begin{itemize} + \item \textit{FairGrad: Fairness Aware Gradient Descent}, Gaurav Maheshwari and Michaël Perrot, 2022. + \item \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018. + \item \textit{Deep Learning with Differential Privacy}, + Martín Abadi and Andy Chu and Ian Goodfellow, 2016. + \end{itemize} +\end{frame} + +\begin{frame} + \frametitle{Intersection entre confidentialité et equitée} + \begin{itemize} + \item \emph{Il y a un compromis à faire entre équitée et MIA.} + \begin{itemize} + \item \textit{On the Privacy Risks of Algorithmic Fairness}, + Hongyan Chang and Reza Shokri, 2021. + \item \textit{Differential Privacy Has Disparate Impact on Model Accuracy}, Eugene Bagdasaryan and Cornell Tech and Omid Poursaeed and Cornell Tech and Vitaly Shmatikov, 2019. + \end{itemize} + \pause + \item \emph{L'équitée et l'AIA présentent des similariées.} + \begin{itemize} + \item \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018. + \end{itemize} + \end{itemize} +\end{frame} + +\begin{frame} + \frametitle{Intuition} + \begin{figure} + \begin{subfigure}{0.4\textwidth} + \includegraphics[width=150px]{images/figures/before.pdf} + \caption{Avant rééquilibrage adverse\textsuperscript{1}} + \end{subfigure} + \begin{subfigure}{0.4\textwidth} + \includegraphics[width=150px]{images/figures/after.pdf} + \caption{Après rééquilibrage adverse} + \end{subfigure} + \end{figure} + \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018. + + \vspace{50px} + \footnotesize + \textsuperscript{1}\textit{Adversarial debiasing} +\end{frame} + +\begin{frame} + \frametitle{Positionement} + \centering + \input{images/tikz/ckoi/pos} +\end{frame} diff --git a/eq/intro.tex b/eq/intro.tex new file mode 100644 index 0000000..33bb9e0 --- /dev/null +++ b/eq/intro.tex @@ -0,0 +1,38 @@ +\begin{frame} + \frametitle{Notion d'équité algorithmique} + \begin{definition}[Partié démographique] + $f:E\rightarrow \{0,1\}$ satisfait la partié démographique pour $S:\Omega\rightarrow \{0,1\}$ si et seulement si + \begin{equation*} + P(f\circ X=0|S=0) = + P(f\circ X=0|S=1) + \end{equation*} + \end{definition} + + \pause + \begin{definition}[Partié démographique généralisé] + $f:E\rightarrow F$ satisfait la partié démographique généralisé pour $S:\Omega\rightarrow G$ si et seulement si + \begin{equation*} + P_{(f\circ X,S)}=P_{f\circ X}\otimes P_S + \end{equation*} + \end{definition} +\end{frame} + +\begin{frame} + \frametitle{Lien entre equité et protection contre l'AIA} + \begin{theorem} + $f:E\rightarrow F$ satisfait la parité démographique généralisé pour $S:\Omega\rightarrow G$ si et seulement si + \begin{equation*} + \text{max}_aBA(a)=\frac{1}{\#G} + \end{equation*} + où + \begin{equation*} + BA(a) = + \sum_{g\in G} + P(a\circ f\circ X=g\mid S=g) + \end{equation*} + \end{theorem} + + \vspace{10px} + \pause + \emph{On sait calculer $\text{max}_aBA(a)$ grace à la classification finie quand $\#G<\infty$ et $\#F<\infty$} +\end{frame} diff --git a/eq/prediction.tex b/eq/prediction.tex Binary files differnew file mode 100644 index 0000000..e69de29 --- /dev/null +++ b/eq/prediction.tex @@ -2,6 +2,7 @@ \usepackage[utf8]{inputenc} \usepackage[T1]{fontenc} +\usepackage{lipsum} \newtheorem{propriete}{Propriété} @@ -133,15 +134,27 @@ BOUTET&Antoine&\textcolor{accent}{Co-encadrant de thèse}\\ \end{center} \end{frame} -{ - \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/toc/background.pdf}} -\begin{frame} - \tableofcontents -\end{frame} -} +%{ + %\usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/toc/background.pdf}} +%\begin{frame} + %\tableofcontents +%\end{frame} +%} -\section{Introduction} \input{ckoi} +\input{aia/intro} +\input{aia/prediction} +\input{aia/protection} +\input{eq/intro} +\input{eq/prediction} +\input{aia/exp} +\input{synth} +\input{perspective} +\input{merci} + +\end{document} + +\section{Introduction} \section{Prérequis} { diff --git a/merci.tex b/merci.tex new file mode 100644 index 0000000..e2d38e8 --- /dev/null +++ b/merci.tex @@ -0,0 +1,17 @@ +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} +\begin{frame} + %\vspace{70px} + \hspace{70px} + \begin{minipage}{250px} + \Large + \emph{Merci pour votre attention <3} + \vspace{20px} + + \normalsize + Pour me contacter : \emph{jan@asgt.fr} + + Pour suivre mes travaux : \emph{jaalmoes.com} + \end{minipage} +\end{frame} +} @@ -1,3 +1,21 @@ + +{ + \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} +\begin{frame} + %\vspace{70px} + \hspace{70px} + \begin{minipage}{250px} + \Large + \textcolor{accent}{ + Vers une protection multiple avec des données synthétiques. + } + + \vspace{10px} + \normalsize + Est-il possible de consilier protection contre l'AIA et contre la MIA ? + \end{minipage} +\end{frame} +} \begin{frame} \begin{figure} \centering diff --git a/tikz/chaussette/a.tex b/tikz/chaussette/a.tex index 595d196..a5ebc23 100644 --- a/tikz/chaussette/a.tex +++ b/tikz/chaussette/a.tex @@ -55,6 +55,7 @@ \draw[->] (x1) to (f1); \draw[->] (x2) to (f2); \pause -\node[anchor=west] () at (-2,-4.5) {Exactitude $=\frac{10}{14}(\approx 0.7)$}; -\node[anchor=west] () at (-2,-5) {$A(\bigcirc)=1$~$A(\bigtriangleup)=0$~$A(\times)=0$ Exactitude équilibrée $=\frac{1}{3}$}; +%\node[anchor=west] () at (-2,-4.5) {Exactitude $=\frac{10}{14}(\approx 0.7)$}; +\node[anchor=west] () at (-2,-5.5) {$\sim 70\%$ classification correct}; +%\node[anchor=west] () at (-2,-5) {$A(\bigcirc)=1$~$A(\bigtriangleup)=0$~$A(\times)=0$ Exactitude équilibrée $=\frac{1}{3}$}; \end{tikzpicture} |