path: root/ckoi.tex

\begin{frame}
    \frametitle{L'IA dans la culture}
    \begin{minipage}{270px}
    \includegraphics[width=\linewidth]{images/ckoi/bad_ai.png}
    \end{minipage}
    \begin{minipage}{120px}
    \footnotesize
    \begin{itemize}
        \item \textcolor{accent}{Antagoniste}
            \begin{itemize}
                \item \textit{2001: A space odyssey}
                \item \textit{Terminator}
                \item \textit{The Matrix}
            \end{itemize}
        \item \textcolor{accent}{Être social}
            \begin{itemize}
                \item \textit{Her}
                \item \textit{The bicentennial man}
            \end{itemize}
        \item \textcolor{accent}{Facteur de risques}
            \begin{itemize}
                \item \textit{Wargames}
                \item \textit{Avengers: Age of Ultron}
            \end{itemize}
    \end{itemize}
    \end{minipage}
\end{frame}
\begin{frame}
    \frametitle{L'IA dans les institutions}
    \begin{minipage}{270px}
    \includegraphics[width=0.7\linewidth]{images/ckoi/insti.png}

    \footnotesize
    Yoann Nabat et Elia Verdon, Tribune publiée dans Le Monde : \textit{La généralisation de la vidéosurveillance algorithmique fait peser des risques majeurs sur nos libertés}
    \vspace{10px}

    Rapport de la défenseure des droit:
    \textit{Algorithmes, systèmes d’IA et services publics : quels droits pour les usagers ? Points de vigilance et recommandations}
    \end{minipage}
    \begin{minipage}{120px}
    \footnotesize
    \begin{itemize}
        \item \textcolor{accent}{France}
            \begin{itemize}
            \item Vidéosurveillance algorithmique
            \item Médecine
            \end{itemize}
        \item \textcolor{accent}{Chine}
            \begin{itemize}
                \item Reconnaissance faciale
            \end{itemize}
            \textcolor{accent}{USA}
            \begin{itemize}
                \item Admission études supérieures
                \item Justice
                \item Prêts immobiliers
                \item Assurance
                \item Recrutement
            \end{itemize}
    \end{itemize}
    \end{minipage}
\end{frame}

\begin{frame}
    \frametitle{L'IA comme produit}
    \begin{minipage}{270px}
    \includegraphics[width=\linewidth]{images/ckoi/gafam.png}
    \end{minipage}
    \begin{minipage}{120px}
    \footnotesize
        \vspace{10px}
    \begin{itemize}
        \item \textcolor{accent}{Conversation}
            \begin{itemize}
                \item OpenAI 
                \item Mistral AI
            \end{itemize}
        \item \textcolor{accent}{Intégration}
            \begin{itemize}
                \item Apple Intelligence
                \item Google Gemini
                \item Meta AI
            \end{itemize}
        \item \textcolor{accent}{Programmation}
            \begin{itemize}
                \item Microsoft Copilot
            \end{itemize}
        \item \textcolor{accent}{Génération multimédia}
            \begin{itemize}
                \item Adobe Firefly
                \item Suno
                \item Hugging face
            \end{itemize}
        \item \textcolor{accent}{Transport}
            \begin{itemize}
                \item Tesla Autopilot
            \end{itemize}
    \end{itemize}
    \end{minipage}
\end{frame}

\begin{frame}
    \frametitle{Qu'est-ce que l'IA ?}
    \textcolor{principale}{Dictionnaire de l'Académie française :} \textquote{Ensemble de propriétés \emph{rapprochant du cerveau humain} certains systèmes informatiques très évolués}\pause

    \vspace{20px}

    \textcolor{principale}{Règlement (UE) 2024/1689 du Parlement Européen et du Conseil
    du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle :}
    \textquote{un système \emph{automatisé} qui est conçu
    pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une \emph{capacité
    d’adaptation} après son déploiement, et qui, pour des objectifs explicites ou implicites,
    déduit, \emph{à partir des entrées} qu’il reçoit, la manière de \emph{générer des sorties} tels que des
prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer
    les environnements physiques ou virtuels.}
\end{frame}

\begin{frame}
    \frametitle{Définition d'un système IA}
    \begin{figure}
        \centering
        \input{images/tikz/ckoi/function}
        \caption{Illustration de la définition de système IA par l'Union Européenne.}
        \label{fig:contexte-IAUE}
    \end{figure}
\end{frame}

%\begin{frame}
    %\frametitle{Intérêt du grand public pour l'IA}
    %\begin{figure}
        %\centering
        %\includegraphics[width=200px]{images/ckoi/enjeu/google_trend.pdf}
        %\caption{Intérêt pour la recherche \textquote{Intelligence artificielle} en France dans Google.}
    %\end{figure}
%\end{frame}

{
    \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/toc/background.pdf}}
\begin{frame}

    IA : enjeux, fonctionnement et modélisation de l'apprentissage automatique
    \vspace{10px}
    \pause

    Intersection entre confidentialité et équité
    \vspace{10px}
    \pause

    \emph{L'apprentissage ensembliste pour attaquer l'attribut sensible}
    \vspace{10px}
    \pause

    \emph{Comment protéger l'attribut sensible ?}
    \vspace{10px}
    \pause

    \emph{Vers une protection multiple avec des données synthétiques}
\end{frame}
}

{
    \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}}
\begin{frame}
    %\vspace{70px}
    \hspace{70px}
    \begin{minipage}{250px}
        \centering
        \Large
        \textcolor{accent}{
            Quels sont les enjeux de l'intelligence artificielle ?
        }
    \end{minipage}
\end{frame}
}

%\begin{frame}
    %\frametitle{Financement de la recherche en IA}
    %\vspace{10px}
    %\begin{figure}
        %\centering
        %\begin{subfigure}{0.3\linewidth}
            %\centering
            %\includegraphics[width=\linewidth]{images/ckoi/enjeu/anr/prc.pdf}
            %\caption{Proportion attribuée à des projets IA}
            %\label{subfig:contexte-anr-prop}
        %\end{subfigure}
        %\begin{subfigure}{0.3\linewidth}
            %\centering
            %\includegraphics[width=\linewidth]{images/ckoi/enjeu/anr/aide_ai.pdf}
            %\caption{Financement total attribué à des projets IA}
            %\label{subfig:contexte-anr-fin}
        %\end{subfigure}
        %\begin{subfigure}{0.3\linewidth}
            %\centering
            %\includegraphics[width=\linewidth]{images/ckoi/enjeu/anr/avg.pdf}
            %\caption{Financement moyen des projets IA}
            %\label{subfig:contexte-anr-moy}
        %\end{subfigure}
        %\caption{Financement de la recherche en IA par l'Agence Nationale de la Recherche (ANR).}
        %\label{fig:contexte-anr}
    %\end{figure}
%\end{frame}

\begin{frame}
    \frametitle{Enjeux de l'IA}
    \begin{minipage}{0.45\linewidth}
    \begin{itemize}
        \item \emph{Utilité}
            \begin{itemize}
                \item Prédictions imprécises
                \item Hallucinations
            \end{itemize}
        \item \emph{Équité}
            \begin{itemize}
                \item Discriminations
                \item Différence de traitement pour des sous-ensembles minoritaires
            \end{itemize}
        \item \emph{Confidentialité}
            \begin{itemize}
                \item Inférence de l'appartenance aux données d'entraînement
                \item Inférence d'un attribut sensible
            \end{itemize}
    \end{itemize}
    \end{minipage}
    \pause
    \begin{minipage}{0.45\linewidth}
    \begin{itemize}
        \item Transparence
            \begin{itemize}
                \item Explicabilité
                \item Boîtes noires en médecine
            \end{itemize}
        \item Sécurité
            \begin{itemize}
                \item Porte dérobée
                \item Empoisonnement de modèle
            \end{itemize}
        \item Consommation d’énergie
            \begin{itemize}
                \item Llama 2 = $CO_2$ de 59 français pendant 1 an\textsuperscript{1}
            \end{itemize}
        \item Mauvaise utilisation
            \begin{itemize}
                \item Manipulation politique avec des \textit{deep fake}
                \item Surveillance de masse
            \end{itemize}
    \end{itemize}
    \end{minipage}
    
    \vspace{10px}
    \tiny
    1. Touvron et al. Llama 2 : Open foundation and fine-tuned chat models.
    et statistiques.developpement-durable.gouv.fr/ lempreinte-carbone-de-la-france-de-1995-2022.
\end{frame}
{
    \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}}
\begin{frame}
    %\vspace{70px}
    \hspace{70px}
    \begin{minipage}{250px}
        \centering
        \Large
        \textcolor{accent}{
            Comment fonctionnent l'IA et l'apprentissage automatique ?
        }
    \end{minipage}
\end{frame}
}
\begin{frame}
    \frametitle{Apprentissage automatique : base de données}
\begin{minipage}{0.3\linewidth}
\includegraphics[width=50px]{images/img/0.png}

age : 36 sex : 1 race : 0

\includegraphics[width=50px]{images/img/4.png}

age : 4 sex : 1 race : 0

\includegraphics[width=50px]{images/img/7.png}

age : 65 sex : 0 race : 0
\end{minipage}
\begin{minipage}{0.3\linewidth}

\includegraphics[width=50px]{images/img/14.png}

age : 46 sex : 1 race : 0

\includegraphics[width=50px]{images/img/79.png}

age : 75 sex : 0 race : 1

\includegraphics[width=50px]{images/img/75.png}

age : 55 sex : 1 race : 1
\end{minipage}
\begin{minipage}{0.3\linewidth}

\includegraphics[width=50px]{images/img/128.png}

age : 44 sex : 0 race : 1

\includegraphics[width=50px]{images/img/134.png}

age : 13 sex : 0 race : 0

\includegraphics[width=50px]{images/img/155.png}

age : 85 sex : 1 race : 0
\end{minipage}

\end{frame}

%\begin{frame}
    %\frametitle{Apprentissage automatique : fonctionnement}
    %On se donne $(\Omega,\mathcal{T},P)$ un espace probabilisé.
    %Ainsi que 
    %$(E,\mathcal{E})$,
    %$(F,\mathcal{G})$ et 
    %$(G,\mathcal{G})$
    %des espaces mesurables.
    %\begin{itemize}
        %\item $X:(\Omega,\mathcal{T})\rightarrow (E,\mathcal{E})$ Les données d'entrée (l'image)
        %\item $Y:(\Omega,\mathcal{T})\rightarrow (F,\mathcal{F})$ Les étiquettes (l'âge)
        %\item $S:(\Omega,\mathcal{T})\rightarrow (G,\mathcal{G})$ L'attribut sensible (le genre ou la couleur de peau)
        %\item $f:(E,\mathcal{E})\rightarrow (F,\mathcal{F})$ Le modèle d'apprentissag automatique
    %\end{itemize}
    %\vspace{10px}
%
    %\pause
    %\emph{Entraînement : on cherche $f$ telle que $P_{f\circ X}$ soit proche de $P_{Y}$.}
    %\vspace{10px}
%
    %\pause
    %\emph{Evaluation : on a un point $x\in E$, on calcule $f(x)$.}
%
%\end{frame}

\begin{frame}
    \frametitle{Apprentissage automatique : fonctionnement}
    On se donne $(\Omega,\mathcal{T},P)$ un espace probabilisé.
    Ainsi que 
    $(E,\mathcal{E})$,
    $(F,\mathcal{G})$ et 
    $(G,\mathcal{G})$
    des espaces mesurables.
    \begin{itemize}
        \item  Les données d'entrée (l'image)
            \begin{itemize}
                \item \emph{$X$} prend ses valeurs dans \emph{$E$}
            \end{itemize}
        \item Les étiquettes (l'âge)
            \begin{itemize}
                \item \emph{$Y$} prend ses valeurs dans \emph{$F$}
            \end{itemize}
        \item L'attribut sensible (le genre ou la couleur de peau)
            \begin{itemize}
                \item \emph{$S$} prend ses valeurs dans \emph{$G$}
            \end{itemize}
        \item $f:(E,\mathcal{E})\rightarrow (F,\mathcal{F})$ Le modèle d'apprentissage automatique
    \end{itemize}
    \vspace{10px}

    \pause
    \emph{Entraînement : on cherche $f$ telle que $P_{f\circ X}$ soit proche de $P_{Y}$.}
    \vspace{10px}

    \pause
    \emph{Evaluation : on a un point $x\in E$, on calcule $f(x)$.}
\end{frame}
{
    \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}}
\begin{frame}
    %\vspace{70px}
    \hspace{70px}
    \begin{minipage}{250px}
        \centering
        \Large
        \textcolor{accent}{
            Quels sont les liens entre équité et confidentialité ?
        }

        \normalsize
        \vspace{20px}
        Positionnement de mes travaux dans l'état de l'art
    \end{minipage}
\end{frame}
}

%\begin{frame}
    %\frametitle{Confidentialité : inférence de l'appartenance (MIA)}
    %\centering
    %\input{tikz/attack_mia}
%\end{frame}
%
%\begin{frame}
    %\frametitle{Confidentialité : inférence d'un attribut sensible (AIA)}
    %\centering
    %\input{tikz/attack}
%\end{frame}
\begin{frame}
    \frametitle{Deux aspects de la confidentialité}
    \begin{minipage}[t]{0.45\linewidth}
        \centering
        \input{tikz/attack_mia}
        Inférence de l'appartenance aux données d'entraînement (MIA)
    \end{minipage}
    \hspace{10px}
    \begin{minipage}[t]{0.45\linewidth}
        \centering
        \input{tikz/attack}
        Inférence d'un attribut sensible (AIA)
    \end{minipage}
\end{frame}

\begin{frame}
    \frametitle{Imposer l'équité}
    \emph{L'algorithme d'entraînement peut être modifié pour imposer l'équité au modèle final.}
    \begin{itemize}
        \item \textit{FairGrad: Fairness Aware Gradient Descent}, Gaurav Maheshwari and Michaël Perrot, 2022.
        \item \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.
        \item 
             \textit{A reductions approach to fair classification.}
             Agarwal, A. and  Beygelzimer, A. and Dudík, M. and Langford, J. and Wallach, H., 2018
        %\item \textit{Deep Learning with Differential Privacy},
        %     Martín Abadi and Andy Chu and Ian Goodfellow, 2016.
    \end{itemize}
\end{frame}

\begin{frame}
    \frametitle{Intersection entre confidentialité et équité}
    \begin{itemize}
        \item  \emph{Il y a un compromis à faire entre équité et MIA.}
            \begin{itemize}
                \item \textit{On the Privacy Risks of Algorithmic Fairness},
                Hongyan Chang and Reza Shokri, 2021.
                \item \textit{Differential Privacy Has Disparate Impact on Model Accuracy}, Eugene Bagdasaryan and Cornell Tech and Omid Poursaeed and Cornell Tech and Vitaly Shmatikov, 2019.
            \end{itemize}
        \pause
        \item \emph{L'équité et l'AIA présentent des similarités.}
            \begin{itemize}
                \item \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.
            \end{itemize}
    \end{itemize}
\end{frame}

\begin{frame}
    \frametitle{Intuition}
    \begin{figure}
        \begin{subfigure}{0.4\textwidth}
            \includegraphics[width=150px]{images/figures/before.pdf}
            \caption{Avant rééquilibrage adverse\textsuperscript{1}}
        \end{subfigure}
        \begin{subfigure}{0.4\textwidth}
            \includegraphics[width=150px]{images/figures/after.pdf}
            \caption{Après rééquilibrage adverse}
        \end{subfigure}
    \end{figure}
    \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018.

    \vspace{50px} 
    \footnotesize
    \textsuperscript{1}\textit{Adversarial debiasing}
\end{frame}

\begin{frame}
    \frametitle{Positionnement}
    \centering
    \input{images/tikz/ckoi/pos2}
\end{frame}