\begin{frame} \frametitle{L'IA dans la culture} \begin{minipage}{270px} \includegraphics[width=\linewidth]{images/ckoi/bad_ai.png} \end{minipage} \begin{minipage}{120px} \footnotesize \begin{itemize} \item \textcolor{accent}{Antagoniste} \begin{itemize} \item \textit{2001: A space odissey} \item \textit{Terminator} \item \textit{The Matrix} \end{itemize} \item \textcolor{accent}{Être social} \begin{itemize} \item \textit{Her} \item \textit{The bicentennial man} \end{itemize} \item \textcolor{accent}{Facteur de risques} \begin{itemize} \item \textit{Wargames} \item \textit{Avengers: Age of Ultron} \end{itemize} \end{itemize} \end{minipage} \end{frame} \begin{frame} \frametitle{L'IA dans les institutions} \begin{minipage}{270px} \includegraphics[width=\linewidth]{images/ckoi/insti.png} \end{minipage} \begin{minipage}{120px} \footnotesize \begin{itemize} \item \textcolor{accent}{France} \begin{itemize} \item Vidéosurveillance algorithmique \item Médecine \end{itemize} \item \textcolor{accent}{Chine} \begin{itemize} \item Reconnaissance faciale \end{itemize} \textcolor{accent}{USA} \begin{itemize} \item Admission études supérieures \item Justice \item Prêts immobiliers \item Assurance \item Recrutement \end{itemize} \end{itemize} \end{minipage} \end{frame} \begin{frame} \frametitle{L'IA comme produit} \begin{minipage}{270px} \includegraphics[width=\linewidth]{images/ckoi/gafam.png} \end{minipage} \begin{minipage}{120px} \footnotesize \vspace{10px} \begin{itemize} \item \textcolor{accent}{Conversation} \begin{itemize} \item OpenAI \item Mistral AI \end{itemize} \item \textcolor{accent}{Intégration} \begin{itemize} \item Apple Intelligence \item Google Gemini \item Meta AI \end{itemize} \item \textcolor{accent}{Programmation} \begin{itemize} \item Microsoft Copilot \end{itemize} \item \textcolor{accent}{Génération multimédia} \begin{itemize} \item Adobe Firefly \item Stable diffusion \item Hugging face \end{itemize} \item \textcolor{accent}{Transport} \begin{itemize} \item Tesla Autopilot \end{itemize} \end{itemize} \end{minipage} \end{frame} \begin{frame} \frametitle{Qu'est-ce que l'IA ?} \textcolor{principale}{Dictionnaire de l'Académie française :} \textquote{Ensemble de propriétés \emph{rapprochant du cerveau humain} certains systèmes informatiques très évolués}\pause \vspace{20px} \textcolor{principale}{Règlement (UE) 2024/1689 du Parlement Européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle :} \textquote{un système \emph{automatisé} qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une \emph{capacité d’adaptation} après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, \emph{à partir des entrées} qu’il reçoit, la manière de \emph{générer des sorties} tels que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.} \end{frame} \begin{frame} \frametitle{Définition d'un système IA} \begin{figure} \centering \input{images/tikz/ckoi/function} \caption{Illustration de la définition de système IA par l'Union Européenne.} \label{fig:contexte-IAUE} \end{figure} \end{frame} %\begin{frame} %\frametitle{Intérêt du grand public pour l'IA} %\begin{figure} %\centering %\includegraphics[width=200px]{images/ckoi/enjeu/google_trend.pdf} %\caption{Intérêt pour la recherche \textquote{Intelligence artificielle} en France dans Google.} %\end{figure} %\end{frame} { \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/toc/background.pdf}} \begin{frame} IA : Enjeux, Fonctionnement et modélisation de l'aprentissage automatique \vspace{10px} \pause Intersection entre confidentialité et équité \vspace{10px} \pause \emph{L'apprentissage ensembliste pour attaquer l'attribut sensible} \vspace{10px} \pause \emph{Comment protéger l'attribut sensible ?} \vspace{10px} \pause \emph{Vers une protection multiple avec des données synthétiques} \end{frame} } { \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} \begin{frame} %\vspace{70px} \hspace{70px} \begin{minipage}{250px} \Large \textcolor{accent}{ Quels sont les enjeux de l'intelligence artificielle ? } \end{minipage} \end{frame} } \begin{frame} \frametitle{Financement de la recherche en IA} \vspace{10px} \begin{figure} \centering \begin{subfigure}{0.3\linewidth} \centering \includegraphics[width=\linewidth]{images/ckoi/enjeu/anr/prc.pdf} \caption{Proportion attribuée à des projets IA} \label{subfig:contexte-anr-prop} \end{subfigure} \begin{subfigure}{0.3\linewidth} \centering \includegraphics[width=\linewidth]{images/ckoi/enjeu/anr/aide_ai.pdf} \caption{Financement total attribué à des projets IA} \label{subfig:contexte-anr-fin} \end{subfigure} \begin{subfigure}{0.3\linewidth} \centering \includegraphics[width=\linewidth]{images/ckoi/enjeu/anr/avg.pdf} \caption{Financement moyen des projets IA} \label{subfig:contexte-anr-moy} \end{subfigure} \caption{Financement de la recherche en IA par l'Agence Nationale de la Recherche (ANR).} \label{fig:contexte-anr} \end{figure} \end{frame} \begin{frame} \frametitle{Enjeux de l'IA} \begin{itemize} \item \emph{Utilité} \begin{itemize} \item Prédictions imprécises. \item Hallucinations. \end{itemize} \pause \item \emph{Équité} \begin{itemize} \item Discriminations. \item Différence de traitement pour des sous-ensemble minoritaires. \end{itemize} \pause \item \emph{Transparence} \begin{itemize} \item Explicabilité. \item Boîtes noires en médecine. \end{itemize} \end{itemize} \end{frame} \begin{frame} \frametitle{Enjeux de l'IA} \begin{itemize} \item \emph{Confidentialité} \begin{itemize} \item Inférence de l'appartenance au donnée d'netraînement. \item Inférence de l'attribue sensible. \end{itemize} \pause \item \emph{Sécurité} \begin{itemize} \item Porte dérobée. \item Empoisonement de model. \end{itemize} \pause \item \emph{Consommation d’énergie} \begin{itemize} \item Llama 2 = $CO_2$ de 59 français pendant 1 an. \end{itemize} \pause \item \emph{Mauvaise utilisation} \begin{itemize} \item Manipulation politique avec des \textit{deep fake}. \item Surveillance de masse. \end{itemize} \end{itemize} \end{frame} { \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} \begin{frame} %\vspace{70px} \hspace{70px} \begin{minipage}{250px} \Large \textcolor{accent}{ Comment fonctionne l'IA et l'aprentissage automatique ? } \end{minipage} \end{frame} } \begin{frame} \frametitle{Apprentissage automatique : Base de donnée} \begin{minipage}{0.3\linewidth} \includegraphics[width=50px]{images/img/0.png} age : 36 sex : 1 race : 0 \includegraphics[width=50px]{images/img/4.png} age : 4 sex : 1 race : 0 \includegraphics[width=50px]{images/img/7.png} age : 65 sex : 0 race : 0 \end{minipage} \begin{minipage}{0.3\linewidth} \includegraphics[width=50px]{images/img/14.png} age : 46 sex : 1 race : 0 \includegraphics[width=50px]{images/img/79.png} age : 75 sex : 0 race : 1 \includegraphics[width=50px]{images/img/75.png} age : 55 sex : 1 race : 1 \end{minipage} \begin{minipage}{0.3\linewidth} \includegraphics[width=50px]{images/img/128.png} age : 44 sex : 0 race : 1 \includegraphics[width=50px]{images/img/134.png} age : 13 sex : 0 race : 0 \includegraphics[width=50px]{images/img/155.png} age : 85 sex : 1 race : 0 \end{minipage} \end{frame} \begin{frame} \frametitle{Apprentissage automatique : fonctionement} On se donne $(\Omega,\mathcal{T},P)$ un espace probabilisé. Ainsi que $(E,\mathcal{E})$, $(F,\mathcal{G})$ et $(G,\mathcal{G})$ des espaces mesurables. \begin{itemize} \item $X:(\Omega,\mathcal{T})\rightarrow (E,\mathcal{E})$ Les données d'entrée (l'image) \item $Y:(\Omega,\mathcal{T})\rightarrow (F,\mathcal{F})$ Les étiquettes (l'age) \item $S:(\Omega,\mathcal{T})\rightarrow (G,\mathcal{G})$ L'attribut sensible (le genre ou la couleur de peau) \item $f:(E,\mathcal{E})\rightarrow (F,\mathcal{F})$ Le modèle d'apprentissag automatique \end{itemize} \vspace{10px} \pause \emph{Entraînement : on cherche $f$ telle que $P_{f\circ X}$ soit proche de $P_{Y}$.} \vspace{10px} \pause \emph{Evaluation : on a un point $x\in E$, on calcul $f(x)$.} \end{frame} { \usebackgroundtemplate{\includegraphics[width=\paperwidth]{images/background/card/background.pdf}} \begin{frame} %\vspace{70px} \hspace{70px} \begin{minipage}{250px} \Large \textcolor{accent}{ Quels sont les liens entre équité et confidentialité ? } \end{minipage} \end{frame} } \begin{frame} \frametitle{Confidentialité : Inférence de l'appartenance (MIA)} \centering \input{tikz/attack_mia} \end{frame} \begin{frame} \frametitle{Confidentialité : Inférence d'un attribut sensible (AIA)} \centering \input{tikz/attack} \end{frame} \begin{frame} \frametitle{Imposer l'équitée} \emph{L'algorithme d'entraînement peut être modifié pour imposer l'équitée au modèle finale.} \begin{itemize} \item \textit{FairGrad: Fairness Aware Gradient Descent}, Gaurav Maheshwari and Michaël Perrot, 2022. \item \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018. \item \textit{Deep Learning with Differential Privacy}, Martín Abadi and Andy Chu and Ian Goodfellow, 2016. \end{itemize} \end{frame} \begin{frame} \frametitle{Intersection entre confidentialité et equitée} \begin{itemize} \item \emph{Il y a un compromis à faire entre équitée et MIA.} \begin{itemize} \item \textit{On the Privacy Risks of Algorithmic Fairness}, Hongyan Chang and Reza Shokri, 2021. \item \textit{Differential Privacy Has Disparate Impact on Model Accuracy}, Eugene Bagdasaryan and Cornell Tech and Omid Poursaeed and Cornell Tech and Vitaly Shmatikov, 2019. \end{itemize} \pause \item \emph{L'équitée et l'AIA présentent des similariées.} \begin{itemize} \item \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018. \end{itemize} \end{itemize} \end{frame} \begin{frame} \frametitle{Intuition} \begin{figure} \begin{subfigure}{0.4\textwidth} \includegraphics[width=150px]{images/figures/before.pdf} \caption{Avant rééquilibrage adverse\textsuperscript{1}} \end{subfigure} \begin{subfigure}{0.4\textwidth} \includegraphics[width=150px]{images/figures/after.pdf} \caption{Après rééquilibrage adverse} \end{subfigure} \end{figure} \textit{Mitigating Unwanted Biases with Adversarial Learning}, Brian Hu Zhang and Blake Lemoine and Margaret Mitchell, 2018. \vspace{50px} \footnotesize \textsuperscript{1}\textit{Adversarial debiasing} \end{frame} \begin{frame} \frametitle{Positionement} \centering \input{images/tikz/ckoi/pos} \end{frame}