summaryrefslogtreecommitdiff
diff options
context:
space:
mode:
authorJan Aalmoes <jan.aalmoes@inria.fr>2024-08-16 13:02:12 +0200
committerJan Aalmoes <jan.aalmoes@inria.fr>2024-08-16 13:02:12 +0200
commitd2fdc848616e2481d4e64be55fb7500d331a8b1c (patch)
treeee38667613fa1c32110371a4cae401a4dd84c995
parentd339a5f0128d753e26ccf5750f0c4e1049c2f5ef (diff)
Ajout de la partir instutionel dans l'intro.
-rw-r--r--contexte/ckoi.tex117
-rw-r--r--contexte/enjeux.tex5
-rw-r--r--main.tex7
3 files changed, 111 insertions, 18 deletions
diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex
index db3cd1e..1ee19d2 100644
--- a/contexte/ckoi.tex
+++ b/contexte/ckoi.tex
@@ -48,23 +48,41 @@ Par exemple Pl@ntNet~\cite{barthelemy:hal-01837361,plantnet} permet avec un simp
%Collective
\subsection{A l'échelle institutionelle}
\label{sec:contexte-insti}
-L'echelle indiviuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionel et gouvernemental est ancré plus profondément.
+L'echelle indiviuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionel est ancré plus profondément.
+Contrairement aux précédentes applications que nous avons montré, nous parlons ici de technologies pour les quelles souvant l'utilisateur n'a pas le choix quand à leur utilisation.
Cela est particulièrement vraie dans les régimes autoritaires, comme la Chine, où l'IA est utilisé pour controler et opprimer la population nottamant grace à la reconaissance faciale~\cite{beraja2023ai}.
De plus Beraja et al. montre que les choix politiques de Pékin, lors des soulevements populaires, entraînent un dévelopement accéléré des technologie de reconaissance faciale~\cite{beraja2023ai}.
Beraja et al. explique aussi que ces technologies peuvent ensuite quitter la sphère politique et devenir des produits commerciaux disponibles au grand publique.
%Etats Unis
%Justice prédictive
-Aux Etats Unis l'IA est utilisé, nottamant dans la justice et dans l'éducation.
-Concernant la justice,
-%Position du crime
-%https://www.soundthinking.com/
-%\cite{brayne2015predictive}
+Aux Etats Unis l'IA est utilisé nottamant dans le système judiciaire.
+En utilisant des bases de données des crimes, les polices de plusieurs villes comme Los Angeles, New York ou Miami utilisent l'IA pour prédir où vont se produire les futures crimes.\cite{brayne2015predictive}
+Ces systeme peuvent aussi être complété par de la serveillance et prédiction de coup de feu~\cite{soundthinking}.
+De plus certain juges peuvent utiliser des \textit{Risk assessement instrument} (RAI), des outils qui permettent de prédire, à partir de fait sur la vie d'une personne jugé coupable, si elle a un fort risque d'être récidiviste ou non~\cite{zhiyuan2020limits}.
+Des suites de logiciels permettent d'integrer RAI, gestion administrative de l'affaire, enquête, prédiction de violation de libertée conditionelles, etc.~\cite{equivant}
+
+%Hopitaux
+L'IA commence aussi à être utilisé pour des applications médicales avec la promesse de faciliter let d'accelerer la prise en charge des patients.
+
+Les technique de reconaissance d'image sont utilisé pour aider le diagnostique du cancer de la peau~\cite{dildar2021skin}.
+Les dermatologues ont à leur disposition des appareil photos spécialement concu pour que l'image obtenu des grains de beauté de leur patients soit la plus adapté possible à la détéction de cancer.
+Cela rend le diagnostique plus fiable que l'utilisation de smartphone avec une application~\cite{applicancer}.
+La rétinopathie diabétique est une maladie qui peut causer la cécité chez les personnes diabétiques.
+ La détéction de cette maladie à partire de photographie de la rétine est un autre domaine d'application de l'IA qui produit des résultat satisfaisant pour une utilisation clinique~\cite{gulshan2016development}.
+Cependant, utiliser l'IA pour prendre des décisions critiques pour les patients peut diminuer la qualitée de la relation entre médecin et patient, creer une dépendence nefaste de médecin à l'IA, tromper les patients dans des choix de fin de vie comme celui de prioriser la qualitée qe vie à la quantitée de vie~\cite{quinn2022three}.
+Nous aborderons ce sujet plus en détail dans la Section~\ref{sec:contexte-expl}.
+
+%Recrutement
+Nous observons aussi un intêret grandissant de la part de grande entreprises, notament de la liste~\textit{Fortune 500}~\cite{fortune500}, pour les technologie d'automatisation de la procédure de recrutement~\cite{ore2022opportunities}.
+En effet, face à l'affluence de candidature pour un poste publié sur internet, le charge de travaille pour les services de ressources humaines augmente drastiquement.
+Ainsi, pour automatiser la selection de candidature raisonables et proche de la demande de l'employeur, divers produits proposent l'utilisation d'IA ~\cite{ore2022opportunities}.
+Le candidat, étant en position de faiblesse fasse à l'employeur, n'a pas le choix que de se soumeter à cette selection automatisée pour posutler.
+Reduire le facteur humain peut aider à atteindre des objectif de parité femme homme ou augmenter l'embauche des personnes en situation de handicape en retirant certain biais~\cite{al2021role}.
+Cependant cette idée ne fait pas consencus car l'IA à une fortetendence à reprouire les biais historiques~\cite{segal2021fairnesseyesdatacertifying}.
+Ces biais font partie des enjeux majeurs de l'IA que nous traiterons en Sections~\ref{sec:contexte-eq} et~\ref{sec:aia}.
-%Recidivism
-%France hopitaux
-Collaboration HCL/INRIA
\subsection{Définition(s)}
Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents.
@@ -73,6 +91,9 @@ Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté d
Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconaissance de motifs textuels, est IA ?
Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA?
+L'Académie Francaise définit l'IA comme un
+\textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}.
+Précision quelles propriétés du cerveau humain se raprochent de ces système informatiques.
L'origine de l'expression \textit{Artificiale intelligence} peut être retracé jusqu'à l'Ecole d'été de Dartmouth\footnote{\textit{Dartmouth summer research project}.
Dartmouth est une université de l'état de New Hampshire aux USA} de 1956~\cite{banIA}.
McCarthy et al. y ont introduit un nouveau domaine de recherche fondamentale \textquote{basée sur la conjecture que tous les aspects de l'apprentissage ou toute autre modalité de l'intelligence peut en principe être si précisement décrite qu'une machine peut être construite pour la simuler}~\cite{dartmouth}
@@ -80,14 +101,16 @@ McCarthy et al. y ont introduit un nouveau domaine de recherche fondamentale \te
The study is proceeded on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it}.}
La caractéristique de l'IA la plus fondamentale est donc de simuler l'intelligence avec une machine.
+Apportons quelques précision sur l'intelligence.
Le dictionaire de l'Académie francaise~\cite{dico-int} défini l'intelligence comme la \textquote{
Faculté de comprendre, de concevoir, de connaître, et notamment faculté de discerner ou d’établir des rapports entre des faits, des idées ou des formes pour parvenir à la connaissance}.
Cette définition a deux aspects.
Le premier est une liste de tâches techniques qui correspond bien à une liste de logiciels comme nous l'avons vus au début de cette section.
+Cependant cette énumération est une définition qui est aussi peu satisfaisant que ne l'est celle de la science faite par Théétète au debut de son entretien avec Socrate~\cite{theetete}.
Le second aspect sur la connaissance est plus enigmatique et correspond à un but avec \textquote{pour parvenir}.
Nous verons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voir plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}.
Cette personification de la machine traduit bien l'aspect décrit à Dartmouth de simulation de caractéristiques humaines.
-\textbf{A faire : Voltaire + Bourdieu sur la conaissance}.
+%\textbf{A faire : Voltaire + Bourdieu sur la conaissance}.
Comme l'explique A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot \textquote{intelligence} en francais ne comprend pas la signification supplémentaire d'\textquote{information} que \textquote{\textit{intelligence}} a en anglais.
Le traitement de l'information, sa compression, ses réprésentations est pourtant une facette primordiale de l'IA qui est mis en avant par Claude Shannon dans la descrption de sa contribution à Dartmouth~\cite{dartmouth}.
@@ -95,11 +118,12 @@ Le traitement de l'information, sa compression, ses réprésentations est pourta
Le mot \textquote{artificiel} quand-à lui signifie \textquote{Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement}~\cite{dico-art}.
-Intelligence aritificielle : \textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}.
-Strong AI
+%Force de l'IA
+John R. Searle propose de différencier l'IA faible de l'IA forte~\cite{searle1980minds}.
+L'IA faible est un \textquote{outil très puissant} qui par exemple permet de tester un hypothèse de manière rigoureuse.
+L'IA forte, en contre partie, \textquote{n'est plus qu'un simple outil de l'étude de l'esprit; plutot, le programme approprié \textbf{est} l'esprit, dans le sens que l'ordinateur, ayant le bont programme peut litteralement être demandé de comprendre et d'avoir d'autres états cognitifs.}
-Weak AI
AGI
@@ -117,6 +141,14 @@ C'est \textquote{un système automatisé qui est conçu pour fonctionner à diff
preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit,
à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des
recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.}
+Cette définition est est très éloignée de celle de l'Académie Francaise et renvoi simplement l'IA à un algorithme qui prend en trée les \textquote{entrées} de la définiton UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}.
+Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}.
+\begin{figure}
+ \centering
+ \input{contexte/figure/tikz/function}
+ \caption{Illustration de la définition de système IA par l'Union Européenne.}
+ \label{fig:contexte-IAUE}
+\end{figure}
\subsection{Philosophie et culture}
\label{sec:contexte-phi}
@@ -125,7 +157,7 @@ Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant
Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance.
Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours.
-Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, les fameuses trois lois de la robotique :
+Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, introduit les fameuses trois lois de la robotique~\cite{assimovIrobot}:
\textquote{
\begin{enumerate}
\item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
@@ -133,18 +165,71 @@ Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, les fameuses
\item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.
\end{enumerate}
}
-\footnote{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}
+\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}}
+
+Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique.
+Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée.
+Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}.
+Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique.
+De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}.
+De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images.
+Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}.
+
+Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc.
+Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}.
+Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé.
+C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}.
+Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}.
+
+
+%Differences humain machine
+%Turing test
+
+%Juridique
+En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}.
+C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}.
+Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}.
+C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain.
+
+Penchons nous donc du coté de la conscience.
+Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant.
+Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ?
+\begin{figure}
+ \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png}
+ \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.}
+ \label{fig:contexte-penses}
+\end{figure}
+%IA = bullshit
Experience de la Chambre Chinoise~\cite{searle1980minds}.
+%Peur de l'IA
Basilique de Roko, Paris Pascalien~\cite{Singler_2018}
+\textit{The Bicentennial Man}~\cite{bicentenaire} (livre).
+\textquote{
+'Comment peuvent-ils avoir peur des robots ?'
+'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.'
+}
+\footnote{
+'How can they fear robots?'
+'It is a disease of mankind, one of which it is not yet cured.'
+}
Alignement de l'IA
Convergence de l'IA
\textit{The Matrix}~\cite{matrix}.
-\textit{The Bicentennial Man}~\cite{bicentenaire} (livre).
+\textit{2001: A Space Odyssey}~\cite{2001odyssey}.
\textit{The Terminator}~\cite{terminator}.
+Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains.
+Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle.
+\textit{Defense network computer, trusted to know it all. They said it was smart.}
\textit{Avengers: Age of Ultron}~\cite{avenger}.
+\begin{figure}
+ \centering
+ \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png}
+ \caption{L'IA : un grand méchant. WarGames~\cite{wargames}. Avengers: Age of Ultron~\cite{avenger}. The Matrix~\cite{matrix}. The Terminator~\cite{terminator}. Futurama~\cite{futurama}. 2001: A space Odyssey~\cite{2001odyssey}}
+ \label{fig:contexte-badai}
+\end{figure}
diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex
index c82aed0..6ac661e 100644
--- a/contexte/enjeux.tex
+++ b/contexte/enjeux.tex
@@ -20,6 +20,7 @@ L'expressiosn de \textquote{remplire suffisamant bien la tâche} à toute son im
Il revient donc aux personnes qui crée ces modèles de déterminer, en fonction du contexte d'application, l'erreur maximal que peut atteindre le modèle pour qu'il soit considéré comme viable et utilisable en production.
\subsection{Equitée}
+\label{sec:contexte-eq}
L'élborations de modèles est soumis à différent bias qui influencent son fonctionement~\cite{}.
C'est à dire que le modèle se compre différamant pour différents sous-ensembles de la population.
Cela peut donner lieu à des discriminations notament dans le modèle de décision qui influence directment la vie de persones.
@@ -27,7 +28,11 @@ La justice prédictive tel qu'utilisé aux Etats Unis en est un bon exemple.
Dans ce cas, un modèle est utilisé pour prédire si un individu jugé coupable à un forte probabilité d'être récidiviste au non.
En utilisant de tel modèle nous mesurons que les afro-américains (\textit{blacks}) son plus souvent predit comme ayant un forte chance d'être récidiviste que le reste de la population (\textit{whites})~\cite{}.
+Recrutement : l'IA peut rentirer les bias humains~\cite{al2021role}.
+
\subsection{Explicabilitée}
+\label{sec:contexte-expl}
+Transparance dans la médecine, Boite noire, ~\cite{quinn2022three}.
\subsection{Confidentialitée}
D'une manière génèrale, l'inteligence artificielle brasse une quantité astronomique de données~\cite{}.
diff --git a/main.tex b/main.tex
index fef6397..9c63bd9 100644
--- a/main.tex
+++ b/main.tex
@@ -24,6 +24,7 @@ breaklines=true
\usetikzlibrary {shapes.geometric}
\usetikzlibrary {shapes.symbols}
+\usetikzlibrary{decorations.pathreplacing}
%\input{aia/00macros}
\input{theorem}
@@ -35,7 +36,7 @@ breaklines=true
\begin{titlepage}
\begin{center}
\Huge
- \textbf{L'intelligence artificielle pour une bêtise bien réel}
+ \textbf{L'intelligence artificielle, un sujet de thèse merdique}
\vspace{3cm}
@@ -43,7 +44,7 @@ breaklines=true
\textbf{Jan Aalmoes}
\large
- Sous la supervison de \\
+ Sous la "supervison" de \\
Antoine Boutet et Mathieu Cunche
\vfill
@@ -63,6 +64,7 @@ breaklines=true
\section{Les stratégies IA}
\input{contexte/strat}
\section{Enjeux}
+ \label{sec:contexte-enjeu}
\input{contexte/enjeux}
\section{Bases legales}
\input{contexte/legal}
@@ -76,6 +78,7 @@ breaklines=true
\chapter{Attaque d'inférence d'attribut sensible}
+\label{sec:aia}.
\input{aia/main}
\section{Regression}