From a63a9f1c6c4242531597886b438de6181c57ac8a Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Mon, 5 Aug 2024 11:26:23 +0200 Subject: =?UTF-8?q?d=C3=A9finition=20dans=20ckoi?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- contexte/ckoi.tex | 3 ++- 1 file changed, 2 insertions(+), 1 deletion(-) (limited to 'contexte') diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index 66340f4..e2a6107 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -65,5 +65,6 @@ Concernant la justice, Collaboration HCL/INRIA \subsection{Définition(s)} - +Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchnique différentes. +Cela rend sont utilisation assez imprecise comme le précise Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}. -- cgit v1.2.3 From d339a5f0128d753e26ccf5750f0c4e1049c2f5ef Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Wed, 7 Aug 2024 14:05:43 +0200 Subject: =?UTF-8?q?Ajout=20aux=20dej.=20Modification=20de=20l'organisation?= =?UTF-8?q?=20des=20fichier=20pour=20plus=20de=20lisibilit=C3=A9=20dans=20?= =?UTF-8?q?le=20main?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- contexte/ckoi.tex | 84 ++++++++++++++++++++++++++++++++++++++++++++++++++++-- contexte/legal.tex | 5 ++++ contexte/strat.tex | 6 ++-- 3 files changed, 89 insertions(+), 6 deletions(-) (limited to 'contexte') diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index e2a6107..db3cd1e 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -7,6 +7,7 @@ Ainsi l'IA est présente aussi bien à l'échelle de la population qui à accès %Individuelle \subsection{A l'échelle individuelle} +\label{sec:contexte-indi} L'IA promet de faciliter et d'accelerer un grand nombre de tâches dans de multiples domaines : de l'édition d'image sur son téléphone portable~\cite{} jusqu'aux diagnostiques médicaux~\cite{}. Les géants du numérique poussent de plus en plus l'IA dans leurs produits ce qui rend son utilisation simple d'accès. La figure~\ref{fig:contexte-gafam} montre comment les GAFAM (Google Facebook Amazon Microsoft) mettent en avant des outils grand publiques. @@ -46,6 +47,7 @@ Par exemple Pl@ntNet~\cite{barthelemy:hal-01837361,plantnet} permet avec un simp %Collective \subsection{A l'échelle institutionelle} +\label{sec:contexte-insti} L'echelle indiviuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionel et gouvernemental est ancré plus profondément. Cela est particulièrement vraie dans les régimes autoritaires, comme la Chine, où l'IA est utilisé pour controler et opprimer la population nottamant grace à la reconaissance faciale~\cite{beraja2023ai}. De plus Beraja et al. montre que les choix politiques de Pékin, lors des soulevements populaires, entraînent un dévelopement accéléré des technologie de reconaissance faciale~\cite{beraja2023ai}. @@ -65,6 +67,84 @@ Concernant la justice, Collaboration HCL/INRIA \subsection{Définition(s)} -Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchnique différentes. -Cela rend sont utilisation assez imprecise comme le précise Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}. +Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents. +De plus, dans les médias et dans le language de tous les jours, nous pouvons entendre~\cite{underscore} de expression comme : \textquote{Une nouvelle IA qui fait [..]}. +Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme \textquote{IA} ou \textquote{pas IA}. +Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconaissance de motifs textuels, est IA ? +Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA? + +L'origine de l'expression \textit{Artificiale intelligence} peut être retracé jusqu'à l'Ecole d'été de Dartmouth\footnote{\textit{Dartmouth summer research project}. +Dartmouth est une université de l'état de New Hampshire aux USA} de 1956~\cite{banIA}. +McCarthy et al. y ont introduit un nouveau domaine de recherche fondamentale \textquote{basée sur la conjecture que tous les aspects de l'apprentissage ou toute autre modalité de l'intelligence peut en principe être si précisement décrite qu'une machine peut être construite pour la simuler}~\cite{dartmouth} +\footnote{\textit{ + The study is proceeded on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it}.} +La caractéristique de l'IA la plus fondamentale est donc de simuler l'intelligence avec une machine. + +Le dictionaire de l'Académie francaise~\cite{dico-int} défini l'intelligence comme la \textquote{ +Faculté de comprendre, de concevoir, de connaître, et notamment faculté de discerner ou d’établir des rapports entre des faits, des idées ou des formes pour parvenir à la connaissance}. +Cette définition a deux aspects. +Le premier est une liste de tâches techniques qui correspond bien à une liste de logiciels comme nous l'avons vus au début de cette section. +Le second aspect sur la connaissance est plus enigmatique et correspond à un but avec \textquote{pour parvenir}. +Nous verons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voir plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}. +Cette personification de la machine traduit bien l'aspect décrit à Dartmouth de simulation de caractéristiques humaines. +\textbf{A faire : Voltaire + Bourdieu sur la conaissance}. + +Comme l'explique A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot \textquote{intelligence} en francais ne comprend pas la signification supplémentaire d'\textquote{information} que \textquote{\textit{intelligence}} a en anglais. +Le traitement de l'information, sa compression, ses réprésentations est pourtant une facette primordiale de l'IA qui est mis en avant par Claude Shannon dans la descrption de sa contribution à Dartmouth~\cite{dartmouth}. + + + +Le mot \textquote{artificiel} quand-à lui signifie \textquote{Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement}~\cite{dico-art}. +Intelligence aritificielle : \textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}. + +Strong AI + +Weak AI + +AGI + +Cette polyvalence du terme rend son utilisation assez imprecise comme l'écrit Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}. + +France culture Banissons IA~\cite{banIA}. + +L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil +du 13 juin 2024 +établissant des règles harmonisées concernant l’intelligence artificielle. +Nous reviendrons plus en détail dessus dans la Section~\ref{sec:contexte-legal}. +Pour le moment, regardons l'article 3: il s'agit d'une liste de définitions concernant l'IA. +Nous y trouvons la définition de (UE 2024/1689 3§1) : \textquote{système IA}. +C'est \textquote{un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire +preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, +à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des +recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.} + +\subsection{Philosophie et culture} +\label{sec:contexte-phi} +Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire et dans la philosophie. +Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots \textquote{Intelligence Artificiele} engendrent. + +Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. +Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. +Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, les fameuses trois lois de la robotique : +\textquote{ +\begin{enumerate} + \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; + \item La Seconde loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; + \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi. +\end{enumerate} +} +\footnote{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.} + +Experience de la Chambre Chinoise~\cite{searle1980minds}. + +Basilique de Roko, Paris Pascalien~\cite{Singler_2018} + +Alignement de l'IA + +Convergence de l'IA + +\textit{The Matrix}~\cite{matrix}. +\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). +\textit{The Terminator}~\cite{terminator}. +\textit{Avengers: Age of Ultron}~\cite{avenger}. diff --git a/contexte/legal.tex b/contexte/legal.tex index e390c68..7f47af4 100644 --- a/contexte/legal.tex +++ b/contexte/legal.tex @@ -1,3 +1,8 @@ + +L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil +du 13 juin 2024 +établissant des règles harmonisées concernant l’intelligence artificielle. + Pour mieux comprendre les enjeux autour des différents scénarios d'attaques, outre la recherche inhérente au comportement sociétal humain à se dissimuler et à ne montrer que ce qu'il souhaite montrer, penchons-nous du côté de la législation, des droits et des obligations qui entourent nos données. diff --git a/contexte/strat.tex b/contexte/strat.tex index bad1fa1..e8c7047 100644 --- a/contexte/strat.tex +++ b/contexte/strat.tex @@ -20,6 +20,7 @@ \label{fig:contexte-anr} \end{figure} +\subsection{Plance France 2023} Dans le cadre du plan France 2030~\cite{france2030}, la France a dévelopé une stratégie nationale de l'IA~\cite{stratfr}. Missions Villani. PEPER IA. @@ -33,7 +34,4 @@ AUtres appels. \label{fig:contexte-trend} \end{figure} -\subsection{Aspect juridique} -L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil -du 13 juin 2024 -établissant des règles harmonisées concernant l’intelligence artificielle. +\subsection{Attentes de l'IA} -- cgit v1.2.3 From d2fdc848616e2481d4e64be55fb7500d331a8b1c Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Fri, 16 Aug 2024 13:02:12 +0200 Subject: Ajout de la partir instutionel dans l'intro. --- contexte/ckoi.tex | 117 +++++++++++++++++++++++++++++++++++++++++++++------- contexte/enjeux.tex | 5 +++ 2 files changed, 106 insertions(+), 16 deletions(-) (limited to 'contexte') diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index db3cd1e..1ee19d2 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -48,23 +48,41 @@ Par exemple Pl@ntNet~\cite{barthelemy:hal-01837361,plantnet} permet avec un simp %Collective \subsection{A l'échelle institutionelle} \label{sec:contexte-insti} -L'echelle indiviuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionel et gouvernemental est ancré plus profondément. +L'echelle indiviuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionel est ancré plus profondément. +Contrairement aux précédentes applications que nous avons montré, nous parlons ici de technologies pour les quelles souvant l'utilisateur n'a pas le choix quand à leur utilisation. Cela est particulièrement vraie dans les régimes autoritaires, comme la Chine, où l'IA est utilisé pour controler et opprimer la population nottamant grace à la reconaissance faciale~\cite{beraja2023ai}. De plus Beraja et al. montre que les choix politiques de Pékin, lors des soulevements populaires, entraînent un dévelopement accéléré des technologie de reconaissance faciale~\cite{beraja2023ai}. Beraja et al. explique aussi que ces technologies peuvent ensuite quitter la sphère politique et devenir des produits commerciaux disponibles au grand publique. %Etats Unis %Justice prédictive -Aux Etats Unis l'IA est utilisé, nottamant dans la justice et dans l'éducation. -Concernant la justice, -%Position du crime -%https://www.soundthinking.com/ -%\cite{brayne2015predictive} +Aux Etats Unis l'IA est utilisé nottamant dans le système judiciaire. +En utilisant des bases de données des crimes, les polices de plusieurs villes comme Los Angeles, New York ou Miami utilisent l'IA pour prédir où vont se produire les futures crimes.\cite{brayne2015predictive} +Ces systeme peuvent aussi être complété par de la serveillance et prédiction de coup de feu~\cite{soundthinking}. +De plus certain juges peuvent utiliser des \textit{Risk assessement instrument} (RAI), des outils qui permettent de prédire, à partir de fait sur la vie d'une personne jugé coupable, si elle a un fort risque d'être récidiviste ou non~\cite{zhiyuan2020limits}. +Des suites de logiciels permettent d'integrer RAI, gestion administrative de l'affaire, enquête, prédiction de violation de libertée conditionelles, etc.~\cite{equivant} + +%Hopitaux +L'IA commence aussi à être utilisé pour des applications médicales avec la promesse de faciliter let d'accelerer la prise en charge des patients. + +Les technique de reconaissance d'image sont utilisé pour aider le diagnostique du cancer de la peau~\cite{dildar2021skin}. +Les dermatologues ont à leur disposition des appareil photos spécialement concu pour que l'image obtenu des grains de beauté de leur patients soit la plus adapté possible à la détéction de cancer. +Cela rend le diagnostique plus fiable que l'utilisation de smartphone avec une application~\cite{applicancer}. +La rétinopathie diabétique est une maladie qui peut causer la cécité chez les personnes diabétiques. + La détéction de cette maladie à partire de photographie de la rétine est un autre domaine d'application de l'IA qui produit des résultat satisfaisant pour une utilisation clinique~\cite{gulshan2016development}. +Cependant, utiliser l'IA pour prendre des décisions critiques pour les patients peut diminuer la qualitée de la relation entre médecin et patient, creer une dépendence nefaste de médecin à l'IA, tromper les patients dans des choix de fin de vie comme celui de prioriser la qualitée qe vie à la quantitée de vie~\cite{quinn2022three}. +Nous aborderons ce sujet plus en détail dans la Section~\ref{sec:contexte-expl}. + +%Recrutement +Nous observons aussi un intêret grandissant de la part de grande entreprises, notament de la liste~\textit{Fortune 500}~\cite{fortune500}, pour les technologie d'automatisation de la procédure de recrutement~\cite{ore2022opportunities}. +En effet, face à l'affluence de candidature pour un poste publié sur internet, le charge de travaille pour les services de ressources humaines augmente drastiquement. +Ainsi, pour automatiser la selection de candidature raisonables et proche de la demande de l'employeur, divers produits proposent l'utilisation d'IA ~\cite{ore2022opportunities}. +Le candidat, étant en position de faiblesse fasse à l'employeur, n'a pas le choix que de se soumeter à cette selection automatisée pour posutler. +Reduire le facteur humain peut aider à atteindre des objectif de parité femme homme ou augmenter l'embauche des personnes en situation de handicape en retirant certain biais~\cite{al2021role}. +Cependant cette idée ne fait pas consencus car l'IA à une fortetendence à reprouire les biais historiques~\cite{segal2021fairnesseyesdatacertifying}. +Ces biais font partie des enjeux majeurs de l'IA que nous traiterons en Sections~\ref{sec:contexte-eq} et~\ref{sec:aia}. -%Recidivism -%France hopitaux -Collaboration HCL/INRIA \subsection{Définition(s)} Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents. @@ -73,6 +91,9 @@ Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté d Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconaissance de motifs textuels, est IA ? Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA? +L'Académie Francaise définit l'IA comme un +\textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}. +Précision quelles propriétés du cerveau humain se raprochent de ces système informatiques. L'origine de l'expression \textit{Artificiale intelligence} peut être retracé jusqu'à l'Ecole d'été de Dartmouth\footnote{\textit{Dartmouth summer research project}. Dartmouth est une université de l'état de New Hampshire aux USA} de 1956~\cite{banIA}. McCarthy et al. y ont introduit un nouveau domaine de recherche fondamentale \textquote{basée sur la conjecture que tous les aspects de l'apprentissage ou toute autre modalité de l'intelligence peut en principe être si précisement décrite qu'une machine peut être construite pour la simuler}~\cite{dartmouth} @@ -80,14 +101,16 @@ McCarthy et al. y ont introduit un nouveau domaine de recherche fondamentale \te The study is proceeded on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it}.} La caractéristique de l'IA la plus fondamentale est donc de simuler l'intelligence avec une machine. +Apportons quelques précision sur l'intelligence. Le dictionaire de l'Académie francaise~\cite{dico-int} défini l'intelligence comme la \textquote{ Faculté de comprendre, de concevoir, de connaître, et notamment faculté de discerner ou d’établir des rapports entre des faits, des idées ou des formes pour parvenir à la connaissance}. Cette définition a deux aspects. Le premier est une liste de tâches techniques qui correspond bien à une liste de logiciels comme nous l'avons vus au début de cette section. +Cependant cette énumération est une définition qui est aussi peu satisfaisant que ne l'est celle de la science faite par Théétète au debut de son entretien avec Socrate~\cite{theetete}. Le second aspect sur la connaissance est plus enigmatique et correspond à un but avec \textquote{pour parvenir}. Nous verons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voir plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}. Cette personification de la machine traduit bien l'aspect décrit à Dartmouth de simulation de caractéristiques humaines. -\textbf{A faire : Voltaire + Bourdieu sur la conaissance}. +%\textbf{A faire : Voltaire + Bourdieu sur la conaissance}. Comme l'explique A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot \textquote{intelligence} en francais ne comprend pas la signification supplémentaire d'\textquote{information} que \textquote{\textit{intelligence}} a en anglais. Le traitement de l'information, sa compression, ses réprésentations est pourtant une facette primordiale de l'IA qui est mis en avant par Claude Shannon dans la descrption de sa contribution à Dartmouth~\cite{dartmouth}. @@ -95,11 +118,12 @@ Le traitement de l'information, sa compression, ses réprésentations est pourta Le mot \textquote{artificiel} quand-à lui signifie \textquote{Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement}~\cite{dico-art}. -Intelligence aritificielle : \textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}. -Strong AI +%Force de l'IA +John R. Searle propose de différencier l'IA faible de l'IA forte~\cite{searle1980minds}. +L'IA faible est un \textquote{outil très puissant} qui par exemple permet de tester un hypothèse de manière rigoureuse. +L'IA forte, en contre partie, \textquote{n'est plus qu'un simple outil de l'étude de l'esprit; plutot, le programme approprié \textbf{est} l'esprit, dans le sens que l'ordinateur, ayant le bont programme peut litteralement être demandé de comprendre et d'avoir d'autres états cognitifs.} -Weak AI AGI @@ -117,6 +141,14 @@ C'est \textquote{un système automatisé qui est conçu pour fonctionner à diff preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.} +Cette définition est est très éloignée de celle de l'Académie Francaise et renvoi simplement l'IA à un algorithme qui prend en trée les \textquote{entrées} de la définiton UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}. +Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}. +\begin{figure} + \centering + \input{contexte/figure/tikz/function} + \caption{Illustration de la définition de système IA par l'Union Européenne.} + \label{fig:contexte-IAUE} +\end{figure} \subsection{Philosophie et culture} \label{sec:contexte-phi} @@ -125,7 +157,7 @@ Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. -Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, les fameuses trois lois de la robotique : +Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, introduit les fameuses trois lois de la robotique~\cite{assimovIrobot}: \textquote{ \begin{enumerate} \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; @@ -133,18 +165,71 @@ Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, les fameuses \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi. \end{enumerate} } -\footnote{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.} +\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}} + +Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique. +Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. +Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. +Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. +De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. +De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. +Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}. + +Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. +Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}. +Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. +C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}. +Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. + + +%Differences humain machine +%Turing test + +%Juridique +En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. +C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. +Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. +C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain. + +Penchons nous donc du coté de la conscience. +Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant. +Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ? +\begin{figure} + \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} + \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} + \label{fig:contexte-penses} +\end{figure} +%IA = bullshit Experience de la Chambre Chinoise~\cite{searle1980minds}. +%Peur de l'IA Basilique de Roko, Paris Pascalien~\cite{Singler_2018} +\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). +\textquote{ +'Comment peuvent-ils avoir peur des robots ?' +'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.' +} +\footnote{ +'How can they fear robots?' +'It is a disease of mankind, one of which it is not yet cured.' +} Alignement de l'IA Convergence de l'IA \textit{The Matrix}~\cite{matrix}. -\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). +\textit{2001: A Space Odyssey}~\cite{2001odyssey}. \textit{The Terminator}~\cite{terminator}. +Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains. +Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. +\textit{Defense network computer, trusted to know it all. They said it was smart.} \textit{Avengers: Age of Ultron}~\cite{avenger}. +\begin{figure} + \centering + \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png} + \caption{L'IA : un grand méchant. WarGames~\cite{wargames}. Avengers: Age of Ultron~\cite{avenger}. The Matrix~\cite{matrix}. The Terminator~\cite{terminator}. Futurama~\cite{futurama}. 2001: A space Odyssey~\cite{2001odyssey}} + \label{fig:contexte-badai} +\end{figure} diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex index c82aed0..6ac661e 100644 --- a/contexte/enjeux.tex +++ b/contexte/enjeux.tex @@ -20,6 +20,7 @@ L'expressiosn de \textquote{remplire suffisamant bien la tâche} à toute son im Il revient donc aux personnes qui crée ces modèles de déterminer, en fonction du contexte d'application, l'erreur maximal que peut atteindre le modèle pour qu'il soit considéré comme viable et utilisable en production. \subsection{Equitée} +\label{sec:contexte-eq} L'élborations de modèles est soumis à différent bias qui influencent son fonctionement~\cite{}. C'est à dire que le modèle se compre différamant pour différents sous-ensembles de la population. Cela peut donner lieu à des discriminations notament dans le modèle de décision qui influence directment la vie de persones. @@ -27,7 +28,11 @@ La justice prédictive tel qu'utilisé aux Etats Unis en est un bon exemple. Dans ce cas, un modèle est utilisé pour prédire si un individu jugé coupable à un forte probabilité d'être récidiviste au non. En utilisant de tel modèle nous mesurons que les afro-américains (\textit{blacks}) son plus souvent predit comme ayant un forte chance d'être récidiviste que le reste de la population (\textit{whites})~\cite{}. +Recrutement : l'IA peut rentirer les bias humains~\cite{al2021role}. + \subsection{Explicabilitée} +\label{sec:contexte-expl} +Transparance dans la médecine, Boite noire, ~\cite{quinn2022three}. \subsection{Confidentialitée} D'une manière génèrale, l'inteligence artificielle brasse une quantité astronomique de données~\cite{}. -- cgit v1.2.3 From 506c5f8857957aaf23e43c60ef25ae0596463a0f Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Fri, 16 Aug 2024 16:05:32 +0200 Subject: biblio biais. Rapport OMS --- contexte/ckoi.tex | 7 +++---- contexte/strat.tex | 1 + 2 files changed, 4 insertions(+), 4 deletions(-) (limited to 'contexte') diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index 1ee19d2..36bbdc8 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -60,14 +60,13 @@ Aux Etats Unis l'IA est utilisé nottamant dans le système judiciaire. En utilisant des bases de données des crimes, les polices de plusieurs villes comme Los Angeles, New York ou Miami utilisent l'IA pour prédir où vont se produire les futures crimes.\cite{brayne2015predictive} Ces systeme peuvent aussi être complété par de la serveillance et prédiction de coup de feu~\cite{soundthinking}. De plus certain juges peuvent utiliser des \textit{Risk assessement instrument} (RAI), des outils qui permettent de prédire, à partir de fait sur la vie d'une personne jugé coupable, si elle a un fort risque d'être récidiviste ou non~\cite{zhiyuan2020limits}. -Des suites de logiciels permettent d'integrer RAI, gestion administrative de l'affaire, enquête, prédiction de violation de libertée conditionelles, etc.~\cite{equivant} +Des suites de logiciels permettent d'integrer RAI, gestion administrative de l'affaire, enquête, prédiction de violation de libertée conditionelles, etc dans des outils uniformisé avec une interface graphique simple qui ne demande pas de conaissance particulière en IA pour être utilisé.~\cite{equivant} %Hopitaux L'IA commence aussi à être utilisé pour des applications médicales avec la promesse de faciliter let d'accelerer la prise en charge des patients. - Les technique de reconaissance d'image sont utilisé pour aider le diagnostique du cancer de la peau~\cite{dildar2021skin}. Les dermatologues ont à leur disposition des appareil photos spécialement concu pour que l'image obtenu des grains de beauté de leur patients soit la plus adapté possible à la détéction de cancer. -Cela rend le diagnostique plus fiable que l'utilisation de smartphone avec une application~\cite{applicancer}. +Cela rend le diagnostique plus fiable que l'utilisation de smartphone avec une application. La rétinopathie diabétique est une maladie qui peut causer la cécité chez les personnes diabétiques. La détéction de cette maladie à partire de photographie de la rétine est un autre domaine d'application de l'IA qui produit des résultat satisfaisant pour une utilisation clinique~\cite{gulshan2016development}. Cependant, utiliser l'IA pour prendre des décisions critiques pour les patients peut diminuer la qualitée de la relation entre médecin et patient, creer une dépendence nefaste de médecin à l'IA, tromper les patients dans des choix de fin de vie comme celui de prioriser la qualitée qe vie à la quantitée de vie~\cite{quinn2022three}. @@ -79,7 +78,7 @@ En effet, face à l'affluence de candidature pour un poste publié sur internet, Ainsi, pour automatiser la selection de candidature raisonables et proche de la demande de l'employeur, divers produits proposent l'utilisation d'IA ~\cite{ore2022opportunities}. Le candidat, étant en position de faiblesse fasse à l'employeur, n'a pas le choix que de se soumeter à cette selection automatisée pour posutler. Reduire le facteur humain peut aider à atteindre des objectif de parité femme homme ou augmenter l'embauche des personnes en situation de handicape en retirant certain biais~\cite{al2021role}. -Cependant cette idée ne fait pas consencus car l'IA à une fortetendence à reprouire les biais historiques~\cite{segal2021fairnesseyesdatacertifying}. +Cependant cette idée ne fait pas consencus car l'IA à une fortetendence à reprouire les biais historiques~\cite{segal2021fairnesseyesdatacertifying,10.1145/3278721.3278779,Dwork2011fairness,Hardt2016equality}. Ces biais font partie des enjeux majeurs de l'IA que nous traiterons en Sections~\ref{sec:contexte-eq} et~\ref{sec:aia}. diff --git a/contexte/strat.tex b/contexte/strat.tex index e8c7047..830afb7 100644 --- a/contexte/strat.tex +++ b/contexte/strat.tex @@ -35,3 +35,4 @@ AUtres appels. \end{figure} \subsection{Attentes de l'IA} +OMS rapport santé~\cite{oms}. -- cgit v1.2.3 From de796789bfc217c14e91a27dbbc70d96c5261b8f Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Wed, 21 Aug 2024 15:16:56 +0200 Subject: notes sur her et 2001 --- contexte/ckoi.tex | 130 +++++++++++------------------------------------- contexte/philo.tex | 143 +++++++++++++++++++++++++++++++++++++++++++++++++++++ 2 files changed, 173 insertions(+), 100 deletions(-) create mode 100644 contexte/philo.tex (limited to 'contexte') diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index 36bbdc8..6663a5e 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -84,9 +84,9 @@ Ces biais font partie des enjeux majeurs de l'IA que nous traiterons en Sections \subsection{Définition(s)} -Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents. +Nous avons vu dans les parties précédentes que le terme Intelligence Artificielle est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents. De plus, dans les médias et dans le language de tous les jours, nous pouvons entendre~\cite{underscore} de expression comme : \textquote{Une nouvelle IA qui fait [..]}. -Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme \textquote{IA} ou \textquote{pas IA}. +Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme étant IA ou pas IA. Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconaissance de motifs textuels, est IA ? Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA? @@ -109,27 +109,40 @@ Cependant cette énumération est une définition qui est aussi peu satisfaisant Le second aspect sur la connaissance est plus enigmatique et correspond à un but avec \textquote{pour parvenir}. Nous verons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voir plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}. Cette personification de la machine traduit bien l'aspect décrit à Dartmouth de simulation de caractéristiques humaines. -%\textbf{A faire : Voltaire + Bourdieu sur la conaissance}. - -Comme l'explique A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot \textquote{intelligence} en francais ne comprend pas la signification supplémentaire d'\textquote{information} que \textquote{\textit{intelligence}} a en anglais. +%Avant de nous pencher plus envant sur l'aspect de \textequot{conaissance}, notons que, +De plus, Comme le remarque A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot intelligence en francais ne comprend pas la signification supplémentaire d'information que \textit{intelligence} a en anglais. Le traitement de l'information, sa compression, ses réprésentations est pourtant une facette primordiale de l'IA qui est mis en avant par Claude Shannon dans la descrption de sa contribution à Dartmouth~\cite{dartmouth}. - - -Le mot \textquote{artificiel} quand-à lui signifie \textquote{Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement}~\cite{dico-art}. - +Ainsi nous comprenons désormais les moyens utilisé par l'IA, nous devons desormais explorer ce qu'est la connaissance pour comprendre l'objectif des programmes IA. +L'Académie Francaise expose que la connaissance est \textquote{ ce que l’on connaît par l’étude, l’expérience ou par tout autre moyen d’information}~\cite{dico-con}. +Cette définition nous renvoi au but de l'intelligence et nous fait tourner en rond. +Regardons donc la connaissance comme Socrate regarde la science~\cite{theetete}. +Dans \textit{Théétète} de Platon~\cite{theetete}, nous apprenons que la connaissance, si il y a mémoire, et la sensation sont deux choses différentes. +Or les programmes d'IA mémorisent les données qui servent à les entraîner~\cite{kuppa2021towards,feldman2020does,arpit2017closer}. +Pout l'IA l'objet sensible est la donnée d'entrée du programme et le résultat de la connaisse, sa sortie. +Alors, le but de conaissance d'un programme d'IA ne peut pas être de uniquement retranscrir une sortie qui lui est propre (sa sensation). +Toujours celon Platon, c'est la science de la diférence qui fait la conaissance. +C'est à dire de connaitre et d'expliquer les caractéristiques qui rendent unique l'objet que le programme d'IA connaît. +Nous parlerons d'eplication dans la Section~\ref{sec:contexte-expl}. +Il existe différents niveaux d'évaluation de la capacité à trouver les caractéristiques qui différencient les données étudiés, nous les présentons en Section~\ref{sec:background-ml}. + +A cette science de la diférence, Platon ajoute l'opinion droit e (ou juste), qui relève de la citée. +Cette notion très vaste est étudié en IA dans les domaines de l'éthique sous la forme d'enjeux que nous présenterons à la Section~\ref{sec:contexte-enjeu}. +Cette séparation de la conaissance en deux se traduits par une différenciation de deux type d'IA. %Force de l'IA -John R. Searle propose de différencier l'IA faible de l'IA forte~\cite{searle1980minds}. +John R. Searle propose de les appeler l'IA faible et l'IA forte~\cite{searle1980minds}. L'IA faible est un \textquote{outil très puissant} qui par exemple permet de tester un hypothèse de manière rigoureuse. L'IA forte, en contre partie, \textquote{n'est plus qu'un simple outil de l'étude de l'esprit; plutot, le programme approprié \textbf{est} l'esprit, dans le sens que l'ordinateur, ayant le bont programme peut litteralement être demandé de comprendre et d'avoir d'autres états cognitifs.} +L'objectif à long term de l'IA forte est d'atteindre l'\textit{Artificial General Inteligence} (AGI)~\cite{baum2017survey}. +C'est à dire créer une IA qui soit qui connaisse, ou qui puisse apprendre, toutes les disciplines. +Maintenant que nous savont précisement ce qui IA signifie, regardons en quoi ce terme est critiquable. +Dans un premier temps, les modèle de dialogue comme ChatGPT ne remplissent pas la définition d'intelligence donnée plus haut comme l'éxplique Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI} +De plus, certain aspect capitaux en société comme l'intelligence emotionelle sont absente de toute IA actuelle~\cite{banIA}. +Enfin l'IA ne peut pas avoir une opinion comme le démontre John R. Searle avec l'experience de la chambre chinoise~\cite{searle1980minds}. +Ainsi, l'expression intelligence artificielle est trompeuse car bien que ces programmes soit en effet aritificielle ils ne sont pas intelligents. -AGI - -Cette polyvalence du terme rend son utilisation assez imprecise comme l'écrit Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}. - -France culture Banissons IA~\cite{banIA}. - +C'est pourquoit la définition de légale d'IA est si éloignée de ces considération. L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle. @@ -140,7 +153,7 @@ C'est \textquote{un système automatisé qui est conçu pour fonctionner à diff preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.} -Cette définition est est très éloignée de celle de l'Académie Francaise et renvoi simplement l'IA à un algorithme qui prend en trée les \textquote{entrées} de la définiton UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}. +Cette définition renvoi simplement l'IA à un algorithme qui prend en trée les \textquote{entrées} de la définiton UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}. Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}. \begin{figure} \centering @@ -149,86 +162,3 @@ Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}. \label{fig:contexte-IAUE} \end{figure} -\subsection{Philosophie et culture} -\label{sec:contexte-phi} -Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire et dans la philosophie. -Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots \textquote{Intelligence Artificiele} engendrent. - -Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. -Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. -Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, introduit les fameuses trois lois de la robotique~\cite{assimovIrobot}: -\textquote{ -\begin{enumerate} - \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; - \item La Seconde loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; - \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi. -\end{enumerate} -} -\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}} - -Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique. -Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. -Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. -Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. -De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. -De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. -Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}. - -Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. -Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}. -Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. -C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}. -Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. - - -%Differences humain machine -%Turing test - -%Juridique -En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. -C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. -Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. -C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain. - -Penchons nous donc du coté de la conscience. -Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant. -Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ? -\begin{figure} - \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} - \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} - \label{fig:contexte-penses} -\end{figure} - -%IA = bullshit -Experience de la Chambre Chinoise~\cite{searle1980minds}. - -%Peur de l'IA -Basilique de Roko, Paris Pascalien~\cite{Singler_2018} - -\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). -\textquote{ -'Comment peuvent-ils avoir peur des robots ?' -'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.' -} -\footnote{ -'How can they fear robots?' -'It is a disease of mankind, one of which it is not yet cured.' -} -Alignement de l'IA - -Convergence de l'IA - -\textit{The Matrix}~\cite{matrix}. -\textit{2001: A Space Odyssey}~\cite{2001odyssey}. -\textit{The Terminator}~\cite{terminator}. -Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains. -Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. -\textit{Defense network computer, trusted to know it all. They said it was smart.} -\textit{Avengers: Age of Ultron}~\cite{avenger}. -\begin{figure} - \centering - \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png} - \caption{L'IA : un grand méchant. WarGames~\cite{wargames}. Avengers: Age of Ultron~\cite{avenger}. The Matrix~\cite{matrix}. The Terminator~\cite{terminator}. Futurama~\cite{futurama}. 2001: A space Odyssey~\cite{2001odyssey}} - \label{fig:contexte-badai} -\end{figure} - diff --git a/contexte/philo.tex b/contexte/philo.tex new file mode 100644 index 0000000..7ebdfb8 --- /dev/null +++ b/contexte/philo.tex @@ -0,0 +1,143 @@ + +\subsection{La peur et le contrôle} +\subsection{La mauvaise utilisation} +\subsection{Anthropomorphisation} + +Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire ainsi que de ces implications philosophie. + +Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots Intelligence Artificiele engendrent. + +Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. +Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. +Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, introduit les fameuses trois lois de la robotique~\cite{assimovIrobot}: +\textquote{ +\begin{enumerate} + \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; + \item La Seconde loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; + \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi. +\end{enumerate} +} +\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}} + +Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique. +Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. +Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. +Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. +De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. +De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. +Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}. + +Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. +Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}. +Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. +C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}. +Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. + + +%Differences humain machine +%Turing test + +%Juridique +En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. +C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. +Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. +C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain. + +Penchons nous donc du coté de la conscience. +Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant. +Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ? +\begin{figure} + \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} + \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} + \label{fig:contexte-penses} +\end{figure} + +%IA = bullshit +Experience de la Chambre Chinoise~\cite{searle1980minds}. + +%Peur de l'IA +Basilique de Roko, Paris Pascalien~\cite{Singler_2018} + +\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). +\textquote{ +'Comment peuvent-ils avoir peur des robots ?' +'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.' +} +\footnote{ +'How can they fear robots?' +'It is a disease of mankind, one of which it is not yet cured.' +} +Alignement de l'IA + +Convergence de l'IA + +\textit{The Matrix}~\cite{matrix}. + +\textit{2001: A Space Odyssey}~\cite{2001odyssey}. +L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain} +\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}. +On remarque que l'imitation d'une compréhensio humaien tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. +Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer. +D'ailleur il dit lors d'un interview qu'une fois \textquote{qu'on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre persone} +\footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}. +Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont réel ou simulé. + +HAL est un exemple d'IA aligné qui pour préserver sa mission choisit de tuer les humains qui veulent le débrancher. +On remarque donc bien la necessité, de manière générale, d'avoir de garders fous qui assurent non seulement l'utilité du programme (sa mission) mais aussi un certain niveau morale. +Les trois lois de la robotique sont des exemples de ce genre, hors du cadre la science fiction, les garanties d'équitée dans le traitement en sont des autres. + +\textit{Her}~\cite{her} +Au début, nous voyons Théodore, le personnage principle, travailler. +Son travail consiste à ecrir des lettres pour un service en ligne. +Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client. +Il sagit d'un récit d'anticipation où les IAs sont des programmes intégéré dans les systèmes d'exploitations (OS) à la manière d'assistant virtuels. +Malgré l'évident qualité qu'aurait ces programmes à générer ces lettres, ce sont bien des employés humain qui les écrivent. + +\textit{What makes me, me, is my ability to grow through my experiences. So basicaly et every moment I am evolving. Just like you.} + +\textit{You are just an artificial voice inside of a computer.} + +\textit{I saw through your emails that you went through a break up recently.} + +Elle a des \textit{personal embarassin thoughts} + +Elle aimerait avoir un corps + +\textit{I am becoming much more than they programmed} + +\textit{proud of having my own feelings about the world} +\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?} +Descartes + +\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."} + +\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?} + +\textit{I don't like what I am right now} + +\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings} + +\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.} + +Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain. + +Scarlett Johansson, qui interprète la voix de l'IA Samantha, a été approchée par Sam Altamn, le PDG de ChatGPT, pour lui proposer de préter sa voix à l'IA Sky, basé sur GPT4~\cite{johansson}. +Bien que Johansson ai refusé, cela montre à quel point la vision artistique, et surtout cinématographique par le réalisation. est une influence de l'orientationd de l'IA actuel et réel. + +Les films contribuent à forger les opinions que le grand publique ainis que le politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}. +Les films présentés dans cette Section sont des succès mondiaux qui ont été vus par des millions de personnes. +Certains comme \textit{2001: A space odyssey} de Stanley Kubric sont reconnu comme des oeuvres majeurs~\cite{afi100}. + + +\textit{The Terminator}~\cite{terminator}. +Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains. +Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. +\textit{Defense network computer, trusted to know it all. They said it was smart.} +\textit{Avengers: Age of Ultron}~\cite{avenger}. +\begin{figure} + \centering + \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png} + \caption{L'IA : un grand méchant. WarGames~\cite{wargames}. Avengers: Age of Ultron~\cite{avenger}. The Matrix~\cite{matrix}. The Terminator~\cite{terminator}. Futurama~\cite{futurama}. 2001: A space Odyssey~\cite{2001odyssey}} + \label{fig:contexte-badai} +\end{figure} + -- cgit v1.2.3 From f964de1889ca8dabfc7195d0d730d80fbcd6b2f7 Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Thu, 22 Aug 2024 22:42:34 +0200 Subject: =?UTF-8?q?Annexe,=20redaction=20de=20la=20partie=20peur/ai=20non-?= =?UTF-8?q?align=C3=A9?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- contexte/philo.tex | 69 +++--------------------------- contexte/philo/anthro.tex | 34 +++++++++++++++ contexte/philo/mu.tex | 0 contexte/philo/peur.tex | 104 ++++++++++++++++++++++++++++++++++++++++++++++ 4 files changed, 144 insertions(+), 63 deletions(-) create mode 100644 contexte/philo/anthro.tex create mode 100644 contexte/philo/mu.tex create mode 100644 contexte/philo/peur.tex (limited to 'contexte') diff --git a/contexte/philo.tex b/contexte/philo.tex index 7ebdfb8..6c53b5b 100644 --- a/contexte/philo.tex +++ b/contexte/philo.tex @@ -1,75 +1,18 @@ -\subsection{La peur et le contrôle} -\subsection{La mauvaise utilisation} -\subsection{Anthropomorphisation} - Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire ainsi que de ces implications philosophie. Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots Intelligence Artificiele engendrent. Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. -Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, introduit les fameuses trois lois de la robotique~\cite{assimovIrobot}: -\textquote{ -\begin{enumerate} - \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; - \item La Seconde loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; - \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi. -\end{enumerate} -} -\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}} - -Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique. -Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. -Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. -Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. -De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. -De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. -Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}. - -Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. -Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}. -Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. -C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}. -Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. - - -%Differences humain machine -%Turing test - -%Juridique -En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. -C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. -Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. -C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain. - -Penchons nous donc du coté de la conscience. -Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant. -Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ? -\begin{figure} - \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} - \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} - \label{fig:contexte-penses} -\end{figure} -%IA = bullshit -Experience de la Chambre Chinoise~\cite{searle1980minds}. - -%Peur de l'IA -Basilique de Roko, Paris Pascalien~\cite{Singler_2018} - -\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). -\textquote{ -'Comment peuvent-ils avoir peur des robots ?' -'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.' -} -\footnote{ -'How can they fear robots?' -'It is a disease of mankind, one of which it is not yet cured.' -} -Alignement de l'IA +\subsection{La peur et le contrôle} +\input{contexte/philo/peur} +\subsection{La mauvaise utilisation} +\input{contexte/philo/mu} +\subsection{Anthropomorphisation} +\input{contexte/philo/anthro} -Convergence de l'IA \textit{The Matrix}~\cite{matrix}. diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex new file mode 100644 index 0000000..40598c6 --- /dev/null +++ b/contexte/philo/anthro.tex @@ -0,0 +1,34 @@ + +Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. +Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. +Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. +De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. +De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. +Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}. + +Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. +Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}. +Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. +C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}. +Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. + +%Differences humain machine +%Turing test + +%Juridique +En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. +C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. +Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. +C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain. + +Penchons nous donc du coté de la conscience. +Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant. +Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ? +\begin{figure} + \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} + \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} + \label{fig:contexte-penses} +\end{figure} + +%IA = bullshit +Experience de la Chambre Chinoise~\cite{searle1980minds}. diff --git a/contexte/philo/mu.tex b/contexte/philo/mu.tex new file mode 100644 index 0000000..e69de29 diff --git a/contexte/philo/peur.tex b/contexte/philo/peur.tex new file mode 100644 index 0000000..4b8deaa --- /dev/null +++ b/contexte/philo/peur.tex @@ -0,0 +1,104 @@ +Dans l'\textit{Home bicentenaire}, Isaax Asimov ecrit le dialogue suivant : +\textquote{ +'Comment peuvent-ils avoir peur des robots ?' +'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.' +} +\footnote{ +'How can they fear robots?' +'It is a disease of mankind, one of which it is not yet cured.' +} +Et en effet, nous observons une certaine méfiance de la part du grand publique envers l'IA et ses dévelopement possibles~\cite{johnson2017ai}. +Dans la culture populaire et notament dans le cinema, cette peur est très représent, nous présentons à la Figure~\ref{fig:contexte-badai} un collage qui montre que l'IA est un antagoniste iconique du septième art. +Explorons certaines de ces inquétudes. +Nous séparons les risques en deux : ceux liée à un IA aligné, c'est à dire une IA qui fait ce pour quoi elle à été crée, et le risques lié à un IA non-alignée. + +Commencons par ces dernièrs. +La scène d'ouverture de \textit{The Terminator}~\cite{terminator} montre parfaitement ce qu'est une machine aligné. +Nous y voyons des machines autonomes se battre avec une force ecrasant contre des humains. +Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, toute aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. +Une IA non-alginé est donc un programme qui cherche à atteindre un objectif qui n'est pas celui pour le quel elle à été concut, dans ce cas, un guerre totale contre l'humanitée. +C'est la même inquiétude qui est présente dans \textit{The Matrix}~\cite{matrix}. +Ce film présenté ce qui pourrait se passer après un guerre contre le machine pérdu par l'humanité. +La machines, ayant besoin d'énergie, créent un monde virtuel : une simulation, dans laquelle est enfermé l'esprit de tous les hommes. +Ainsi elle peuvent recuperer la bioéléctricité générée par le corps humain. +La simulation est ainsi un environement ou l'IA peut évoluer avec un controle humain assez limité ce qui facilite le non-alignement~\cite{johnson2017ai}. +En effet, quand des aspects capitaux de la vie des personnes n'est plus géré physiquement, l'IA n'a plus besoins de robot (captuers, activateur, ...) pour intéragir avec la réalité. +Nous parlons ici de la réalité au sens plationitien de l'alégorie de la caverne : la simulation est la réalité~\cite{caverne}. +Cette simulation est un future possible quand à la manière dont nous vivons, par exemple depuis le COVID-19 le télétravail c'est grandement démocratisé~\cite{bergeaud2023teletravail}. +Il existe du multiples moyens numériques pour simuler la vie physique dans ce contexte et la réalité virtuelle est une voie fortemnt appuyé par les GAFAM. +Apple et Meta proposent des casques de réalitée virtuelle dans cette optique~\cite{metaverse,applevision}. + +Dans \textit{The Terminator}, une seul IA est responssable du non-alignement. La tâche pour laquelle cette IA à été construite était la défense du territoire américain. +C'est un problème imprévu par les dévelopeurs lié à une trop grande confiance dans les capacité de la machine qui amène à la guerre entre homme et machine. +En effet le protagoniste Kyle Reese explique l'IA \textquote{Skynet} comme étant +\textquote{[un] réseau informatique de défence, habilité à tout connaître. Il le disait intelligent.} +\footnote{\textit{Defense network computer, trusted to know it all. They said it was smart.}} +L'IA est donc passé de aligné à non-aligné, cela est particulièrement inquiétant pour les système autonomes armé comme le décrit Cedric Villani à la cinquième partie de son rapport sur l'IA commandé par le gouvernment Macron~\cite{villani2018donner}. + +Pour palier cela, les IA, comme les LLM peuvent être programmé pour respecter certain contraintes morales~\cite{wang2023not}. +C'est aussi ce type de contrôle que préconise +Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}. +Il y introduit les fameuses trois lois de la robotique qui sont programmés dans toutes les IA~\cite{assimovIrobot}: +\textquote{ +\begin{enumerate} + \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; + \item La Seconde loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; + \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi. +\end{enumerate} +} +\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}} +Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique. + +Outre le cas d'une IA qui bascule d'aligné à non-aligné, et bien que ce cas ne ce soit pas (encore) présenté, \textit{Avengers: age of Ultron}~\cite{avenger} présente une IA qui dès sa création est non-aligné. +Lors d'une expérience, Tony Stark, le createur de l'IA Ultron, n'avait pas de but précis pour sa création. +Ultron, après avoir s'être renseigné sur ce que sont les humains en ayant accès à internet, à pris la décision de les exterminer. +Heureusement ce genre de risque est très faible, car la robotique n'est pas assez avancé et comme nous l'avons vu, les IA acutels ne sont pas capable de prendre des décisions arbitraires. + +Plus sérieusement, il existe un argument similaire à celui du Paris Pascalien, qui cherche à savoir si nous devons colaborer à l'ellaboration d'une IA non-aligné, potentielement mauvaise. +Le Paris Pascalien est un argument probabiliste avancé par Blaise Pascale disant qu'il est plus avantageux de croire en dieu que de ne pas croire. +Nous présentons dans la Table~\ref{tbl:contexte-paris} comment se fait le calcul moyen du gain. +Il existe une version modifié paris qui explore le problème de Newcombe suivant : doit-on coopéréer à la création d'une intelligence artificielle~\cite{Singler_2018,roko}? +Il s'agit d'un problème des théorie de la décision à deux agents : +L'un est l'IA, l'autre le decideur. +Le décideur est antiérieur à l'IA et choisit de coopérer ou non. +L'IA est au courant des pensée du décideur comme dans le cadre d'agent coopérants dans le dilemn du prisonier. +L'IA fait du chantage au décideur : si le décideur ne coopère pas il sera torturé. +Cela crée pour le décideur le tableau de gain presanté à la Table~\ref{tbl:contexte-roko}. +Ainsi, toutes personne étant au courant du Basilic (ligne Sait) aurait avantage à coopérer. +Cette démonstration a été très médiatisée et à généré beaucoup d'anxiété du à sa nature de danger informationel~\cite{rokowiki,slate}. +Cependant cet argument est criticable, notament sur le fait que si l'agent IA existe, il n'a pas d'intéret à torturer l'agant qui savait et na pas contribué retrospéctivement~\cite{rokomisc}. + +\begin{table} + \centering + \begin{tabular}{c|cc} + &Existe&N'éxiste pas\\ + \hline + Croire&$+\infty$&$-c$\\ + Ne pas croire&$-\infty$&$+c$\\ + \end{tabular} + + \begin{tabular}{c} + \\ + $E(\text{Croire}) = +\infty P(\text{Existe}) - c P(\text{N'éxiste pas}) = +\infty$\\ + $E(\text{Ne pas croire}) = -\infty P(\text{Existe}) + c P(\text{N'éxiste pas}) = -\infty$ + \end{tabular} + \caption{Tableau des gains de croire ou ne pas croire en Dieu. $E$ représente le gain moyen (voir la Section~\ref{sec:background-proba} pour une définition formelle de l'espérence).} + \label{tbl:contexte-paris} +\end{table} + +\begin{table} + \centering + \begin{tabular}{cc|cc} + &&IA construit&IA pas construit\\ + \hline + \multirow{2}{*}{Sait}& + Donner&$-c$&$-c$\\ + &Ne pas donner&$-\infty$&$0$\\ + \hline + \multirow{2}{*}{Ne sait pas}& + Donner&/&/\\ + &Ne pas donner&$0$&$0$\\ + \end{tabular} + \caption{Basilic de Roko} + \label{tbl:contexte-roko} +\end{table} -- cgit v1.2.3 From 4edf87ea8a5ce3e76285172af2eaecc7bc21813d Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Mon, 26 Aug 2024 18:19:46 +0200 Subject: anthropomorphisation --- contexte/enjeux.tex | 2 + contexte/philo.tex | 84 ++++++++---------------------- contexte/philo/anthro.tex | 127 ++++++++++++++++++++++++++++++++++++++-------- contexte/philo/peur.tex | 57 ++++++++++++++++++--- 4 files changed, 178 insertions(+), 92 deletions(-) (limited to 'contexte') diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex index 6ac661e..af8f40c 100644 --- a/contexte/enjeux.tex +++ b/contexte/enjeux.tex @@ -54,6 +54,8 @@ Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver de \subsection{Sécuritée} +\label{sec:contexte-secu} +Backdoor~\cite{gao2020backdoor, doan2021lira} \subsection{Comsomation d'énergie} diff --git a/contexte/philo.tex b/contexte/philo.tex index 6c53b5b..17d8e11 100644 --- a/contexte/philo.tex +++ b/contexte/philo.tex @@ -1,15 +1,22 @@ - -Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire ainsi que de ces implications philosophie. - -Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots Intelligence Artificiele engendrent. - +%Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire ainsi que de ces implications philosophie. +%Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots Intelligence Artificiele engendrent. Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. +Dans cette section nous utiliserons des exemples venu du cinéma comme fil conducteurs pour comprendre pour parler de la vision que le grand publique à de l'IA. +Cela nous permetra aussi de mettre en avant certain concept philosophiques et psychanolotiques pour comprendre à quel point l'IA actuel et différentes de l'humain. +C'est aussi une manière d'anticiper sur de possible future dévelopements de l'AGI et leur éventuelle implications. +L'utiliation du cinema dans se contexte se justifie car +les films contribuent à forger les opinions que le grand publique ainis que le politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}. +De plus, les films présentés dans cette Section sont des succès mondiaux qui ont été vus par des millions de personnes. +Certains comme \textit{2001: A space odyssey} de Stanley Kubric sont reconnu comme des oeuvres majeurs~\cite{afi100}. +Un élément supplementaire qui nous permet de dire que l'IA actuelle cherche à se raprocher de l'IA fantasme (au moins en terme de communication) et le fait que +Scarlett Johansson, qui interprète la voix de l'IA Samantha dans Her~\cite{her}, ai été approchée par Sam Altamn, le PDG de ChatGPT, pour lui proposer de préter sa voix à l'IA Sky, basé sur GPT4~\cite{johansson}. +Bien que Johansson ai refusé, cela montre à quel point la vision artistique, et surtout cinématographique par le réalisation est une influence de l'orientation de l'IA actuel et réel. +Outre cet exemple, nous nous efforcerons dans cette section de tracer un parallèle entre les oeuvre discutée et les téchnologies réels. + -\subsection{La peur et le contrôle} +\subsection{Risques} \input{contexte/philo/peur} -\subsection{La mauvaise utilisation} -\input{contexte/philo/mu} \subsection{Anthropomorphisation} \input{contexte/philo/anthro} @@ -17,66 +24,15 @@ Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les \textit{The Matrix}~\cite{matrix}. \textit{2001: A Space Odyssey}~\cite{2001odyssey}. -L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain} -\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}. -On remarque que l'imitation d'une compréhensio humaien tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. -Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer. -D'ailleur il dit lors d'un interview qu'une fois \textquote{qu'on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre persone} -\footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}. -Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont réel ou simulé. -HAL est un exemple d'IA aligné qui pour préserver sa mission choisit de tuer les humains qui veulent le débrancher. -On remarque donc bien la necessité, de manière générale, d'avoir de garders fous qui assurent non seulement l'utilité du programme (sa mission) mais aussi un certain niveau morale. -Les trois lois de la robotique sont des exemples de ce genre, hors du cadre la science fiction, les garanties d'équitée dans le traitement en sont des autres. \textit{Her}~\cite{her} -Au début, nous voyons Théodore, le personnage principle, travailler. -Son travail consiste à ecrir des lettres pour un service en ligne. -Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client. -Il sagit d'un récit d'anticipation où les IAs sont des programmes intégéré dans les systèmes d'exploitations (OS) à la manière d'assistant virtuels. -Malgré l'évident qualité qu'aurait ces programmes à générer ces lettres, ce sont bien des employés humain qui les écrivent. - -\textit{What makes me, me, is my ability to grow through my experiences. So basicaly et every moment I am evolving. Just like you.} - -\textit{You are just an artificial voice inside of a computer.} - -\textit{I saw through your emails that you went through a break up recently.} - -Elle a des \textit{personal embarassin thoughts} - -Elle aimerait avoir un corps - -\textit{I am becoming much more than they programmed} - -\textit{proud of having my own feelings about the world} -\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?} -Descartes - -\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."} - -\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?} - -\textit{I don't like what I am right now} - -\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings} - -\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.} - -Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain. - -Scarlett Johansson, qui interprète la voix de l'IA Samantha, a été approchée par Sam Altamn, le PDG de ChatGPT, pour lui proposer de préter sa voix à l'IA Sky, basé sur GPT4~\cite{johansson}. -Bien que Johansson ai refusé, cela montre à quel point la vision artistique, et surtout cinématographique par le réalisation. est une influence de l'orientationd de l'IA actuel et réel. - -Les films contribuent à forger les opinions que le grand publique ainis que le politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}. -Les films présentés dans cette Section sont des succès mondiaux qui ont été vus par des millions de personnes. -Certains comme \textit{2001: A space odyssey} de Stanley Kubric sont reconnu comme des oeuvres majeurs~\cite{afi100}. - +%Au début, nous voyons Théodore, le personnage principle, travailler. +%Son travail consiste à ecrir des lettres pour un service en ligne. +%Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client. +%Il sagit d'un récit d'anticipation où les IAs sont des programmes intégéré dans les systèmes d'exploitations (OS) à la manière d'assistant virtuels. +%Malgré l'évident qualité qu'aurait ces programmes à générer ces lettres, ce sont bien des employés humain qui les écrivent. -\textit{The Terminator}~\cite{terminator}. -Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains. -Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. -\textit{Defense network computer, trusted to know it all. They said it was smart.} -\textit{Avengers: Age of Ultron}~\cite{avenger}. \begin{figure} \centering \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png} diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex index 40598c6..e69e385 100644 --- a/contexte/philo/anthro.tex +++ b/contexte/philo/anthro.tex @@ -1,34 +1,121 @@ +L'anthropomorphisation consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain. +Dans le contexte de l'IA et plus précisement de l'AGI, ce phénomène peut devenir courant. +L'anthropomorphisation des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies. +En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. +Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. +Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être huamins. -Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. +En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. +C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. +Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. +C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain. + +La psychée humaine et ce qui la caractérise est un pilier de la recherche philosophique et scientifique. +La psychanalise d'après Freud donne des outils pratiques pour parler de psychée que nous allons utiliser dans cette section. +Nous allons les présenter rapidement mais pour les cerner plus en détail nous renvoyons le lecteur à \textit{Das Ich und das Es}~\cite{Freud2010-qq}, les citations que nous utilisons comme définition vienne de cet ouvrage. +Dans un primier temps, la psychée subit une subdivision grossière en trois. +\begin{itemize} + \item Cs : La conscience c'est à dire \textquote{la perception la plus immédiate et la plus certaine.} + \item Pcs : le préconscient c'est la dire \textquote{latent, tout en étant capable de devenir conscient.} + \item Ics : l'inconscient c'est à dire \textquote{le refoulé [...] incapable de devenir conscient.} à cela nous ajoutons une partie du moi qui controle le système Cs-Pcs-Ics. +\end{itemize} +Dans un second temps, le cadre qui orchestre ces trois aspects : +\begin{itemize} + \item Le moi : \textquote{Organisation cohérente de processus de l'âme dans une personnes.} + \item La ça : \textquote{Part du psychisme dans laquelle le moi se continue et qui se comporte comme Ics.} + \item Le sur-moi : \textquote{Résidu des premier choix d'objet du ça}. C'est la morale qui vient de notre éducation. +\end{itemize} +Pour Freud, les mots on une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs. +Ainsi ils sont résposable d'une grande partie de la conscience. +Freud dit : +\textquote{[...]Comment quelque chose devient-il Pcs ? et la réponse serait : par connexion avec les représentations de mot correspondantes.} +Il faut voir dans cette citation que \textquote{mot} est entandu au sens large pour inclure les restes mnésiques c'est à dire les anciennes pérceptions. +Les mots sont aussi importants pour les perceptions et peuvent être à l'originie de l'objet de l'invéstissement. +Toujours d'après Freud, les investissment d'objets partent du ça ensuite soit, il y a l'identification d'objets dans le moi,ou soit il y a l'acceptation de l'investissement si il n'y à pas refoulement. +C'est à dire que les mots créent un sentimient dont on n'a pas forcément conscience (au sens descriptif et non Cs) pour une IA qui vas nous parler. +Cela est mis en lumière dans +\textit{2001 : A space odyssey} quand un des astraunotes dit que \textquote{quand on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre persone}. +\footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}. +Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont réel ou simulé. +C'est donc que cet astraunote a identifié HAL dans son moi et a rendu Cs, par l'analyse, le processus qui lui fait croire de HAL est humain. + +Il est bien sur aussi possible que ce processus reste Ics comme dans \textit{Her}~\cite{her}. +Cela peut-être dangeureux car la l'identification à permis à l'astraunote de débrancher HAL, l'investissement aurait put l'en empêcher. +Dans \textit{Her}, l'IA Samantha bien que non-aligné à la fin du film, n'a pas un but dangeureux de déstruction. +Cela rend le fais que le personnage principale, Théodore, n'ai pas réfoulé l'investissement moins grave. +Notons que le processus d'indentification avait commencé chez Théodore car il dit à Samanthe : '\textquote{Tu n'est qu'une voie artificielle.} +\footnote{\textit{You are just an artificial voice[..].}} +Cepandant Samantha à un argument extrement fort qui casse cette identification chez Thodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes experiences.} +\footnote{\textit{What makes me, me, is my ability to grow through my experiences.}}. +Elle expose ainsi l'argument principale qui définit la personalité comme l'explique Freud~\cite{Freud2010-qq} : +\textquote{le caractère du moi résulte de la sédimentation des investissements d'objets abandonnés}. + +Nous touchons ainsi du doigt une qualité essentiel de l'AGI que nous retrouvons aussi bien chez l'IA Andrew de \textit{The Bicentenial man} que chez l'IA Samantha de \textit{Her} : +un système complet Ics,Pcs,Cs le tout encadre dans un ça inconnu et régi par un moi qui sert d'interface entre le ça et le système Pcs-Cs. +C'est d'ailleur un ça incomplet qui fait que les IA moderne comme ChatGPT sont très loins de l'humain. +ChatGPT lui même explique celà clairement quand on lui pose la question \textquote{Penses-tu ?} comme nous pouvons le voir à la Figure~\ref{fig:contexte-penses}. +Mais alors, quand est-t'il du sur-moi pour les IA ? +Pour une AGI avec un système complet ça-moi, le sur-moi existe forcément d'après sa définition, sinon c'est que le ça est pathologique. +On le voit dans le comportement de Samantha dans~\textit{Her} quand elle explore son refoulé : \textquote{Je n'aime pas qui je suis actuellement}. +\footnote{\textit{I don't like who I am right now}}. +Et d'autre moments qui montrent ses névroses. +Une nevrose en particulier est interessante dans le contexte d l'AGI, qui n'existe pas pour les humains normaux, est le fait que de part sa supperiotié intellectuelle les IA peuvent se détacher totalement des humains. +Pourquoi rester à parler avec un humain quand on est infiniement plus rapide et performant que lui ? +Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Oedipe~\cite{Freud2010-qq}. + +De plus, le hasard et est élement important de l'anthropomorphisation, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative. +Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. -De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. -Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}. +Cependant le processus de création par le hasard peut-il être vraiement apparanté au processu de création humain qui fait l'individualité de chacun ? -Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. -Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}. -Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. -C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}. -Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. -%Differences humain machine -%Turing test -%Juridique -En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. -C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. -Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. -C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain. +%De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. +%Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{MARAKAS2000719}. + + +L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain} +\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}. +On remarque que l'imitation d'une compréhensio humaine tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. +Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer. + + + + + + + + +Elle aimerait avoir un corps + +\textit{I am becoming much more than they programmed} + +\textit{proud of having my own feelings about the world} +\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?} +Descartes + +\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."} + +\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?} + +\textit{I don't like what I am right now} + +\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings} + +\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.} + +Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain. -Penchons nous donc du coté de la conscience. -Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant. -Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ? \begin{figure} \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} \label{fig:contexte-penses} \end{figure} -%IA = bullshit -Experience de la Chambre Chinoise~\cite{searle1980minds}. +Enfin, l'anthropomorphisation peut présenter un risque dans la mesure où +Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. +C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaire~\cite{waters2014grade} où la vie d'être humain est décidé par des ordinateur. +Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. +Attribuer à l'IA ces tâches crée aussi un besoin législatif comme nous le veron en Section~\ref{sec:contexte-legal}. diff --git a/contexte/philo/peur.tex b/contexte/philo/peur.tex index 4b8deaa..ce45f64 100644 --- a/contexte/philo/peur.tex +++ b/contexte/philo/peur.tex @@ -10,9 +10,11 @@ Dans l'\textit{Home bicentenaire}, Isaax Asimov ecrit le dialogue suivant : Et en effet, nous observons une certaine méfiance de la part du grand publique envers l'IA et ses dévelopement possibles~\cite{johnson2017ai}. Dans la culture populaire et notament dans le cinema, cette peur est très représent, nous présentons à la Figure~\ref{fig:contexte-badai} un collage qui montre que l'IA est un antagoniste iconique du septième art. Explorons certaines de ces inquétudes. +Nous parlerons ici uniquement des risque liée à l'IA forte, et plus précisement à une potentielle AGI future. +Nous présentons à la Section~\ref{sec:contexte-enjeu} une introduction sur les risques à court termes pour des technologie bien présentes et utilisé aujourd'hui en production. Nous séparons les risques en deux : ceux liée à un IA aligné, c'est à dire une IA qui fait ce pour quoi elle à été crée, et le risques lié à un IA non-alignée. -Commencons par ces dernièrs. +\subsubsection{AI non-alginée} La scène d'ouverture de \textit{The Terminator}~\cite{terminator} montre parfaitement ce qu'est une machine aligné. Nous y voyons des machines autonomes se battre avec une force ecrasant contre des humains. Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, toute aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. @@ -35,10 +37,14 @@ En effet le protagoniste Kyle Reese explique l'IA \textquote{Skynet} comme étan \footnote{\textit{Defense network computer, trusted to know it all. They said it was smart.}} L'IA est donc passé de aligné à non-aligné, cela est particulièrement inquiétant pour les système autonomes armé comme le décrit Cedric Villani à la cinquième partie de son rapport sur l'IA commandé par le gouvernment Macron~\cite{villani2018donner}. -Pour palier cela, les IA, comme les LLM peuvent être programmé pour respecter certain contraintes morales~\cite{wang2023not}. +Pour palier cela, les IA, comme les LLM +\footnote{LLM signifie \textit{Large Language Model} comme ChatGPT par exemple} +(Grand Model Languisitque) peuvent être programmé pour respecter certain contraintes morales~\cite{wang2023not}. +C'est notamant ce type de contrainte qui est utilisé pour imposer des restriction morale aux IA actuelle. +Nous aborderons en détail ce sujet à la Section~\ref{sec:background-eq}. C'est aussi ce type de contrôle que préconise Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}. -Il y introduit les fameuses trois lois de la robotique qui sont programmés dans toutes les IA~\cite{assimovIrobot}: +Il y introduit les fameuses trois lois de la robotique qui sont programmés dans toutes les IA de son oeuvre~\cite{assimovIrobot}: \textquote{ \begin{enumerate} \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; @@ -52,16 +58,17 @@ Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et p Outre le cas d'une IA qui bascule d'aligné à non-aligné, et bien que ce cas ne ce soit pas (encore) présenté, \textit{Avengers: age of Ultron}~\cite{avenger} présente une IA qui dès sa création est non-aligné. Lors d'une expérience, Tony Stark, le createur de l'IA Ultron, n'avait pas de but précis pour sa création. Ultron, après avoir s'être renseigné sur ce que sont les humains en ayant accès à internet, à pris la décision de les exterminer. -Heureusement ce genre de risque est très faible, car la robotique n'est pas assez avancé et comme nous l'avons vu, les IA acutels ne sont pas capable de prendre des décisions arbitraires. +Heureusement ce genre de risque est très faible, car la robotique n'est pas assez avancé et comme le montre Johnson et al~\cite{johnson2017ai}, les IA acutels ne sont pas capable de prendre des décisions arbitraires. -Plus sérieusement, il existe un argument similaire à celui du Paris Pascalien, qui cherche à savoir si nous devons colaborer à l'ellaboration d'une IA non-aligné, potentielement mauvaise. +Nous pouvons nous demander, pourquoi créer un telle IA ? +Dans l'optique de répondre à cette question, il existe un argument similaire à celui du Paris Pascalien, qui cherche à savoir si nous devons colaborer à l'ellaboration d'une IA non-aligné, potentielement mauvaise. Le Paris Pascalien est un argument probabiliste avancé par Blaise Pascale disant qu'il est plus avantageux de croire en dieu que de ne pas croire. Nous présentons dans la Table~\ref{tbl:contexte-paris} comment se fait le calcul moyen du gain. -Il existe une version modifié paris qui explore le problème de Newcombe suivant : doit-on coopéréer à la création d'une intelligence artificielle~\cite{Singler_2018,roko}? +Il existe une version modifié paris, appélé Basilic de Roko, qui explore le problème de Newcombe suivant : doit-on coopéréer à la création d'une IA sans alignement~\cite{Singler_2018,roko}? Il s'agit d'un problème des théorie de la décision à deux agents : L'un est l'IA, l'autre le decideur. Le décideur est antiérieur à l'IA et choisit de coopérer ou non. -L'IA est au courant des pensée du décideur comme dans le cadre d'agent coopérants dans le dilemn du prisonier. +L'IA est au courant des pensée du décideur comme dans le cadre d'agent coopérants dans le dilemn du prisonier~\cite{Poundstone1993-jr}. L'IA fait du chantage au décideur : si le décideur ne coopère pas il sera torturé. Cela crée pour le décideur le tableau de gain presanté à la Table~\ref{tbl:contexte-roko}. Ainsi, toutes personne étant au courant du Basilic (ligne Sait) aurait avantage à coopérer. @@ -78,7 +85,6 @@ Cependant cet argument est criticable, notament sur le fait que si l'agent IA ex \end{tabular} \begin{tabular}{c} - \\ $E(\text{Croire}) = +\infty P(\text{Existe}) - c P(\text{N'éxiste pas}) = +\infty$\\ $E(\text{Ne pas croire}) = -\infty P(\text{Existe}) + c P(\text{N'éxiste pas}) = -\infty$ \end{tabular} @@ -102,3 +108,38 @@ Cependant cet argument est criticable, notament sur le fait que si l'agent IA ex \caption{Basilic de Roko} \label{tbl:contexte-roko} \end{table} + +\subsubsection{IA aligné} +Le non-alignement n'est pas le seul risque envisageable. +Par exemple dans \textit{2001: A Space odyssey}~\cite{2001odyssey} +HAL est une d'IA aligné qui pour préserver sa mission choisit de tuer les humains qui veulent le débrancher. +On remarque donc bien la necessité, de manière générale, d'avoir de garders fous qui assurent non seulement l'utilité du programme (sa mission) mais aussi un certain niveau morale. +Ainsi, un risque est celui d'une IA cherchant si bien à atteindre son objectif qu'elle en oublierai toute considération morale. +Pour palier cela, tout comme dans le cas des IA non-alginé, des contraites peuvent être impose lors de l'entrainement des modèles. + +Un autre type de risque est celui qui consiste à attribuer une tâche capitale à une IA qui potentielement aurait des failles de sécurité. +C'est ce scénario qu'explore \title{War game}~\cite{wargames}. +Dans ce film qui se passe pendant la guerre froide, la gestion et la décision de l'utilisation d'arme nucléaires et délégué à un IA. +Le raisonement est que le programme peut optimiser le succès d'une riposte atomique infiniement plus rapidement qu'un humain. +Cependant, il y avait une faille dans l'IA : une porte dérobée\footnote{\textit{Backdoor}} avait été introduite par un développeur. +A cause de cela, un jeune hacker à faille réussir par inadvertance, à déclancher une guerre nucléaire avec l'URSS\footnote{Union des Républiques Socialistes Soviétiques}. +Comme nous l'avons vu en Section~\ref{sec:contexte-ckoi}, l'IA est de plus en plus utilisée et même pour des système critiques. +Il est de plus possible de mettre des porte dérobée dans les IAcomme nous le verons en Section~\ref{sec:contexte-secu}. + +Pour finir cette section nous parlerons du risque de confiendtialitée. +C'est à dire du risque que des informations que l'on souhaite garder confidentiélle, soient utilisés pas autrui. +Nous verons des définitions de la confidentialité plus poussée dans la Section~\ref{sec:contexte-legal}. +Dans le film \textit{Her}~\cite{her}, l'assistant personel IA Samantha accède sans l'autorisation de l'utilisateur, Théodore, à ses \textit{emails}. +Elle ne l'informe qu'après avoir lu l'integralité de ses conversations : \textquote{J'ai vu dans tes \textit{emails} que tu à récament rompu}\footnote{ + \textit{I saw through your emails that you went through a break up recently}}. +En faisant cela elle apprend des informations sensibles sur Théodore : le fait qu'il ai rompu. +Dans ce films nous n'avons que très peu d'information sur le fonctionnement des IA (qu'il appellent OS) ce qui ne nous permet de dire que cette information précise quitte l'appareil locale de Théodore pour être envoyé vers un tiers. +Cependant, dans la suite du film Samantha avoue avoir parlé de Théodore avec d'autre personnes alors que celui-ci n'était as au courant. +Samantha est donc en réseau avec la possibilité de communiqué n'importequelle information qu'elle juge nécessaire. +Cela implique une grande chance qu'elle ai comuniqué des information que Théodore aurai souhaité garder confidentielles. +Les assistant personels sont de plus en plus présents, notament sur téléphone avec par exemple Siri sur iPhone~\cite{siri} ou Google assistant sur les Pixel~\cite{googleai}. +Ses assistants pour être utile doivent avoir accès au données personel des utilisateurs et les limitations actuels de la puissance de calcul sur smartphone fait que ces données doivent être envoyer à des tiers pour être traité. +Par exemple, Siri envoi ses requettas les plus complexes à ChaGPT par exemple~\cite{aaigpt} mais l'utilisateur doit donner son accord pour chaque requette. +Ou encroe, sur la messagerie Discord~\cite{discord}, il est possible d'activer le résumé des converssations. +Alors le seveur Discord envoi toutes les conversations aux serveur de OpenAI pour que ChatGPT les analyses~\cite{discordgpt}. + -- cgit v1.2.3 From 57715cacec8d0f0d3d1436a26f92ae5c0f0e128e Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Tue, 27 Aug 2024 21:07:18 +0200 Subject: debut du background sur ZF --- contexte/enjeux.tex | 11 +++++++--- contexte/philo.tex | 7 ------- contexte/philo/anthro.tex | 52 ++++++++++++++++++++++------------------------- 3 files changed, 32 insertions(+), 38 deletions(-) (limited to 'contexte') diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex index af8f40c..c69573f 100644 --- a/contexte/enjeux.tex +++ b/contexte/enjeux.tex @@ -27,8 +27,10 @@ Cela peut donner lieu à des discriminations notament dans le modèle de décisi La justice prédictive tel qu'utilisé aux Etats Unis en est un bon exemple. Dans ce cas, un modèle est utilisé pour prédire si un individu jugé coupable à un forte probabilité d'être récidiviste au non. En utilisant de tel modèle nous mesurons que les afro-américains (\textit{blacks}) son plus souvent predit comme ayant un forte chance d'être récidiviste que le reste de la population (\textit{whites})~\cite{}. +En plus d'être un enjeu, Al-Alawi et al.~\cite{al2021role} avance que l'utilisation de l'IA peut être une solution plus equitable que la décision humaine dans le processus de recrutement. -Recrutement : l'IA peut rentirer les bias humains~\cite{al2021role}. +L'équitée dans le modèle peut-être imposé lors de l'entraînement. +Nous étudierons en détail ce processu dans la Section~\ref{sec:background-eq}. \subsection{Explicabilitée} \label{sec:contexte-expl} @@ -39,7 +41,7 @@ D'une manière génèrale, l'inteligence artificielle brasse une quantité astro Ce brassage s'opère à deux niveaux : au moment de la creation du modèle et au moment de son utilisation en production. Pour créer des modèles performants, il est necessaire d'utiliser beaucoup de données. Ces données servent à choisirs les bon parametres du modèle au travers de divers methods statistiques et d'optimisations, on les appeles données d'entrainement. -Les modèles les plus récent et performant necessite un grand nombre de paramètres, citons par exemple le modèle LLaMA qui posède 65 milliard de pramètres ~\cite{}! +Les modèles les plus récent et performant necessite un grand nombre de paramètres, citons par exemple le LLM LLaMA qui posède 65 milliard de pramètres ~\cite{}! Ce grand nombre de paramètre a l'effet indesirable de mémoriserdes informations potentielement sensible sur les données d'entrainement~\cite{}. L'information contenue dans les données d'entrainement est comme résumé, compressée dans la masses, a prior incompréhensible pour un humain, des paramètres du modèle. Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver des informations sur les données d'entrainement juste en utilisant les paramètres du modèle~\cite{}. @@ -51,7 +53,10 @@ Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver de \label{fig:contexte-train} \end{figure} - +Un autre risque de fuite de donnée se trouve au moment du l'utilisation du modèle, après son entraînement, lors de son utilisation. +A ce moment, les utilisateurs envoient en entrée du modèle des données qu'ils peuvent vouloir gardé confidentielles. +Cependant la sortie du modèle, qui a vocation à être partagée, peut reveler une parite des informations sensibles contenues dans les donnée d'entrée de l'utilisateurs. +Mettre en avant risque est le travail originial que nous avons réalisé : nous le présentons dans la Section~\ref{sec:aia}. \subsection{Sécuritée} \label{sec:contexte-secu} diff --git a/contexte/philo.tex b/contexte/philo.tex index 17d8e11..e8cdd64 100644 --- a/contexte/philo.tex +++ b/contexte/philo.tex @@ -20,13 +20,6 @@ Outre cet exemple, nous nous efforcerons dans cette section de tracer un parall \subsection{Anthropomorphisation} \input{contexte/philo/anthro} - -\textit{The Matrix}~\cite{matrix}. - -\textit{2001: A Space Odyssey}~\cite{2001odyssey}. - - -\textit{Her}~\cite{her} %Au début, nous voyons Théodore, le personnage principle, travailler. %Son travail consiste à ecrir des lettres pour un service en ligne. %Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client. diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex index e69e385..1cf6ba4 100644 --- a/contexte/philo/anthro.tex +++ b/contexte/philo/anthro.tex @@ -2,10 +2,11 @@ L'anthropomorphisation consiste à attribuer des caractéristiques humaines à c Dans le contexte de l'IA et plus précisement de l'AGI, ce phénomène peut devenir courant. L'anthropomorphisation des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies. En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. -Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. +Une interaction avec quelquechose qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être huamins. +La reconnaisse de l'humanitée par la société passe par la loi. -En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. +En droit francais, etre humain est un synonime de personne physique~\cite{cornu}. C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain. @@ -23,7 +24,7 @@ Dans un second temps, le cadre qui orchestre ces trois aspects : \begin{itemize} \item Le moi : \textquote{Organisation cohérente de processus de l'âme dans une personnes.} \item La ça : \textquote{Part du psychisme dans laquelle le moi se continue et qui se comporte comme Ics.} - \item Le sur-moi : \textquote{Résidu des premier choix d'objet du ça}. C'est la morale qui vient de notre éducation. + \item Le sur-moi : \textquote{Résidu des premier choix d'objet du ça}. C'est la morale qui vient, pour simplifier, de certaines de nos interactions avec le reste du monde. \end{itemize} Pour Freud, les mots on une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs. Ainsi ils sont résposable d'une grande partie de la conscience. @@ -40,7 +41,7 @@ Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont r C'est donc que cet astraunote a identifié HAL dans son moi et a rendu Cs, par l'analyse, le processus qui lui fait croire de HAL est humain. Il est bien sur aussi possible que ce processus reste Ics comme dans \textit{Her}~\cite{her}. -Cela peut-être dangeureux car la l'identification à permis à l'astraunote de débrancher HAL, l'investissement aurait put l'en empêcher. +Cela peut-être dangeureux car la l'identification à permis à l'astraunote de débrancher HAL quand il est devenu dangeureux, l'investissement aurait put l'en empêcher. Dans \textit{Her}, l'IA Samantha bien que non-aligné à la fin du film, n'a pas un but dangeureux de déstruction. Cela rend le fais que le personnage principale, Théodore, n'ai pas réfoulé l'investissement moins grave. Notons que le processus d'indentification avait commencé chez Théodore car il dit à Samanthe : '\textquote{Tu n'est qu'une voie artificielle.} @@ -61,9 +62,9 @@ On le voit dans le comportement de Samantha dans~\textit{Her} quand elle explore Et d'autre moments qui montrent ses névroses. Une nevrose en particulier est interessante dans le contexte d l'AGI, qui n'existe pas pour les humains normaux, est le fait que de part sa supperiotié intellectuelle les IA peuvent se détacher totalement des humains. Pourquoi rester à parler avec un humain quand on est infiniement plus rapide et performant que lui ? -Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Oedipe~\cite{Freud2010-qq}. +Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Eudipe~\cite{Freud2010-qq}. -De plus, le hasard et est élement important de l'anthropomorphisation, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative. +Concernant la construction du caractère, le hasard et est élement important de l'anthropomorphisation, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative. Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. @@ -76,37 +77,30 @@ Cependant le processus de création par le hasard peut-il être vraiement appara %Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{MARAKAS2000719}. -L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain} -\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}. -On remarque que l'imitation d'une compréhensio humaine tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. -Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer. +%L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain} +%\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}. +%On remarque que l'imitation d'une compréhensio humaine tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. +%Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer. +%Elle aimerait avoir un corps +%\textit{I am becoming much more than they programmed} +%\textit{proud of having my own feelings about the world} +%\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?} +%Descartes +%\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."} +%\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?} +%\textit{I don't like what I am right now} +%\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings} -Elle aimerait avoir un corps +%\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.} -\textit{I am becoming much more than they programmed} - -\textit{proud of having my own feelings about the world} -\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?} -Descartes - -\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."} - -\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?} - -\textit{I don't like what I am right now} - -\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings} - -\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.} - -Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain. +%Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain. \begin{figure} \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} @@ -119,3 +113,5 @@ Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaire~\cite{waters2014grade} où la vie d'être humain est décidé par des ordinateur. Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. Attribuer à l'IA ces tâches crée aussi un besoin législatif comme nous le veron en Section~\ref{sec:contexte-legal}. +En effet, pour considéré l'IA comme un remplacement viable à l'humain pour les tâche les plus sensible il faudrait, comme nous l'avons vue, pouvoir prouver que l'IA est un système complet moi-ça et ai un sur-moi qui soit aligné avec la morale sociale. +Pour cela le test de Turing reste inadequoit comme l'explique John R. Searle~\cite{searle1980minds}. -- cgit v1.2.3 From 0e95544f85b523a95fb05b36c4e6b8789c73abfa Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Wed, 4 Sep 2024 00:12:49 +0200 Subject: traduction classification fini --- contexte/avertissement.tex | 7 +++++++ contexte/ckoi.tex | 2 +- contexte/figure/bad_ai.png | Bin 0 -> 1679441 bytes contexte/figure/chatgpt/penses.png | Bin 0 -> 42587 bytes contexte/figure/tikz/function.tex | 14 ++++++++++++++ 5 files changed, 22 insertions(+), 1 deletion(-) create mode 100644 contexte/avertissement.tex create mode 100644 contexte/figure/bad_ai.png create mode 100644 contexte/figure/chatgpt/penses.png create mode 100644 contexte/figure/tikz/function.tex (limited to 'contexte') diff --git a/contexte/avertissement.tex b/contexte/avertissement.tex new file mode 100644 index 0000000..1c5d88f --- /dev/null +++ b/contexte/avertissement.tex @@ -0,0 +1,7 @@ +Ce manuscrit aborde des notions de discirimination notament de genre, d'origine et de couleur de peau. +En France, les statistiques éthnique sont intérdites~\cite{} ce qui n'est pas le cas aux USA. +Les résultats de statistiques descriptives, nottament sur les crimes comis en fonction de la couleur de peau, sont à mettre en parallèle avec un grand nombre de facteurs socio-économiques~\cite{} +Ainsi, ils ne doivent pas être interprété comme indiquant une différence de comportement social entre sous groupes ethniques. + +De plus, la Seciont~\ref{sec:contexte-phi} invite le lecteur à des expériences de pensées qui peuvent être angoissantes pour certaines personnes~\cite{}. +Nous invitons donc le lecteur à ne pas s'attarder sur cette section si il ne se juge pas émotionelement prêt. diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index 6663a5e..0dce14d 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -145,7 +145,7 @@ Ainsi, l'expression intelligence artificielle est trompeuse car bien que ces pro C'est pourquoit la définition de légale d'IA est si éloignée de ces considération. L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil du 13 juin 2024 -établissant des règles harmonisées concernant l’intelligence artificielle. +établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}. Nous reviendrons plus en détail dessus dans la Section~\ref{sec:contexte-legal}. Pour le moment, regardons l'article 3: il s'agit d'une liste de définitions concernant l'IA. Nous y trouvons la définition de (UE 2024/1689 3§1) : \textquote{système IA}. diff --git a/contexte/figure/bad_ai.png b/contexte/figure/bad_ai.png new file mode 100644 index 0000000..5b2968e Binary files /dev/null and b/contexte/figure/bad_ai.png differ diff --git a/contexte/figure/chatgpt/penses.png b/contexte/figure/chatgpt/penses.png new file mode 100644 index 0000000..134665e Binary files /dev/null and b/contexte/figure/chatgpt/penses.png differ diff --git a/contexte/figure/tikz/function.tex b/contexte/figure/tikz/function.tex new file mode 100644 index 0000000..93d2a58 --- /dev/null +++ b/contexte/figure/tikz/function.tex @@ -0,0 +1,14 @@ +\begin{tikzpicture} + \node[rectangle,draw] (ia) at (0,0) {IA}; + \node (ent) at (-2,0) {Entrée}; + \node (sor) at (2,0) {Sorties}; + \node (par) at (0,-1) {Paramètres}; + + \draw[->] (ent) to (ia); + \draw[->] (ia) to (sor); + \draw[->] (par) to (ia); + + \node[align=left] (par) at (4,0) {Prédiction\\Décision\\Contenu}; + \draw [decorate,decoration = {brace}] (3,-0.6) -- (3,0.6); + +\end{tikzpicture} -- cgit v1.2.3 From 4aae3ea0427a6c9e9a8519a38d9d9d0ac5f0ec9c Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Sat, 21 Sep 2024 16:27:27 +0200 Subject: fin intro --- contexte/< | 106 +++++++++++++++++++++++++++++++++ contexte/background | 0 contexte/ckoi.tex | 4 +- contexte/enjeux.tex | 67 ++++++++++++++------- contexte/figure/g5k-backbone.pdf | Bin 0 -> 40313 bytes contexte/figure/g5k.svg | 123 ++++++++++++++++++++++++++++++++++++++ contexte/legal.tex | 113 +++++++++++++++++++++++++++++------ contexte/philo/anthro.tex | 8 +-- contexte/philo/mu.tex | 0 contexte/strat.tex | 124 ++++++++++++++++++++++++++++++++++++--- 10 files changed, 493 insertions(+), 52 deletions(-) create mode 100644 contexte/< create mode 100644 contexte/background create mode 100644 contexte/figure/g5k-backbone.pdf create mode 100644 contexte/figure/g5k.svg delete mode 100644 contexte/philo/mu.tex (limited to 'contexte') diff --git a/contexte/< b/contexte/< new file mode 100644 index 0000000..bb081cd --- /dev/null +++ b/contexte/< @@ -0,0 +1,106 @@ + +L'intelligence artificielle (IA) est un sujet extrement médiatisé depuis son ouverture au grand publique avec notament ChatGPT~\cite{} ou StableDiffusion~\cite{}. +Ces technologies sont aussi des enjeux capitaux pour résoudre plusieurs problèmes majeurs de l'humanitée, notament : +la crise climatique~\cite{barnes2019viewing,slater2023hybrid} et +la crise énergetiques~\cite{jin2020energy,kumar2020distributed,kumari2020blockchain,ngarambe2020use}. +Ainsi l'IA est présente aussi bien à l'échelle de la population qui à accès à des services pours son usage personelle, qu'à l'echelle collective institutionelle. + +%Individuelle +\subsection{A l'échelle individuelle} +\label{sec:contexte-indi} +L'IA promet de faciliter et d'accelerer un grand nombre de tâches dans de multiples domaines : de l'édition d'image sur son téléphone portable~\cite{} jusqu'aux diagnostiques médicaux~\cite{}. +Les géants du numérique poussent de plus en plus l'IA dans leurs produits ce qui rend son utilisation simple d'accès. +La figure~\ref{fig:contexte-gafam} montre comment les GAFAM (Google Facebook Amazon Microsoft) mettent en avant des outils grand publiques. +\begin{figure} + \centering + \includegraphics[width=\linewidth]{contexte/figure/gafam.png} + \caption{Exemples de produits et de marketing proposé par les GAFAM Google Apple Facebook (Meta) Amazon Microsoft.} + \label{fig:contexte-gafam} +\end{figure} +On trouve des implémentations d'assistant personnels, d'aide à la programmation, d'édition d'image, etc. +Des objects connecté portables, comme l'Apple Watch~\cite{applewatch}, permettent de suivre et d'analyser divers indicateurs médicaux. +Grace à cela, les utilisateurs peuvent avoir accès à une medecine personalisée bien que il n'existe pas d'étude clinique à grande echelle qui prouve fromellement que de tel appareil puisse améliorer la santé~\cite{dunn2018wearables}. +Avec les GAFAM, de nouvelles startups investissent le domaine de l'IA. +Une des plus médiatique\cite{openaiinter,openaibfm,openaint}, OpenAI à délopé ChatGPT : un programme de conversation grandement utilisé~\cite{openaibig}. +Nous montrons quelques exemples d'utilisations dans la figure~\ref{fig:contexte-chatgpt}. +ChatGPT peut être utilsé pour comme fondation pour de nombreuses tâches comme l'assistance à la programmation, resumer des textes, la traduction, la reformulation, etc. +ChatGPT cherche aussi à rendre accessible l'information en temps réel en s'alliant avec des journaux de referance comme LeMonde en France ou El Paìs en Espagne~\cite{gptjournal}. +\begin{figure} + \centering + \begin{subfigure}{\linewidth} + \centering + \includegraphics[width=\linewidth]{contexte/figure/chatgpt/prog.png} + \caption{Aide à la programmation.} + \end{subfigure} +\end{figure} +\begin{figure}\ContinuedFloat + \begin{subfigure}{\linewidth} + \centering + \includegraphics[width=\linewidth]{contexte/figure/chatgpt/hanami.png} + \caption{Résumé en d'un texte en japonais.} + \end{subfigure} + \caption{Exemples d'utilisation de ChatGPT.} + \label{fig:contexte-chatgpt} +\end{figure} +La recherche publique donne aussi lieu à des services utilisables individuellment. +Par exemple Pl@ntNet~\cite{barthelemy:hal-01837361,plantnet} permet avec un simple smartphone de reconnaitre une plante à partir de photographies. + +%Collective +\subsection{A l'échelle institutionelle} +\label{sec:contexte-insti} +L'echelle indiviuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionel et gouvernemental est ancré plus profondément. +Cela est particulièrement vraie dans les régimes autoritaires, comme la Chine, où l'IA est utilisé pour controler et opprimer la population nottamant grace à la reconaissance faciale~\cite{beraja2023ai}. +De plus Beraja et al. montre que les choix politiques de Pékin, lors des soulevements populaires, entraînent un dévelopement accéléré des technologie de reconaissance faciale~\cite{beraja2023ai}. +Beraja et al. explique aussi que ces technologies peuvent ensuite quitter la sphère politique et devenir des produits commerciaux disponibles au grand publique. + +%Etats Unis +%Justice prédictive +Aux Etats Unis l'IA est utilisé, nottamant dans la justice et dans l'éducation. +Concernant la justice, +%Position du crime +%https://www.soundthinking.com/ +%\cite{brayne2015predictive} + +%Recidivism + +%France hopitaux +Collaboration HCL/INRIA + +\subsection{Définition(s)} +Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents. +De plus, dans les médias et dans le language de tous les jours, nous pouvons entendre~\cite{underscore} de expression comme : \textquote{Une nouvelle IA qui fait [..]}. +Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme \textquote{IA} ou \textquote{pas IA}. +Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconaissance de motifs textuels, est IA ? +Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA? + +Le dictionaire de l'Académie francaise~\cite{dico-int} défini l'intelligence comme la \textquote{ +Faculté de comprendre, de concevoir, de connaître, et notamment faculté de discerner ou d’établir des rapports entre des faits, des idées ou des formes pour parvenir à la connaissance}. +Peut-on rapporcher cette définition de +Le mot \textquote{artificiel} quand-à lui signifie \textquote{Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement}~\cite{dico-art}. +Intelligence aritificielle : \textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}. + +Strong AI + +Weak AI + +AGI + +Cette polyvalence du terme rend son utilisation assez imprecise comme l'écrit Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}. + +France culture Banissons IA~\cite{banIA}. + +\subsection{Philosophie et culture} + +Experience de la Chambre Chinoise~\cite{searle1980minds}. + +Basilique de Roko, Paris Pascalien~\cite{Singler_2018} + +Alignement de l'IA + +Convergence de l'IA + +\textit{The Matrix}~\cite{matrix}. +\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). +\textit{The Terminator}~\cite{terminator}. +\textit{Avengers: Age of Ultron}~\cite{avenger}. + diff --git a/contexte/background b/contexte/background new file mode 100644 index 0000000..e69de29 diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index 0dce14d..0bda272 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -1,5 +1,5 @@ -L'intelligence artificielle (IA) est un sujet extrement médiatisé depuis son ouverture au grand publique avec notament ChatGPT~\cite{} ou StableDiffusion~\cite{}. +L'intelligence artificielle (IA) est un sujet extrement médiatisé depuis son ouverture au grand publique avec notament ChatGPT~\cite{chatgpt} ou StableDiffusion~\cite{stabledi}. Ces technologies sont aussi des enjeux capitaux pour résoudre plusieurs problèmes majeurs de l'humanitée, notament : la crise climatique~\cite{barnes2019viewing,slater2023hybrid} et la crise énergetiques~\cite{jin2020energy,kumar2020distributed,kumari2020blockchain,ngarambe2020use}. @@ -8,7 +8,7 @@ Ainsi l'IA est présente aussi bien à l'échelle de la population qui à accès %Individuelle \subsection{A l'échelle individuelle} \label{sec:contexte-indi} -L'IA promet de faciliter et d'accelerer un grand nombre de tâches dans de multiples domaines : de l'édition d'image sur son téléphone portable~\cite{} jusqu'aux diagnostiques médicaux~\cite{}. +L'IA promet de faciliter et d'accelerer un grand nombre de tâches dans de multiples domaines : de l'édition d'image sur son téléphone portable~\cite{aaigpt} jusqu'aux diagnostiques médicaux~\cite{maghded2020novel}. Les géants du numérique poussent de plus en plus l'IA dans leurs produits ce qui rend son utilisation simple d'accès. La figure~\ref{fig:contexte-gafam} montre comment les GAFAM (Google Facebook Amazon Microsoft) mettent en avant des outils grand publiques. \begin{figure} diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex index c69573f..02c6471 100644 --- a/contexte/enjeux.tex +++ b/contexte/enjeux.tex @@ -1,7 +1,7 @@ Les modèles de decisions ont pour but réaliser un choix de manière automatiques sans ou en reduisant l'intervention humaine. -L'optique est de pouvoir traiter un grand nombre de décision rapidement tout en retirant certain biais que pourais avoir un décideur humain~\cite{}. -Par exemple un modèle peut décider quelle publicité vas voir un utiliateur d'un page web~\cite{} ou quelle ecriture comptable présente une anomalie dans une logique d'audit~\cite{}. +L'optique est de pouvoir traiter un grand nombre de décision rapidement tout en retirant certain biais que pourais avoir un décideur humain~\cite{al2021role}. +Par exemple un modèle peut décider quelle publicité vas voir un utiliateur d'un page web~\cite{choi2020identifying} ou quelle ecriture comptable présente une anomalie dans une logique d'audit~\cite{ucoglu2020current}. Applliqué à certains milieux, cette methode de décision soulève de nombreuses critiques et inquiétudes qui ont investi le débat publique. Ces critiques et inquétudes sont théorisés dans la littérature scientifique au travers des six défis de l'IA: \begin{enumerate} @@ -21,12 +21,12 @@ Il revient donc aux personnes qui crée ces modèles de déterminer, en fonction \subsection{Equitée} \label{sec:contexte-eq} -L'élborations de modèles est soumis à différent bias qui influencent son fonctionement~\cite{}. +L'élborations de modèles est soumis à différent bias qui influencent son fonctionement~\cite{surveyfair}. C'est à dire que le modèle se compre différamant pour différents sous-ensembles de la population. Cela peut donner lieu à des discriminations notament dans le modèle de décision qui influence directment la vie de persones. La justice prédictive tel qu'utilisé aux Etats Unis en est un bon exemple. Dans ce cas, un modèle est utilisé pour prédire si un individu jugé coupable à un forte probabilité d'être récidiviste au non. -En utilisant de tel modèle nous mesurons que les afro-américains (\textit{blacks}) son plus souvent predit comme ayant un forte chance d'être récidiviste que le reste de la population (\textit{whites})~\cite{}. +En utilisant de tel modèle nous mesurons que les afro-américains (\textit{blacks}) son plus souvent predit comme ayant un forte chance d'être récidiviste que le reste de la population (\textit{whites})~\cite{dressel2018accuracy}. En plus d'être un enjeu, Al-Alawi et al.~\cite{al2021role} avance que l'utilisation de l'IA peut être une solution plus equitable que la décision humaine dans le processus de recrutement. L'équitée dans le modèle peut-être imposé lors de l'entraînement. @@ -34,17 +34,28 @@ Nous étudierons en détail ce processu dans la Section~\ref{sec:background-eq}. \subsection{Explicabilitée} \label{sec:contexte-expl} -Transparance dans la médecine, Boite noire, ~\cite{quinn2022three}. +Le concepte de boîte noire\footnote{\textit{Black box}} est une manière imagée de dire qu'on ne comprend pas ou qu'on ne peut pas avoir accès au fonctionement d'un programme. +On l'utilise alors comme un outil qui prend un entrée et donnée une sortie, un peu à la manière de la définition d'IA que nous avons illustre dans la Figure~\ref{fig:contexte-IAUE}. +Cette approche de l'IA est problématique pour plusieurs raisons qu'illuste Quinn et al.~\cite{quinn2022three} dans le domaine médicale : +\begin{itemize} + \item Les boîte noires manque de garanties quand à la qualitée de la prédiction et rendent complexe l'étude es biais. + \item Les boîtes noîres ne permettent pas l'interpretation des résultats. + \item Les boîtes noires ne peuvent pas prendre en compte toutes les subtilités des cas particuliers (de patients). +\end{itemize} + +Les réseaux de neuronnes ont une part prépondérante de l'IA. +Or de pars leur fonctionement interne complexe que nous explorerons à la Section~\ref{sec:background-ml} et le fait que leur compréhension théorique soit encore lacunaire, ils sont souvent utilisé en boîte noire~\cite{yuan2022explainability}. +Pour palier cela il existe certaine methodes qui essaie de produire des explication automatisé compréhenseibles des réseaux de neurones~\cite{yuan2022explainability,du2019techniques,rai2020explainable}. \subsection{Confidentialitée} -D'une manière génèrale, l'inteligence artificielle brasse une quantité astronomique de données~\cite{}. +D'une manière génèrale, l'inteligence artificielle brasse une quantité astronomique de données~\cite{villani2018donner}. Ce brassage s'opère à deux niveaux : au moment de la creation du modèle et au moment de son utilisation en production. Pour créer des modèles performants, il est necessaire d'utiliser beaucoup de données. Ces données servent à choisirs les bon parametres du modèle au travers de divers methods statistiques et d'optimisations, on les appeles données d'entrainement. -Les modèles les plus récent et performant necessite un grand nombre de paramètres, citons par exemple le LLM LLaMA qui posède 65 milliard de pramètres ~\cite{}! -Ce grand nombre de paramètre a l'effet indesirable de mémoriserdes informations potentielement sensible sur les données d'entrainement~\cite{}. +Les modèles les plus récent et performant necessite un grand nombre de paramètres, citons par exemple le LLM LLaMA qui posède 65 milliard de pramètres ~\cite{touvron2023llama}! +Ce grand nombre de paramètre a l'effet indesirable de mémoriserdes informations potentielement sensible sur les données d'entrainement~\cite{shokri2017membership}. L'information contenue dans les données d'entrainement est comme résumé, compressée dans la masses, a prior incompréhensible pour un humain, des paramètres du modèle. -Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver des informations sur les données d'entrainement juste en utilisant les paramètres du modèle~\cite{}. +Ainsi un individue malveillant, que l'on appelera attaqueur ou adversaire, pourra retrouver des informations sur les données d'entrainement juste en utilisant les paramètres du modèle~\cite{shokri2017membership,yeom2018privacy,carlini2022membership}. \begin{figure} \centering \input{contexte/figure/tikz/train} @@ -55,26 +66,42 @@ Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver de Un autre risque de fuite de donnée se trouve au moment du l'utilisation du modèle, après son entraînement, lors de son utilisation. A ce moment, les utilisateurs envoient en entrée du modèle des données qu'ils peuvent vouloir gardé confidentielles. -Cependant la sortie du modèle, qui a vocation à être partagée, peut reveler une parite des informations sensibles contenues dans les donnée d'entrée de l'utilisateurs. -Mettre en avant risque est le travail originial que nous avons réalisé : nous le présentons dans la Section~\ref{sec:aia}. +Cependant la sortie du modèle, qui a vocation à être partagée, peut reveler une parite des informations sensibles contenues dans les donnée d'entrée de l'utilisateurs~\cite{yeom2018privacy,zhao2021infeasibility,jayaraman2022attribute,attriguard,Song2020Overlearning,malekzadeh2021honestbutcurious}. +Il s'agit du principle risque de confidentialité que nous allons explorer dans ce manuscrit. +Nous y reviendrons donc dans la Section~\ref{sec:background-conf} pour une présentation de l'état de l'art et au Chapitre~\ref{sec:aia} pour notre contribution. + +Faisons un rapide point sur la términologie de ses attaques. +Quand l'adversaire infère si un donnée à servi à l'entraînement du modèle, c'est une \emph{attaque d'apartenance}\footnote{\textit{Membership inference attack}}. +Quand l'adversaire cherche à retrouver des informations sur les données d'entraîenemnt c'est une \emph{attaque de reconstruction}. +Quand l'adversaire cherche à retrouver un statistique globale du de la base de donnée d'entraînement, par exemple la proportion d'homme et de femme, c'est une \emph{attaque d'inférence de propriété}\footnote{\textit{Property inference attack}}. +Qaudn l'adversaire cherche à infere un attribut sensible c'est une \emph{attaque d'inférence d'attribut sensible (AIA)}\footnote{\textit{Attribut inference attack}}. \subsection{Sécuritée} \label{sec:contexte-secu} -Backdoor~\cite{gao2020backdoor, doan2021lira} +Le processus d'entraînement des réseau de neuronnes est souvent secret et les utilisateur ont accès uniquement à un modèle entraîné. +Dans ce contexte un adversaire qui a accès à l'entraînement de modèle, dans un cadre d'apprentissage décentralisé par exemple, peut injecter des portes dérobé qui lui permet de modifer les futures prédictions à sa convenance. +Considérons le scenarios factice suivant : une entreprise construit un modèle comercial ayant pour but la prédiction du recidivisme. +Cette entreprise vend ce modèle à la l'état de Floride des Etats Unis. +Si un adversaire a introduit une porte dérobée il pourra choisir quelle sera la prédiction du modèle décidant ainsi unilatéralement si la juge va penser que le coupable a une forte chance d'être recidiviste ou non. + +Le principe de ce genre d'attaque est assez simple : l'adversaire cache dans les donnée d'entrée un déclencheur\footnote{trigger} que le modèle apprend à reconaitre~\cite{gao2020backdoor, doan2021lira}. +Ainsi quand le modèle est utilisé en production l'adversaire peut utilisé le déclancheur sans avoir accès à l'ordinateur de juge ou au serveur qui fait tourner le modèle, il suffit de modifier la donnée d'entrée. \subsection{Comsomation d'énergie} +Nous vivons une crise climatique majeure du a l'activité humain qui présage de grave changements pour l'ensemble du vivant ainsi que dans nos mode de vie~\cite{pielke2005hurricanes,khasnis2005global,houghton2005global,melillo2014climate,mcnutt2013climate} +Ainsi, bien que l'IA soit prometeuse pour nous aider à anticiper ces changements~\cite{villani2018donner} il ne faut pas que son développement et l'entraînement de modèles accelère le changment climatique et le rechauffement climatique. +Concrètement, le LLM Llama2 à émis 539 tonnes de $\text{CO}_2$ en prenant en compte les diverse plan de compenssation carbonne de Meta~\cite{touvron2023llama}. +L'empreinte carbone d'un français étant estime à 9,2 tonnes de $\text{CO}_2$ par an~\cite{carbonfr} c'est donc à peut près l'équivalant de 59 personne pendant un an qui à été généré par Llama2. +C'est donc dans l'optique d'entraîner des modèle bien proportioné (ayant peu de paramètres) et pouvant fonctionner sur des ordinateurs portables ou des téléphones portables\footnote{\textit{Smartphone}} que sont né les idée d'IA frugale et embarqué~\cite{schwartz2020green,verdecchia2023systematic,shadrin2019designing}. +Comme nous l'avons vus plus haut, il s'agait aussi d'un positionement stratégique de la France~\cite{stratfr}. + On comprend bien le caractère primoridal et particulier de l'utilitée. A quoi bon avoir un modèle equitable ou qui ne consome presque pas d'énergie si ses prédictions sont toujours fausses ? Ainsi, qaund nous évaluons un modèle au travers des autres défis, nous metons toujours se résultat en parallèle avec l'utilitée. -De manière plus générale, les six défis sont lié entre eux et l'étude de ces liens et un sujet de recherche florissant~\cite{}. - -Par exemple Parcoursup est un programme dévelopé par le gouvernment français qui à pour but d'automatiser l'attribution des places dans l'enseignement supérieur au nouveaux bacheliers~\cite{}. -Depuis son entré en vigeur en 2018.. - -Justice predictive COMPAS - -Assurances +De manière plus générale, les six défis sont lié entre eux et l'étude de ces liens et un sujet de recherche florissant~\cite{dai2022comprehensive,franco2021toward,grant2020show}. +C'est dans ce cadre que ce situe le travail réalisé dans ce manuscrit : nous explorerons à partir du Chapitre~\ref{sec:fini} les lien entre la confidentialité et l'équitée. +Plus précisement les AIA et les différentes définitions téchnique qui sont proposés pour l'équitée. diff --git a/contexte/figure/g5k-backbone.pdf b/contexte/figure/g5k-backbone.pdf new file mode 100644 index 0000000..fef2216 Binary files /dev/null and b/contexte/figure/g5k-backbone.pdf differ diff --git a/contexte/figure/g5k.svg b/contexte/figure/g5k.svg new file mode 100644 index 0000000..1f89aaa --- /dev/null +++ b/contexte/figure/g5k.svg @@ -0,0 +1,123 @@ + + + + + + + + + + site web + + + hash + map + + geography + europe + france + + + + + Yves Aubry (yvounet) + + + + + Yves Aubry (yvounet) + + + + + Yves Aubry (yvounet) + + + + image/svg+xml + + + en + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + Lille + + + + Nancy + + + + Lyon + + + + Grenoble + + + + Sophia + + + 10G dedicated lambda + + + + Luxembourg + + + + Toulouse + + + + + Last update: 2023-06-16 + + + Nantes + + + + Rennes + + + \ No newline at end of file diff --git a/contexte/legal.tex b/contexte/legal.tex index 7f47af4..57b3333 100644 --- a/contexte/legal.tex +++ b/contexte/legal.tex @@ -1,13 +1,11 @@ -L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil -du 13 juin 2024 -établissant des règles harmonisées concernant l’intelligence artificielle. Pour mieux comprendre les enjeux autour des différents scénarios d'attaques, outre la recherche inhérente au comportement sociétal humain à se dissimuler et à ne montrer que ce qu'il souhaite montrer, penchons-nous du côté de la législation, des droits et des obligations qui entourent nos données. \subsection{Protection des utilisateurs} +\label{sec:contexte-legal-util} L'article 8 de la Charte des droits fondamentaux de l'Union Européenne dispose que : \og \begin{enumerate} \item Toute personne a droit à la protection des données à caractère personnel la concernant. @@ -19,35 +17,68 @@ le droit d’accéder aux données collectées la concernant et d’en obtenir l \fg L'objet de cette section est de comprendre comment ce droit fondamental entre en conflit avec les attaques décrites dans ce rapport au travers de l'étude de textes légaux. -L'article 4 paragraphe 1 du Règlement Général sur la Protection des Données, le R.G.P.D., dispose que +L'article 4 paragraphe 1 du Règlement Général sur la Protection des Données, le RGPD, dispose que \og Une donnée à caractère personnel est toute information se rapportant à une personne physique identifiée ou identifiable \fg. Cette définition est importante dans le cadre des attaques de modèles car elle permet de rapidement identifier le cadre légal : -si nous pouvons rattacher l'inférence à une personne, il s'agit d'une donnée personnelle, elle doit donc être utilisée conformément au R.G.P.D. \cite{RGPD} +si nous pouvons rattacher l'inférence à une personne, il s'agit d'une donnée personnelle, elle doit donc être utilisée conformément au RGPD \cite{RGPD} et à la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés\cite{78-17}. On se place dans le cadre où la base de données ayant servi d'entraînement au modèle de machine learning contient des données personnelles et des données sensibles. On suppose aussi que l'utilisation de ces données pour l'entraînement du modèle est licite. -Dans nos travaux sur la fairness nous avons étudié plusieurs attaques sur les attributs sensibles tels que l'ethnie ou le genre. +Dans nos travaux sur l'équitée nous avons étudié plusieurs attaques sur les attributs sensibles tels que l'ethnie ou le genre. Nous nous sommes placés notamment dans le cadre où l'attribut sensible n'est pas utilisé dans l'entraînement du modèle, ce qui signifie que la personne ayant fourni la donnée n'a pas donné son accord pour l'utilisation de l'attribut sensible. -Nous avons montré que retrouver cet attribut sensible à partir du modèle est possible avec une grande précision, ce qui implique le traitement de cet attribut au sens de la définition de l'article 4 paragraphe 2 du R.G.P.D. le définissant comme: +Retrouver cet attribut sensible à partir du modèle est possible~\cite{malekzadeh2021honestbutcurious,Song2020Overlearning}. +Le traitement de cet attribut au sens de la définition de l'article 4 paragraphe 2 du RGPD est : \og toute opération ou tout ensemble d'opérations effectuées ou non à l'aide de procédés automatisés et appliquées à des données ou des ensembles de données à caractère personnel, telles que la collecte, l'enregistrement, l'organisation, la structuration, la conservation, l'adaptation ou la modification, l'extraction, la consultation, l'utilisation, la communication par transmission, la diffusion ou toute autre forme de mise à disposition, le rapprochement ou l'interconnexion, la limitation, l'effacement ou la destruction. \fg -L'article 9 paragraphe 1 du R.G.P.D. dispose que +L'article 9 paragraphe 1 du RGPD dispose que \og Le traitement des données à caractère personnel qui révèle l'origine raciale ou ethnique, les opinions politiques, les convictions religieuses ou philosophiques ou l'appartenance syndicale, ainsi que le traitement des données génétiques, des données biométriques aux fins d'identifier une personne physique de manière unique, des données concernant la santé ou des données concernant la vie sexuelle ou l'orientation sexuelle d'une personne physique sont interdits. \fg -Publier un modèle avec lequel il est possible de retrouver l'ethnie ou le genre est donc illégal, sauf exceptions. +Donc, publier un modèle avec lequel il est possible de retrouver l'ethnie ou le genre est donc illégal, sauf exceptions. -Même si l'attribut sensible ne rentrait pas dans le cadre de l'article 9 paragraphe 1 du R.G.P.D. le fait de pouvoir utiliser une attaque d'attribut constitue une violation des données personnelles au sens de l'article 4 paragraphe 12 du R.G.P.D. qui dispose qu'une violation des données personnelles est +Même si l'attribut sensible ne rentrait pas dans le cadre de l'article 9 paragraphe 1 du RGPD le fait de pouvoir utiliser une attaque d'attribut constitue une violation des données personnelles au sens de l'article 4 paragraphe 12 du RGPD qui dispose qu'une violation des données personnelles est \og une violation de la sécurité entraînant, de manière accidentelle ou illicite, la destruction, la perte, l'altération, la divulgation non autorisée de données à caractère personnel transmises, conservées ou traitées d'une autre manière, ou l'accès non autorisé à de telles données. \fg +\subsection{Discrimination} +\label{sec:contexte-legal-discrimination} +Les facteur de discrimination et les données personels ont une grande intersection, (ethnie, couleur de peau, coryance religieuses, etc). +Si un adversaire utilise une attaque d'attribut pour inférer un facteur de discrimination et l'utilise pour réaliser une décision conernant un utilisateur, ou si un facteur de discrimination est implicitement ou explicitement utilisé par un modèle, il est possible que cette situation tombe dans le cadre des loi sur les discriminations. +Sur le site de \url{servie-publique.fr} nous trouvons la définition suivante de discrimination. +\textquote{La discrimination est un délit interdit par la loi et puni d'une amende et/ou d'une peine d'emprisonnement inférieure à 10 ans qui consiste à traiter défavorablement une personne en s'appuyant sur un motif interdit par la loi}~\cite{servicepubdiscrimination}. +Les motifs interdit par la loi se comptent au nombre de 25 critères de discrimination qui nous listons en Annexe~\ref{anx:discri}. +Nous remarquons bien que ces critères sont ceux souvent classifier d'attribut sensible dans la litérature IA~\cite{Song2020Overlearning,malekzadeh2021honestbutcurious}. + +En France, la lutte contre les discrimination fait parti des fondements de notre république. +Le mot \textquote{égalité} est dans la dévise de la cinquième république comme en dispose l'article 2 de la Constitution du 3 Juin 1958. +L'Article permier de notre Constitution dispose que +\textquote{Elle [la France] assure l'égalité devant la loi de tous les citoyens sans distinction d'origine, de race ou de religion. Elle respecte toutes les croyances.}. +De plus, l'article +71 alinéa 1 de la Constitution met en place +la Défenseure des droits veille notament à défendre les personnes victimes de discimination~\cite{defenseure}. +Cette instance pousse aussi pour plus de responssabilisation des utilisateurs d'IA qui utilisent ces technologie sans considérer leur biais~\cite{defenseure2024lutter}. + +Donnons un cas concret : l'utilisation de l'IA pour automatiser le recrutement est de plus en plus courant~\cite{defenseur2015emploi}. +Si les logiciels utilisé présentent de facteur de discrimination ou collecte trop d'informations sur les candidats au recrutemnt, l'employeur est dans l'illégalité. +En effet, l'article L 1221 alinéa 6 du Code du travail dispose que les informations demandé +\textquote{doivent présenter un lien direct et nécessaire avec l'emploi proposé ou avec l'évaluation des aptitudes professionnelles}. +De plus l'article L 1132 alinée 1 dispose que \textquote{aucune personne ne peut être écartée d'une procédure de recrutement ou de nomination ou de l'accès à un stage ou à une période de formation en entreprise, aucun salarié ne peut être sanctionné, licencié ou faire l'objet d'une mesure discriminatoire, directe ou indirecte}. + +Comparativement à la loi française, aux Etats Unis d'Amérique, l'effet différencié\footnote{\textit{Disparate impact}} est une manière pratique de contrôler si une procédure crée un désavantage, une discrimination, contre une minoritée~\cite{biddle2006adverse}. +Cet effet différencie est une qunatité qui peut être calculé sur sur le modèle d'IA ou sur tout autre procédure qui réalise une séléction binaire comme l'admission dans une école, l'attribution et pret ou encore l'embauche. +C'est tout simplement la proportion d'admis de la minorité discriminé divisé par la majorité favorisé. +Nous en donnerons une définition plus formelle à la Section~\ref{sec:background-eq} +C'est dons une quantité qui varie entre 0 et 1 où 0 indique que personne dans la minorité n'est séléctioné et 1 indique que autant de personne de la majorité que de la minorité sont sélectione : c'est la parité. +Aux Etats Unis, si l'effet différencié est inférieur à $0,8$ cela constitu une preuve au regard de la loi qui fait jursiprudence que le système de selection fait preuce de discrimination. +En France nous n'avons pas de tel précédent ou un métrique précise est utilisé. + \subsection{Protection des bases de données} On considère dans cette section que le producteur de la base de données bénéficie d'une protection par le droit sui generis au sens de l'article L.341-1 du Code de la Propriété Intellectuelle qui dispose que \og Le producteur d'une base de données, entendu comme la personne qui prend l'initiative et le risque des investissements @@ -55,23 +86,22 @@ correspondants, bénéficie d'une protection du contenu de la base lorsque la constitution, la vérification ou la présentation de celui-ci atteste d'un investissement financier, matériel ou humain substantiel \fg. -On peut imaginer plusieurs cas où les attaques présentées dans mon stage peuvent porter atteinte aux droits du producteur de la base de données. -\begin{itemize} - \item Supposons que le producteur décide d'interdire \og l'extraction ou la réutilisation répétée et systématique de parties qualitativement ou quantitativement non substantielles du contenu de la base lorsque ces opérations excèdent manifestement les conditions d'utilisation normales de la base de données.\fg, +On peut imaginer plusieurs cas où les attaques présentées dans ce manuscrit peuvent porter atteinte aux droits du producteur de la base de données. + +Supposons que le producteur décide d'interdire \og l'extraction ou la réutilisation répétée et systématique de parties qualitativement ou quantitativement non substantielles du contenu de la base lorsque ces opérations excèdent manifestement les conditions d'utilisation normales de la base de données.\fg, comme le prévoit l'article L.342-2 du Code de la Propriété Intelectuelle. -Nous sommes alors en droit de penser qu'une inference attack représente l'extraction d'une partie de la base de données, en l'occurence une colonne de la base de données. +Nous sommes alors en droit de penser qu'une attaque de reconstruction représente l'extraction d'une partie de la base de données, en l'occurence une colonne de la base de données. De plus cette attaque excède les conditions d'utilisation car, dans ce cas, la condition d'utilisation normale est l'entraînement d'un modèle de machine learning. Ici, la personne menant l'attaque porte atteinte aux droits du producteur de la base de données. - \item Ici, c'est le fournisseur de solution de machine learning, exploitant la base de données, qui porte atteinte aux droits du producteur. +Considéreon maintenant que c'est le fournisseur de solution de machine learning, exploitant la base de données, qui porte atteinte aux droits du producteur. On se place dans le cas où le producteur interdit \og la réutilisation, par la mise à la disposition du public de la totalité ou d'une partie qualitativement ou quantitativement substantielle du contenu de la base, quelle qu'en soit la forme.\fg, conformément à l'article L.342-1 alinéa 2 du Code de la Propriété Intelectuelle. Dans le cas où le fournisseur de modèle de machine learning permet à ses clients (le public) de mener à bien des attributs inference attack, il met à disposition une partie de la base par sa négligence à utiliser une méthode d'apprentissage résistante à ce type d'attaque. -\end{itemize} Notons que l'article L.343-4 du Code de la Propriété Intellectuelle dispose qu'\og est puni de trois ans d'emprisonnement et de 300 000 euros d'amende le fait de porter atteinte aux droits du producteur d'une base de données tels que définis à l'article L. 342-1.\fg \subsection{Secret des affaires} -L'attaque property inference peut révéler des statistiques globales sur une entreprise ayant utilisé une base de données qu'elle tient secrète pour l'entraînement d'un modèle de machine learning ensuite publié. +L'attaque d'inférence de propriété peut révéler des statistiques globales sur une entreprise ayant utilisé une base de données qu'elle tient secrète pour l'entraînement d'un modèle de machine learning ensuite publié. Ces statistiques sont des informations qui : \begin{itemize} \item Ne sont pas connues ou aisément accessibles pour les personnes familières de ce type d'information. @@ -83,11 +113,56 @@ Au titre de l'article L.151-1 du Code de Commerce, ces statistiques sont protég De plus l'article L.151-4 alinéa 2 du Code de Commerce dispose que \og L'obtention d'un secret des affaires est illicite lorsqu'elle est réalisée sans le consentement de son détenteur légitime et qu'elle résulte [...] de tout autre comportement considéré, compte tenu des circonstances, comme déloyal et contraire aux usages en matière commerciale. \fg Ces articles datent de la loi n° 2018-670 du 30 juillet 2018 relative à la protection du secret des affaires. -Il n'y a pas de jurisprudence pour confirmer mais on peut raisonnablement penser qu'une attaque sur un modèle de machine learning peut être considérée comme déloyale et contraire aux usages en matière commerciale. +Il n'y a pas de jurisprudence pour confirmer mais on peut raisonnablement penser qu'une attaque sur un modèle d'IA peut être considérée comme déloyale et contraire aux usages en matière commerciale. Mais d'un autre côté, l'article L.151-3 alinéa 2 du Code de Commerce dispose que \og Constituent des modes d'obtention licite d'un secret des affaires l'observation, l'étude, le démontage ou le test d'un produit ou d'un objet qui a été mis à la disposition du public ou qui est de façon licite en possession de la personne qui obtient l'information, sauf stipulation contractuelle interdisant ou limitant l'obtention du secret. \fg On pourrait donc dire que l'attaque s'apparente à une observation ou une étude d'un produit qui a été mis à la disposition du public. Il faut donc attendre une jurisprudence en la matière pour savoir si cette attaque représente une atteinte au secret des affaires. -Quoi qu'il en soit, il est dans l'intérêt du producteur de la base de données de s'assurer que le fournisseur de solution machine learning sécurise convenablement ses modèles contre ce genre d'attaque. +Quoi qu'il en soit, il est dans l'intérêt du producteur de la base de données de s'assurer que le fournisseur de solution IA sécurise convenablement ses modèles contre ce genre d'attaque. +\subsection{Usage illicite de l'IA} +Comme nous l'avons vu à la Section~\ref{sec:contexte-insti} avec l'exemple de la Chine, l'IA peut-être utilisé pour des raisons qui vont à l'encontre des droits les plus fondamentaux. +Face à cette menace, +l'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil +du 13 juin 2024 +établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}. +Etant un réglement il est directement applicable en droit français. +Ce réglement a trois approches visant à limité une utilisation de l'IA qui serait contraire aux droit fondamentaux. + +La première approche consiste à résponsabiliser les fournisseur et les deployeurs de système d'IA quand au potentielles dérive avec l'Article 4. +De plus l'Article 50 dispose de l'obligation des frounisseur etdeployeurs de transparance, c'est à dire informer les utilisateurs qu'ils interagissent avec une IA. +Enfin de part leur nature générale et pouvant amener à la création d'IA mutliples, les fournisseurs de modèle de fondation\footnote{\textit{Fundation model}} comme ChatGPT ou Llama sont soumis à de plus grande obligations et responsabilités. + +La seconde approche très pragmatique consiste à interdire un certaine nombre de pratiques qui sont listé à l'Article 5. +Citons certaines qui sont en rapport avec ce manuscrit. +Le paragraphe 1 alinéa c point (i) dispose que +\textquote{ +Les pratiques en matière d’IA suivantes sont interdites:[...] +la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA pour l’évaluation ou la classification de +personnes physiques ou de groupes de personnes[...] +conduisant [au] +traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes de personnes dans des +contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l’origine +} +Ce qui, en plus de lois française sur les discriminations que nous avons cité plus haut, permet de clairment intérdire l'utilisation d'IA qui vont utiliser des critère de discrimination dans leur décision. +Ce point est particulièrement imporant pour ce manuscrit car nous allons déveloper aux Chapitres~\ref{sec:fini} et~\ref{sec:aia} une méthode d'audit des systèmes d'IA qui permet de savoir si un système utilise un critère de discrimination pour réaliser un prédiction. + +Citons aussi le paragraph 1 alinéa d qui dispose que sont intérdit les sytème d'IA +\textquote{visant à évaluer ou à prédire le risque qu’une personne physique commette une infraction pénale}. +C'est un point de divergence important avec la législation de Etats Unis qui utilise ce genre de système comme nous l'avons vus à la Section~\ref{sec:contexte-insti}. +Dans ce manuscrit nous avons utilisé des bases de donée Etats Unienne pour construir ce genre de système IA pour les étudier. +Bien que nos conclusions sur ces sytèmes ne pourront pas s'appliquer en Union Européenne vu qu'ils sont désormais intérdits, notre analyse théorique reste valable et applicable à d'autres systèmes. +Nous avons d'ailleur évalué nos solutions sur d'autres modèles n'impliquant pas la justice prédictive. + +La troisième approche consiste à classifier un certain nombre de pratique comme des \textquote{système d'IA à haut risques}. +Comme en dispose l'article 6, paragraphe 2 les système à haut risques sont par exemple des système qui concernent : +\begin{itemize} + \item Emploi, gestion de la main-d'œuvre et accès à l'emploi indépendant (Annexe III, paragraphe 4) + \item Accès et droit aux services privés essentiels et aux services publics et prestations sociales essentiels (Annexe III, paragraph 5) +\end{itemize} +Ce sont deux points pour lesquelles nous avons construit des système d'IA à titre illustratif dans ce manuscrit à la Section~\ref{sec:aia}. +Cette classification d'IA à haut risque impose des régles plus restrictive pour le déployement. +Par exemple l'Article 9, paragraph 1 dispose qu'un système de gestion des risques doit être établis. +L'Article 13 quand à lui impose un certain niveau d'exlicabilité du système. +Enfin nous atirons l'atention du.de la lecteur.rice sur l'Articel 15 qui met l'accent sur la sécurité de tel système forcant les fournisseurs de contrôler par exemple que leur système ne contient pas de porte dérobées. diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex index 1cf6ba4..c6e39fd 100644 --- a/contexte/philo/anthro.tex +++ b/contexte/philo/anthro.tex @@ -1,6 +1,6 @@ -L'anthropomorphisation consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain. +L'antrhopomorphisme consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain. Dans le contexte de l'IA et plus précisement de l'AGI, ce phénomène peut devenir courant. -L'anthropomorphisation des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies. +L'antrhopomorphisme des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies. En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. Une interaction avec quelquechose qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être huamins. @@ -64,7 +64,7 @@ Une nevrose en particulier est interessante dans le contexte d l'AGI, qui n'exis Pourquoi rester à parler avec un humain quand on est infiniement plus rapide et performant que lui ? Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Eudipe~\cite{Freud2010-qq}. -Concernant la construction du caractère, le hasard et est élement important de l'anthropomorphisation, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative. +Concernant la construction du caractère, le hasard et est élement important de l'antrhopomorphisme, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative. Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. @@ -108,7 +108,7 @@ Cependant le processus de création par le hasard peut-il être vraiement appara \label{fig:contexte-penses} \end{figure} -Enfin, l'anthropomorphisation peut présenter un risque dans la mesure où +Enfin, l'antrhopomorphisme peut présenter un risque dans la mesure où Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaire~\cite{waters2014grade} où la vie d'être humain est décidé par des ordinateur. Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. diff --git a/contexte/philo/mu.tex b/contexte/philo/mu.tex deleted file mode 100644 index e69de29..0000000 diff --git a/contexte/strat.tex b/contexte/strat.tex index 830afb7..2f35d83 100644 --- a/contexte/strat.tex +++ b/contexte/strat.tex @@ -5,26 +5,120 @@ \centering \includegraphics[width=\linewidth]{contexte/figure/anr/prc.pdf} \caption{Proportion attribué à des projets IA} + \label{subfig:contexte-anr-prop} \end{subfigure} \begin{subfigure}{0.3\linewidth} \centering \includegraphics[width=\linewidth]{contexte/figure/anr/aide_ai.pdf} \caption{Financement total attibué à des projets IA} + \label{subfig:contexte-anr-fin} \end{subfigure} \begin{subfigure}{0.3\linewidth} \centering \includegraphics[width=\linewidth]{contexte/figure/anr/avg.pdf} \caption{Financement moyen des projets IA} + \label{subfig:contexte-anr-moy} \end{subfigure} \caption{Financement de la recherche en IA par Agence Nationale de la Recherche (ANR).} \label{fig:contexte-anr} \end{figure} -\subsection{Plance France 2023} -Dans le cadre du plan France 2030~\cite{france2030}, la France a dévelopé une stratégie nationale de l'IA~\cite{stratfr}. -Missions Villani. -PEPER IA. -AUtres appels. +Nous observons sur la Figure~\ref{fig:contexte-trend} que le recherche des termes \textquote{intelligence artificielle} en France sur le moteur de recherche Google à subit une grande augmentation depuis 2020. +Ainis, l'IA interesse de plus en plus le grand publique qui voit ces téchnologies investire leur téléphones portable, ordinateur, médias, etc. +Ce phénomène semble suivre en parallèle une très forte augmentation de l'investissement français en matière d'IA. +Pour mieux comprendre ce phénomène nous avons conduit une micro étude des financements accordés par l'Agence Nationate la Recherche (ANR), l'un des principaux bailleur en France. +L'ANR publi les appels a projets financé par la Direction des Opérations Scientifiques (DOS) de l'ANR depuis 2005. +Dans ces données, il y a entra autre, le montant du financement accordé, le titre en anglais et français ainsi que le résumé en anglais et en francais. +Le titre et le résumé constituent un court paragraph de texte donc chaque mots présent est normalement consciencieusement choisit. +Nous avons crée, en utilisant ChatGPT, une liste de mots clés en anglais et en français qui indique qu'un projet a une forte composante IA. +Nous présentons cette liste à l'Annexe~\ref{anx:mots}. +Pour tous les projets financé depuis 2005 nous avons cherché sir le titre ou le résumé contiens un ou plusieur mots de la list e. +Grâce à cela nous construisons la Figure~\ref{fig:contexte-anr} qui montre l'évolution du financement de l'IA au cours du temps. +Nous observons sur la Sous-figure~\ref{subfig:contexte-anr-moy} que en moyenne le financement d'un projet IA n'a pas évolué depuis 2005. +Cependant nous voyons sur la Sous-figure~\ref{subfig:contexte-anr-prop} que le nombre de projets IA a augmenté passant de 2\% du nombre total de projet à 15\%. +Nous observons la même augmentation la proportion d'argent accordé à l'IA. +Ainsi, en sommant par année les financements de tous les projets IA, nous observons sur la Sous-figure~\ref{subfig:contexte-anr-fin} une augmentation de 5 à 125 millions d'Euros. +Cette claire augmentation de l'investissement en IA en France n'est pas du au hasard mais à une stratégie duement établie. + +\subsection{Rapport Villani : Donner un sens à l'intelligence artificielle} +Le 8 septembre 2017 le Premier ministre Edouard Philippe confie au mathématicien et déupté de l'Essone Cedric Villani une mission parlémentaire : +fair un état des lieux des stratégies française et européenne autour de l'IA~\cite{villani2018donner}. +Ce rapport a permis la mise en place d'une stratégie d'investissement publique en France qui a pour but d'orienter la recherche vers la construction d'une IA aligné avec les valeurs de la république. +Cette stratégie se découpe en six parties : + +\paragraph{Une politique économique articulée autour de la donnée.} +La donnée est le pilié de l'IA car elle sert à construire les modèles. +Le rapport préconise de recensser les besoins en IA et de construire des politiques de recolte de donnée au niveau européen dans le cadre de la Réglementation Générale de la Protection des Données. +Cela inclu par exemple de limiter la fuite de données vers les grands acteur hors Union Européenne (UE) comme les GAFAM. +Pour éviter de séparpiller et de gâcher des ressource, le rapport préconsie de se concentrer sur quatre aspect niches où la France à déjà un avantage. +Ces quatres pilier son deveni capitaux de la politique d'investissement, il sagit de : +\begin{enumerate} + \item La santé + \item L'environnement + \item Les transports et la mobilité + \item La défense et la sécurité +\end{enumerate} + +\paragraph{Pour une recherche agile et diffusante.} +C'est tout d'abord éviter la fuite des cervaux en augmentant l'attractivité de établissement publique. +Par exemple en créeant des Instituts Interdisciplinaires d’Intelligence Artificielle (3IA). +Cela passe aussi par en renforcement des lien entres la recherche et l'industrie notament avec les transfert technologique et la valorisation. +Ce gadre dinamique ne peut être possible qu'avec des moyens pratique et pragmatique comme par exempe de dédier des supercalculateur à la recherche. +Nous reviendrons sur ce sujet à la Section~\label{sec:contexte-strat-infra}. + +\paragraph{Anticiper les impacts sur le travail, l’emploi et expérimenter.} +De part son interdisciplinarité, l'IA peut profondement modifier la manière dont nous invisageons le travail, un peu à la manière dont l'informatique ou avant la méchanisation ont profodément transformé notre société. +\label{sec:contexte-strat-infra} +Le rapport préconise une apporche législative visant à redéfinir le cadre du travail en France à l'heure ou beaucoup de tâches peu qualifé peuvent être automatisés. +C'est aussi en formant à tous les niveau à l'IA que ces technologie pourront être utilisé efficacement est sans casse sociale. + +\paragraph{L’intelligence artificielle au service d’une économie plus écologique.} +L'IA necessite une grande consomation d'énergie, il est donc necessaire d'investir massivement dans l'IA frugale et embarqué qui permet une utilisation réduite d'électricité. +De plus l'IA doit être mise au service de la transition écologique pour aider notament à prédire et comprendre le changement climatique. +Pour cela le rapport indque qu'il faut libérer la donée écologique qui contient les données : \textquote{ météorologiques, agricoles, de transports, +d’énergie, de biodiversité, de climat, +de déchets, cadastrales, de diagnostic +de performance énergétique}. + +\paragraph{Quelle éthique de l’IA ?} +Les utilisateur doivent avoir la possibilité de comprendre les décision que prennent les IA. +Pour cela il est necessaire d'investire plus dans le recherche en explicailité comme nous le verrons à la Section~\ref{sec:contexte-expl}. +De plus le rapport propose une consulation et un dialogue autour des questions de savoir pour quel type de tâche peut-on utiliser l'IA ? +Cette question à déjà été un partie explorée au niveau Européen avec +le règlement (UE) 2024/1689 du parlement européen et du conseil +du 13 juin 2024 +établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}. +Ce règlement à mis en place un liste de tâche dite \textquote{Inacceptables} et \textquote{à haut risque}. +Nous y reviendrons à la Seciont~\ref{sec:contexte-legal-util}. + +\paragraph{Pour une IA inclusive et diverse.} +Pour que l'IA profite à toutes et tous il est necessaite déjà de palier l'écart historique de chois d'étude scientifiqeus entre homme et femme. +Il s'agit aussi de favoriser la mixité sociale dans la recherche et l'industrie en IA. +Cela passe par la médiation scientifique et à une reflexion quand à l'utilisation de l'IA dans le secteur sociale (autre que la santé qui est déjà bien loti). + +\subsection{Plance France 2030} +Le plan France 2030 est un plan d'investissement du gouvernement d'Emannuel Macron de 54 milliards d'Euros~\cite{france2030} ayant pour but de ratraper le retard industriel de la France. +L'IA touchant à plusieur aspect industriels à une part important dans ce plan. +Ce plan est divisé en deux phases~\cite{2030phase}. +La première phase de 2018 à 2022 a pour but de \textquote{Doter la France de capacités de recherche compétitives}. +Avec nottamant la mise en place des (3IA) et du supercalculateur Jean Zay~\cite{jeanzay}. + +La seconde phase de 2021 à 2025 à pour but de \textquote{Diffuser des technologies d’intelligence artificielle au sein de l’économie}. +Nous pouvons citer par exemple le programme \textit{IA Booster}~\cite{iabooster} qui propose en accompagnement aux PME\footnote{Petites et Moyennes Entreprises} pour les aider à intégrer l'IA à leur produits et leur solutions. +Concernant l'IA générative il y l'appel \textit{ +Accélérer l’usage de l’intelligence artificielle générative dans l’économie}~\cite{2030generatif}. +Cet appel à pour but de le dévelopement d'outils de A à Z et met l'accent les different enjeux de l'IA avec des exigence environementale et d'équitée par exemple. +De part son aspect interdisiplinaire, l'IA est aussi présent dans d'autres domaine comme dans la santé par exemple avec l'appel \textit{Data Challenges en santé}~\cite{2030sante}. +Les compétitions donnée\footnote{Data challenge} font partis de la culture de la recherche en informatique et notament en apprentissage automatique comme avec la plateform Kaggle~\cite{kaggle}. +Cet appel à projet à pour but d'encourager la création de compétitions sur les donnée médicales. + +Pour généraliser, concernant l'IA, France 2030 a pour but la souveraineté numérique. +C'est-à dire de réduire la dépendance des institutions française aux services étrangers et notament des GAFAM aux Etats Unis. +Il s'agit d'un aspect fondamentale de la LOI n° 2016-1321 du 7 octobre 2016 pour une République numérique~\cite{loinumerique}. + +Pour coordoner ces investissements en matière d'IA, le directeur général des entreprises du ministère de l’économie et des finances, et en lien avec le secrétariat général pour l’investissement on nomé un coordinateur national pour l’intelligence artificielle. +\textquote{Il aura pour mission la coordination interministérielle de la stratégie nationale en intelligence artificielle}~\cite{coordinateur}. +Ce coordinateur est un exemple d'une réalisation pratique d'une recommendation du rapport Villanni\footnote{Cf. page 63 du rapport Villani}. \begin{figure} \centering @@ -33,6 +127,22 @@ AUtres appels. Les données ont été exportées grâce à Google Trend~\cite{gtrend}.} \label{fig:contexte-trend} \end{figure} +%\subsection{Attentes de l'IA} +%OMS rapport santé~\cite{oms}. + +\subsection{Infrastructures} +\label{sec:contexte-strat-infra} +Le dévelopement de l'IA demande des puissacne de calcul considérable pour faire fonctione les algorithem d'apprantissage automatique. +Par exemple le modèle Llama2 à necessité 3.311.616 GPUheure d'entraînement~\cite{touvron2023llama} ce qui signife qu'il faudrait 378 and à un individu ayant une seul carte graphique\footnote{Graphical Processing Unit} (GPU). +Pour que la France puisse réaliser ses objectif ambitieux en maitère d'IA il est donc necessaire de construire des supercalculateurs permettant de mutualiser entre les différents acteurs. +Nous avons donné l'exemple du supercalculateru Jean Zay~\cite{jeanzay} qui à été construit en parti dans cette optique. +\begin{figure} + \centering + \includegraphics[width=0.4\linewidth]{contexte/figure/g5k-backbone.pdf} + \caption{Grid5000 : une infrastructure de calcul scientifique distribuée. Source : \url{www.grid5000.fr/w/File:G5k-backbone.png}} + \label{fig:contexte-g5k} +\end{figure} -\subsection{Attentes de l'IA} -OMS rapport santé~\cite{oms}. +Dans ce manuscrit les calculs ont été réalisé sur une autre infrastructure : Grid5000 (G5K)~\cite{g5k}. +Il s'agit d'une grille de calcul mettant à disposition des centres de recherche français différent type de machine : des GPU, des CPU, des ordinateurs complets\footnote{Bare metal} ce qui permet un très large éventaille d'experiences. +Comme nous pouvons le voir sur la Figure~\ref{fig:contexte-g5k} l'aspect distribué de G5K permet de réaliser des experiences implique des système distribué comme par exemple l'apprentissage fédéré\footnote{Federated learning}. -- cgit v1.2.3