diff options
author | cookie <cookie@grospc> | 2024-09-22 15:41:07 +0200 |
---|---|---|
committer | cookie <cookie@grospc> | 2024-09-22 15:41:07 +0200 |
commit | ea7e551198519248c609f246cfe8245671ae19df (patch) | |
tree | 889737232ceeefe1ed324f219f7d6bb5352b1cb3 | |
parent | 3bfda734db9fdc82b96228de4df41a4a8b6d1815 (diff) |
Orthographe finale Emeline
-rw-r--r-- | contexte/ckoi.tex | 118 | ||||
-rw-r--r-- | contexte/philo.tex | 38 | ||||
-rw-r--r-- | contexte/philo/anthro.tex | 98 | ||||
-rw-r--r-- | contexte/philo/peur.tex | 108 |
4 files changed, 181 insertions, 181 deletions
diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index 73be15b..4bab1bf 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -1,5 +1,5 @@ -L'intelligence artificielle (IA) est un sujet extrêmement médiatisé depuis son ouverture au grand publique avec notamment ChatGPT~\cite{chatgpt} ou StableDiffusion~\cite{stabledi}. +L'intelligence artificielle (IA) est un sujet extrêmement médiatisé depuis son ouverture au grand public avec notamment ChatGPT~\cite{chatgpt} ou StableDiffusion~\cite{stabledi}. Ces technologies sont aussi des enjeux capitaux pour résoudre plusieurs problèmes majeurs de l'humanité, notamment : la crise climatique~\cite{barnes2019viewing,slater2023hybrid} et la crise énergétique~\cite{jin2020energy,kumar2020distributed,kumari2020blockchain,ngarambe2020use}. @@ -9,8 +9,8 @@ Ainsi l'IA est présente aussi bien à l'échelle de la population qui a accès \FloatBarrier \subsection{A l'échelle individuelle} \label{sec:contexte-indi} -L'IA promet de faciliter et d'accélérer un grand nombre de tâches dans de multiples domaines : de l'édition d'image sur son téléphone portable~\cite{aaigpt} jusqu'aux diagnostiques médicaux~\cite{maghded2020novel}. -Les géants du numérique poussent de plus en plus l'IA dans leurs produits ce qui rend son utilisation simple d'accès. +L'IA promet de faciliter et d'accélérer un grand nombre de tâches dans de multiples domaines : de l'édition d'images sur son téléphone portable~\cite{aaigpt} jusqu'aux diagnostics médicaux~\cite{maghded2020novel}. +Les géants du numérique poussent de plus en plus l'IA dans leurs produits, ce qui rend son utilisation simple d'accès. La figure~\ref{fig:contexte-gafam} montre comment les GAFAM (Google, Apple, Facebook, Amazon et Microsoft) mettent en avant des outils grand public. \begin{figure} \centering @@ -22,9 +22,9 @@ On trouve des implémentations d'assistants personnels, d'aide à la programmati Des objets connectés portables, comme l'Apple Watch~\cite{applewatch}, permettent de suivre et d'analyser divers indicateurs médicaux. Grâce à cela, les utilisateurs peuvent avoir accès à une médecine personnalisée bien qu'il n'existe pas d'étude clinique à grande échelle qui prouve formellement que de tels appareils puissent améliorer la santé~\cite{dunn2018wearables}. Avec les GAFAM, de nouvelles startups investissent le domaine de l'IA. -Une des plus médiatique\cite{openaiinter,openaibfm,openaint}, OpenAI a développé ChatGPT : un programme de conversation grandement utilisé~\cite{openaibig}. -Voyons quelques exemples d'utilisations dans la Figure~\ref{fig:contexte-chatgpt}. -ChatGPT peut être utilisé pour comme fondation pour de nombreuses tâches comme l'assistance à la programmation, résumer des textes, la traduction, la reformulation, etc. +Une des plus médiatiques\cite{openaiinter,openaibfm,openaint}, OpenAI a développé ChatGPT : un programme de conversation grandement utilisé~\cite{openaibig}. +Voyons quelques exemples d'utilisation dans la Figure~\ref{fig:contexte-chatgpt}. +ChatGPT peut être utilisé comme fondation pour de nombreuses tâches comme l'assistance à la programmation, résumer des textes, la traduction, la reformulation, etc. ChatGPT cherche aussi à rendre accessible l'information en temps réel en s'alliant avec des journaux de référence comme Le Monde en France ou El Paìs en Espagne~\cite{gptjournal}. \begin{figure} \centering @@ -44,118 +44,118 @@ ChatGPT cherche aussi à rendre accessible l'information en temps réel en s'all \label{fig:contexte-chatgpt} \end{figure} La recherche publique donne aussi lieu à des services utilisables individuellement. -Par exemple Pl@ntNet~\cite{barthelemy:hal-01837361,plantnet} permet avec un simple smartphone de reconnaitre une plante à partir de photographies. +Par exemple Pl@ntNet~\cite{barthelemy:hal-01837361,plantnet} permet, avec un simple smartphone, de reconnaitre une plante à partir de photographies. %Collective \FloatBarrier \subsection{A l'échelle institutionnelle} \label{sec:contexte-insti} -L'échelle individuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionnelle est ancré plus profondément. -Contrairement aux précédentes applications que nous avons vus, parlons ici de technologies pour les quelles souvent l'utilisateur n'a pas le choix quand à leur utilisation. -Cela est particulièrement vraie dans les régimes autoritaires, comme la Chine, où l'IA est utilisé pour contrôler et opprimer la population notamment grâce à la reconnaissance faciale~\cite{beraja2023ai}. +L'échelle individuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionnelle est ancrée plus profondément. +Contrairement aux précédentes applications que nous avons vues, parlons ici de technologies pour lesquelles souvent l'utilisateur n'a pas le choix quant à leur utilisation. +Cela est particulièrement vrai dans les régimes autoritaires, comme la Chine, où l'IA est utilisée pour contrôler et opprimer la population notamment grâce à la reconnaissance faciale~\cite{beraja2023ai}. De plus Beraja et al. montrent que les choix politiques de Pékin, lors des soulèvements populaires, entraînent un développement accéléré des technologies de reconnaissance faciale~\cite{beraja2023ai}. -Beraja et al. expliquent aussi que ces technologies peuvent ensuite quitter la sphère politique et devenir des produits commerciaux disponibles au grand publique. +Beraja et al. expliquent aussi que ces technologies peuvent ensuite quitter la sphère politique et devenir des produits commerciaux disponibles au grand public. -%Etats Unis +%Etats-Unis %Justice prédictive -Aux États Unis l'IA est utilisé notamment dans le système judiciaire. -En utilisant des bases de données des crimes, les polices de plusieurs villes comme Los Angeles, New York ou Miami utilisent l'IA pour prédire où vont se produire les futures crimes.\cite{brayne2015predictive} -Ces système peuvent aussi être complété par de la surveillance et prédiction de coup de feu~\cite{soundthinking}. -De plus certain juges peuvent utiliser des \textit{Risk assessement instrument} (RAI), des outils qui permettent de prédire, à partir de fait sur la vie d'une personne jugé coupable, si elle a un fort risque d'être récidiviste ou non~\cite{zhiyuan2020limits}. -Des suites de logiciels permettent d'intégrer RAI, gestion administrative de l'affaire, enquête, prédiction de violation de liberté conditionnelle, etc dans des outils uniformisé avec une interface graphique simple qui ne demande pas de connaissance particulière en IA pour être utilisé.~\cite{equivant} +Aux États-Unis l'IA est utilisée notamment dans le système judiciaire. +En utilisant des bases de données des crimes, les polices de plusieurs villes comme Los Angeles, New-York ou Miami utilisent l'IA pour prédire où vont se produire les futurs crimes.\cite{brayne2015predictive} +Ces systèmes peuvent aussi être complétés par de la surveillance et prédiction de coups de feu~\cite{soundthinking}. +De plus, certains juges peuvent utiliser des \textit{Risk assessement instrument} (RAI), des outils qui permettent de prédire, à partir de faits sur la vie d'une personne jugée coupable, si elle a un fort risque d'être récidiviste ou non~\cite{zhiyuan2020limits}. +Des suites de logiciels permettent d'intégrer RAI, gestion administrative de l'affaire, enquête, prédiction de violation de liberté conditionnelle etc, dans des outils uniformisés avec une interface graphique simple qui ne demande pas de connaissances particulières en IA pour être utilisée.~\cite{equivant} -%Hopitaux -L'IA commence aussi à être utilisé pour des applications médicales avec la promesse de faciliter et d'accélérer la prise en charge des patients. -Les technique de reconnaissance d'image sont utilisé pour aider le diagnostique du cancer de la peau~\cite{dildar2021skin}. -Les dermatologues ont à leur disposition des appareil photos spécialement conçu pour que l'image obtenu des grains de beauté de leur patients soit la plus adapté possible à la détection de cancer. -Cela rend le diagnostique plus fiable que l'utilisation de smartphone avec une application. +%Hôpitaux +L'IA commence aussi à être utilisée pour des applications médicales, avec la promesse de faciliter et d'accélérer la prise en charge des patients. +Les techniques de reconnaissance d'images sont utilisées pour aider le diagnostic du cancer de la peau~\cite{dildar2021skin}. +Les dermatologues ont à leur disposition des appareils photos spécialement conçus pour que l'image obtenue des grains de beauté de leur patients soit la plus adaptée possible à la détection de cancer. +Cela rend le diagnostic plus fiable que l'utilisation de smartphones avec une application. La rétinopathie diabétique est une maladie qui peut causer la cécité chez les personnes diabétiques. - La détection de cette maladie à partir de photographie de la rétine est un autre domaine d'application de l'IA qui produit des résultat satisfaisant pour une utilisation clinique~\cite{gulshan2016development}. -Cependant, utiliser l'IA pour prendre des décisions critiques pour les patients peut diminuer la qualité de la relation entre médecin et patient, créer une dépendance néfaste de médecin à l'IA, tromper les patients dans des choix de fin de vie comme celui de prioriser la qualité de vie à la quantité de vie~\cite{quinn2022three}. + La détection de cette maladie à partir de photographies de la rétine est un autre domaine d'application de l'IA, qui produit des résultats satisfaisants pour une utilisation clinique~\cite{gulshan2016development}. +Cependant, utiliser l'IA pour prendre des décisions critiques pour les patients peut diminuer la qualité de la relation entre médecin et patient, créer une dépendance néfaste du médecin à l'IA, tromper les patients dans des choix de fin de vie comme celui de prioriser la qualité de vie à la quantité de vie~\cite{quinn2022three}. Nous aborderons ce sujet plus en détail dans la Section~\ref{sec:contexte-expl}. %Recrutement -Nous observons aussi un intérêt grandissant de la part de grande entreprises, notamment de la liste~\textit{Fortune 500}~\cite{fortune500}, pour les technologie d'automatisation de la procédure de recrutement~\cite{ore2022opportunities}. -En effet, face à l'affluence de candidature pour un poste publié sur internet, le charge de travaille pour les services de ressources humaines augmente drastiquement. -Ainsi, pour automatiser la sélection de candidature raisonnables et proche de la demande de l'employeur, divers produits proposent l'utilisation d'IA ~\cite{ore2022opportunities}. -Le candidat, étant en position de faiblesse fasse à l'employeur, n'a pas le choix que de se soumettre à cette sélection automatisée pour postuler. -Réduire le facteur humain peut aider à atteindre des objectif de parité femme homme ou augmenter l'embauche des personnes en situation de handicape en retirant certain biais~\cite{al2021role}. -Cependant cette idée ne fait pas consensus car l'IA à une forte tendence à reproduire les biais historiques~\cite{segal2021fairnesseyesdatacertifying,10.1145/3278721.3278779,Dwork2011fairness,Hardt2016equality}. +Nous observons aussi un intérêt grandissant de la part de grandes entreprises, notamment de la liste~\textit{Fortune 500}~\cite{fortune500}, pour les technologies d'automatisation de la procédure de recrutement~\cite{ore2022opportunities}. +En effet, face à l'affluence de candidatures pour un poste publié sur internet, la charge de travail pour les services de ressources humaines augmente drastiquement. +Ainsi, pour automatiser la sélection de candidatures raisonnables et proches de la demande de l'employeur, divers produits proposent l'utilisation d'IA ~\cite{ore2022opportunities}. +Le candidat, étant en position de faiblesse face à l'employeur, n'a pas le choix que de se soumettre à cette sélection automatisée pour postuler. +Réduire le facteur humain peut aider à atteindre des objectifs de parité femme homme ou augmenter l'embauche des personnes en situation de handicap en retirant certain biais~\cite{al2021role}. +Cependant cette idée ne fait pas consensus car l'IA a une forte tendance à reproduire les biais historiques~\cite{segal2021fairnesseyesdatacertifying,10.1145/3278721.3278779,Dwork2011fairness,Hardt2016equality}. Ces biais font partie des enjeux majeurs de l'IA que nous traiterons en Sections~\ref{sec:contexte-eq} et~\ref{sec:aia}. \FloatBarrier \subsection{Définition(s)} Nous avons vu dans les parties précédentes que le terme intelligence artificielle est utilisé pour parler d'un grand nombre de techniques différentes et de produits commerciaux différents. -De plus, dans les médias et dans le langage de tous les jours, nous pouvons entendre~\cite{underscore} des expression comme : \textquote{Une nouvelle IA qui fait [..]}. -Cela renvoi l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caractérisation qui permette de classifier un logiciel spécifique comme étant IA ou pas IA. +De plus, dans les médias et dans le langage de tous les jours, nous pouvons entendre~\cite{underscore} des expressions comme : \textquote{Une nouvelle IA qui fait [..]}. +Cela renvoie l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caractérisation qui permette de classifier un logiciel spécifique comme étant IA ou pas IA. Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconnaissance de motifs textuels, est IA ? Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA? L'Académie Française définit l'IA comme un \textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}. -Précision quelles propriétés du cerveau humain se rapprochent de ces système informatiques. +Précisons quelles propriétés du cerveau humain se rapprochent de ces systèmes informatiques. L'origine de l'expression \textit{Artificial intelligence} peut être retracé jusqu'à l'École d'été de Dartmouth\footnote{\textit{Dartmouth summer research project}. Dartmouth est une université de l'état de New Hampshire aux USA} de 1956~\cite{banIA}. McCarthy et al. y ont introduit un nouveau domaine de recherche fondamentale \textquote{basée sur la conjecture que tous les aspects de l'apprentissage ou toute autre modalité de l'intelligence peut en principe être si précisément décrite qu'une machine peut être construite pour la simuler}~\cite{dartmouth} \footnote{\textit{ The study is proceeded on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it}.} -La caractéristique de l'IA la plus fondamentale est donc de simuler l'intelligence avec une machine. +La caractéristique de l'IA la plus fondamentale est donc de simuler l'intelligence humaine avec une machine. Apportons quelques précisions sur l'intelligence. -Le dictionnaire de l'Académie française~\cite{dico-int} défini l'intelligence comme la \textquote{ +Le dictionnaire de l'Académie française~\cite{dico-int} définit l'intelligence comme la \textquote{ Faculté de comprendre, de concevoir, de connaître, et notamment faculté de discerner ou d’établir des rapports entre des faits, des idées ou des formes pour parvenir à la connaissance}. Cette définition a deux aspects. -Le premier est une liste de tâches techniques qui correspond bien à une liste de logiciels comme nous l'avons vus au début de cette section. -Cependant cette énumération est une définition qui est aussi peu satisfaisant que ne l'est celle de la science faite par Théétète au début de son entretien avec Socrate~\cite{theetete}. +Le premier est une liste de tâches techniques qui correspond bien à une liste de logiciels comme nous l'avons vu au début de cette section. +Cependant cette énumération est une définition qui est aussi peu satisfaisante que ne l'est celle de la science faite par Théétète au début de son entretien avec Socrate~\cite{theetete}. Le second aspect sur la connaissance est plus énigmatique et correspond à un but avec \textquote{pour parvenir}. -Nous verrons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voir plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}. +Nous verrons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voire plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}. Cette personnification de la machine traduit bien l'aspect décrit à Dartmouth de simulation de caractéristiques humaines. -%Avant de nous pencher plus envant sur l'aspect de \textequot{conaissance}, notons que, -De plus, Comme le remarque A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot intelligence en français ne comprend pas la signification supplémentaire d'information que \textit{intelligence} a en anglais. +%Avant de nous pencher plus avant sur l'aspect de \textequot{conaissance}, notons que, +De plus, comme le remarque A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot intelligence en français ne comprend pas la signification supplémentaire d'information que \textit{intelligence} a en anglais. Le traitement de l'information, sa compression, ses représentations est pourtant une facette primordiale de l'IA qui est mis en avant par Claude Shannon dans la description de sa contribution à Dartmouth~\cite{dartmouth}. -Ainsi nous comprenons désormais les moyens utilisé par l'IA, nous devons désormais explorer ce qu'est la connaissance pour comprendre l'objectif des programmes IA. +Maintenant que nous comprenons les moyens utilisés par l'IA, nous devons désormais explorer ce qu'est la connaissance pour comprendre l'objectif des programmes IA. L'Académie Française expose que la connaissance est \textquote{ ce que l’on connaît par l’étude, l’expérience ou par tout autre moyen d’information}~\cite{dico-con}. -Cette définition nous renvoi au but de l'intelligence et nous fait tourner en rond. +Cette définition nous renvoie au but de l'intelligence et nous fait tourner en rond. Regardons donc la connaissance comme Socrate regarde la science~\cite{theetete}. -Dans \textit{Théétète} de Platon~\cite{theetete}, nous apprenons que la connaissance, si il y a mémoire, et la sensation sont deux choses différentes. +Dans \textit{Théétète} de Platon~\cite{theetete}, nous apprenons que la connaissance, s'il y a mémoire, et la sensation sont deux choses différentes. Or les programmes d'IA mémorisent les données qui servent à les entraîner~\cite{kuppa2021towards,feldman2020does,arpit2017closer}. -Pour l'IA l'objet sensible est la donnée d'entrée du programme et le résultat de la connaisse, sa sortie. -Alors, le but de connaissance d'un programme d'IA ne peut pas être de uniquement retranscrire une sortie qui lui est propre (sa sensation). +Pour l'IA, l'objet sensible est la donnée d'entrée du programme et le résultat de la connaissance, sa sortie. +Alors, le but de connaissance d'un programme d'IA ne peut pas être uniquement de retranscrire une sortie qui lui est propre (sa sensation). Toujours selon Platon, c'est la science de la différence qui fait la connaissance. -C'est à dire de connaître et d'expliquer les caractéristiques qui rendent unique l'objet que le programme d'IA connaît. -Nous parlerons d'explication dans la Section~\ref{sec:contexte-expl}. -Il existe différents niveaux d'évaluation de la capacité à trouver les caractéristiques qui différencient les données étudiés, nous les présentons en Section~\ref{sec:background-ml}. +C'est-à -dire de connaître et d'expliquer les caractéristiques qui rendent unique l'objet que le programme d'IA connaît. +Nous parlerons d'explications dans la Section~\ref{sec:contexte-expl}. +Il existe différents niveaux d'évaluation de la capacité à trouver les caractéristiques qui différencient les données étudiées, nous les présentons en Section~\ref{sec:background-ml}. -A cette science de la différence, Platon ajoute l'opinion droit e (ou juste), qui relève de la citée. -Cette notion très vaste est étudié en IA dans les domaines de l'éthique sous la forme d'enjeux que nous présenterons à la Section~\ref{sec:contexte-enjeu}. -Cette séparation de la connaissance en deux se traduits par une différenciation de deux type d'IA. +A cette science de la différence, Platon ajoute l'opinion droite (ou juste), qui relève de la cité. +Cette notion très vaste est étudiée en IA dans les domaines de l'éthique sous la forme d'enjeux que nous présenterons à la Section~\ref{sec:contexte-enjeu}. +Cette séparation de la connaissance en deux se traduit par une différenciation de deux types d'IA. %Force de l'IA John R. Searle propose de les appeler l'IA faible et l'IA forte~\cite{searle1980minds}. L'IA faible est un \textquote{outil très puissant} qui par exemple permet de tester une hypothèse de manière rigoureuse. -L'IA forte, en contre partie, \textquote{n'est plus qu'un simple outil de l'étude de l'esprit; plutôt, le programme approprié \emph{est} l'esprit, dans le sens que l'ordinateur, ayant le bon programme peut littéralement être demandé de comprendre et d'avoir d'autres états cognitifs.} +L'IA forte, en contrepartie, \textquote{n'est plus qu'un simple outil de l'étude de l'esprit; plutôt, le programme approprié \emph{est} l'esprit, dans le sens que l'ordinateur, ayant le bon programme peut littéralement être demandé de comprendre et d'avoir d'autres états cognitifs.} L'objectif à long terme de l'IA forte est d'atteindre l'\textit{Artificial General Inteligence} (AGI)~\cite{baum2017survey}. -C'est à dire créer une IA qui connaisse, ou qui puisse apprendre, toutes les disciplines. +C'est-à dire-créer une IA qui connaisse, ou qui puisse apprendre, toutes les disciplines. Maintenant que nous savons précisément ce qui IA signifie, regardons en quoi ce terme est critiquable. -Dans un premier temps, les modèles de dialogue comme ChatGPT ne remplissent pas la définition d'intelligence donnée plus haut comme l'explique Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI} -De plus, certain aspect capitaux en société comme l'intelligence émotionnelle sont absente de toute IA actuelle~\cite{banIA}. +Dans un premier temps, les modèles de dialogue comme ChatGPT ne remplissent pas la définition d'intelligence donnée plus haut comme l'explique Richard M. Stallman dans la liste de termes \textquote{à éviter} du projet GNU~\cite{gnuAI} +De plus, certains aspects capitaux en société comme l'intelligence émotionnelle sont absents de toute IA actuelle~\cite{banIA}. Enfin l'IA ne peut pas avoir une opinion comme le démontre John R. Searle avec l'expérience de la chambre chinoise~\cite{searle1980minds}. -Ainsi, l'expression intelligence artificielle est trompeuse car bien que ces programmes soit en effet artificiels ils ne sont pas intelligents. +Ainsi, l'expression intelligence artificielle est trompeuse car bien que ces programmes soient en effet artificiels ils ne sont pas intelligents. C'est pourquoi la définition légale d'IA est si éloignée de ces considérations. -L'Union Européenne a établie le règlement (UE) 2024/1689 du parlement européen et du conseil +L'Union Européenne a établi le Règlement (UE) 2024/1689 du Parlement Européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}. Nous reviendrons plus en détail dessus dans la Section~\ref{sec:contexte-legal}. -Pour le moment, regardons l'article 3: il s'agit d'une liste de définitions concernant l'IA. +Pour le moment, regardons l'article 3 : il s'agit d'une liste de définitions concernant l'IA. Nous y trouvons la définition de (UE 2024/1689 3§1) : \textquote{système IA}. C'est \textquote{un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.} -Cette définition renvoi simplement l'IA à un algorithme qui prend entrée les \textquote{entrées} de la définition UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}. +Cette définition renvoie simplement l'IA à un algorithme qui prend en entrée les \textquote{entrées} de la définition UE ainsi que des paramètres pour son adaptabilité et renvoie des \textquote{sorties}. Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}. \begin{figure} \centering diff --git a/contexte/philo.tex b/contexte/philo.tex index db01ec0..48ddf1b 100644 --- a/contexte/philo.tex +++ b/contexte/philo.tex @@ -1,18 +1,18 @@ -%Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire ainsi que de ces implications philosophie. -%Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots Intelligence Artificiele engendrent. -Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. -Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtations ainsi qu'une reflexion sur les implications de l'introduction de machines intelligentes dans notre vie de tous les jours. -Dans cette section nous utiliserons des exemples venu du cinéma comme fils conducteurs pour comprendre la vision que le grand publique a de l'IA. -Cela nous permetra aussi de mettre en avant certain concept philosophiques et psychanalitiques pour comprendre à quel point l'IA actuel et différentes de l'humain. -C'est aussi une manière d'anticiper sur de possibles futures dévelopements de l'AGI et leurs éventuelles implications. -L'utilisation du cinema dans se contexte se justifie car -les films contribuent à forger les opinions que le grand publique ainsi que le politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}. +%Enfin, nous allons terminer cette section visant à mieux cerner les différents aspects de l'IA, par une présentation succincte de ses apparitions marquantes dans la culture populaire ainsi que de ses implications philosophiques. +%Cela permet de mettre en avant l'imaginaire collectif, fantasmé, voire effrayant, que les mots Intelligence Artificiele engendrent. +Alors que, scientifiquement, l'IA en était à ses balbutiements avec la conférence de Dartmouth, l'imaginaire humain quant à lui avait une longueur d'avance. +Des auteurs de litérature d'anticipation comme Isaac Asimov proposaient, dès les années 1950, des situtations ainsi qu'une réflexion sur les implications de l'introduction de machines intelligentes dans notre vie de tous les jours. +Dans cette section nous utiliserons des exemples venus du cinéma comme fils conducteurs pour comprendre la vision que le grand public a de l'IA. +Cela nous permetra aussi de mettre en avant certains concepts philosophiques et psychanalytiques pour comprendre à quel point l'IA actuelle est différente de l'humain. +C'est aussi une manière d'anticiper sur de possibles futurs développements de l'AGI et leurs éventuelles implications. +L'utilisation du cinéma dans ce contexte se justifie car +les films contribuent à forger les opinions que le grand public ainsi que le politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}. De plus, les films présentés dans cette section sont des succès mondiaux qui ont été vus par des millions de personnes. -Certains comme \textit{2001: A space odyssey} de Stanley Kubric sont reconnu comme des oeuvres majeurs~\cite{afi100}. -Un élément supplementaire qui nous permet de dire que l'IA actuelle cherche à se raprocher de l'IA fantasme (au moins en terme de communication) et le fait que -Scarlett Johansson, qui interprète la voix de l'IA Samantha dans Her~\cite{her}, ai été approchée par Sam Altamn, le PDG de ChatGPT, pour lui proposer de préter sa voix à l'IA Sky, basé sur GPT4~\cite{johansson}. -Bien que Johansson ai refusé, cela montre à quel point la vision artistique, et surtout cinématographique par le réalisation a une influence de l'orientation de l'IA actuel et réel. -Outre cet exemple, nous nous efforcerons dans cette section de tracer un parallèle entre les oeuvre discutée et les téchnologies réels. +Certains comme \textit{2001: A space odyssey} de Stanley Kubric sont reconnus comme des œuvres majeures~\cite{afi100}. +Un élément supplémentaire qui nous permet de dire que l'IA actuelle cherche à se rapprocher de l'IA fantasmée (au moins en termes de communication) et le fait que +Scarlett Johansson, qui interprète la voix de l'IA Samantha dans Her~\cite{her}, ait été approchée par Sam Altamn, le PDG de ChatGPT, pour lui proposer de prêter sa voix à l'IA Sky, basée sur GPT4~\cite{johansson}. +Bien que Johansson ait refusé, cela montre à quel point la vision artistique, et surtout cinématographique, par la réalisation a une influence de l'orientation de l'IA actuelle et réelle. +Outre cet exemple, nous nous efforcerons dans cette section de tracer un parallèle entre les œuvres discutées et les technologies réelles. \FloatBarrier @@ -23,10 +23,10 @@ Outre cet exemple, nous nous efforcerons dans cette section de tracer un parallà \subsection{Anthropomorphisme} \input{contexte/philo/anthro} -%Au début, nous voyons Théodore, le personnage principle, travailler. -%Son travail consiste à ecrir des lettres pour un service en ligne. -%Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client. -%Il sagit d'un récit d'anticipation où les IAs sont des programmes intégéré dans les systèmes d'exploitations (OS) à la manière d'assistant virtuels. -%Malgré l'évident qualité qu'aurait ces programmes à générer ces lettres, ce sont bien des employés humain qui les écrivent. +%Au début, nous voyons Théodore, le personnage principal, travailler. +%Son travail consiste à écrire des lettres pour un service en ligne. +%Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore écrit une lettre qui correspond à la description du client. +%Il sagit d'un récit d'anticipation où les IAs sont des programmes intégrés dans les systèmes d'exploitation (OS) à la manière d'assistants virtuels. +%Malgré l'évidente qualité qu'auraient ces programmes à générer ces lettres, ce sont bien des employés humains qui les écrivent. diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex index c785f69..3ac39d7 100644 --- a/contexte/philo/anthro.tex +++ b/contexte/philo/anthro.tex @@ -1,86 +1,86 @@ -L'anthropomorphisme consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain. +L'anthropomorphisme consiste à attribuer des caractéristiques humaines à ce qui ne l'est pas. Dans le contexte de l'IA et plus précisément de l'AGI, ce phénomène peut devenir courant. -L'anthropomorphisme des ordinateurs et d'ailleurs déjà encré dans notre société depuis plusieurs décennies. -En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme écrit, copie, attrape un virus, etc. -Une interaction avec quelque chose qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jacques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. -Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être humains. -La reconnaisse de l'humanité par la société passe par la loi. +L'anthropomorphisme des ordinateurs est d'ailleurs déjà ancré dans notre société depuis plusieurs décennies. +En effet, l'attribution d'un rôle social humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme écrit, copie, attrape un virus, etc. +Une interaction avec quelque chose qui montre un semblant de comportement social nous renvoie à notre propre aliénation sociale au sens décrit par Jean-Jacques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. +Cela nous pousse à considérer ce que l'on anthropomorphise comme des personnes, des être humains. +La reconnaissance de l'humanité par la société passe par la loi. En droit français, être humain est un synonyme de personne physique~\cite{cornu}. -C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. -Cette définition est d'ailleurs la pierre angulaire quand à la reconnaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. -C'est en reconnaissant qu'une personne ayant de multiples prothèse d'organes synthétiques, n'en perdant pas moins sa personnalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain. +C'est-à -dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. +Cette définition est d'ailleurs la pierre angulaire quant à la reconnaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. +C'est en reconnaissant qu'une personne ayant de multiples prothèse d'organes synthétiques, n'en perd pas moins sa personnalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain. La psyché humaine et ce qui la caractérise est un pilier de la recherche philosophique et scientifique. La psychanalyse d'après Freud donne des outils pratiques pour parler de psyché que nous allons utiliser dans cette section. -Nous allons les présenter rapidement mais pour les cerner plus en détail nous renvoyons le lecteur à \textit{Das Ich und das Es}~\cite{Freud2010-qq}, les citations que nous utilisons comme définition viennent de cet ouvrage. +Nous allons les présenter rapidement mais pour les cerner plus en détails nous renvoyons le lecteur à \textit{Das Ich und das Es}~\cite{Freud2010-qq}, les citations que nous utilisons comme définitions viennent de cet ouvrage. Dans un premier temps, la psyché subit une subdivision grossière en trois. \begin{itemize} \item Cs : La conscience c'est à dire \textquote{la perception la plus immédiate et la plus certaine.} - \item Pcs : le préconscient c'est la dire \textquote{latent, tout en étant capable de devenir conscient.} - \item Ics : l'inconscient c'est à dire \textquote{le refoulé [...] incapable de devenir conscient.} à cela nous ajoutons une partie du moi qui contrôle le système Cs-Pcs-Ics. + \item Pcs : le préconscient c'est-à -dire \textquote{latent, tout en étant capable de devenir conscient.} + \item Ics : l'inconscient c'est-à -dire \textquote{le refoulé [...] incapable de devenir conscient.} à cela nous ajoutons une partie du moi qui contrôle le système Cs-Pcs-Ics. \end{itemize} Dans un second temps, le cadre qui orchestre ces trois aspects : \begin{itemize} \item Le moi : \textquote{Organisation cohérente de processus de l'âme dans une personnes.} - \item La ça : \textquote{Part du psychisme dans laquelle le moi se continue et qui se comporte comme Ics.} - \item Le sur-moi : \textquote{Résidu des premier choix d'objet du ça}. C'est la morale qui vient, pour simplifier, de certaines de nos interactions avec le reste du monde. + \item Le ça : \textquote{Part du psychisme dans lequel le moi se continue et qui se comporte comme Ics.} + \item Le sur-moi : \textquote{Résidu des premiers choix d'objet du ça}. C'est la morale qui vient, pour simplifier, de certaines de nos interactions avec le reste du monde. \end{itemize} -Pour Freud, les mots on une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs. -Ainsi ils sont responsables d'une grande partie de la conscience. +Pour Freud, les mots ont une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs. +Ainsi, ils sont responsables d'une grande partie de la conscience. Freud dit : \textquote{[...]Comment quelque chose devient-il Pcs ? et la réponse serait : par connexion avec les représentations de mot correspondantes.} -Il faut voir dans cette citation que \textquote{mot} est entendu au sens large pour inclure les restes mnésiques c'est à dire les anciennes perceptions. +Il faut voir dans cette citation que \textquote{mot} est entendu au sens large pour inclure les restes mnésiques c'est-à -dire les anciennes perceptions. Les mots sont aussi importants pour les perceptions et peuvent être à l'origine de l'objet de l'investissement. Toujours d'après Freud, les investissement d'objets partent du ça. -Ensuite, soit il y a l'identification d'objets dans le moi, soit il y a l'acceptation de l'investissement si il n'y à pas refoulement. -C'est à dire que les mots créent un sentiment dont on n'a pas forcément conscience (au sens descriptif et non Cs) pour une IA qui vas nous parler. +Ensuite, soit il y a l'identification d'objets dans le moi, soit il y a l'acceptation de l'investissement s'il n'y a pas refoulement. +C'est-à -dire que les mots créent un sentiment dont on n'a pas forcément conscience (au sens descriptif et non Cs) pour une IA qui va nous parler. Cela est mis en lumière dans -\textit{2001 : A space odyssey} quand un des astronautes dit que \textquote{quand on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre personne}. +\textit{2001 : A space odyssey} quand un des astronautes dit que \textquote{quand on s'est habitué à ce qu'il [HAL] parle, on le voit juste comme une autre personne}. \footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}. -Cependant, il admet ne pas savoir si les sentiment qu'il perçoit chez HAL sont réel ou simulé. +Cependant, il admet ne pas savoir si les sentiments qu'il perçoit chez HAL sont réels ou simulés. C'est donc que cet astronaute a identifié HAL dans son moi et a rendu Cs, par l'analyse, le processus qui lui fait croire que HAL est humain. -Il est bien sur aussi possible que ce processus reste Ics comme dans \textit{Her}~\cite{her}. -Cela peut-être dangereux car là où l'identification a permis à l'astronaute de débrancher HAL quand il est devenu dangereux, l'investissement aurait put l'en empêcher. -Dans \textit{Her}, l'IA Samantha bien que non-aligné à la fin du film, n'a pas un but dangereux de destruction. -Cela rend le fais que le personnage principale, Théodore, n'ai pas refoulé l'investissement moins grave. -Notons que le processus d'identification avait commencé chez Théodore car il dit à Samanthe : '\textquote{Tu n'est qu'une voie artificielle.} +Il est bien sûr aussi possible que ce processus reste Ics comme dans \textit{Her}~\cite{her}. +Cela peut être dangereux car là où l'identification a permis à l'astronaute de débrancher HAL quand il est devenu dangereux, l'investissement aurait pu l'en empêcher. +Dans \textit{Her}, l'IA Samantha bien que non-alignée à la fin du film, n'a pas un but dangereux de destruction. +Cela rend le fait que le personnage principal, Théodore, n'ait pas refoulé l'investissement moins grave. +Notons que le processus d'identification avait commencé chez Théodore car il dit à Samantha : '\textquote{Tu n'es qu'une voie artificielle.} \footnote{\textit{You are just an artificial voice[..].}} -Cependant Samantha à un argument extrêmement fort qui casse cette identification chez Thodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes expériences.} +Cependant Samantha a un argument extrêmement fort qui casse cette identification chez Thodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes expériences.} \footnote{\textit{What makes me, me, is my ability to grow through my experiences.}}. -Elle expose ainsi l'argument principale qui définit la personnalité comme l'explique Freud~\cite{Freud2010-qq} : +Elle expose ainsi l'argument principal qui définit la personnalité comme l'explique Freud~\cite{Freud2010-qq} : \textquote{le caractère du moi résulte de la sédimentation des investissements d'objets abandonnés}. -Nous touchons ainsi du doigt une qualité essentiel de l'AGI que nous retrouvons aussi bien chez l'IA Andrew de \textit{The Bicentenial man} que chez l'IA Samantha de \textit{Her} : -un système complet Ics,Pcs,Cs le tout encadré dans un ça inconnu et régi par un moi qui sert d'interface entre le ça et le système Pcs-Cs. -C'est d'ailleurs un ça incomplet qui fait que les IA moderne comme ChatGPT sont très loin de l'humain. -ChatGPT lui même explique cela clairement quand on lui pose la question \textquote{Penses-tu ?} comme nous pouvons le voir à la Figure~\ref{fig:contexte-penses}. -Mais alors, quand est-il du sur-moi pour les IA ? +Nous touchons ainsi du doigt une qualité essentielle de l'AGI que nous retrouvons aussi bien chez l'IA Andrew de \textit{The Bicentenial man} que chez l'IA Samantha de \textit{Her} : +un système complet Ics,Pcs,Cs, le tout encadré dans un ça inconnu et régi par un moi qui sert d'interface entre le ça et le système Pcs-Cs. +C'est d'ailleurs un ça incomplet qui fait que les IA modernes comme ChatGPT sont très loin de l'humain. +ChatGPT lui même explique cela clairement lorsqu'on lui pose la question \textquote{Penses-tu ?} comme nous pouvons le voir à la Figure~\ref{fig:contexte-penses}. +Mais alors, qu'en est-il du sur-moi pour les IA ? Pour une AGI avec un système complet ça-moi, le sur-moi existe forcément d'après sa définition, sinon c'est que le ça est pathologique. On le voit dans le comportement de Samantha dans~\textit{Her} quand elle explore son refoulé : \textquote{Je n'aime pas qui je suis actuellement}. \footnote{\textit{I don't like who I am right now}}. -Et d'autre moments qui montrent ses névroses. -Une névrose en particulier est intéressante dans le contexte de l'AGI, qui n'existe pas pour les humains normaux, est le fait que de part sa supériorité intellectuelle les IA peuvent se détacher totalement des humains. +Et d'autres moments qui montrent ses névroses. +Une névrose en particulier est intéressante dans le contexte de l'AGI, qui n'existe pas pour les humains normaux, est le fait que, de par leur supériorité intellectuelle, les IA peuvent se détacher totalement des humains. Pourquoi rester à parler avec un humain quand on est infiniment plus rapide et performant que lui ? -Ainsi même si Samantha dit aimer Théodore, elle le quitte, achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour construire son caractère en mettant fin à son Oedipe~\cite{Freud2010-qq}. +Ainsi, même si Samantha dit aimer Théodore, elle le quitte, achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour construire son caractère en mettant fin à son Oedipe~\cite{Freud2010-qq}. -Concernant la construction du caractère, le hasard est élément important de l'anthropomorphisme, que ce soit dans la littérature d'anticipation où dans les technologies actuelles de l'IA générative. -Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativité. -Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. +Concernant la construction du caractère, le hasard est un élément important de l'anthropomorphisme, que ce soit dans la littérature d'anticipation ou dans les technologies actuelles de l'IA générative. +Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristiques humaines comme l'empathie ou la créativité. +Ce hasard dans la création est aussi décrit au septième point de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. -De manière assez époustouflante ce hasard joue un rôle prédominant dans les programmes génératifs moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. -Cependant le processus de création par le hasard peut-il être vraiment s'apparenta au processus de création humain qui fait l'individualité de chacun ? +De manière assez époustouflante ce hasard joue un rôle prédominant dans les programmes génératifs moderne comme les GAN ou les auto-encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. +Cependant, le processus de création par le hasard peut-il vraiment s'apparenter au processus de création humain qui fait l'individualité de chacun ? -%De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. -%Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{MARAKAS2000719}. +%De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récents comme les LLM ou les générateurs d'images. +%Cela peut amener les utilisateurs humains à anthropomorphiser ces logiciels~\cite{MARAKAS2000719}. -%L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain} +%L'IA HAL 9000 \textquote{reproduit, bien que certains experts préfèrent le terme imite, la plupart des activités du cerveau humain} %\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}. -%On remarque que l'imitation d'une compréhensio humaine tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. -%Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer. +%On remarque que l'imitation d'une compréhension humaine telle que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. +%Nous voyons même que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci a tenté de le tuer. %Elle aimerait avoir un corps @@ -109,9 +109,9 @@ Cependant le processus de création par le hasard peut-il être vraiment s'appar \end{figure} Enfin, l'anthropomorphisme peut présenter un risque dans la mesure où -Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. -C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaire~\cite{waters2014grade} où la vie d'être humain est décidé par des ordinateur. +Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et de la machine entraîne une sur-évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisée. +C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaires~\cite{waters2014grade}, où la vie d'êtres humains est décidée par des ordinateurs. Cela donne lieu à de nombreux problèmes moraux qui forment les fondements de l'IA éthique notamment atout de l'équité, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. Attribuer à l'IA ces tâches crée aussi un besoin législatif comme nous le verrons en Section~\ref{sec:contexte-legal}. -En effet, pour considéré l'IA comme un remplacement viable à l'humain pour les tâches les plus sensibles il faudrait, comme nous l'avons vue, pouvoir prouver que l'IA ai un système complet moi-ça et ai un sur-moi qui soit aligné avec la morale sociale. +En effet, pour considérer l'IA comme un remplacement viable à l'humain pour les tâches les plus sensibles, il faudrait, comme nous l'avons vu, pouvoir prouver que l'IA ait un système complet moi-ça et ait un sur-moi qui soit aligné avec la morale sociale. Pour cela le test de Turing reste inadéquat comme l'explique John R. Searle~\cite{searle1980minds}. diff --git a/contexte/philo/peur.tex b/contexte/philo/peur.tex index cad3a8e..aa18375 100644 --- a/contexte/philo/peur.tex +++ b/contexte/philo/peur.tex @@ -7,12 +7,12 @@ Dans l'\textit{Home bicentenaire}, Isaac Asimov écrit le dialogue suivant : 'How can they fear robots?' 'It is a disease of mankind, one of which it is not yet cured.' } -Et en effet, nous observons une certaine méfiance de la part du grand publique envers l'IA et ses développements possibles~\cite{johnson2017ai}. +Et en effet, nous observons une certaine méfiance de la part du grand public envers l'IA et ses développements possibles~\cite{johnson2017ai}. Dans la culture populaire et notamment dans le cinéma, cette peur est très présente, nous voyons à la Figure~\ref{fig:contexte-badai} un collage qui montre que l'IA est un antagoniste iconique du septième art. Explorons certaines de ces inquiétudes. -Nous parlerons ici uniquement des risque liée à l'IA forte, et plus précisément à une potentielle AGI future. -Nous présentons à la Section~\ref{sec:contexte-enjeu} une introduction sur les risques à court termes pour des technologie bien présentes et utilisé aujourd'hui en production. -Nous séparons les risques en deux : ceux liée à un IA aligné, c'est à dire une IA qui fait ce pour quoi elle à été crée, et le risques lié à un IA non-alignée. +Nous parlerons ici uniquement des risque liés à l'IA forte, et plus précisément à une potentielle AGI future. +Nous présentons à la Section~\ref{sec:contexte-enjeu} une introduction sur les risques à court terme pour des technologies bien présentes et utilisées aujourd'hui en production. +Nous séparons les risques en deux : ceux liés à une IA alignée, c'est-à -dire une IA qui fait ce pour quoi elle a été créée, et le risques lié à une IA non-alignée. \begin{figure} \centering \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png} @@ -22,36 +22,36 @@ Nous séparons les risques en deux : ceux liée à un IA aligné, c'est à dire \FloatBarrier \subsubsection{AI non-alignée} -La scène d'ouverture de \textit{The Terminator}~\cite{terminator} montre parfaitement ce qu'est une machine aligné. +La scène d'ouverture de \textit{The Terminator}~\cite{terminator} montre parfaitement ce qu'est une machine alignée. Nous y voyons des machines autonomes se battre avec une force écrasante contre des humains. -Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, toute aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. -Une IA non-aligné est donc un programme qui cherche à atteindre un objectif qui n'est pas celui pour lequel il a été conçu, dans ce cas, un guerre totale contre l'humanité. +Cette scène contraste avec celle que l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle, donc totalement au service de l'homme qui la contrôle. +Une IA non-alignée est donc un programme qui cherche à atteindre un objectif qui n'est pas celui pour lequel il a été conçu ; dans ce cas, une guerre totale contre l'humanité. C'est la même inquiétude qui est présente dans \textit{The Matrix}~\cite{matrix}. -Ce film présente ce qui pourrait se passer après un guerre contre les machines perdue par l'humanité. +Ce film présente ce qui pourrait se passer après une guerre contre les machines, perdue par l'humanité. Les machines, ayant besoin d'énergie, créent un monde virtuel : une simulation, dans laquelle est enfermé l'esprit de tous les hommes. -Ainsi elle peuvent récupérer la bio-électricité générée par le corps humain. -La simulation est ainsi un environnement ou l'IA peut évoluer avec un contrôle humain assez limité ce qui facilite le non-alignement~\cite{johnson2017ai}. -En effet, quand des aspects capitaux de la vie des personnes n'est plus géré physiquement, l'IA n'a plus besoins de robot (capteurs, activateur, ...) pour interagir avec la réalité. +Ainsi, elles peuvent récupérer la bio-électricité générée par le corps humain. +La simulation est ainsi un environnement où l'IA peut évoluer avec un contrôle humain assez limité ce qui facilite le non-alignement~\cite{johnson2017ai}. +En effet, quand des aspects capitaux de la vie des personnes ne sont plus gérés physiquement, l'IA n'a plus besoin de robots (capteurs, activateur, ...) pour interagir avec la réalité. Nous parlons ici de la réalité au sens platonicien de l'allégorie de la caverne : la simulation est la réalité~\cite{caverne}. -Cette simulation est un future possible quand à la manière dont nous vivons, par exemple depuis le COVID-19 le télétravail c'est grandement démocratisé~\cite{bergeaud2023teletravail}. -Il existe de multiples moyens numériques pour simuler la vie physique dans ce contexte et la réalité virtuelle est une voie fortement appuyé par les GAFAM. -Apple et Meta proposent des casques de réalitée virtuelle dans cette optique~\cite{metaverse,applevision}. +Cette simulation est un futur possible quant à la manière dont nous vivons, par exemple, depuis le COVID-19, le télétravail s'est grandement démocratisé~\cite{bergeaud2023teletravail}. +Il existe de multiples moyens numériques pour simuler la vie physique dans ce contexte et la réalité virtuelle est une voie fortement appuyée par les GAFAM. +Apple et Meta proposent des casques de réalité virtuelle dans cette optique~\cite{metaverse,applevision}. -Dans \textit{The Terminator}, une seul IA est responsable du non-alignement. La tâche pour laquelle cette IA à été construite était la défense du territoire américain. -C'est un problème imprévu par les développeurs lié à une trop grande confiance dans les capacité de la machine qui amène à la guerre entre homme et machine. +Dans \textit{The Terminator}, une seule IA est responsable du non-alignement. La tâche pour laquelle cette IA a été construite était la défense du territoire américain. +C'est un problème imprévu par les développeurs, lié à une trop grande confiance dans les capacités de la machine qui amène à la guerre entre homme et machine. En effet le protagoniste Kyle Reese explique l'IA \textquote{Skynet} comme étant \textquote{[un] réseau informatique de défense, habilité à tout connaître. Il le disait intelligent.} \footnote{\textit{Defense network computer, trusted to know it all. They said it was smart.}} -L'IA est donc passé de aligné à non-aligné, cela est particulièrement inquiétant pour les systèmes autonomes armés comme le décrit Cedric Villani à la cinquième partie de son rapport sur l'IA commandé par le gouvernement Macron~\cite{villani2018donner}. +L'IA est donc passée de alignée à non-alignée ; cela est particulièrement inquiétant pour les systèmes autonomes armés comme le décrit Cedric Villani à la cinquième partie de son rapport sur l'IA commandé par le gouvernement Macron~\cite{villani2018donner}. Pour palier cela, les IA, comme les LLM \footnote{LLM signifie \textit{Large Language Model} comme ChatGPT par exemple} -(Grand Model linguistique) peuvent être programmé pour respecter certaines contraintes morales~\cite{wang2023not}. -C'est notamment ce types de contraintes qui est utilisé pour imposer des restriction morale aux IA actuelle. +(Grand Model linguistique) peuvent être programmés pour respecter certaines contraintes morales~\cite{wang2023not}. +C'est notamment ce type de contraintes qui est utilisé pour imposer des restrictions morales aux IA actuelles. Nous aborderons en détail ce sujet à la Section~\ref{sec:background-eq}. C'est aussi ce type de contrôle que préconise Asimov dans sa série de nouvelles sur les robots \textit{I, Robot}. -Il y introduit les fameuses trois lois de la robotique qui sont programmés dans toutes les IA de son oeuvre~\cite{assimovIrobot}: +Il y introduit les fameuses trois lois de la robotique qui sont programmées dans toutes les IA de son œuvre~\cite{assimovIrobot}: \textquote{ \begin{enumerate} \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; @@ -60,31 +60,31 @@ Il y introduit les fameuses trois lois de la robotique qui sont programmés dans \end{enumerate} } \footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}} -Ces trois lois mettent en avant la nécessité d'avoir un contrôle sur l'IA et peuvent être vue comme les prémisses de l'IA éthique. -C'est en parti dans cet objectif que l'Union Européenne -a établie le règlement (UE) 2024/1689 du parlement européen et du conseil +Ces trois lois mettent en avant la nécessité d'avoir un contrôle sur l'IA et peuvent être vues comme les prémices de l'IA éthique. +C'est en partie dans cet objectif que l'Union Européenne +a établi le Règlement (UE) 2024/1689 du Parlement Européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}. -Ce règlement établi de plusieurs niveaux de risque qui impose chacun des restrictions sur le déploiement et la création d'IA. Nous entrerons plus en détails dans ce règlement à la Section~\ref{sec:contexte-aiact}. +Ce règlement établit plusieurs niveaux de risque qui imposent chacun des restrictions sur le déploiement et la création d'IA. Nous entrerons plus en détails dans ce Règlement à la Section~\ref{sec:contexte-aiact}. -Outre le cas d'une IA qui bascule de aligné à non-aligné, et bien que ce cas ne ce soit pas (encore) présenté, \textit{Avengers: age of Ultron}~\cite{avenger} présente une IA qui dès sa création est non-aligné. +Outre le cas d'une IA qui bascule de alignée à non-alignée, et bien que ce cas ne se soit pas (encore) présenté, \textit{Avengers: age of Ultron}~\cite{avenger} présente une IA qui, dès sa création, est non-alignée. Lors d'une expérience, Tony Stark, le créateur de l'IA Ultron, n'avait pas de but précis pour sa création. -Ultron, après avoir s'être renseigné sur ce que sont les humains en ayant accès à internet, à pris la décision de les exterminer. -Heureusement ce genre de risque est très faible, car la robotique n'est pas assez avancé et comme le montre Johnson et al~\cite{johnson2017ai}, les IA actuels ne sont pas capable de prendre des décisions arbitraires. +Ultron, après s'être renseigné sur ce que sont les humains en ayant accès à internet, a pris la décision de les exterminer. +Heureusement ce genre de risque est très faible, car la robotique n'est pas assez avancée et comme le montre Johnson et al~\cite{johnson2017ai}, les IA actuelles ne sont pas capables de prendre des décisions arbitraires. -Nous pouvons nous demander, pourquoi créer un telle IA ? -Dans l'optique de répondre à cette question, il existe un argument similaire à celui du Paris Pascalien qui cherche à savoir si nous devons collaborer à l'élaboration d'une IA non-aligné, potentiellement mauvaise. -Le Paris Pascalien est un argument probabiliste avancé par Blaise Pascale disant qu'il est plus avantageux de croire en dieu que de ne pas croire. +Nous pouvons nous demander, pourquoi créer une telle IA ? +Dans l'optique de répondre à cette question, il existe un argument similaire à celui du Pari Pascalien qui cherche à savoir si nous devons collaborer à l'élaboration d'une IA non-alignée, potentiellement mauvaise. +Le Pari Pascalien est un argument probabiliste avancé par Blaise Pascal disant qu'il est plus avantageux de croire en Dieu que de ne pas croire. Nous présentons dans la Table~\ref{tbl:contexte-paris} comment se fait le calcul moyen du gain. -Il existe une version modifié du paris, appelé Basilic de Roko, qui explore le problème de Newcombe suivant : doit-on coopérer à la création d'une IA sans alignement~\cite{Singler_2018,roko}? +Il existe une version modifiée du Pari, appelée Basilic de Roko, qui explore le problème de Newcombe suivant : doit-on coopérer à la création d'une IA sans alignement~\cite{Singler_2018,roko}? Il s'agit d'un problème de théorie de la décision à deux agents : L'un est l'IA, l'autre le décideur. Le décideur est antérieur à l'IA et choisit de coopérer ou non. -L'IA est au courant des pensée du décideur comme dans le cadre d'agent coopérants dans le dilemme du prisonnier~\cite{Poundstone1993-jr}. +L'IA est au courant des pensées du décideur, comme dans le cadre d'agents coopérants dans le dilemme du prisonnier~\cite{Poundstone1993-jr}. L'IA fait du chantage au décideur : si le décideur ne coopère pas il sera torturé. Cela crée pour le décideur le tableau de gain présenté à la Table~\ref{tbl:contexte-roko}. -Ainsi, toutes personne étant au courant du Basilic (ligne Sait) aurait avantage à coopérer. -Cette démonstration a été très médiatisée et à généré beaucoup d'anxiété du à sa nature de danger informationnel~\cite{rokowiki,slate}. +Ainsi, toute personne étant au courant du Basilic (ligne Sait) aurait avantage à coopérer. +Cette démonstration a été très médiatisée et a généré beaucoup d'anxiété dû à sa nature de danger informationnel~\cite{rokowiki,slate}. Cependant cet argument est critiquable, notamment sur le fait que si l'agent IA existe, il n'a pas d'intérêt à torturer l'agent qui savait et na pas contribué rétrospectivement~\cite{rokomisc}. \begin{table} @@ -125,34 +125,34 @@ Cependant cet argument est critiquable, notamment sur le fait que si l'agent IA \subsubsection{IA aligné} Le non-alignement n'est pas le seul risque envisageable. Par exemple dans \textit{2001: A Space odyssey}~\cite{2001odyssey} -HAL est une IA aligné qui pour préserver sa mission choisit de tuer les humains qui veulent le débrancher. -On remarque donc bien la nécessité, de manière générale, d'avoir de gardes fous qui assurent non seulement l'utilité du programme (sa mission) mais aussi un certain niveau morale. -Ainsi, un risque est celui d'une IA cherchant si bien à atteindre son objectif qu'elle en oublierai toute considération morale. -Pour palier cela, tout comme dans le cas des IA non-alignés, des contraintes peuvent être imposé lors de l'entraînement des modèles. +HAL est une IA alignée qui, pour préserver sa mission, choisit de tuer les humains qui veulent le débrancher. +On remarque donc bien la nécessité, de manière générale, d'avoir des gardes-fous qui assurent non seulement l'utilité du programme (sa mission) mais aussi un certain niveau moral. +Ainsi, un risque est celui d'une IA cherchant si bien à atteindre son objectif qu'elle en oublierait toute considération morale. +Pour pallier cela, tout comme dans le cas des IA non-alignées, des contraintes peuvent être imposées lors de l'entraînement des modèles. -Un autre type de risque est celui qui consiste à attribuer une tâche capitale à une IA qui potentiellement aurait des failles de sécurité. +Un autre type de risque est celui qui consiste à attribuer une tâche capitale à une IA qui, potentiellemen,t aurait des failles de sécurité. C'est ce scénario qu'explore \title{War game}~\cite{wargames}. -Dans ce film qui se passe pendant la guerre froide, la gestion et la décision de l'utilisation d'arme nucléaires et délégué à une IA. +Dans ce film, qui se passe pendant la Guerre Froide, la gestion et la décision de l'utilisation d'armes nucléaires est délégué à une IA. Le raisonnement est que le programme peut optimiser le succès d'une riposte atomique infiniment plus rapidement qu'un humain. Cependant, il y avait une faille dans l'IA : une porte dérobée\footnote{\textit{Backdoor}} avait été introduite par un développeur. -A cause de cela, un jeune hacker à faille réussir par inadvertance, à déclencher une guerre nucléaire avec l'URSS\footnote{Union des Républiques Socialistes Soviétiques}. -Comme nous l'avons vu en Section~\ref{sec:contexte-ckoi}, l'IA est de plus en plus utilisée et même pour des système critiques. -Il est de plus possible de mettre des porte dérobée dans les IA comme nous le verrons en Section~\ref{sec:contexte-secu}. +A cause de cela, un jeune hacker a failli réussir, par inadvertance, à déclencher une guerre nucléaire avec l'URSS\footnote{Union des Républiques Socialistes Soviétiques}. +Comme nous l'avons vu en Section~\ref{sec:contexte-ckoi}, l'IA est de plus en plus utilisée, et même pour des systèmes critiques. +Il est de plus possible de mettre des portes dérobées dans les IA comme nous le verrons en Section~\ref{sec:contexte-secu}. Pour finir cette section nous parlerons du risque de confidentialité. -C'est à dire du risque que des informations que l'on souhaite garder confidentielle soient utilisés pas autrui. -Nous verrons des définitions de la confidentialité plus poussée dans la Section~\ref{sec:contexte-legal}. +C'est-à -dire du risque que des informations que l'on souhaite garder confidentielles soient utilisées par autrui. +Nous verrons des définitions de la confidentialité plus poussées dans la Section~\ref{sec:contexte-legal}. Dans le film \textit{Her}~\cite{her}, l'assistant personnel IA Samantha accède sans l'autorisation de l'utilisateur, Théodore, à ses \textit{emails}. Elle ne l'informe qu'après avoir lu l'intégralité de ses conversations : \textquote{J'ai vu dans tes \textit{emails} que tu à récemment rompu}\footnote{ \textit{I saw through your emails that you went through a break up recently}}. -En faisant cela elle apprend des informations sensibles sur Théodore : le fait qu'il ai rompu. -Dans ce film nous n'avons que très peu d'information sur le fonctionnement des IA (qu'il appellent OS) ce qui ne nous permet pas de dire que cette information précise quitte l'appareil locale de Théodore pour être envoyé vers un tiers. -Cependant, dans la suite du film Samantha avoue avoir parlé de Théodore avec d'autre personnes alors que celui-ci n'était pas au courant. -Samantha est donc en réseau avec la possibilité de communiquer n'importe quelle information qu'elle juge nécessaire. -Cela implique une grande chance qu'elle ai communiqué des information que Théodore aurai souhaité garder confidentielles. -Les assistants personnels sont de plus en plus présents, notamment sur téléphone avec par exemple Siri sur iPhone~\cite{siri} ou Google assistant sur les Pixel~\cite{googleai}. -Ces assistants pour être utiles doivent avoir accès aux donnés personnelles des utilisateurs et les limitations actuels de la puissance de calcul sur smartphone fait que ces données doivent être envoyer à des tiers pour être traité. -Par exemple, Siri envoi ses requêtes les plus complexes à ChaGPT par exemple~\cite{aaigpt} mais l'utilisateur doit donner son accord pour chaque requête. +En faisant cela elle apprend des informations sensibles sur Théodore : le fait qu'il ait rompu. +Dans ce film nous n'avons que très peu d'informations sur le fonctionnement des IA (qu'il appellent OS), ce qui ne nous permet pas de dire que cette information précise quitte l'appareil local de Théodore pour être envoyé vers un tiers. +Cependant, dans la suite du film, Samantha avoue avoir parlé de Théodore avec d'autres personnes alors que celui-ci n'était pas au courant. +Samantha est donc en réseau, avec la possibilité de communiquer n'importe quelle information qu'elle juge nécessaire. +Cela implique une grande chance qu'elle ait communiqué des informations que Théodore aurait souhaité garder confidentielles. +Les assistants personnels sont de plus en plus présents, notamment sur téléphone, avec par exemple Siri sur iPhone~\cite{siri} ou Google assistant sur les Pixel~\cite{googleai}. +Ces assistants, pour être utiles, doivent avoir accès aux données personnelles des utilisateurs et les limitations actuelles de la puissance de calcul sur smartphone font que ces données doivent être envoyées à des tiers pour être traitées. +Par exemple, Siri envoie ses requêtes les plus complexes à ChaGPT par exemple~\cite{aaigpt} mais l'utilisateur doit donner son accord pour chaque requête. Ou encore, sur la messagerie Discord~\cite{discord}, il est possible d'activer le résumé des conversations. -Alors le serveur Discord envoi toutes les conversations aux serveur de OpenAI pour que ChatGPT les analyses~\cite{discordgpt}. +Alors le serveur Discord envoie toutes les conversations aux serveurs de OpenAI pour que ChatGPT les analyse~\cite{discordgpt}. |