1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
|
L'intelligence artificielle (IA) est un sujet extrêmement médiatisé depuis son ouverture au grand public avec notamment ChatGPT~\cite{chatgpt} ou StableDiffusion~\cite{stabledi}.
Ces technologies sont aussi des enjeux capitaux pour résoudre plusieurs problèmes majeurs de l'humanité, notamment
la crise climatique~\cite{barnes2019viewing,slater2023hybrid} et
la crise énergétique~\cite{jin2020energy,kumar2020distributed,kumari2020blockchain,ngarambe2020use}.
Ainsi l'IA est présente aussi bien à l'échelle de la population qui a accès à des services pour son usage personnel, qu'à l'échelle collective ou institutionnelle.
%Individuelle
\FloatBarrier
\subsection{A l'échelle individuelle}
\label{sec:contexte-indi}
L'IA promet de faciliter et d'accélérer un grand nombre de tâches dans de multiples domaines : de l'édition d'images sur son téléphone portable~\cite{aaigpt} jusqu'aux diagnostics médicaux~\cite{maghded2020novel}.
Les géants du numérique poussent de plus en plus l'IA dans leurs produits, ce qui rend son utilisation simple d'accès.
La figure~\ref{fig:contexte-gafam} montre comment les GAFAM (Google, Apple, Facebook, Amazon et Microsoft) mettent en avant des outils grand public.
\begin{figure}
\centering
\includegraphics[width=\linewidth]{contexte/figure/gafam.png}
\caption{Exemples de produits et de marketing proposés par les GAFAM Google Apple Facebook (Meta) Amazon Microsoft.}
\label{fig:contexte-gafam}
\end{figure}
On trouve des implémentations d'assistants personnels, d'aide à la programmation, d'édition d'images, etc.
Des objets connectés portables, comme l'Apple Watch~\cite{applewatch}, permettent de suivre et d'analyser divers indicateurs médicaux.
Grâce à cela, les utilisateurs peuvent avoir accès à une médecine personnalisée bien qu'il n'existe pas d'étude clinique à grande échelle qui prouve formellement que de tels appareils puissent améliorer la santé~\cite{dunn2018wearables}.
Avec les GAFAM, de nouvelles startups investissent le domaine de l'IA.
Une des plus médiatiques\cite{openaiinter,openaibfm,openaint}, OpenAI, a développé ChatGPT : un programme de conversation grandement utilisé~\cite{openaibig}.
Voyons quelques exemples d'utilisation dans la Figure~\ref{fig:contexte-chatgpt}.
ChatGPT peut être utilisé comme fondation pour de nombreuses tâches comme l'assistance à la programmation, résumer des textes, la traduction, la reformulation, etc.
ChatGPT cherche aussi à rendre accessible l'information en temps réel en s'alliant avec des journaux de référence comme Le Monde en France ou El Paìs en Espagne~\cite{gptjournal}.
\begin{figure}
\centering
\begin{subfigure}{\linewidth}
\centering
\includegraphics[width=\linewidth]{contexte/figure/chatgpt/prog.png}
\caption{Aide à la programmation.}
\end{subfigure}
\end{figure}
\begin{figure}\ContinuedFloat
\begin{subfigure}{\linewidth}
\centering
\includegraphics[width=\linewidth]{contexte/figure/chatgpt/hanami.png}
\caption{Résumé d'un texte en japonais.}
\end{subfigure}
\caption{Exemples d'utilisation de ChatGPT.}
\label{fig:contexte-chatgpt}
\end{figure}
La recherche publique donne aussi lieu à des services utilisables individuellement.
Par exemple Pl@ntNet~\cite{barthelemy:hal-01837361,plantnet} permet, avec un simple smartphone, de reconnaitre une plante à partir de photographies.
%Collective
\FloatBarrier
\subsection{A l'échelle institutionnelle}
\label{sec:contexte-insti}
L'échelle individuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionnelle est ancrée plus profondément.
Contrairement aux précédentes applications que nous avons vues, parlons ici de technologies pour lesquelles souvent l'utilisateur n'a pas le choix quant à leur utilisation.
Cela est particulièrement vrai dans les régimes autoritaires, comme la Chine, où l'IA est utilisée pour contrôler et opprimer la population notamment grâce à la reconnaissance faciale~\cite{beraja2023ai}.
De plus Beraja et al. montrent que les choix politiques de Pékin, lors des soulèvements populaires, entraînent un développement accéléré des technologies de reconnaissance faciale~\cite{beraja2023ai}.
Beraja et al. expliquent aussi que ces technologies peuvent ensuite quitter la sphère politique et devenir des produits commerciaux disponibles au grand public.
%Etats-Unis
%Justice prédictive
Aux États-Unis l'IA est utilisée notamment dans le système judiciaire.
En utilisant des bases de données des crimes, les polices de plusieurs villes comme Los Angeles, New-York ou Miami utilisent l'IA pour prédire où vont se produire les futurs crimes.\cite{brayne2015predictive}
Ces systèmes peuvent aussi être complétés par de la surveillance et prédiction de coups de feu~\cite{soundthinking}.
De plus, certains juges peuvent utiliser des \textit{Risk assessement instrument} (RAI), des outils qui permettent de prédire, à partir de faits sur la vie d'une personne jugée coupable, si elle a un fort risque d'être récidiviste ou non~\cite{zhiyuan2020limits}.
Des suites de logiciels permettent d'intégrer RAI, gestion administrative de l'affaire, enquête, prédiction de violation de liberté conditionnelle etc, dans des outils uniformisés avec une interface graphique simple qui ne demande pas de connaissances particulières en IA pour être utilisée.~\cite{equivant}
%Hôpitaux
L'IA commence aussi à être utilisée pour des applications médicales, avec la promesse de faciliter et d'accélérer la prise en charge des patients.
Les techniques de reconnaissance d'images sont utilisées pour aider le diagnostic du cancer de la peau~\cite{dildar2021skin}.
Les dermatologues ont à leur disposition des appareils photos spécialement conçus pour que l'image obtenue des grains de beauté de leurs patients soit la plus adaptée possible à la détection de cancer.
Cela rend le diagnostic plus fiable que l'utilisation de smartphones avec une application.
La rétinopathie diabétique est une maladie qui peut causer la cécité chez les personnes diabétiques.
La détection de cette maladie à partir de photographies de la rétine est un autre domaine d'application de l'IA, qui produit des résultats satisfaisants pour une utilisation clinique~\cite{gulshan2016development}.
Cependant, utiliser l'IA pour prendre des décisions critiques pour les patients peut diminuer la qualité de la relation entre médecin et patient, créer une dépendance néfaste du médecin à l'IA, tromper les patients dans des choix de fin de vie comme celui de prioriser la qualité de vie à la quantité de vie~\cite{quinn2022three}.
Nous aborderons ce sujet plus en détail dans la Section~\ref{sec:contexte-expl}.
%Recrutement
Nous observons aussi un intérêt grandissant de la part de grandes entreprises, notamment de la liste~\textit{Fortune 500}~\cite{fortune500}, pour les technologies d'automatisation de la procédure de recrutement~\cite{ore2022opportunities}.
En effet, face à l'affluence de candidatures pour un poste publié sur internet, la charge de travail pour les services de ressources humaines augmente drastiquement.
Ainsi, pour automatiser la sélection de candidatures raisonnables et proches de la demande de l'employeur, divers produits proposent l'utilisation d'IA ~\cite{ore2022opportunities}.
Le candidat, étant en position de faiblesse face à l'employeur, n'a pas le choix que de se soumettre à cette sélection automatisée pour postuler.
Réduire le facteur humain peut aider à atteindre des objectifs de parité femme homme ou augmenter l'embauche des personnes en situation de handicap en retirant certains biais~\cite{al2021role}.
Cependant cette idée ne fait pas consensus car l'IA a une forte tendance à reproduire les biais historiques~\cite{segal2021fairnesseyesdatacertifying,10.1145/3278721.3278779,Dwork2011fairness,Hardt2016equality}.
Ces biais font partie des enjeux majeurs de l'IA que nous traiterons en Sections~\ref{sec:contexte-eq} et~\ref{sec:aia}.
\FloatBarrier
\subsection{Définition(s)}
Nous avons vu dans les parties précédentes que le terme intelligence artificielle est utilisé pour parler d'un grand nombre de techniques différentes et de produits commerciaux différents.
De plus, dans les médias et dans le langage de tous les jours, nous pouvons entendre~\cite{underscore} des expressions comme : \textquote{Une nouvelle IA qui fait [..]}.
Cela renvoie l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caractérisation qui permette de classifier un logiciel spécifique comme étant IA ou pas IA.
Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconnaissance de motifs textuels, est IA ?
Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA?
L'Académie Française définit l'IA comme un
\textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}.
Précisons quelles propriétés du cerveau humain se rapprochent de ces systèmes informatiques.
L'origine de l'expression \textit{Artificial intelligence} peut être retracé jusqu'à l'École d'été de Dartmouth\footnote{\textit{Dartmouth summer research project}.
Dartmouth est une université de l'état de New Hampshire aux USA} de 1956~\cite{banIA}.
McCarthy et al. y ont introduit un nouveau domaine de recherche fondamentale \textquote{basée sur la conjecture que tous les aspects de l'apprentissage ou toute autre modalité de l'intelligence peut en principe être si précisément décrite qu'une machine peut être construite pour la simuler}~\cite{dartmouth}
\footnote{\textit{
The study is proceeded on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it}.}
La caractéristique de l'IA la plus fondamentale est donc de simuler l'intelligence humaine avec une machine.
Apportons quelques précisions sur l'intelligence.
Le dictionnaire de l'Académie française~\cite{dico-int} définit l'intelligence comme la \textquote{
Faculté de comprendre, de concevoir, de connaître, et notamment faculté de discerner ou d’établir des rapports entre des faits, des idées ou des formes pour parvenir à la connaissance}.
Cette définition a deux aspects.
Le premier est une liste de tâches techniques qui correspond bien à une liste de logiciels comme nous l'avons vu au début de cette section.
Cependant cette énumération est une définition qui est aussi peu satisfaisante que l'est celle de la science faite par Théétète au début de son entretien avec Socrate~\cite{theetete}.
Le second aspect sur la connaissance est plus énigmatique et correspond à un but avec \textquote{pour parvenir}.
Nous verrons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voire plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}.
Cette personnification de la machine traduit bien l'aspect décrit à Dartmouth de simulation de caractéristiques humaines.
%Avant de nous pencher plus avant sur l'aspect de \textequot{conaissance}, notons que,
De plus, comme le remarque A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot intelligence en français ne comprend pas la signification supplémentaire d'information que \textit{intelligence} a en anglais.
Le traitement de l'information, sa compression, ses représentations est pourtant une facette primordiale de l'IA qui est mis en avant par Claude Shannon dans la description de sa contribution à Dartmouth~\cite{dartmouth}.
Maintenant que nous comprenons les moyens utilisés par l'IA, nous devons désormais explorer ce qu'est la connaissance pour comprendre l'objectif des programmes IA.
L'Académie Française expose que la connaissance est \textquote{ ce que l’on connaît par l’étude, l’expérience ou par tout autre moyen d’information}~\cite{dico-con}.
Cette définition nous renvoie au but de l'intelligence et nous fait tourner en rond.
Regardons donc la connaissance comme Socrate regarde la science~\cite{theetete}.
Dans \textit{Théétète} de Platon~\cite{theetete}, nous apprenons que la connaissance, s'il y a mémoire, et la sensation sont deux choses différentes.
Or les programmes d'IA mémorisent les données qui servent à les entraîner~\cite{kuppa2021towards,feldman2020does,arpit2017closer}.
Pour l'IA, l'objet sensible est la donnée d'entrée du programme et le résultat de la connaissance, sa sortie.
Alors, le but de connaissance d'un programme d'IA ne peut pas être uniquement de retranscrire une sortie qui lui est propre (sa sensation).
Toujours selon Platon, c'est la science de la différence qui fait la connaissance.
C'est-à-dire de connaître et d'expliquer les caractéristiques qui rendent unique l'objet que le programme d'IA connaît.
Nous parlerons d'explications dans la Section~\ref{sec:contexte-expl}.
Il existe différents niveaux d'évaluation de la capacité à trouver les caractéristiques qui différencient les données étudiées, nous les présenterons en Section~\ref{sec:background-ml}.
A cette science de la différence, Platon ajoute l'opinion droite (ou juste), qui relève de la cité.
Cette notion très vaste est étudiée en IA dans les domaines de l'éthique sous la forme d'enjeux que nous présenterons à la Section~\ref{sec:contexte-enjeu}.
Cette séparation de la connaissance en deux se traduit par une différenciation de deux types d'IA.
%Force de l'IA
John R. Searle propose de les appeler l'IA faible et l'IA forte~\cite{searle1980minds}.
L'IA faible est un \textquote{outil très puissant} qui par exemple permet de tester une hypothèse de manière rigoureuse.
L'IA forte, en contrepartie, \textquote{n'est plus qu'un simple outil de l'étude de l'esprit; plutôt, le programme approprié \emph{est} l'esprit, dans le sens que l'ordinateur, ayant le bon programme peut littéralement être demandé de comprendre et d'avoir d'autres états cognitifs.}
L'objectif à long terme de l'IA forte est d'atteindre l'\textit{Artificial General Inteligence} (AGI)~\cite{baum2017survey}.
C'est-à dire-créer une IA qui connaisse, ou qui puisse apprendre, toutes les disciplines.
Maintenant que nous savons précisément ce qu'IA signifie, regardons en quoi ce terme est critiquable.
Dans un premier temps, les modèles de dialogue comme ChatGPT ne remplissent pas la définition d'intelligence donnée plus haut comme l'explique Richard M. Stallman dans la liste de termes \textquote{à éviter} du projet GNU~\cite{gnuAI}
De plus, certains aspects capitaux en société, comme l'intelligence émotionnelle, sont absents de toute IA actuelle~\cite{banIA}.
Enfin, l'IA ne peut pas avoir une opinion comme le démontre John R. Searle avec l'expérience de la chambre chinoise~\cite{searle1980minds}.
Ainsi, l'expression intelligence artificielle est trompeuse car bien que ces programmes soient en effet artificiels, ils ne sont pas intelligents.
C'est pourquoi la définition légale d'IA est si éloignée de ces considérations.
L'Union Européenne a établi le Règlement (UE) 2024/1689 du Parlement Européen et du Conseil
du 13 juin 2024
établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}.
Nous reviendrons plus en détail dessus dans la Section~\ref{sec:contexte-legal}.
Pour le moment, regardons l'article 3 : il s'agit d'une liste de définitions concernant l'IA.
Nous y trouvons la définition de (UE 2024/1689 3§1) : \textquote{système IA}.
C'est \textquote{un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire
preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit,
à partir des entrées qu’il reçoit, la manière de générer des sorties tels que des prédictions, du contenu, des
recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.}
Cette définition renvoie simplement l'IA à un algorithme qui prend en entrée les \textquote{entrées} de la définition UE ainsi que des paramètres pour son adaptabilité et renvoie des \textquote{sorties}.
Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}.
\begin{figure}
\centering
\input{contexte/figure/tikz/function}
\caption{Illustration de la définition de système IA par l'Union Européenne.}
\label{fig:contexte-IAUE}
\end{figure}
|
