1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
|
L'anthropomorphisme consiste à attribuer des caractéristiques humaines à ce qui ne l'est pas.
Dans le contexte de l'IA et plus précisément de l'AGI, ce phénomène peut devenir courant.
L'anthropomorphisme des ordinateurs est d'ailleurs déjà ancré dans notre société depuis plusieurs décennies.
En effet, l'attribution d'un rôle social humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme écrit, copie, attrape un virus, etc.
Une interaction avec quelque chose qui montre un semblant de comportement social nous renvoie à notre propre aliénation sociale au sens décrit par Jean-Jacques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}.
Cela nous pousse à considérer ce que l'on anthropomorphise comme des personnes, des être humains.
La reconnaissance de l'humanité par la société passe par la loi.
En droit français, être humain est un synonyme de personne physique~\cite{cornu}.
C'est-à-dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}.
Cette définition est d'ailleurs la pierre angulaire quant à la reconnaissance de la qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}.
C'est en reconnaissant qu'une personne ayant de multiples prothèses d'organes synthétiques, n'en perd pas moins sa personnalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain.
La psyché humaine et ce qui la caractérise sont un pilier de la recherche philosophique et scientifique.
La psychanalyse d'après Freud donne des outils pratiques pour parler de psyché que nous allons utiliser dans cette section.
Nous allons les présenter rapidement mais pour les cerner plus en détails nous renvoyons le lecteur à \textit{Das Ich und das Es}~\cite{Freud2010-qq} ; les citations que nous utilisons comme définitions viennent de cet ouvrage.
Dans un premier temps, la psyché subit une subdivision grossière en trois parties.
\begin{itemize}
\item Cs : La conscience c'est-à-dire \textquote{la perception la plus immédiate et la plus certaine.}
\item Pcs : le préconscient c'est-à-dire \textquote{latent, tout en étant capable de devenir conscient.}
\item Ics : l'inconscient c'est-à-dire \textquote{le refoulé [...] incapable de devenir conscient.} auquel nous ajoutons une partie du moi qui contrôle le système Cs-Pcs-Ics.
\end{itemize}
Dans un second temps, le cadre qui orchestre ces trois aspects :
\begin{itemize}
\item Le moi : \textquote{Organisation cohérente de processus de l'âme dans une personne.}
\item Le ça : \textquote{Part du psychisme dans lequel le moi se continue et qui se comporte comme Ics.}
\item Le sur-moi : \textquote{Résidu des premiers choix d'objet du ça}. C'est la morale qui vient, pour simplifier, de certaines de nos interactions avec le reste du monde.
\end{itemize}
Pour Freud, les mots ont une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs.
Ainsi, ils sont responsables d'une grande partie de la conscience.
Freud dit :
\textquote{[...]Comment quelque chose devient-il Pcs ? et la réponse serait : par connexion avec les représentations de mot correspondantes.}
Il faut voir dans cette citation que \textquote{mot} est entendu au sens large pour inclure les restes mnésiques c'est-à-dire les anciennes perceptions.
Les mots sont aussi importants pour les perceptions et peuvent être à l'origine de l'objet de l'investissement.
Toujours d'après Freud, les investissement d'objets partent du ça.
Ensuite, soit il y a l'identification d'objets dans le moi, soit il y a l'acceptation de l'investissement s'il n'y a pas refoulement.
C'est-à-dire que les mots créent un sentiment dont on n'a pas forcément conscience (au sens descriptif et non Cs) pour une IA qui va nous parler.
Cela est mis en lumière dans
\textit{2001 : A space odyssey} quand un des astronautes dit que \textquote{quand on s'est habitué à ce qu'il [HAL] parle, on le voit juste comme une autre personne}.
\footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}.
Cependant, il admet ne pas savoir si les sentiments qu'il perçoit chez HAL sont réels ou simulés.
C'est donc que cet astronaute a identifié HAL dans son moi et a rendu Cs, par l'analyse, le processus qui lui fait croire que HAL est humain.
Il est bien sûr aussi possible que ce processus reste Ics comme dans \textit{Her}~\cite{her}.
Cela peut être dangereux car là où l'identification a permis à l'astronaute de débrancher HAL quand il est devenu dangereux, l'investissement aurait pu l'en empêcher.
Dans \textit{Her}, l'IA Samantha, bien que non-alignée à la fin du film, n'a pas un but dangereux de destruction.
Cela rend le fait que le personnage principal, Théodore, n'ait pas refoulé l'investissement moins grave.
Notons que le processus d'identification avait commencé chez Théodore car il dit à Samantha : \textquote{Tu n'es qu'une voix artificielle.}
\footnote{\textit{You are just an artificial voice[..].}}
Cependant Samantha a un argument extrêmement fort qui casse cette identification chez Thodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes expériences.}
\footnote{\textit{What makes me, me, is my ability to grow through my experiences.}}.
Elle expose ainsi l'argument principal qui définit la personnalité comme l'explique Freud~\cite{Freud2010-qq} :
\textquote{le caractère du moi résulte de la sédimentation des investissements d'objets abandonnés}.
Nous touchons ainsi du doigt une qualité essentielle de l'AGI que nous retrouvons aussi bien chez l'IA Andrew de \textit{The Bicentennial Man} que chez l'IA Samantha de \textit{Her} :
un système complet Ics,Pcs,Cs, le tout encadré dans un ça inconnu et régi par un moi qui sert d'interface entre le ça et le système Pcs-Cs.
C'est d'ailleurs un ça incomplet qui fait que les IA modernes comme ChatGPT sont très loin de l'humain.
ChatGPT lui même explique cela clairement lorsqu'on lui pose la question \textquote{Penses-tu ?} comme nous pouvons le voir à la Figure~\ref{fig:contexte-penses}.
Mais alors, qu'en est-il du sur-moi pour les IA ?
Pour une AGI avec un système complet ça-moi, le sur-moi existe forcément d'après sa définition, sinon c'est que le ça est pathologique.
On le voit dans le comportement de Samantha dans~\textit{Her} quand elle explore son refoulé : \textquote{Je n'aime pas qui je suis actuellement}.
\footnote{\textit{I don't like who I am right now}}.
Et d'autres moments qui montrent ses névroses.
Une névrose en particulier est intéressante dans le contexte de l'AGI, qui n'existe pas pour les humains normaux, est le fait que, de par leur supériorité intellectuelle, les IA peuvent se détacher totalement des humains.
Pourquoi rester à parler avec un humain quand on est infiniment plus rapide et performant que lui ?
Ainsi, même si Samantha dit aimer Théodore, elle le quitte, achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour construire son caractère en mettant fin à son Oedipe~\cite{Freud2010-qq}.
Concernant la construction du caractère, le hasard est un élément important de l'anthropomorphisme, que ce soit dans la littérature d'anticipation ou dans les technologies actuelles de l'IA générative.
Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristiques humaines comme l'empathie ou la créativité.
Ce hasard dans la création est aussi décrit au septième point de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}.
Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique.
De manière assez époustouflante ce hasard joue un rôle prédominant dans les programmes génératifs modernes comme les GAN ou les auto-encodeurs ; nous y reviendrons plus en détails à la Section~\ref{sec:background-generation}.
Cependant, le processus de création par le hasard peut-il vraiment s'apparenter au processus de création humain qui fait l'individualité de chacun ?
%De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récents comme les LLM ou les générateurs d'images.
%Cela peut amener les utilisateurs humains à anthropomorphiser ces logiciels~\cite{MARAKAS2000719}.
%L'IA HAL 9000 \textquote{reproduit, bien que certains experts préfèrent le terme imite, la plupart des activités du cerveau humain}
%\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}.
%On remarque que l'imitation d'une compréhension humaine telle que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine.
%Nous voyons même que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci a tenté de le tuer.
%Elle aimerait avoir un corps
%\textit{I am becoming much more than they programmed}
%\textit{proud of having my own feelings about the world}
%\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?}
%Descartes
%\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."}
%\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?}
%\textit{I don't like what I am right now}
%\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings}
%\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.}
%Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain.
\begin{figure}
\includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png}
\caption{Réponse de ChatGPT à la question \textquote{Penses-tu ?}.}
\label{fig:contexte-penses}
\end{figure}
Enfin, l'anthropomorphisme peut présenter un risque dans la mesure où
Marakas et al.~\cite{MARAKAS2000719} expliquent que cette confusion de l'humain et de la machine entraîne une sur-évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisée.
C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaires~\cite{waters2014grade}, où la vie d'êtres humains est décidée par des ordinateurs.
Cela donne lieu à de nombreux problèmes moraux qui forment les fondements de l'IA éthique notamment autour de l'équité, de la confidentialité et de l'explicabilité sur lesquels nous reviendrons à la Section~\ref{sec:contexte-enjeu}.
Attribuer à l'IA ces tâches crée aussi un besoin législatif comme nous le verrons en Section~\ref{sec:contexte-legal}.
En effet, pour considérer l'IA comme un remplacement viable à l'humain pour les tâches les plus sensibles, il faudrait, comme nous l'avons vu, pouvoir prouver que l'IA a un système complet moi-ça et a un sur-moi qui soit aligné avec la morale sociale.
Pour cela le test de Turing reste inadéquat comme l'explique John R. Searle~\cite{searle1980minds}.
|
