1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
|
L'anthropomorphisation consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain.
Dans le contexte de l'IA et plus précisement de l'AGI, ce phénomène peut devenir courant.
L'anthropomorphisation des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies.
En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc.
Une interaction avec quelquechose qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}.
Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être huamins.
La reconnaisse de l'humanitée par la société passe par la loi.
En droit francais, etre humain est un synonime de personne physique~\cite{cornu}.
C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}.
Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}.
C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain.
La psychée humaine et ce qui la caractérise est un pilier de la recherche philosophique et scientifique.
La psychanalise d'après Freud donne des outils pratiques pour parler de psychée que nous allons utiliser dans cette section.
Nous allons les présenter rapidement mais pour les cerner plus en détail nous renvoyons le lecteur à \textit{Das Ich und das Es}~\cite{Freud2010-qq}, les citations que nous utilisons comme définition vienne de cet ouvrage.
Dans un primier temps, la psychée subit une subdivision grossière en trois.
\begin{itemize}
\item Cs : La conscience c'est à dire \textquote{la perception la plus immédiate et la plus certaine.}
\item Pcs : le préconscient c'est la dire \textquote{latent, tout en étant capable de devenir conscient.}
\item Ics : l'inconscient c'est à dire \textquote{le refoulé [...] incapable de devenir conscient.} à cela nous ajoutons une partie du moi qui controle le système Cs-Pcs-Ics.
\end{itemize}
Dans un second temps, le cadre qui orchestre ces trois aspects :
\begin{itemize}
\item Le moi : \textquote{Organisation cohérente de processus de l'âme dans une personnes.}
\item La ça : \textquote{Part du psychisme dans laquelle le moi se continue et qui se comporte comme Ics.}
\item Le sur-moi : \textquote{Résidu des premier choix d'objet du ça}. C'est la morale qui vient, pour simplifier, de certaines de nos interactions avec le reste du monde.
\end{itemize}
Pour Freud, les mots on une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs.
Ainsi ils sont résposable d'une grande partie de la conscience.
Freud dit :
\textquote{[...]Comment quelque chose devient-il Pcs ? et la réponse serait : par connexion avec les représentations de mot correspondantes.}
Il faut voir dans cette citation que \textquote{mot} est entandu au sens large pour inclure les restes mnésiques c'est à dire les anciennes pérceptions.
Les mots sont aussi importants pour les perceptions et peuvent être à l'originie de l'objet de l'invéstissement.
Toujours d'après Freud, les investissment d'objets partent du ça ensuite soit, il y a l'identification d'objets dans le moi,ou soit il y a l'acceptation de l'investissement si il n'y à pas refoulement.
C'est à dire que les mots créent un sentimient dont on n'a pas forcément conscience (au sens descriptif et non Cs) pour une IA qui vas nous parler.
Cela est mis en lumière dans
\textit{2001 : A space odyssey} quand un des astraunotes dit que \textquote{quand on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre persone}.
\footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}.
Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont réel ou simulé.
C'est donc que cet astraunote a identifié HAL dans son moi et a rendu Cs, par l'analyse, le processus qui lui fait croire de HAL est humain.
Il est bien sur aussi possible que ce processus reste Ics comme dans \textit{Her}~\cite{her}.
Cela peut-être dangeureux car la l'identification à permis à l'astraunote de débrancher HAL quand il est devenu dangeureux, l'investissement aurait put l'en empêcher.
Dans \textit{Her}, l'IA Samantha bien que non-aligné à la fin du film, n'a pas un but dangeureux de déstruction.
Cela rend le fais que le personnage principale, Théodore, n'ai pas réfoulé l'investissement moins grave.
Notons que le processus d'indentification avait commencé chez Théodore car il dit à Samanthe : '\textquote{Tu n'est qu'une voie artificielle.}
\footnote{\textit{You are just an artificial voice[..].}}
Cepandant Samantha à un argument extrement fort qui casse cette identification chez Thodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes experiences.}
\footnote{\textit{What makes me, me, is my ability to grow through my experiences.}}.
Elle expose ainsi l'argument principale qui définit la personalité comme l'explique Freud~\cite{Freud2010-qq} :
\textquote{le caractère du moi résulte de la sédimentation des investissements d'objets abandonnés}.
Nous touchons ainsi du doigt une qualité essentiel de l'AGI que nous retrouvons aussi bien chez l'IA Andrew de \textit{The Bicentenial man} que chez l'IA Samantha de \textit{Her} :
un système complet Ics,Pcs,Cs le tout encadre dans un ça inconnu et régi par un moi qui sert d'interface entre le ça et le système Pcs-Cs.
C'est d'ailleur un ça incomplet qui fait que les IA moderne comme ChatGPT sont très loins de l'humain.
ChatGPT lui même explique celà clairement quand on lui pose la question \textquote{Penses-tu ?} comme nous pouvons le voir à la Figure~\ref{fig:contexte-penses}.
Mais alors, quand est-t'il du sur-moi pour les IA ?
Pour une AGI avec un système complet ça-moi, le sur-moi existe forcément d'après sa définition, sinon c'est que le ça est pathologique.
On le voit dans le comportement de Samantha dans~\textit{Her} quand elle explore son refoulé : \textquote{Je n'aime pas qui je suis actuellement}.
\footnote{\textit{I don't like who I am right now}}.
Et d'autre moments qui montrent ses névroses.
Une nevrose en particulier est interessante dans le contexte d l'AGI, qui n'existe pas pour les humains normaux, est le fait que de part sa supperiotié intellectuelle les IA peuvent se détacher totalement des humains.
Pourquoi rester à parler avec un humain quand on est infiniement plus rapide et performant que lui ?
Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Eudipe~\cite{Freud2010-qq}.
Concernant la construction du caractère, le hasard et est élement important de l'anthropomorphisation, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative.
Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée.
Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}.
Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique.
De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}.
Cependant le processus de création par le hasard peut-il être vraiement apparanté au processu de création humain qui fait l'individualité de chacun ?
%De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images.
%Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{MARAKAS2000719}.
%L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain}
%\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}.
%On remarque que l'imitation d'une compréhensio humaine tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine.
%Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer.
%Elle aimerait avoir un corps
%\textit{I am becoming much more than they programmed}
%\textit{proud of having my own feelings about the world}
%\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?}
%Descartes
%\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."}
%\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?}
%\textit{I don't like what I am right now}
%\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings}
%\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.}
%Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain.
\begin{figure}
\includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png}
\caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.}
\label{fig:contexte-penses}
\end{figure}
Enfin, l'anthropomorphisation peut présenter un risque dans la mesure où
Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé.
C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaire~\cite{waters2014grade} où la vie d'être humain est décidé par des ordinateur.
Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}.
Attribuer à l'IA ces tâches crée aussi un besoin législatif comme nous le veron en Section~\ref{sec:contexte-legal}.
En effet, pour considéré l'IA comme un remplacement viable à l'humain pour les tâche les plus sensible il faudrait, comme nous l'avons vue, pouvoir prouver que l'IA est un système complet moi-ça et ai un sur-moi qui soit aligné avec la morale sociale.
Pour cela le test de Turing reste inadequoit comme l'explique John R. Searle~\cite{searle1980minds}.
|
