diff options
author | Jan Aalmoes <jan.aalmoes@inria.fr> | 2024-09-22 11:33:28 +0200 |
---|---|---|
committer | Jan Aalmoes <jan.aalmoes@inria.fr> | 2024-09-22 11:33:28 +0200 |
commit | 3d316f0f5e0c1c54171ef31d68196291bde7de60 (patch) | |
tree | 69585f0a90a8661a7c738094884ffcfe9a5fcd09 /contexte/philo/anthro.tex | |
parent | 099f2e179d425a7791ed1f970d5246799e2b3774 (diff) |
antrho
Diffstat (limited to 'contexte/philo/anthro.tex')
-rw-r--r-- | contexte/philo/anthro.tex | 96 |
1 files changed, 48 insertions, 48 deletions
diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex index c6e39fd..c785f69 100644 --- a/contexte/philo/anthro.tex +++ b/contexte/philo/anthro.tex @@ -1,24 +1,24 @@ -L'antrhopomorphisme consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain. -Dans le contexte de l'IA et plus précisement de l'AGI, ce phénomène peut devenir courant. -L'antrhopomorphisme des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies. -En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. -Une interaction avec quelquechose qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. -Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être huamins. -La reconnaisse de l'humanitée par la société passe par la loi. - -En droit francais, etre humain est un synonime de personne physique~\cite{cornu}. +L'anthropomorphisme consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain. +Dans le contexte de l'IA et plus précisément de l'AGI, ce phénomène peut devenir courant. +L'anthropomorphisme des ordinateurs et d'ailleurs déjà encré dans notre société depuis plusieurs décennies. +En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme écrit, copie, attrape un virus, etc. +Une interaction avec quelque chose qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jacques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. +Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être humains. +La reconnaisse de l'humanité par la société passe par la loi. + +En droit français, être humain est un synonyme de personne physique~\cite{cornu}. C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. -Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. -C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain. +Cette définition est d'ailleurs la pierre angulaire quand à la reconnaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. +C'est en reconnaissant qu'une personne ayant de multiples prothèse d'organes synthétiques, n'en perdant pas moins sa personnalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain. -La psychée humaine et ce qui la caractérise est un pilier de la recherche philosophique et scientifique. -La psychanalise d'après Freud donne des outils pratiques pour parler de psychée que nous allons utiliser dans cette section. -Nous allons les présenter rapidement mais pour les cerner plus en détail nous renvoyons le lecteur à \textit{Das Ich und das Es}~\cite{Freud2010-qq}, les citations que nous utilisons comme définition vienne de cet ouvrage. -Dans un primier temps, la psychée subit une subdivision grossière en trois. +La psyché humaine et ce qui la caractérise est un pilier de la recherche philosophique et scientifique. +La psychanalyse d'après Freud donne des outils pratiques pour parler de psyché que nous allons utiliser dans cette section. +Nous allons les présenter rapidement mais pour les cerner plus en détail nous renvoyons le lecteur à \textit{Das Ich und das Es}~\cite{Freud2010-qq}, les citations que nous utilisons comme définition viennent de cet ouvrage. +Dans un premier temps, la psyché subit une subdivision grossière en trois. \begin{itemize} \item Cs : La conscience c'est à dire \textquote{la perception la plus immédiate et la plus certaine.} \item Pcs : le préconscient c'est la dire \textquote{latent, tout en étant capable de devenir conscient.} - \item Ics : l'inconscient c'est à dire \textquote{le refoulé [...] incapable de devenir conscient.} à cela nous ajoutons une partie du moi qui controle le système Cs-Pcs-Ics. + \item Ics : l'inconscient c'est à dire \textquote{le refoulé [...] incapable de devenir conscient.} à cela nous ajoutons une partie du moi qui contrôle le système Cs-Pcs-Ics. \end{itemize} Dans un second temps, le cadre qui orchestre ces trois aspects : \begin{itemize} @@ -27,50 +27,50 @@ Dans un second temps, le cadre qui orchestre ces trois aspects : \item Le sur-moi : \textquote{Résidu des premier choix d'objet du ça}. C'est la morale qui vient, pour simplifier, de certaines de nos interactions avec le reste du monde. \end{itemize} Pour Freud, les mots on une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs. -Ainsi ils sont résposable d'une grande partie de la conscience. +Ainsi ils sont responsables d'une grande partie de la conscience. Freud dit : \textquote{[...]Comment quelque chose devient-il Pcs ? et la réponse serait : par connexion avec les représentations de mot correspondantes.} -Il faut voir dans cette citation que \textquote{mot} est entandu au sens large pour inclure les restes mnésiques c'est à dire les anciennes pérceptions. -Les mots sont aussi importants pour les perceptions et peuvent être à l'originie de l'objet de l'invéstissement. -Toujours d'après Freud, les investissment d'objets partent du ça ensuite soit, il y a l'identification d'objets dans le moi,ou soit il y a l'acceptation de l'investissement si il n'y à pas refoulement. -C'est à dire que les mots créent un sentimient dont on n'a pas forcément conscience (au sens descriptif et non Cs) pour une IA qui vas nous parler. +Il faut voir dans cette citation que \textquote{mot} est entendu au sens large pour inclure les restes mnésiques c'est à dire les anciennes perceptions. +Les mots sont aussi importants pour les perceptions et peuvent être à l'origine de l'objet de l'investissement. +Toujours d'après Freud, les investissement d'objets partent du ça. +Ensuite, soit il y a l'identification d'objets dans le moi, soit il y a l'acceptation de l'investissement si il n'y à pas refoulement. +C'est à dire que les mots créent un sentiment dont on n'a pas forcément conscience (au sens descriptif et non Cs) pour une IA qui vas nous parler. Cela est mis en lumière dans -\textit{2001 : A space odyssey} quand un des astraunotes dit que \textquote{quand on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre persone}. +\textit{2001 : A space odyssey} quand un des astronautes dit que \textquote{quand on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre personne}. \footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}. -Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont réel ou simulé. -C'est donc que cet astraunote a identifié HAL dans son moi et a rendu Cs, par l'analyse, le processus qui lui fait croire de HAL est humain. +Cependant, il admet ne pas savoir si les sentiment qu'il perçoit chez HAL sont réel ou simulé. +C'est donc que cet astronaute a identifié HAL dans son moi et a rendu Cs, par l'analyse, le processus qui lui fait croire que HAL est humain. Il est bien sur aussi possible que ce processus reste Ics comme dans \textit{Her}~\cite{her}. -Cela peut-être dangeureux car la l'identification à permis à l'astraunote de débrancher HAL quand il est devenu dangeureux, l'investissement aurait put l'en empêcher. -Dans \textit{Her}, l'IA Samantha bien que non-aligné à la fin du film, n'a pas un but dangeureux de déstruction. -Cela rend le fais que le personnage principale, Théodore, n'ai pas réfoulé l'investissement moins grave. -Notons que le processus d'indentification avait commencé chez Théodore car il dit à Samanthe : '\textquote{Tu n'est qu'une voie artificielle.} +Cela peut-être dangereux car là où l'identification a permis à l'astronaute de débrancher HAL quand il est devenu dangereux, l'investissement aurait put l'en empêcher. +Dans \textit{Her}, l'IA Samantha bien que non-aligné à la fin du film, n'a pas un but dangereux de destruction. +Cela rend le fais que le personnage principale, Théodore, n'ai pas refoulé l'investissement moins grave. +Notons que le processus d'identification avait commencé chez Théodore car il dit à Samanthe : '\textquote{Tu n'est qu'une voie artificielle.} \footnote{\textit{You are just an artificial voice[..].}} -Cepandant Samantha à un argument extrement fort qui casse cette identification chez Thodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes experiences.} +Cependant Samantha à un argument extrêmement fort qui casse cette identification chez Thodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes expériences.} \footnote{\textit{What makes me, me, is my ability to grow through my experiences.}}. -Elle expose ainsi l'argument principale qui définit la personalité comme l'explique Freud~\cite{Freud2010-qq} : +Elle expose ainsi l'argument principale qui définit la personnalité comme l'explique Freud~\cite{Freud2010-qq} : \textquote{le caractère du moi résulte de la sédimentation des investissements d'objets abandonnés}. Nous touchons ainsi du doigt une qualité essentiel de l'AGI que nous retrouvons aussi bien chez l'IA Andrew de \textit{The Bicentenial man} que chez l'IA Samantha de \textit{Her} : -un système complet Ics,Pcs,Cs le tout encadre dans un ça inconnu et régi par un moi qui sert d'interface entre le ça et le système Pcs-Cs. -C'est d'ailleur un ça incomplet qui fait que les IA moderne comme ChatGPT sont très loins de l'humain. -ChatGPT lui même explique celà clairement quand on lui pose la question \textquote{Penses-tu ?} comme nous pouvons le voir à la Figure~\ref{fig:contexte-penses}. -Mais alors, quand est-t'il du sur-moi pour les IA ? +un système complet Ics,Pcs,Cs le tout encadré dans un ça inconnu et régi par un moi qui sert d'interface entre le ça et le système Pcs-Cs. +C'est d'ailleurs un ça incomplet qui fait que les IA moderne comme ChatGPT sont très loin de l'humain. +ChatGPT lui même explique cela clairement quand on lui pose la question \textquote{Penses-tu ?} comme nous pouvons le voir à la Figure~\ref{fig:contexte-penses}. +Mais alors, quand est-il du sur-moi pour les IA ? Pour une AGI avec un système complet ça-moi, le sur-moi existe forcément d'après sa définition, sinon c'est que le ça est pathologique. On le voit dans le comportement de Samantha dans~\textit{Her} quand elle explore son refoulé : \textquote{Je n'aime pas qui je suis actuellement}. \footnote{\textit{I don't like who I am right now}}. Et d'autre moments qui montrent ses névroses. -Une nevrose en particulier est interessante dans le contexte d l'AGI, qui n'existe pas pour les humains normaux, est le fait que de part sa supperiotié intellectuelle les IA peuvent se détacher totalement des humains. -Pourquoi rester à parler avec un humain quand on est infiniement plus rapide et performant que lui ? -Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Eudipe~\cite{Freud2010-qq}. +Une névrose en particulier est intéressante dans le contexte de l'AGI, qui n'existe pas pour les humains normaux, est le fait que de part sa supériorité intellectuelle les IA peuvent se détacher totalement des humains. +Pourquoi rester à parler avec un humain quand on est infiniment plus rapide et performant que lui ? +Ainsi même si Samantha dit aimer Théodore, elle le quitte, achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour construire son caractère en mettant fin à son Oedipe~\cite{Freud2010-qq}. -Concernant la construction du caractère, le hasard et est élement important de l'antrhopomorphisme, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative. -Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. +Concernant la construction du caractère, le hasard est élément important de l'anthropomorphisme, que ce soit dans la littérature d'anticipation où dans les technologies actuelles de l'IA générative. +Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativité. Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. -De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. -Cependant le processus de création par le hasard peut-il être vraiement apparanté au processu de création humain qui fait l'individualité de chacun ? - +De manière assez époustouflante ce hasard joue un rôle prédominant dans les programmes génératifs moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. +Cependant le processus de création par le hasard peut-il être vraiment s'apparenta au processus de création humain qui fait l'individualité de chacun ? %De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. @@ -104,14 +104,14 @@ Cependant le processus de création par le hasard peut-il être vraiement appara \begin{figure} \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} - \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} + \caption{Réponse de ChatGPT à la question \textquote{Penses-tu ?}.} \label{fig:contexte-penses} \end{figure} -Enfin, l'antrhopomorphisme peut présenter un risque dans la mesure où +Enfin, l'anthropomorphisme peut présenter un risque dans la mesure où Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaire~\cite{waters2014grade} où la vie d'être humain est décidé par des ordinateur. -Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. -Attribuer à l'IA ces tâches crée aussi un besoin législatif comme nous le veron en Section~\ref{sec:contexte-legal}. -En effet, pour considéré l'IA comme un remplacement viable à l'humain pour les tâche les plus sensible il faudrait, comme nous l'avons vue, pouvoir prouver que l'IA est un système complet moi-ça et ai un sur-moi qui soit aligné avec la morale sociale. -Pour cela le test de Turing reste inadequoit comme l'explique John R. Searle~\cite{searle1980minds}. +Cela donne lieu à de nombreux problèmes moraux qui forment les fondements de l'IA éthique notamment atout de l'équité, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. +Attribuer à l'IA ces tâches crée aussi un besoin législatif comme nous le verrons en Section~\ref{sec:contexte-legal}. +En effet, pour considéré l'IA comme un remplacement viable à l'humain pour les tâches les plus sensibles il faudrait, comme nous l'avons vue, pouvoir prouver que l'IA ai un système complet moi-ça et ai un sur-moi qui soit aligné avec la morale sociale. +Pour cela le test de Turing reste inadéquat comme l'explique John R. Searle~\cite{searle1980minds}. |