From 4edf87ea8a5ce3e76285172af2eaecc7bc21813d Mon Sep 17 00:00:00 2001 From: Jan Aalmoes Date: Mon, 26 Aug 2024 18:19:46 +0200 Subject: anthropomorphisation --- contexte/philo.tex | 84 +++++++++++++----------------------------------------- 1 file changed, 20 insertions(+), 64 deletions(-) (limited to 'contexte/philo.tex') diff --git a/contexte/philo.tex b/contexte/philo.tex index 6c53b5b..17d8e11 100644 --- a/contexte/philo.tex +++ b/contexte/philo.tex @@ -1,15 +1,22 @@ - -Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire ainsi que de ces implications philosophie. - -Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots Intelligence Artificiele engendrent. - +%Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire ainsi que de ces implications philosophie. +%Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots Intelligence Artificiele engendrent. Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. +Dans cette section nous utiliserons des exemples venu du cinéma comme fil conducteurs pour comprendre pour parler de la vision que le grand publique à de l'IA. +Cela nous permetra aussi de mettre en avant certain concept philosophiques et psychanolotiques pour comprendre à quel point l'IA actuel et différentes de l'humain. +C'est aussi une manière d'anticiper sur de possible future dévelopements de l'AGI et leur éventuelle implications. +L'utiliation du cinema dans se contexte se justifie car +les films contribuent à forger les opinions que le grand publique ainis que le politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}. +De plus, les films présentés dans cette Section sont des succès mondiaux qui ont été vus par des millions de personnes. +Certains comme \textit{2001: A space odyssey} de Stanley Kubric sont reconnu comme des oeuvres majeurs~\cite{afi100}. +Un élément supplementaire qui nous permet de dire que l'IA actuelle cherche à se raprocher de l'IA fantasme (au moins en terme de communication) et le fait que +Scarlett Johansson, qui interprète la voix de l'IA Samantha dans Her~\cite{her}, ai été approchée par Sam Altamn, le PDG de ChatGPT, pour lui proposer de préter sa voix à l'IA Sky, basé sur GPT4~\cite{johansson}. +Bien que Johansson ai refusé, cela montre à quel point la vision artistique, et surtout cinématographique par le réalisation est une influence de l'orientation de l'IA actuel et réel. +Outre cet exemple, nous nous efforcerons dans cette section de tracer un parallèle entre les oeuvre discutée et les téchnologies réels. + -\subsection{La peur et le contrôle} +\subsection{Risques} \input{contexte/philo/peur} -\subsection{La mauvaise utilisation} -\input{contexte/philo/mu} \subsection{Anthropomorphisation} \input{contexte/philo/anthro} @@ -17,66 +24,15 @@ Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les \textit{The Matrix}~\cite{matrix}. \textit{2001: A Space Odyssey}~\cite{2001odyssey}. -L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain} -\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}. -On remarque que l'imitation d'une compréhensio humaien tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. -Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer. -D'ailleur il dit lors d'un interview qu'une fois \textquote{qu'on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre persone} -\footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}. -Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont réel ou simulé. -HAL est un exemple d'IA aligné qui pour préserver sa mission choisit de tuer les humains qui veulent le débrancher. -On remarque donc bien la necessité, de manière générale, d'avoir de garders fous qui assurent non seulement l'utilité du programme (sa mission) mais aussi un certain niveau morale. -Les trois lois de la robotique sont des exemples de ce genre, hors du cadre la science fiction, les garanties d'équitée dans le traitement en sont des autres. \textit{Her}~\cite{her} -Au début, nous voyons Théodore, le personnage principle, travailler. -Son travail consiste à ecrir des lettres pour un service en ligne. -Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client. -Il sagit d'un récit d'anticipation où les IAs sont des programmes intégéré dans les systèmes d'exploitations (OS) à la manière d'assistant virtuels. -Malgré l'évident qualité qu'aurait ces programmes à générer ces lettres, ce sont bien des employés humain qui les écrivent. - -\textit{What makes me, me, is my ability to grow through my experiences. So basicaly et every moment I am evolving. Just like you.} - -\textit{You are just an artificial voice inside of a computer.} - -\textit{I saw through your emails that you went through a break up recently.} - -Elle a des \textit{personal embarassin thoughts} - -Elle aimerait avoir un corps - -\textit{I am becoming much more than they programmed} - -\textit{proud of having my own feelings about the world} -\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?} -Descartes - -\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."} - -\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?} - -\textit{I don't like what I am right now} - -\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings} - -\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.} - -Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain. - -Scarlett Johansson, qui interprète la voix de l'IA Samantha, a été approchée par Sam Altamn, le PDG de ChatGPT, pour lui proposer de préter sa voix à l'IA Sky, basé sur GPT4~\cite{johansson}. -Bien que Johansson ai refusé, cela montre à quel point la vision artistique, et surtout cinématographique par le réalisation. est une influence de l'orientationd de l'IA actuel et réel. - -Les films contribuent à forger les opinions que le grand publique ainis que le politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}. -Les films présentés dans cette Section sont des succès mondiaux qui ont été vus par des millions de personnes. -Certains comme \textit{2001: A space odyssey} de Stanley Kubric sont reconnu comme des oeuvres majeurs~\cite{afi100}. - +%Au début, nous voyons Théodore, le personnage principle, travailler. +%Son travail consiste à ecrir des lettres pour un service en ligne. +%Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client. +%Il sagit d'un récit d'anticipation où les IAs sont des programmes intégéré dans les systèmes d'exploitations (OS) à la manière d'assistant virtuels. +%Malgré l'évident qualité qu'aurait ces programmes à générer ces lettres, ce sont bien des employés humain qui les écrivent. -\textit{The Terminator}~\cite{terminator}. -Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains. -Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. -\textit{Defense network computer, trusted to know it all. They said it was smart.} -\textit{Avengers: Age of Ultron}~\cite{avenger}. \begin{figure} \centering \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png} -- cgit v1.2.3