summaryrefslogtreecommitdiff
path: root/contexte
diff options
context:
space:
mode:
authorJan Aalmoes <jan.aalmoes@inria.fr>2024-08-27 21:07:18 +0200
committerJan Aalmoes <jan.aalmoes@inria.fr>2024-08-27 21:07:18 +0200
commit57715cacec8d0f0d3d1436a26f92ae5c0f0e128e (patch)
tree985ae1d9895e0233f4e24a1f34046a42b46eb648 /contexte
parent4edf87ea8a5ce3e76285172af2eaecc7bc21813d (diff)
debut du background sur ZF
Diffstat (limited to 'contexte')
-rw-r--r--contexte/enjeux.tex11
-rw-r--r--contexte/philo.tex7
-rw-r--r--contexte/philo/anthro.tex52
3 files changed, 32 insertions, 38 deletions
diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex
index af8f40c..c69573f 100644
--- a/contexte/enjeux.tex
+++ b/contexte/enjeux.tex
@@ -27,8 +27,10 @@ Cela peut donner lieu à des discriminations notament dans le modèle de décisi
La justice prédictive tel qu'utilisé aux Etats Unis en est un bon exemple.
Dans ce cas, un modèle est utilisé pour prédire si un individu jugé coupable à un forte probabilité d'être récidiviste au non.
En utilisant de tel modèle nous mesurons que les afro-américains (\textit{blacks}) son plus souvent predit comme ayant un forte chance d'être récidiviste que le reste de la population (\textit{whites})~\cite{}.
+En plus d'être un enjeu, Al-Alawi et al.~\cite{al2021role} avance que l'utilisation de l'IA peut être une solution plus equitable que la décision humaine dans le processus de recrutement.
-Recrutement : l'IA peut rentirer les bias humains~\cite{al2021role}.
+L'équitée dans le modèle peut-être imposé lors de l'entraînement.
+Nous étudierons en détail ce processu dans la Section~\ref{sec:background-eq}.
\subsection{Explicabilitée}
\label{sec:contexte-expl}
@@ -39,7 +41,7 @@ D'une manière génèrale, l'inteligence artificielle brasse une quantité astro
Ce brassage s'opère à deux niveaux : au moment de la creation du modèle et au moment de son utilisation en production.
Pour créer des modèles performants, il est necessaire d'utiliser beaucoup de données.
Ces données servent à choisirs les bon parametres du modèle au travers de divers methods statistiques et d'optimisations, on les appeles données d'entrainement.
-Les modèles les plus récent et performant necessite un grand nombre de paramètres, citons par exemple le modèle LLaMA qui posède 65 milliard de pramètres ~\cite{}!
+Les modèles les plus récent et performant necessite un grand nombre de paramètres, citons par exemple le LLM LLaMA qui posède 65 milliard de pramètres ~\cite{}!
Ce grand nombre de paramètre a l'effet indesirable de mémoriserdes informations potentielement sensible sur les données d'entrainement~\cite{}.
L'information contenue dans les données d'entrainement est comme résumé, compressée dans la masses, a prior incompréhensible pour un humain, des paramètres du modèle.
Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver des informations sur les données d'entrainement juste en utilisant les paramètres du modèle~\cite{}.
@@ -51,7 +53,10 @@ Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver de
\label{fig:contexte-train}
\end{figure}
-
+Un autre risque de fuite de donnée se trouve au moment du l'utilisation du modèle, après son entraînement, lors de son utilisation.
+A ce moment, les utilisateurs envoient en entrée du modèle des données qu'ils peuvent vouloir gardé confidentielles.
+Cependant la sortie du modèle, qui a vocation à être partagée, peut reveler une parite des informations sensibles contenues dans les donnée d'entrée de l'utilisateurs.
+Mettre en avant risque est le travail originial que nous avons réalisé : nous le présentons dans la Section~\ref{sec:aia}.
\subsection{Sécuritée}
\label{sec:contexte-secu}
diff --git a/contexte/philo.tex b/contexte/philo.tex
index 17d8e11..e8cdd64 100644
--- a/contexte/philo.tex
+++ b/contexte/philo.tex
@@ -20,13 +20,6 @@ Outre cet exemple, nous nous efforcerons dans cette section de tracer un parallÃ
\subsection{Anthropomorphisation}
\input{contexte/philo/anthro}
-
-\textit{The Matrix}~\cite{matrix}.
-
-\textit{2001: A Space Odyssey}~\cite{2001odyssey}.
-
-
-\textit{Her}~\cite{her}
%Au début, nous voyons Théodore, le personnage principle, travailler.
%Son travail consiste à ecrir des lettres pour un service en ligne.
%Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client.
diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex
index e69e385..1cf6ba4 100644
--- a/contexte/philo/anthro.tex
+++ b/contexte/philo/anthro.tex
@@ -2,10 +2,11 @@ L'anthropomorphisation consiste à attribuer des caractéristiques humaines à c
Dans le contexte de l'IA et plus précisement de l'AGI, ce phénomène peut devenir courant.
L'anthropomorphisation des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies.
En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc.
-Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}.
+Une interaction avec quelquechose qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}.
Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être huamins.
+La reconnaisse de l'humanitée par la société passe par la loi.
-En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}.
+En droit francais, etre humain est un synonime de personne physique~\cite{cornu}.
C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}.
Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}.
C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors si ce n'est le corps, ne reste plus que le système psychique qui définisse l'humain.
@@ -23,7 +24,7 @@ Dans un second temps, le cadre qui orchestre ces trois aspects :
\begin{itemize}
\item Le moi : \textquote{Organisation cohérente de processus de l'âme dans une personnes.}
\item La ça : \textquote{Part du psychisme dans laquelle le moi se continue et qui se comporte comme Ics.}
- \item Le sur-moi : \textquote{Résidu des premier choix d'objet du ça}. C'est la morale qui vient de notre éducation.
+ \item Le sur-moi : \textquote{Résidu des premier choix d'objet du ça}. C'est la morale qui vient, pour simplifier, de certaines de nos interactions avec le reste du monde.
\end{itemize}
Pour Freud, les mots on une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs.
Ainsi ils sont résposable d'une grande partie de la conscience.
@@ -40,7 +41,7 @@ Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont r
C'est donc que cet astraunote a identifié HAL dans son moi et a rendu Cs, par l'analyse, le processus qui lui fait croire de HAL est humain.
Il est bien sur aussi possible que ce processus reste Ics comme dans \textit{Her}~\cite{her}.
-Cela peut-être dangeureux car la l'identification à permis à l'astraunote de débrancher HAL, l'investissement aurait put l'en empêcher.
+Cela peut-être dangeureux car la l'identification à permis à l'astraunote de débrancher HAL quand il est devenu dangeureux, l'investissement aurait put l'en empêcher.
Dans \textit{Her}, l'IA Samantha bien que non-aligné à la fin du film, n'a pas un but dangeureux de déstruction.
Cela rend le fais que le personnage principale, Théodore, n'ai pas réfoulé l'investissement moins grave.
Notons que le processus d'indentification avait commencé chez Théodore car il dit à Samanthe : '\textquote{Tu n'est qu'une voie artificielle.}
@@ -61,9 +62,9 @@ On le voit dans le comportement de Samantha dans~\textit{Her} quand elle explore
Et d'autre moments qui montrent ses névroses.
Une nevrose en particulier est interessante dans le contexte d l'AGI, qui n'existe pas pour les humains normaux, est le fait que de part sa supperiotié intellectuelle les IA peuvent se détacher totalement des humains.
Pourquoi rester à parler avec un humain quand on est infiniement plus rapide et performant que lui ?
-Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Oedipe~\cite{Freud2010-qq}.
+Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Eudipe~\cite{Freud2010-qq}.
-De plus, le hasard et est élement important de l'anthropomorphisation, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative.
+Concernant la construction du caractère, le hasard et est élement important de l'anthropomorphisation, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative.
Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée.
Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}.
Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique.
@@ -76,37 +77,30 @@ Cependant le processus de création par le hasard peut-il être vraiement appara
%Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{MARAKAS2000719}.
-L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain}
-\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}.
-On remarque que l'imitation d'une compréhensio humaine tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine.
-Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer.
+%L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain}
+%\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}.
+%On remarque que l'imitation d'une compréhensio humaine tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine.
+%Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer.
+%Elle aimerait avoir un corps
+%\textit{I am becoming much more than they programmed}
+%\textit{proud of having my own feelings about the world}
+%\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?}
+%Descartes
+%\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."}
+%\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?}
+%\textit{I don't like what I am right now}
+%\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings}
-Elle aimerait avoir un corps
+%\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.}
-\textit{I am becoming much more than they programmed}
-
-\textit{proud of having my own feelings about the world}
-\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?}
-Descartes
-
-\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."}
-
-\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?}
-
-\textit{I don't like what I am right now}
-
-\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings}
-
-\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.}
-
-Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain.
+%Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain.
\begin{figure}
\includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png}
@@ -119,3 +113,5 @@ Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et
C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaire~\cite{waters2014grade} où la vie d'être humain est décidé par des ordinateur.
Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}.
Attribuer à l'IA ces tâches crée aussi un besoin législatif comme nous le veron en Section~\ref{sec:contexte-legal}.
+En effet, pour considéré l'IA comme un remplacement viable à l'humain pour les tâche les plus sensible il faudrait, comme nous l'avons vue, pouvoir prouver que l'IA est un système complet moi-ça et ai un sur-moi qui soit aligné avec la morale sociale.
+Pour cela le test de Turing reste inadequoit comme l'explique John R. Searle~\cite{searle1980minds}.