diff options
author | Jan Aalmoes <jan.aalmoes@inria.fr> | 2024-08-21 15:16:56 +0200 |
---|---|---|
committer | Jan Aalmoes <jan.aalmoes@inria.fr> | 2024-08-21 15:16:56 +0200 |
commit | de796789bfc217c14e91a27dbbc70d96c5261b8f (patch) | |
tree | 5be5bb479a01b6688ad0d8e71c468dee01977467 | |
parent | 506c5f8857957aaf23e43c60ef25ae0596463a0f (diff) |
notes sur her et 2001
-rw-r--r-- | biblio.bib | 98 | ||||
-rw-r--r-- | contexte/ckoi.tex | 130 | ||||
-rw-r--r-- | contexte/philo.tex | 143 | ||||
-rw-r--r-- | main.pdf | bin | 2522064 -> 4945492 bytes | |||
-rw-r--r-- | main.tex | 3 |
5 files changed, 274 insertions, 100 deletions
@@ -353,6 +353,38 @@ series = {AIES '18} ################################ #Définition +@article{baum2017survey, + title={A survey of artificial general intelligence projects for ethics, risk, and policy}, + author={Baum, Seth}, + journal={Global Catastrophic Risk Institute Working Paper}, + pages={17--1}, + year={2017} +} + +@inproceedings{kuppa2021towards, + title={Towards improving privacy of synthetic datasets}, + author={Kuppa, Aditya and Aouad, Lamine and Le-Khac, Nhien-An}, + booktitle={Annual Privacy Forum}, + pages={106--119}, + year={2021}, + organization={Springer} +} +@inproceedings{arpit2017closer, + title={A closer look at memorization in deep networks}, + author={Arpit, Devansh and Jastrzebski, Stanislaw and Ballas, Nicolas and Krueger, David and Bengio, Emmanuel and Kanwal, Maxinder S and Maharaj, Tegan and Fischer, Asja and Courville, Aaron and Bengio, Yoshua and others}, + booktitle={International conference on machine learning}, + pages={233--242}, + year={2017}, + organization={PMLR} +} +@inproceedings{feldman2020does, + title={Does learning require memorization? a short tale about a long tail}, + author={Feldman, Vitaly}, + booktitle={Proceedings of the 52nd Annual ACM SIGACT Symposium on Theory of Computing}, + pages={954--959}, + year={2020} +} + @book{theetete, title={Théétète}, author={Platon}, @@ -387,6 +419,10 @@ series = {AIES '18} title={Dictionaire de l'Académie francaise, 9° édition}, note={\url{http://www.dictionnaire-academie.fr/article/A9A2706},Dernier accès: 2024-08-05} } +@book{dico-con, + title={Dictionaire de l'Académie francaise, 9° édition}, + note={\url{https://www.dictionnaire-academie.fr/article/A9C3633},Dernier accès: 2024-08-16} +} @misc{underscore, title={Cette nouvelle IA est bluffante}, author={Chaîne Youtube Underscore}, @@ -409,6 +445,55 @@ series = {AIES '18} ######################################### #Philosophie +@misc{afi100, + title={100 YEARS...100 MOVIES}, + author={AMERICAN FILM INSTITUTE}, + howpublished={\url{https://www.afi.com/afis-100-years-100-movies-10th-anniversary-edition/}}, + note={Dernier accès: 2024-08-21} +} + + +@article{bernays1928manipulating, +author = {Bernays, Edward L.}, +title = {Manipulating Public Opinion: The Why and The How}, +journal = {American Journal of Sociology}, +volume = {33}, +number = {6}, +pages = {958-971}, +year = {1928}, +doi = {10.1086/214599}, +URL = { + + https://doi.org/10.1086/214599 +}, +eprint = { + + https://doi.org/10.1086/214599 +} +, + abstract = { Public opinion, narrowly defined, is the thought of a society at a given time toward a given object; broadly conceived, it is the power of the group to sway the larger public in its attitude. Public opinion can be manipulated, but in teaching the public how to ask for what it wants the manipulator is safeguarding the public against his own possible aggressiveness. The method of the experimental psychologist is not as effective in the study of public opinion in the broad sense as is that of introspective psychology. To create and to change public opinion it is necessary to understand human motives, to know what special interests are represented by a given population, and to realize the function and limitations of the physical organs of approach to the public, such as the radio, the platform, the movie, the letter, the newspaper, etc. If the general principles of swaying public opinion are understood, a technique can be developed which, with the correct appraisal of the specific problem and the specific audience, can and has been used effectively in such widely different situations as changing the attitudes of whites toward Negroes in America, changing the buying habits of American women from felt hats to velvet, silk, and straw hats, changing the impression which the American electorate has of its President, introducing new musical instruments, and a variety of others. Group adherence is essential in changing the attitudes of the public. Authoritative and influential groups may become important channels of reaching the larger public. Ideas and situations must be made impressive and dramatic in order to overcome the inertia of established traditions and prejudices. } +} + + + +@article{fearing1947influence, +author = {Franklin Fearing}, +title ={Influence of the Movies on Attitudes and Behavior}, + +journal = {The ANNALS of the American Academy of Political and Social Science}, +volume = {254}, +number = {1}, +pages = {70-79}, +year = {1947}, +doi = {10.1177/000271624725400112}, + +URL = { + https://doi.org/10.1177/000271624725400112 +}, +eprint = { + https://doi.org/10.1177/000271624725400112 +} +} @article{Singler_2018, title={Roko’s Basilisk or Pascal’s? Thinking of Singularity Thought Experiments as Implicit Religion}, volume={20}, url={https://journal.equinoxpub.com/IR/article/view/3226}, DOI={10.1558/imre.35900}, abstractNote={In 2010 a thought experiment speculating on the motivations and aims of a potential superintelligent Artificial Intelligence, sometimes known as the &amp;lsquo;Singularity&amp;rsquo;, caused uproar and anxiety on the forum board where it was initially posted. This paper considers that thought experiment&amp;rsquo;s debt to older forms of religious argument, the reactions from among the community, and how expectations about the Singularity as a being with agency can be considered to be an example of implicit religion. This is significant as the thought experiment appeared in a field of research, AI, considered by many to be secular due to its technological focus. The communities under discussion also explicitly express their aim of &amp;lsquo;perfecting&amp;rsquo; human rationality, and place that ability in opposition to &amp;lsquo;religion&amp;rsquo; as a derided object and the aims of &amp;lsquo;Goddists&amp;rsquo; in general. This tension between overt atheism and secular communities&amp;rsquo; return to religious tropes and narratives is relevant for the wider study of religion in the contemporary era.}, number={3}, journal={Implicit Religion}, author={Singler, Beth}, year={2018}, month={May}, pages={279–297} } @misc{matrix, @@ -417,6 +502,19 @@ series = {AIES '18} year={1999} } +@misc{her, + title={Her}, + author={Jonze, Spike}, + year={2013} +} + +@misc{johansson, + title={Scarlett Johansson’s Statement About Her Interactions With Sam Altman}, + howpublished={\url{https://www.nytimes.com/2024/05/20/technology/scarlett-johansson-openai-statement.html}}, + note={Dernier accès: 2024-08-21} +} + + @book{bicentenaire, title={The Bicentennial Man}, author={Asimov,Isaac}, diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index 36bbdc8..6663a5e 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -84,9 +84,9 @@ Ces biais font partie des enjeux majeurs de l'IA que nous traiterons en Sections \subsection{Définition(s)} -Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents. +Nous avons vu dans les parties précédentes que le terme Intelligence Artificielle est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents. De plus, dans les médias et dans le language de tous les jours, nous pouvons entendre~\cite{underscore} de expression comme : \textquote{Une nouvelle IA qui fait [..]}. -Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme \textquote{IA} ou \textquote{pas IA}. +Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme étant IA ou pas IA. Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconaissance de motifs textuels, est IA ? Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA? @@ -109,27 +109,40 @@ Cependant cette énumération est une définition qui est aussi peu satisfaisant Le second aspect sur la connaissance est plus enigmatique et correspond à un but avec \textquote{pour parvenir}. Nous verons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voir plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}. Cette personification de la machine traduit bien l'aspect décrit à Dartmouth de simulation de caractéristiques humaines. -%\textbf{A faire : Voltaire + Bourdieu sur la conaissance}. - -Comme l'explique A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot \textquote{intelligence} en francais ne comprend pas la signification supplémentaire d'\textquote{information} que \textquote{\textit{intelligence}} a en anglais. +%Avant de nous pencher plus envant sur l'aspect de \textequot{conaissance}, notons que, +De plus, Comme le remarque A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot intelligence en francais ne comprend pas la signification supplémentaire d'information que \textit{intelligence} a en anglais. Le traitement de l'information, sa compression, ses réprésentations est pourtant une facette primordiale de l'IA qui est mis en avant par Claude Shannon dans la descrption de sa contribution à Dartmouth~\cite{dartmouth}. - - -Le mot \textquote{artificiel} quand-à lui signifie \textquote{Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement}~\cite{dico-art}. - +Ainsi nous comprenons désormais les moyens utilisé par l'IA, nous devons desormais explorer ce qu'est la connaissance pour comprendre l'objectif des programmes IA. +L'Académie Francaise expose que la connaissance est \textquote{ ce que l’on connaît par l’étude, l’expérience ou par tout autre moyen d’information}~\cite{dico-con}. +Cette définition nous renvoi au but de l'intelligence et nous fait tourner en rond. +Regardons donc la connaissance comme Socrate regarde la science~\cite{theetete}. +Dans \textit{Théétète} de Platon~\cite{theetete}, nous apprenons que la connaissance, si il y a mémoire, et la sensation sont deux choses différentes. +Or les programmes d'IA mémorisent les données qui servent à les entraîner~\cite{kuppa2021towards,feldman2020does,arpit2017closer}. +Pout l'IA l'objet sensible est la donnée d'entrée du programme et le résultat de la connaisse, sa sortie. +Alors, le but de conaissance d'un programme d'IA ne peut pas être de uniquement retranscrir une sortie qui lui est propre (sa sensation). +Toujours celon Platon, c'est la science de la diférence qui fait la conaissance. +C'est à dire de connaitre et d'expliquer les caractéristiques qui rendent unique l'objet que le programme d'IA connaît. +Nous parlerons d'eplication dans la Section~\ref{sec:contexte-expl}. +Il existe différents niveaux d'évaluation de la capacité à trouver les caractéristiques qui différencient les données étudiés, nous les présentons en Section~\ref{sec:background-ml}. + +A cette science de la diférence, Platon ajoute l'opinion droit e (ou juste), qui relève de la citée. +Cette notion très vaste est étudié en IA dans les domaines de l'éthique sous la forme d'enjeux que nous présenterons à la Section~\ref{sec:contexte-enjeu}. +Cette séparation de la conaissance en deux se traduits par une différenciation de deux type d'IA. %Force de l'IA -John R. Searle propose de différencier l'IA faible de l'IA forte~\cite{searle1980minds}. +John R. Searle propose de les appeler l'IA faible et l'IA forte~\cite{searle1980minds}. L'IA faible est un \textquote{outil très puissant} qui par exemple permet de tester un hypothèse de manière rigoureuse. L'IA forte, en contre partie, \textquote{n'est plus qu'un simple outil de l'étude de l'esprit; plutot, le programme approprié \textbf{est} l'esprit, dans le sens que l'ordinateur, ayant le bont programme peut litteralement être demandé de comprendre et d'avoir d'autres états cognitifs.} +L'objectif à long term de l'IA forte est d'atteindre l'\textit{Artificial General Inteligence} (AGI)~\cite{baum2017survey}. +C'est à dire créer une IA qui soit qui connaisse, ou qui puisse apprendre, toutes les disciplines. +Maintenant que nous savont précisement ce qui IA signifie, regardons en quoi ce terme est critiquable. +Dans un premier temps, les modèle de dialogue comme ChatGPT ne remplissent pas la définition d'intelligence donnée plus haut comme l'éxplique Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI} +De plus, certain aspect capitaux en société comme l'intelligence emotionelle sont absente de toute IA actuelle~\cite{banIA}. +Enfin l'IA ne peut pas avoir une opinion comme le démontre John R. Searle avec l'experience de la chambre chinoise~\cite{searle1980minds}. +Ainsi, l'expression intelligence artificielle est trompeuse car bien que ces programmes soit en effet aritificielle ils ne sont pas intelligents. -AGI - -Cette polyvalence du terme rend son utilisation assez imprecise comme l'écrit Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}. - -France culture Banissons IA~\cite{banIA}. - +C'est pourquoit la définition de légale d'IA est si éloignée de ces considération. L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle. @@ -140,7 +153,7 @@ C'est \textquote{un système automatisé qui est conçu pour fonctionner à diff preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.} -Cette définition est est très éloignée de celle de l'Académie Francaise et renvoi simplement l'IA à un algorithme qui prend en trée les \textquote{entrées} de la définiton UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}. +Cette définition renvoi simplement l'IA à un algorithme qui prend en trée les \textquote{entrées} de la définiton UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}. Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}. \begin{figure} \centering @@ -149,86 +162,3 @@ Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}. \label{fig:contexte-IAUE} \end{figure} -\subsection{Philosophie et culture} -\label{sec:contexte-phi} -Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire et dans la philosophie. -Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots \textquote{Intelligence Artificiele} engendrent. - -Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. -Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. -Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, introduit les fameuses trois lois de la robotique~\cite{assimovIrobot}: -\textquote{ -\begin{enumerate} - \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; - \item La Seconde loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; - \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi. -\end{enumerate} -} -\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}} - -Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique. -Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. -Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. -Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. -De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. -De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. -Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}. - -Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. -Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}. -Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. -C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}. -Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. - - -%Differences humain machine -%Turing test - -%Juridique -En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. -C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. -Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. -C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain. - -Penchons nous donc du coté de la conscience. -Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant. -Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ? -\begin{figure} - \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} - \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} - \label{fig:contexte-penses} -\end{figure} - -%IA = bullshit -Experience de la Chambre Chinoise~\cite{searle1980minds}. - -%Peur de l'IA -Basilique de Roko, Paris Pascalien~\cite{Singler_2018} - -\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). -\textquote{ -'Comment peuvent-ils avoir peur des robots ?' -'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.' -} -\footnote{ -'How can they fear robots?' -'It is a disease of mankind, one of which it is not yet cured.' -} -Alignement de l'IA - -Convergence de l'IA - -\textit{The Matrix}~\cite{matrix}. -\textit{2001: A Space Odyssey}~\cite{2001odyssey}. -\textit{The Terminator}~\cite{terminator}. -Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains. -Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. -\textit{Defense network computer, trusted to know it all. They said it was smart.} -\textit{Avengers: Age of Ultron}~\cite{avenger}. -\begin{figure} - \centering - \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png} - \caption{L'IA : un grand méchant. WarGames~\cite{wargames}. Avengers: Age of Ultron~\cite{avenger}. The Matrix~\cite{matrix}. The Terminator~\cite{terminator}. Futurama~\cite{futurama}. 2001: A space Odyssey~\cite{2001odyssey}} - \label{fig:contexte-badai} -\end{figure} - diff --git a/contexte/philo.tex b/contexte/philo.tex new file mode 100644 index 0000000..7ebdfb8 --- /dev/null +++ b/contexte/philo.tex @@ -0,0 +1,143 @@ + +\subsection{La peur et le contrôle} +\subsection{La mauvaise utilisation} +\subsection{Anthropomorphisation} + +Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire ainsi que de ces implications philosophie. + +Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots Intelligence Artificiele engendrent. + +Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance. +Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours. +Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, introduit les fameuses trois lois de la robotique~\cite{assimovIrobot}: +\textquote{ +\begin{enumerate} + \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; + \item La Seconde loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; + \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi. +\end{enumerate} +} +\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}} + +Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique. +Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. +Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. +Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. +De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}. +De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. +Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}. + +Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. +Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}. +Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. +C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}. +Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. + + +%Differences humain machine +%Turing test + +%Juridique +En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}. +C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}. +Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}. +C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain. + +Penchons nous donc du coté de la conscience. +Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant. +Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ? +\begin{figure} + \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png} + \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.} + \label{fig:contexte-penses} +\end{figure} + +%IA = bullshit +Experience de la Chambre Chinoise~\cite{searle1980minds}. + +%Peur de l'IA +Basilique de Roko, Paris Pascalien~\cite{Singler_2018} + +\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). +\textquote{ +'Comment peuvent-ils avoir peur des robots ?' +'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.' +} +\footnote{ +'How can they fear robots?' +'It is a disease of mankind, one of which it is not yet cured.' +} +Alignement de l'IA + +Convergence de l'IA + +\textit{The Matrix}~\cite{matrix}. + +\textit{2001: A Space Odyssey}~\cite{2001odyssey}. +L'IA HAL 9000 \textquote{reproduit, bien que certain experts préfèrent le terme imite, la plus part des activitées du cerveau humain} +\footnote{\textit{reprdouce, though some expert still prefer the work mimic, most of the activites of the humain brain}}. +On remarque que l'imitation d'une compréhensio humaien tel que décrite dans l'expérience de la chambre chinoiseé~\cite{searle1980minds} peut amener l'anthropomophisation d'une machine. +Nous voyons même dans que le Dr David Bowman éprouve de l'empathie pour la machine dans la scène où il débrance HAL, alors même que celui-ci à tenté de le tuer. +D'ailleur il dit lors d'un interview qu'une fois \textquote{qu'on s'est habité à ce qu'il [HAL] parle, on le voit juste comme une autre persone} +\footnote{\textit{get adjusted to the idea that he [HAL] talks, you think of him really just as another person}}. +Cependant, il admet ne pas savoir si les sentiment qu'il percoit chez HAL sont réel ou simulé. + +HAL est un exemple d'IA aligné qui pour préserver sa mission choisit de tuer les humains qui veulent le débrancher. +On remarque donc bien la necessité, de manière générale, d'avoir de garders fous qui assurent non seulement l'utilité du programme (sa mission) mais aussi un certain niveau morale. +Les trois lois de la robotique sont des exemples de ce genre, hors du cadre la science fiction, les garanties d'équitée dans le traitement en sont des autres. + +\textit{Her}~\cite{her} +Au début, nous voyons Théodore, le personnage principle, travailler. +Son travail consiste à ecrir des lettres pour un service en ligne. +Les clients demandent une lettre pour leur conjoint, leur amis, leur employeur, etc. et Théodore ecrit une lettre qui correspond à la description du client. +Il sagit d'un récit d'anticipation où les IAs sont des programmes intégéré dans les systèmes d'exploitations (OS) à la manière d'assistant virtuels. +Malgré l'évident qualité qu'aurait ces programmes à générer ces lettres, ce sont bien des employés humain qui les écrivent. + +\textit{What makes me, me, is my ability to grow through my experiences. So basicaly et every moment I am evolving. Just like you.} + +\textit{You are just an artificial voice inside of a computer.} + +\textit{I saw through your emails that you went through a break up recently.} + +Elle a des \textit{personal embarassin thoughts} + +Elle aimerait avoir un corps + +\textit{I am becoming much more than they programmed} + +\textit{proud of having my own feelings about the world} +\textit{and I had this terrible thoughts: are my feelings even real? Or are they just programming?} +Descartes + +\textit{"Are you falling in love with her?""Does that make me a freak?""No, No..."} + +\textit{"She is not just a computer, she is her own person. She doesn't just do whatever I say""I didn't say that but it does make me very sad that you can't handle real emotions [...].""They are real emotions! How would you know?} + +\textit{I don't like what I am right now} + +\textit{Why do I love you? [...] I don't have an intellectuel reason [...] I trust my feelings} + +\textit{I used to be worried about not having a body. But now I truly love it [...] I am not limited.} + +Exclusivité de la relation, conversation avec 8516 autres et amoureuse de 641. Cela serait incormpréhensible pour un humain. + +Scarlett Johansson, qui interprète la voix de l'IA Samantha, a été approchée par Sam Altamn, le PDG de ChatGPT, pour lui proposer de préter sa voix à l'IA Sky, basé sur GPT4~\cite{johansson}. +Bien que Johansson ai refusé, cela montre à quel point la vision artistique, et surtout cinématographique par le réalisation. est une influence de l'orientationd de l'IA actuel et réel. + +Les films contribuent à forger les opinions que le grand publique ainis que le politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}. +Les films présentés dans cette Section sont des succès mondiaux qui ont été vus par des millions de personnes. +Certains comme \textit{2001: A space odyssey} de Stanley Kubric sont reconnu comme des oeuvres majeurs~\cite{afi100}. + + +\textit{The Terminator}~\cite{terminator}. +Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains. +Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle. +\textit{Defense network computer, trusted to know it all. They said it was smart.} +\textit{Avengers: Age of Ultron}~\cite{avenger}. +\begin{figure} + \centering + \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png} + \caption{L'IA : un grand méchant. WarGames~\cite{wargames}. Avengers: Age of Ultron~\cite{avenger}. The Matrix~\cite{matrix}. The Terminator~\cite{terminator}. Futurama~\cite{futurama}. 2001: A space Odyssey~\cite{2001odyssey}} + \label{fig:contexte-badai} +\end{figure} + Binary files differ@@ -61,6 +61,9 @@ breaklines=true \chapter{Introduction} \section{Qu'est-ce que l'Intelligence Artificielle ?} \input{contexte/ckoi} + \section{Philosophie de l'IA} + \label{sec:contexte-phi} + \input{contexte/philo} \section{Les stratégies IA} \input{contexte/strat} \section{Enjeux} |