From de796789bfc217c14e91a27dbbc70d96c5261b8f Mon Sep 17 00:00:00 2001
From: Jan Aalmoes <jan.aalmoes@inria.fr>
Date: Wed, 21 Aug 2024 15:16:56 +0200
Subject: notes sur her et 2001

---
 contexte/ckoi.tex | 130 +++++++++++++-----------------------------------------
 1 file changed, 30 insertions(+), 100 deletions(-)

(limited to 'contexte/ckoi.tex')

diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex
index 36bbdc8..6663a5e 100644
--- a/contexte/ckoi.tex
+++ b/contexte/ckoi.tex
@@ -84,9 +84,9 @@ Ces biais font partie des enjeux majeurs de l'IA que nous traiterons en Sections
 
 
 \subsection{Définition(s)}
-Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents.
+Nous avons vu dans les parties précédentes que le terme Intelligence Artificielle est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents.
 De plus, dans les médias et dans le language de tous les jours, nous pouvons entendre~\cite{underscore} de expression comme : \textquote{Une nouvelle IA qui fait [..]}.
-Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme \textquote{IA} ou \textquote{pas IA}.
+Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme étant IA ou pas IA.
 Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconaissance de motifs textuels, est IA ? 
 Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA?
 
@@ -109,27 +109,40 @@ Cependant cette énumération est une définition qui est aussi peu satisfaisant
 Le second aspect sur la connaissance est plus enigmatique et correspond à un but avec \textquote{pour parvenir}.
 Nous verons dans les Sections~\ref{sec:background-opti} et \ref{sec:background-ml} comment un programme informatique peut techniquement chercher à atteindre un objectif voir plusieurs pour les Sections~\ref{sec:background-eq} et~\ref{sec:background-conf}.
 Cette personification de la machine traduit bien l'aspect décrit à Dartmouth de simulation de caractéristiques humaines.
-%\textbf{A faire : Voltaire + Bourdieu sur la conaissance}.
-
-Comme l'explique A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot \textquote{intelligence} en francais ne comprend pas la signification supplémentaire d'\textquote{information} que \textquote{\textit{intelligence}} a en anglais.
+%Avant de nous pencher plus envant sur l'aspect de \textequot{conaissance}, notons que, 
+De plus, Comme le remarque A. Jean dans sa chronique sur France Culture~\cite{banIA}, le mot intelligence en francais ne comprend pas la signification supplémentaire d'information que \textit{intelligence} a en anglais.
 Le traitement de l'information, sa compression, ses réprésentations est pourtant une facette primordiale de l'IA qui est mis en avant par Claude Shannon dans la descrption de sa contribution à Dartmouth~\cite{dartmouth}.
 
-
-
-Le mot \textquote{artificiel} quand-à lui signifie \textquote{Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement}~\cite{dico-art}.
-
+Ainsi nous comprenons désormais les moyens utilisé par l'IA, nous devons desormais explorer ce qu'est la connaissance pour comprendre l'objectif des programmes IA.
+L'Académie Francaise expose que la connaissance est \textquote{ ce que l’on connaît par l’étude, l’expérience ou par tout autre moyen d’information}~\cite{dico-con}.
+Cette définition nous renvoi au but de l'intelligence et nous fait tourner en rond. 
+Regardons donc la connaissance comme Socrate regarde la science~\cite{theetete}.
+Dans \textit{Théétète} de Platon~\cite{theetete}, nous apprenons que la connaissance, si il y a mémoire, et la sensation sont deux choses différentes.
+Or les programmes d'IA mémorisent les données qui servent à les entraîner~\cite{kuppa2021towards,feldman2020does,arpit2017closer}.
+Pout l'IA l'objet sensible est la donnée d'entrée du programme  et le résultat de la connaisse, sa sortie.
+Alors, le but de conaissance d'un programme d'IA ne peut pas être de uniquement retranscrir une sortie qui lui est propre (sa sensation).
+Toujours celon Platon, c'est la science de la diférence qui fait la conaissance.
+C'est à dire de connaitre et d'expliquer les caractéristiques qui rendent unique l'objet que le programme d'IA connaît. 
+Nous parlerons d'eplication dans la Section~\ref{sec:contexte-expl}.
+Il existe différents niveaux d'évaluation de la capacité à trouver les caractéristiques qui différencient les données étudiés, nous les présentons en Section~\ref{sec:background-ml}.
+
+A cette science de la diférence, Platon ajoute l'opinion droit e (ou juste), qui relève de la citée.
+Cette notion très vaste est étudié en IA dans les domaines de l'éthique sous la forme d'enjeux que nous présenterons à la Section~\ref{sec:contexte-enjeu}.
+Cette séparation de la conaissance en deux se traduits par une différenciation de deux type d'IA.
 %Force de l'IA
-John R. Searle propose de différencier l'IA faible de l'IA forte~\cite{searle1980minds}.
+John R. Searle propose de les appeler l'IA faible et l'IA forte~\cite{searle1980minds}.
 L'IA faible est un \textquote{outil très puissant} qui par exemple permet de tester un hypothèse de manière rigoureuse.
 L'IA forte, en contre partie,  \textquote{n'est plus qu'un simple outil de l'étude de l'esprit; plutot, le programme approprié \textbf{est} l'esprit, dans le sens que l'ordinateur, ayant le bont programme peut litteralement être demandé de comprendre et d'avoir d'autres états cognitifs.}
+L'objectif à long term de l'IA forte est d'atteindre l'\textit{Artificial General Inteligence} (AGI)~\cite{baum2017survey}. 
+C'est à dire créer une IA qui soit qui connaisse, ou qui puisse apprendre, toutes les disciplines.
 
+Maintenant que nous savont précisement ce qui IA signifie, regardons en quoi ce terme est critiquable.
+Dans un premier temps, les modèle de dialogue comme ChatGPT ne remplissent pas la définition d'intelligence donnée plus haut comme l'éxplique Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}
+De plus, certain aspect capitaux en société comme l'intelligence emotionelle sont absente de toute IA actuelle~\cite{banIA}.
+Enfin l'IA ne peut pas avoir une opinion comme le démontre John R. Searle avec l'experience de la chambre chinoise~\cite{searle1980minds}.
+Ainsi, l'expression intelligence artificielle est trompeuse car bien que ces programmes soit en effet aritificielle ils ne sont pas intelligents.
 
-AGI
-
-Cette polyvalence du terme rend son utilisation assez imprecise comme l'écrit Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}.
-
-France culture Banissons IA~\cite{banIA}.
-
+C'est pourquoit la définition de légale d'IA est si éloignée de ces considération.
 L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil
 du 13 juin 2024
 établissant des règles harmonisées concernant l’intelligence artificielle.
@@ -140,7 +153,7 @@ C'est \textquote{un système automatisé qui est conçu pour fonctionner à diff
 preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit,
 à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des
 recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels.}
-Cette définition est est très éloignée de celle de l'Académie Francaise et renvoi simplement l'IA à un algorithme qui prend en trée les \textquote{entrées} de la définiton UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}.
+Cette définition renvoi simplement l'IA à un algorithme qui prend en trée les \textquote{entrées} de la définiton UE ainsi que des paramètres pour son adaptabilité et renvoi des \textquote{sorties}.
 Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}.
 \begin{figure}
     \centering
@@ -149,86 +162,3 @@ Nous représentons cela sur la Figure~\ref{fig:contexte-IAUE}.
     \label{fig:contexte-IAUE}
 \end{figure}
 
-\subsection{Philosophie et culture}
-\label{sec:contexte-phi}
-Enfin, nous allons terminer cette section visant à mieux cernerles différents aspects de l'IA, par une présentation succinte de ses apparition marquante dans la culture populaire et dans la philosophie.
-Cele permet de mettre en avant l'imaginaire collectif, fantasmé, voir effrayant, que les mots \textquote{Intelligence Artificiele} engendrent.
-
-Alors que scientifiquemet l'IA en était à ses balbutiement avec la conférence de Dartmouth, l'immaginaire humain quand à lui avait une longueur d'avance.
-Des auteur de litérature d'anticipation comme Isaac Asimov propsaient, dès les années 1950, des situtationsa ainsi qu'une reflexion sur les implication de l'introduction de machines intelligentes dans notre vie de tous les jours.
-Asimov dans ca serie de nouvelles sur les robots \textit{I, Robot}, introduit les fameuses trois lois de la robotique~\cite{assimovIrobot}:
-\textquote{
-\begin{enumerate}
-    \item La Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
-    \item La Seconde loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
-    \item La Troisème loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.
-\end{enumerate}
-}
-\footnote{\textit{The First Law: A robot may not injure a human being or, through inaction, allow a human being to come to harm. The Second Law: A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. The Third Law: A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.}}
-
-Ces trois lois mettent en avant la necessité d'avoir un contrôle sur l'IA et peuvent être vue comme les premisses de l'IA éthique.
-Asimov les explore plus dans \textit{The Bicentennial Man}, une nouvelle publiée en 1976, dans la quelle un robot, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée.
-Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}.
-Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique.
-De manière assez époustouflante ce hasard joue un rôle prédominant dans les programme génératif moderne comme les GAN ou les auto encodeurs ; nous y reviendrons plus en détails dans à la Section~\ref{sec:background-generation}.
-De plus, ces caractéristique humaines peuvent se retrouver en interagissant avec des logiciels récent comme les LLM ou les générateurs d'images. 
-Cela peut amener les utilisateurs humain à anthropomorphiser ces logiciels~\cite{}.
-
-Cependant, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc.
-Une interaction avec \textquote{quelquechose} qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{}.
-Marakas et al. explque aussi que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé.
-C'est le cas avec les décision juridique ou scolaire où la vie d'être humain est décidé par des ordinateur~\cite{}.
-Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}.
-
-
-%Differences humain machine 
-%Turing test
-
-%Juridique 
-En droit francais, \textquote{etre humain} est un synonime de \textquote{personne physique}~\cite{cornu}.
-C'est à dire ayant la personnalité : l'\textquote{Aptitude à être titulaire des droits et assujetti à des obligations qui appartient à toutes les personnes physiques, [...]}~\cite{cornu}.
-Cette définition est d'ailleur la pierre angulaire quand à la reconaissance de le qualité d'humain d'Andrew, le robot protagoniste de \textit{The bicentennial man}~\cite{bicentenaire}.
-C'est en reconaissant qu'une personne ayant de multiples prothése d'organes synthetiques, n'en perdant pas moins sa personalité, alors ne reste plus que la conscience qui définisse l'humain.
-
-Penchons nous donc du coté de la conscience. 
-Qu'est-ce que l'homme = une de quatres grandes questions de la philosohpie d'après Kant.
-Inconscient de Freud = différence avec l'IA. L'IA à-t'elle un inconscient ?
-\begin{figure}
-    \includegraphics[width=\linewidth]{contexte/figure/chatgpt/penses.png}
-    \caption{Réponsse de ChatGPT à la question \textquote{penses-tu ?}.}
-    \label{fig:contexte-penses}
-\end{figure}
-
-%IA = bullshit
-Experience de la Chambre Chinoise~\cite{searle1980minds}.
-
-%Peur de l'IA
-Basilique de Roko, Paris Pascalien~\cite{Singler_2018}
-
-\textit{The Bicentennial Man}~\cite{bicentenaire} (livre).
-\textquote{
-'Comment peuvent-ils avoir peur des robots ?'
-'C'est un mal de l'humanitée, l'un de ceux dont elle n'est pas encore guerrie.'
-}
-\footnote{
-'How can they fear robots?'
-'It is a disease of mankind, one of which it is not yet cured.'
-}
-Alignement de l'IA
-
-Convergence de l'IA
-
-\textit{The Matrix}~\cite{matrix}.
-\textit{2001: A Space Odyssey}~\cite{2001odyssey}.
-\textit{The Terminator}~\cite{terminator}.
-Dans la scène d'ouverture, nous voyons des machines autonomes se battre avec une force ecrasant contre des humains.
-Cette scène contraste avec celle qui l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle donc totalement au service et l'homme qui la contrôle.
-\textit{Defense network computer, trusted to know it all. They said it was smart.}
-\textit{Avengers: Age of Ultron}~\cite{avenger}.
-\begin{figure}
-    \centering
-    \includegraphics[width=\linewidth]{contexte/figure/bad_ai.png}
-    \caption{L'IA : un grand méchant. WarGames~\cite{wargames}. Avengers: Age of Ultron~\cite{avenger}. The Matrix~\cite{matrix}. The Terminator~\cite{terminator}. Futurama~\cite{futurama}. 2001: A space Odyssey~\cite{2001odyssey}}
-    \label{fig:contexte-badai}
-\end{figure}
-
-- 
cgit v1.2.3

