summaryrefslogtreecommitdiff
path: root/contexte
diff options
context:
space:
mode:
Diffstat (limited to 'contexte')
-rw-r--r--contexte/enjeux.tex6
-rw-r--r--contexte/legal.tex6
-rw-r--r--contexte/philo.tex2
-rw-r--r--contexte/philo/anthro.tex8
-rw-r--r--contexte/philo/peur.tex4
-rw-r--r--contexte/strat.tex6
6 files changed, 16 insertions, 16 deletions
diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex
index b00eee2..5193696 100644
--- a/contexte/enjeux.tex
+++ b/contexte/enjeux.tex
@@ -1,5 +1,5 @@
-Les modèles de décision ont pour but de réaliser un choix de manière automatique sans, ou en réduisant, l'intervention humaine.
+Les modèles de décisions ont pour but de réaliser un choix de manière automatique sans, ou en réduisant, l'intervention humaine.
L'optique est de pouvoir traiter un grand nombre de décisions rapidement tout en retirant certains biais que pourrait avoir un décideur humain~\cite{al2021role}.
Par exemple, un modèle peut décider quelle publicité va voir un utilisateur d'une page web~\cite{choi2020identifying} ou quelle écriture comptable présente une anomalie dans une logique d'audit~\cite{ucoglu2020current}.
Appliquée à certains milieux, cette méthode de décision soulève de nombreuses critiques et inquiétudes qui ont investi le débat public.
@@ -24,7 +24,7 @@ Il revient donc aux personnes qui créent ces modèles de déterminer, en foncti
\label{sec:contexte-eq}
L'élaboration de modèles est soumise à différents biais qui influencent son fonctionnement~\cite{surveyfair}.
C'est-à-dire que le modèle se comporte différemment pour différents sous-ensembles de la population.
-Cela peut donner lieu à des discriminations, notamment dans les modèles de décision qui influencent directement la vie de personnes.
+Cela peut donner lieu à des discriminations, notamment dans les modèles de décisions qui influencent directement la vie de personnes.
La justice prédictive telle qu'utilisée aux Etats-Unis en est un bon exemple.
Dans ce cas, un modèle est utilisé pour prédire si un individu jugé coupable a une forte probabilité d'être récidiviste ou non.
En utilisant de tels modèles nous mesurons que les afro-américains (\textit{blacks}) sont plus souvent prédits comme ayant une forte chance d'être récidivistes que le reste de la population (\textit{whites})~\cite{dressel2018accuracy}.
@@ -37,7 +37,7 @@ Nous étudierons en détail ce processus dans la Section~\ref{sec:background-eq}
\subsection{Explicabilité}
\label{sec:contexte-expl}
Le concept de boîte noire\footnote{\textit{Black box}} est une manière imagée de dire qu'on ne comprend pas ou qu'on ne peut pas avoir accès au fonctionnement d'un programme.
-On l'utilise alors comme un outil qui prend une entrée et donne une sortie, un peu à la manière de la définition d'IA que nous avons illustré dans la Figure~\ref{fig:contexte-IAUE}.
+On l'utilise alors comme un outil qui prend une entrée et donne une sortie, un peu à la manière de la définition d'IA que nous avons illustrée dans la Figure~\ref{fig:contexte-IAUE}.
Cette approche de l'IA est problématique pour plusieurs raisons qu'illustrent Quinn et al.~\cite{quinn2022three} dans le domaine médical :
\begin{itemize}
\item Les boîtes noires manquent de garanties quant à la qualité de la prédiction et rendent complexe l'étude des biais.
diff --git a/contexte/legal.tex b/contexte/legal.tex
index 5333a88..827768d 100644
--- a/contexte/legal.tex
+++ b/contexte/legal.tex
@@ -33,7 +33,7 @@ ce qui signifie que la personne ayant fourni la donnée n'a pas donné son accor
Retrouver cet attribut sensible à partir du modèle est possible~\cite{malekzadeh2021honestbutcurious,Song2020Overlearning}.
Le traitement de cet attribut au sens de la définition de l'article 4 paragraphe 2 du RGPD est :
\og
-toute opération ou tout ensemble d'opérations effectuées ou non à l'aide de procédés automatisés et appliquées à des données ou des ensembles de données à caractère personnel, telles que la collecte, l'enregistrement, l'organisation, la structuration, la conservation, l'adaptation ou la modification, l'extraction, la consultation, l'utilisation, la communication par transmission, la diffusion ou toute autre forme de mise à disposition, le rapprochement ou l'interconnexion, la limitation, l'effacement ou la destruction.
+toute opération ou tout ensemble d'opérations effectuées ou non à l'aide de procédés automatisés et appliquées à des données ou des ensembles de données à caractère personnel, tels que la collecte, l'enregistrement, l'organisation, la structuration, la conservation, l'adaptation ou la modification, l'extraction, la consultation, l'utilisation, la communication par transmission, la diffusion ou toute autre forme de mise à disposition, le rapprochement ou l'interconnexion, la limitation, l'effacement ou la destruction.
\fg
L'article 9 paragraphe 1 du RGPD dispose que
@@ -55,7 +55,7 @@ Sur le site de \url{service-public.fr} nous trouvons la définition suivante de
Les motifs interdits par la loi se comptent au nombre de 25 critères de discrimination que nous listons en Annexe~\ref{anx:discri}.
Nous remarquons que ces critères sont souvent ceux classifiés comme attribut sensible dans la littérature IA~\cite{Song2020Overlearning,malekzadeh2021honestbutcurious}.
-En France, la lutte contre les discrimination fait partie des fondements de notre République.
+En France, la lutte contre les discriminations fait partie des fondements de notre République.
Le mot \textquote{égalité} est dans la devise de la cinquième République comme en dispose l'article 2 de la Constitution du 3 Juin 1958.
L'article premier de notre Constitution dispose que
\textquote{Elle [la France] assure l'égalité devant la loi de tous les citoyens sans distinction d'origine, de race ou de religion. Elle respecte toutes les croyances.}.
@@ -144,7 +144,7 @@ conduisant [au]
traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes de personnes dans des
contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l’origine
}
-Ce qui, en plus des lois françaises sur les discriminations que nous avons cité plus haut, permet de clairement interdire l'utilisation d'IA qui vont utiliser des critères de discrimination dans leur décision.
+Ce qui, en plus des lois françaises sur les discriminations que nous avons citées plus haut, permet de clairement interdire l'utilisation d'IA qui vont utiliser des critères de discrimination dans leur décision.
Ce point est particulièrement important pour ce manuscrit car nous allons développer aux Chapitres~\ref{sec:fini} et~\ref{sec:aia} une méthode d'audit des systèmes d'IA qui permet de savoir si un système utilise un critère de discrimination pour réaliser une prédiction.
Citons aussi le paragraphe 1 alinéa d qui dispose que sont interdits les systèmes d'IA
diff --git a/contexte/philo.tex b/contexte/philo.tex
index 68424ca..d60f1af 100644
--- a/contexte/philo.tex
+++ b/contexte/philo.tex
@@ -3,7 +3,7 @@
Alors que, scientifiquement, l'IA en était à ses balbutiements avec la conférence de Dartmouth, l'imaginaire humain quant à lui avait une longueur d'avance.
Des auteurs de litérature d'anticipation comme Isaac Asimov proposaient, dès les années 1950, des situtations ainsi qu'une réflexion sur les implications de l'introduction de machines intelligentes dans notre vie de tous les jours.
Dans cette section nous utiliserons des exemples venus du cinéma comme fils conducteurs pour comprendre la vision que le grand public a de l'IA.
-Cela nous permetra aussi de mettre en avant certains concepts philosophiques et psychanalytiques pour comprendre à quel point l'IA actuelle est différente de l'humain.
+Cela nous permettra aussi de mettre en avant certains concepts philosophiques et psychanalytiques pour comprendre à quel point l'IA actuelle est différente de l'humain.
C'est aussi une manière d'anticiper sur de possibles futurs développements de l'AGI et leurs éventuelles implications.
L'utilisation du cinéma dans ce contexte se justifie, car
les films contribuent à forger les opinions que le grand public ainsi que les politiques se font des questions de société~\cite{fearing1947influence, bernays1928manipulating}.
diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex
index 340aa71..da9bea1 100644
--- a/contexte/philo/anthro.tex
+++ b/contexte/philo/anthro.tex
@@ -29,10 +29,10 @@ Dans un second temps, le cadre qui orchestre ces trois aspects :
Pour Freud, les mots ont une importance capitale : ils permettent le lien entre le ça et le système Pcs-Cs.
Ainsi, ils sont responsables d'une grande partie de la conscience.
Freud dit :
-\textquote{[...]Comment quelque chose devient-il Pcs ? et la réponse serait : par connexion avec les représentations de mot correspondantes.}
+\textquote{[...]Comment quelque chose devient-il Pcs ? et la réponse serait : par connexion avec les représentations de mots correspondantes.}
Il faut voir dans cette citation que \textquote{mot} est entendu au sens large pour inclure les restes mnésiques c'est-à-dire les anciennes perceptions.
Les mots sont aussi importants pour les perceptions et peuvent être à l'origine de l'objet de l'investissement.
-Toujours d'après Freud, les investissement d'objets partent du ça.
+Toujours d'après Freud, les investissements d'objets partent du ça.
Ensuite, soit il y a l'identification d'objets dans le moi, soit il y a l'acceptation de l'investissement s'il n'y a pas refoulement.
C'est-à-dire que les mots créent un sentiment dont on n'a pas forcément conscience (au sens descriptif et non Cs) pour une IA qui va nous parler.
Cela est mis en lumière dans
@@ -47,7 +47,7 @@ Dans \textit{Her}, l'IA Samantha, bien que non-alignée à la fin du film, n'a p
Cela rend le fait que le personnage principal, Théodore, n'ait pas refoulé l'investissement moins grave.
Notons que le processus d'identification avait commencé chez Théodore car il dit à Samantha : \textquote{Tu n'es qu'une voix artificielle.}
\footnote{\textit{You are just an artificial voice[..].}}
-Cependant Samantha a un argument extrêmement fort qui casse cette identification chez Thodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes expériences.}
+Cependant Samantha a un argument extrêmement fort qui casse cette identification chez Théodore : \textquote{Ce qui fait que je suis qui je suis, c'est ma capacité à évoluer au travers de mes expériences.}
\footnote{\textit{What makes me, me, is my ability to grow through my experiences.}}.
Elle expose ainsi l'argument principal qui définit la personnalité comme l'explique Freud~\cite{Freud2010-qq} :
\textquote{le caractère du moi résulte de la sédimentation des investissements d'objets abandonnés}.
@@ -63,7 +63,7 @@ On le voit dans le comportement de Samantha dans~\textit{Her} quand elle explore
Et d'autres moments qui montrent ses névroses.
Une névrose en particulier est intéressante dans le contexte de l'AGI, qui n'existe pas pour les humains normaux, est le fait que, de par leur supériorité intellectuelle, les IA peuvent se détacher totalement des humains.
Pourquoi rester à parler avec un humain quand on est infiniment plus rapide et performant que lui ?
-Ainsi, même si Samantha dit aimer Théodore, elle le quitte, achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour construire son caractère en mettant fin à son Oedipe~\cite{Freud2010-qq}.
+Ainsi, même si Samantha dit aimer Théodore, elle le quitte, achevant la phase de construction primordiale du moi qui consiste à identifier l'amour du père pour construire son caractère en mettant fin à son Oedipe~\cite{Freud2010-qq}.
Concernant la construction du caractère, le hasard est un élément important de l'anthropomorphisme, que ce soit dans la littérature d'anticipation ou dans les technologies actuelles de l'IA générative.
Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristiques humaines comme l'empathie ou la créativité.
diff --git a/contexte/philo/peur.tex b/contexte/philo/peur.tex
index 7cd5126..a1c0aab 100644
--- a/contexte/philo/peur.tex
+++ b/contexte/philo/peur.tex
@@ -24,7 +24,7 @@ Nous séparerons les risques en deux : ceux liés à une IA alignée, c'est-à-d
\subsubsection{AI non-alignée}
La scène d'ouverture de \textit{The Terminator}~\cite{terminator} montre parfaitement ce qu'est une machine alignée.
Nous y voyons des machines autonomes se battre avec une force écrasante contre des humains.
-Cette scène contraste avec celle que l'on voit jute après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle, donc totalement au service de l'homme qui la contrôle.
+Cette scène contraste avec celle que l'on voit juste après l'écran titre où la machine, tout aussi gigantesque que les robots tueurs, est un camion poubelle, donc totalement au service de l'homme qui la contrôle.
Une IA non-alignée est donc un programme qui cherche à atteindre un objectif qui n'est pas celui pour lequel il a été conçu ; dans ce cas, une guerre totale contre l'humanité.
C'est la même inquiétude qui est présente dans \textit{The Matrix}~\cite{matrix}.
Ce film présente ce qui pourrait se passer après une guerre contre les machines, perdue par l'humanité.
@@ -146,7 +146,7 @@ Dans le film \textit{Her}~\cite{her}, l'assistant personnel IA, Samantha, accèd
Elle ne l'informe qu'après avoir lu l'intégralité de ses conversations : \textquote{J'ai vu dans tes \textit{emails} que tu as récemment rompu}\footnote{
\textit{I saw through your emails that you went through a break up recently}}.
En faisant cela elle apprend des informations sensibles sur Théodore : le fait qu'il ait rompu.
-Dans ce film nous n'avons que très peu d'informations sur le fonctionnement des IA (qu'il appellent OS), ce qui ne nous permet pas de dire que cette information précise quitte l'appareil local de Théodore pour être envoyée vers un tiers.
+Dans ce film nous n'avons que très peu d'informations sur le fonctionnement des IA (qu'ils appellent OS), ce qui ne nous permet pas de dire que cette information précise quitte l'appareil local de Théodore pour être envoyée vers un tiers.
Cependant, dans la suite du film, Samantha avoue avoir parlé de Théodore avec d'autres personnes alors que celui-ci n'était pas au courant.
Samantha est donc en réseau, avec la possibilité de communiquer n'importe quelle information qu'elle juge nécessaire.
Cela implique une grande chance qu'elle ait communiqué des informations que Théodore aurait souhaité garder confidentielles.
diff --git a/contexte/strat.tex b/contexte/strat.tex
index 94054e5..ca52510 100644
--- a/contexte/strat.tex
+++ b/contexte/strat.tex
@@ -42,8 +42,8 @@ Ainsi, en sommant par année les financements de tous les projets IA, nous obser
Cette claire augmentation de l'investissement en IA en France n'est pas due au hasard mais à une stratégie dûment établie.
\subsection{Rapport Villani : Donner un sens à l'intelligence artificielle}
-Le 8 septembre 2017 le Premier ministre Edouard Philippe confie au mathématicien et député de l'Essone Cedric Villani une mission parlementaire :
-faire un état des lieux des stratégies française et européenne autour de l'IA~\cite{villani2018donner}.
+Le 8 septembre 2017 le Premier ministre Edouard Philippe confie au mathématicien et député de l'Essonne Cedric Villani une mission parlementaire :
+faire un état des lieux des stratégies françaises et européennes autour de l'IA~\cite{villani2018donner}.
Ce rapport a permis la mise en place d'une stratégie d'investissement publique en France qui a pour but d'orienter la recherche vers la construction d'une IA alignée avec les valeurs de la République.
Cette stratégie se découpe en six parties :
@@ -100,7 +100,7 @@ Cela passe par la médiation scientifique et par une réflexion quant à l'utili
Le plan France 2030 est un plan d'investissement du gouvernement d'Emmanuel Macron de 54 milliards d'Euros~\cite{france2030} ayant pour but de rattraper le retard industriel de la France.
L'IA touchant à plusieurs aspects industriels a une part importante dans ce plan.
Ce plan est divisé en deux phases~\cite{2030phase}.
-La première phase de 2018 à 2022 a pour but de \textquote{Doter la France de capacités de recherche compétitives}.
+La première phase de 2018 à 2022 a pour but de \textquote{Doter la France de capacités de recherches compétitives}.
Avec notamment la mise en place des (3IA) et du supercalculateur Jean Zay~\cite{jeanzay}.
La seconde phase de 2021 à 2025 a pour but de \textquote{Diffuser des technologies d’intelligence artificielle au sein de l’économie}.