summaryrefslogtreecommitdiff
path: root/contexte/enjeux.tex
diff options
context:
space:
mode:
authorJan Aalmoes <jan.aalmoes@inria.fr>2024-10-05 19:25:34 +0200
committerJan Aalmoes <jan.aalmoes@inria.fr>2024-10-05 19:25:34 +0200
commit411624f6f259084641deb92f20d512908c8b7d4f (patch)
treec25c1ce9afbb9252217a45deb76b3e63ae648ab9 /contexte/enjeux.tex
parentd4021e6f8a0bf771b755d39da8515266ef75e667 (diff)
Correction maman
Diffstat (limited to 'contexte/enjeux.tex')
-rw-r--r--contexte/enjeux.tex6
1 files changed, 3 insertions, 3 deletions
diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex
index b00eee2..5193696 100644
--- a/contexte/enjeux.tex
+++ b/contexte/enjeux.tex
@@ -1,5 +1,5 @@
-Les modèles de décision ont pour but de réaliser un choix de manière automatique sans, ou en réduisant, l'intervention humaine.
+Les modèles de décisions ont pour but de réaliser un choix de manière automatique sans, ou en réduisant, l'intervention humaine.
L'optique est de pouvoir traiter un grand nombre de décisions rapidement tout en retirant certains biais que pourrait avoir un décideur humain~\cite{al2021role}.
Par exemple, un modèle peut décider quelle publicité va voir un utilisateur d'une page web~\cite{choi2020identifying} ou quelle écriture comptable présente une anomalie dans une logique d'audit~\cite{ucoglu2020current}.
Appliquée à certains milieux, cette méthode de décision soulève de nombreuses critiques et inquiétudes qui ont investi le débat public.
@@ -24,7 +24,7 @@ Il revient donc aux personnes qui créent ces modèles de déterminer, en foncti
\label{sec:contexte-eq}
L'élaboration de modèles est soumise à différents biais qui influencent son fonctionnement~\cite{surveyfair}.
C'est-à-dire que le modèle se comporte différemment pour différents sous-ensembles de la population.
-Cela peut donner lieu à des discriminations, notamment dans les modèles de décision qui influencent directement la vie de personnes.
+Cela peut donner lieu à des discriminations, notamment dans les modèles de décisions qui influencent directement la vie de personnes.
La justice prédictive telle qu'utilisée aux Etats-Unis en est un bon exemple.
Dans ce cas, un modèle est utilisé pour prédire si un individu jugé coupable a une forte probabilité d'être récidiviste ou non.
En utilisant de tels modèles nous mesurons que les afro-américains (\textit{blacks}) sont plus souvent prédits comme ayant une forte chance d'être récidivistes que le reste de la population (\textit{whites})~\cite{dressel2018accuracy}.
@@ -37,7 +37,7 @@ Nous étudierons en détail ce processus dans la Section~\ref{sec:background-eq}
\subsection{Explicabilité}
\label{sec:contexte-expl}
Le concept de boîte noire\footnote{\textit{Black box}} est une manière imagée de dire qu'on ne comprend pas ou qu'on ne peut pas avoir accès au fonctionnement d'un programme.
-On l'utilise alors comme un outil qui prend une entrée et donne une sortie, un peu à la manière de la définition d'IA que nous avons illustré dans la Figure~\ref{fig:contexte-IAUE}.
+On l'utilise alors comme un outil qui prend une entrée et donne une sortie, un peu à la manière de la définition d'IA que nous avons illustrée dans la Figure~\ref{fig:contexte-IAUE}.
Cette approche de l'IA est problématique pour plusieurs raisons qu'illustrent Quinn et al.~\cite{quinn2022three} dans le domaine médical :
\begin{itemize}
\item Les boîtes noires manquent de garanties quant à la qualité de la prédiction et rendent complexe l'étude des biais.