From caa9990c96141450f62a8076f560761f517dc884 Mon Sep 17 00:00:00 2001
From: cookie <cookie@grospc>
Date: Sun, 22 Sep 2024 16:21:05 +0200
Subject: orthographe finale Emeline

---
 contexte/legal.tex | 76 +++++++++++++++++++++++++++---------------------------
 1 file changed, 38 insertions(+), 38 deletions(-)

(limited to 'contexte/legal.tex')

diff --git a/contexte/legal.tex b/contexte/legal.tex
index d931cec..c4206f3 100644
--- a/contexte/legal.tex
+++ b/contexte/legal.tex
@@ -1,4 +1,4 @@
-Pour mieux comprendre les enjeux autour des différents scénarios d'attaques, 
+Pour mieux comprendre les enjeux autour des différents scénarios d'attaque, 
 outre la recherche inhérente au comportement sociétal humain à se dissimuler et à ne montrer que ce qu'il souhaite montrer,
 penchons-nous du côté de la législation, des droits et des obligations qui entourent nos données.
 
@@ -14,7 +14,7 @@ le droit d’accéder aux données collectées la concernant et d’en obtenir l
     \item Le respect de ces règles est soumis au contrôle d’une autorité indépendante.
 \end{enumerate}
 \fg
-L'objet de cette section est de comprendre comment ce droit fondamental entre en conflit avec les attaques décrites dans ce rapport au travers de l'étude de textes légaux.
+L'objet de cette section est de comprendre comment ce droit fondamental entre en conflit avec les attaques décrites dans ce rapport à travers de l'étude de textes légaux.
 
 L'article 4 paragraphe 1 du Règlement Général sur la Protection des Données, le RGPD, dispose que 
 \og Une donnée à caractère personnel est toute information se rapportant à une personne physique identifiée ou identifiable \fg.
@@ -48,35 +48,35 @@ Même si l'attribut sensible ne rentrait pas dans le cadre de l'article 9 paragr
 
 \subsection{Discrimination}
 \label{sec:contexte-legal-discrimination}
-Les facteurs de discriminations et les données personnelles ont une grande intersection, (ethnie, couleur de peau, croyances religieuses, etc).
-Si un adversaire utilise une attaque d'attribut pour inférer un facteur de discrimination et l'utilise pour réaliser une décision concernant un utilisateur, ou si un facteur de discrimination est implicitement ou explicitement utilisé par un modèle, il est possible que cette situation tombe dans le cadre des loi sur les discriminations.
+Les facteurs de discrimination et les données personnelles ont une grande intersection, (ethnie, couleur de peau, croyances religieuses, etc).
+Si un adversaire utilise une attaque d'attribut pour inférer un facteur de discrimination et l'utilise pour réaliser une décision concernant un utilisateur, ou si un facteur de discrimination est implicitement ou explicitement utilisé par un modèle, il est possible que cette situation tombe dans le cadre des lois sur les discriminations.
 Sur le site de \url{servie-publique.fr} nous trouvons la définition suivante de discrimination.
 \textquote{La discrimination est un délit interdit par la loi et puni d'une amende et/ou d'une peine d'emprisonnement inférieure à 10 ans qui consiste à traiter défavorablement une personne en s'appuyant sur un motif interdit par la loi}~\cite{servicepubdiscrimination}.
-Les motifs interdit par la loi se comptent au nombre de 25 critères de discrimination qui nous listons en Annexe~\ref{anx:discri}. 
-Nous remarquons que ces critères sont ceux souvent classifier comme attribut sensible dans la littérature IA~\cite{Song2020Overlearning,malekzadeh2021honestbutcurious}.
+Les motifs interdits par la loi se comptent au nombre de 25 critères de discrimination que nous listons en Annexe~\ref{anx:discri}. 
+Nous remarquons que ces critères sont souvent ceux classifiés comme attribut sensible dans la littérature IA~\cite{Song2020Overlearning,malekzadeh2021honestbutcurious}.
 
-En France, la lutte contre les discrimination fait parti des fondements de notre république.
-Le mot \textquote{égalité} est dans la devise de la cinquième république comme en dispose l'article 2 de la Constitution du 3 Juin 1958.
+En France, la lutte contre les discrimination fait partie des fondements de notre République.
+Le mot \textquote{égalité} est dans la devise de la cinquième République comme en dispose l'article 2 de la Constitution du 3 Juin 1958.
 L'article premier de notre Constitution dispose que
 \textquote{Elle [la France] assure l'égalité devant la loi de tous les citoyens sans distinction d'origine, de race ou de religion. Elle respecte toutes les croyances.}.
 De plus, l'article
 71 alinéa 1 de la Constitution met en place 
-la Défenseure des droits qui veille notamment à défendre les personnes victimes de discriminations~\cite{defenseure}.
-Cette instance pousse aussi pour plus de responsabilisassions des utilisateurs d'IA qui utilisent ces technologie sans considérer leur biais~\cite{defenseure2024lutter}.
+la Défenseure des droits qui veille notamment à défendre les personnes victimes de discrimination~\cite{defenseure}.
+Cette instance pousse aussi pour plus de responsabilisation des utilisateurs d'IA qui utilisent ces technologies sans considérer leurs biais~\cite{defenseure2024lutter}.
 
 Donnons un cas concret : l'utilisation de l'IA pour automatiser le recrutement est de plus en plus courant~\cite{defenseur2015emploi}.
-Si les logiciels utilisé présentent des facteurs de discrimination ou collecte trop d'informations sur les candidats au recrutement, l'employeur est dans l'illégalité.
-En effet, l'article L 1221 alinéa 6 du Code du travail dispose que les informations demandé
+Si les logiciels utilisés présentent des facteurs de discrimination ou collectent trop d'informations sur les candidats au recrutement, l'employeur est dans l'illégalité.
+En effet, l'article L.1221 alinéa 6 du Code du travail dispose que les informations demandées
 \textquote{doivent présenter un lien direct et nécessaire avec l'emploi proposé ou avec l'évaluation des aptitudes professionnelles}.
-De plus l'article L 1132 alinéa 1 dispose qu'\textquote{aucune personne ne peut être écartée d'une procédure de recrutement ou de nomination ou de l'accès à un stage ou à une période de formation en entreprise, aucun salarié ne peut être sanctionné, licencié ou faire l'objet d'une mesure discriminatoire, directe ou indirecte}.
+De plus l'article L.1132 alinéa 1 dispose qu'\textquote{aucune personne ne peut être écartée d'une procédure de recrutement ou de nomination ou de l'accès à un stage ou à une période de formation en entreprise, aucun salarié ne peut être sanctionné, licencié ou faire l'objet d'une mesure discriminatoire, directe ou indirecte}.
 
-Comparativement à la loi française, aux États Unis d'Amérique, l'effet différencié\footnote{\textit{Disparate impact}} est une manière pratique de contrôler si une procédure crée un désavantage, une discrimination, contre une minorité~\cite{biddle2006adverse}.
-Cet effet différencie est une quantité qui peut être calculé à partir du modèle d'IA ou de tout autre procédure qui réalise une sélection binaire comme l'admission dans une école, l'attribution et prêt ou encore l'embauche.
-C'est tout simplement la proportion d'admis de la minorité discriminé divisé par la majorité favorisé.
+Comparativement à la loi française, aux États-Unis d'Amérique, l'effet différencié\footnote{\textit{Disparate impact}} est une manière pratique de contrôler si une procédure crée un désavantage, une discrimination, contre une minorité~\cite{biddle2006adverse}.
+Cet effet différencié est une quantité qui peut être calculée à partir du modèle d'IA ou de tout autre procédure qui réalise une sélection binaire comme l'admission dans une école, l'attribution de prêt ou encore l'embauche.
+C'est tout simplement la proportion d'admis de la minorité discriminée divisé par la majorité favorisée.
 Nous en donnerons une définition plus formelle à la Section~\ref{sec:background-eq}
-C'est donc une quantité qui varie entre 0 et 1 où 0 indique que personne dans la minorité n'est sélectionné et 1 indique que autant de personne de la majorité que de la minorité sont sélectionné : c'est la parité.
-Aux États Unis, si l'effet différencié est inférieur à $0,8$ cela constitue une preuve au regard de la loi qui fait jurisprudence que le système de sélection fait preuve de discrimination.
-En France nous n'avons pas de tel précédent ou de métrique précise a utiliser.
+C'est donc une quantité qui varie entre 0 et 1 où 0 indique que personne dans la minorité n'est sélectionné et 1 indique qu'autant de personnes de la majorité que de la minorité sont sélectionnées : c'est la parité.
+Aux États-Unis, si l'effet différencié est inférieur à $0,8$ cela constitue une preuve, au regard de la loi qui fait jurisprudence, que le système de sélection fait preuve de discrimination.
+En France nous n'avons pas de tel précédent ou de métrique précise à utiliser.
 
 \subsection{Protection des bases de données}
 On considère dans cette section que le producteur de la base de données bénéficie d'une protection par le droit sui generis au sens de l'article L.341-1 du Code de la Propriété Intellectuelle qui dispose que \og Le producteur d'une base de données, entendu comme la
@@ -93,7 +93,7 @@ Nous sommes alors en droit de penser qu'une attaque de reconstruction représent
 De plus cette attaque excède les conditions d'utilisation car, dans ce cas, la condition d'utilisation normale est l'entraînement d'un modèle de machine learning.
 Ici, la personne menant l'attaque porte atteinte aux droits du producteur de la base de données.
 
-Considérons maintenant que c'est le fournisseur de solution d'apprentissage automatique, exploitant la base de données, qui porte atteinte aux droits du producteur.
+Considérons maintenant que c'est le fournisseur d'une solution d'apprentissage automatique, exploitant la base de données, qui porte atteinte aux droits du producteur.
 On se place dans le cas où le producteur interdit \og la réutilisation, par la mise à la disposition du public de la totalité ou d'une partie qualitativement ou quantitativement substantielle du contenu de la base, quelle qu'en soit la forme.\fg, conformément à l'article L.342-1 alinéa 2 du Code de la Propriété Intellectuelle.
 Dans le cas où le fournisseur de modèle permet à ses clients (le public) de mener à bien des attributs inférence attack, il met à disposition une partie de la base par sa négligence à utiliser une méthode d'apprentissage résistante à ce type d'attaque.
 
@@ -122,19 +122,19 @@ Quoi qu'il en soit, il est dans l'intérêt du producteur de la base de données
 
 \subsection{Usage illicite de l'IA}
 \label{sec:contexte-aiact}
-Comme nous l'avons vu à la Section~\ref{sec:contexte-insti} avec l'exemple de la Chine, l'IA peut-être utilisé pour des raisons qui vont à l'encontre des droits les plus fondamentaux.
+Comme nous l'avons vu à la Section~\ref{sec:contexte-insti} avec l'exemple de la Chine, l'IA peut-être utilisée pour des raisons qui vont à l'encontre des droits les plus fondamentaux.
 Face à cette menace, 
-l'Union Européenne a établie le règlement (UE) 2024/1689 du parlement européen et du conseil
+l'Union Européenne a établi le règlement (UE) 2024/1689 du Parlement Européen et du Conseil
 du 13 juin 2024
 établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}.
 Étant un règlement il est directement applicable en droit français.
 Ce règlement a trois approches visant à limiter une utilisation de l'IA qui serait contraire aux droit fondamentaux.
 
-La première approche consiste à responsabiliser les fournisseurs et les déployeur de système d'IA quand au potentielles dérives avec l'article 4.
-De plus l'article 50 dispose de l'obligation des fournisseurs et des déployeurs de transparence, c'est à dire informer les utilisateurs qu'ils interagissent avec une IA.
-Enfin de part leur nature générale et pouvant amener à la création d'IA multiples, les fournisseurs de modèle de fondation\footnote{\textit{Fundation model}} comme ChatGPT ou Llama sont soumis à de plus grande obligations et responsabilités.
+La première approche consiste à responsabiliser les fournisseurs et les déployeurs de systèmes d'IA quant aux potentielles dérives avec l'article 4.
+De plus l'article 50 dispose de l'obligation des fournisseurs et des déployeurs de transparence, c'est-à-dire informer les utilisateurs qu'ils interagissent avec une IA.
+Enfin, de par leur nature générale et pouvant amener à la création d'IA multiples, les fournisseurs de modèle de fondation\footnote{\textit{Fundation model}} comme ChatGPT ou Llama sont soumis à de plus grandes obligations et responsabilités.
 
-La seconde approche très pragmatique consiste à interdire un certain nombre de pratiques qui sont listé à l'article 5.
+La seconde approche très pragmatique consiste à interdire un certain nombre de pratiques qui sont listées à l'article 5.
 Citons certaines qui sont en rapport avec ce manuscrit.
 Le paragraphe 1 alinéa c point (i) dispose que
 \textquote{
@@ -145,24 +145,24 @@ conduisant [au]
 traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes de personnes dans des
 contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l’origine
 }
-Ce qui, en plus de lois françaises sur les discriminations que nous avons cité plus haut, permet de clairement interdire l'utilisation d'IA qui vont utiliser des critère de discriminations dans leur décision.
+Ce qui, en plus des lois françaises sur les discriminations que nous avons cité plus haut, permet de clairement interdire l'utilisation d'IA qui vont utiliser des critères de discrimination dans leur décision.
 Ce point est particulièrement important pour ce manuscrit car nous allons développer aux Chapitres~\ref{sec:fini} et~\ref{sec:aia} une méthode d'audit des systèmes d'IA qui permet de savoir si un système utilise un critère de discrimination pour réaliser une prédiction.
 
-Citons aussi le paragraphe 1 alinéa d qui dispose que sont interdit les systèmes d'IA
+Citons aussi le paragraphe 1 alinéa d qui dispose que sont interdits les systèmes d'IA
 \textquote{visant à évaluer ou à prédire le risque qu’une personne physique commette une infraction pénale}.
-C'est un point de divergence important avec la législation de États Unis qui utilise ce genre de système comme nous l'avons vus à la Section~\ref{sec:contexte-insti}.
-Dans ce manuscrit nous avons utilisé des bases de donnée États Uniennes pour construire ce genre de système IA pour les étudier.
-Bien que nos conclusions sur ces systèmes ne pourront pas s'appliquer en Union Européenne vu qu'ils sont désormais interdits, notre analyse théorique reste valable et applicable à d'autres systèmes.
+C'est un point de divergence important avec la législation des États-Unis qui utilise ce genre de système comme nous l'avons vu à la Section~\ref{sec:contexte-insti}.
+Dans ce manuscrit nous avons utilisé des bases de données États-Uniennes pour construire ce genre de systèmes IA pour les étudier.
+Bien que nos conclusions sur ces systèmes ne puissent pas s'appliquer dans l'Union Européenne étant donné qu'ils sont désormais interdits, notre analyse théorique reste valable et applicable à d'autres systèmes.
 Nous avons d'ailleurs évalué nos solutions sur d'autres modèles n'impliquant pas la justice prédictive.
 
-La troisième approche consiste à classifier un certain nombre de pratique comme des \textquote{système d'IA à haut risques}.
-Comme en dispose l'article 6, paragraphe 2 les système à haut risques sont par exemple des système qui concernent :
+La troisième approche consiste à classifier un certain nombre de pratiques comme des \textquote{systèmes d'IA à haut risques}.
+Comme en dispose l'article 6, paragraphe 2 les systèmes à haut risques sont par exemple des systèmes qui concernent :
 \begin{itemize}
     \item Emploi, gestion de la main-d'œuvre et accès à l'emploi indépendant (Annexe III, paragraphe 4)
     \item Accès et droit aux services privés essentiels et aux services publics et prestations sociales essentiels (Annexe III, paragraphe 5)
 \end{itemize}
-Ce sont deux points pour lesquelles nous avons construit des système d'IA à titre illustratif dans ce manuscrit à la Section~\ref{sec:aia}.
-Cette classification d'IA à haut risque impose des règles plus restrictive pour le déploiement.
-Par exemple l'article 9, paragraphe 1 dispose qu'un système de gestion des risques doit être établis.
-L'article 13 quand à lui impose un certain niveau d'explicabilité du système.
-Enfin nous attirons l'attention du.de la lecteur.rice sur l'article 15 qui met l'accent sur la sécurité de tel système forçant les fournisseurs de contrôler par exemple que leur système ne contiennent pas de porte dérobées.
+Ce sont deux points pour lesquels nous avons construit des systèmes d'IA à titre illustratif dans ce manuscrit à la Section~\ref{sec:aia}.
+Cette classification d'IA à haut risque impose des règles plus restrictives pour le déploiement.
+Par exemple l'article 9, paragraphe 1, dispose qu'un système de gestion des risques doit être établi.
+L'article 13, quant à lui, impose un certain niveau d'explicabilité du système.
+Enfin nous attirons l'attention du.de la lecteur.rice sur l'article 15 qui met l'accent sur la sécurité de tels systèmes, forçant les fournisseurs à contrôler par exemple que leur système ne contienne pas de porte dérobée.
-- 
cgit v1.2.3

