diff options
Diffstat (limited to 'contexte')
| -rw-r--r-- | contexte/< | 106 | ||||
| -rw-r--r-- | contexte/background (renamed from contexte/philo/mu.tex) | 0 | ||||
| -rw-r--r-- | contexte/ckoi.tex | 4 | ||||
| -rw-r--r-- | contexte/enjeux.tex | 67 | ||||
| -rw-r--r-- | contexte/figure/g5k-backbone.pdf | bin | 0 -> 40313 bytes | |||
| -rw-r--r-- | contexte/figure/g5k.svg | 123 | ||||
| -rw-r--r-- | contexte/legal.tex | 113 | ||||
| -rw-r--r-- | contexte/philo/anthro.tex | 8 | ||||
| -rw-r--r-- | contexte/strat.tex | 124 |
9 files changed, 493 insertions, 52 deletions
diff --git a/contexte/< b/contexte/< new file mode 100644 index 0000000..bb081cd --- /dev/null +++ b/contexte/< @@ -0,0 +1,106 @@ + +L'intelligence artificielle (IA) est un sujet extrement médiatisé depuis son ouverture au grand publique avec notament ChatGPT~\cite{} ou StableDiffusion~\cite{}. +Ces technologies sont aussi des enjeux capitaux pour résoudre plusieurs problèmes majeurs de l'humanitée, notament : +la crise climatique~\cite{barnes2019viewing,slater2023hybrid} et +la crise énergetiques~\cite{jin2020energy,kumar2020distributed,kumari2020blockchain,ngarambe2020use}. +Ainsi l'IA est présente aussi bien à l'échelle de la population qui à accès à des services pours son usage personelle, qu'à l'echelle collective institutionelle. + +%Individuelle +\subsection{A l'échelle individuelle} +\label{sec:contexte-indi} +L'IA promet de faciliter et d'accelerer un grand nombre de tâches dans de multiples domaines : de l'édition d'image sur son téléphone portable~\cite{} jusqu'aux diagnostiques médicaux~\cite{}. +Les géants du numérique poussent de plus en plus l'IA dans leurs produits ce qui rend son utilisation simple d'accès. +La figure~\ref{fig:contexte-gafam} montre comment les GAFAM (Google Facebook Amazon Microsoft) mettent en avant des outils grand publiques. +\begin{figure} + \centering + \includegraphics[width=\linewidth]{contexte/figure/gafam.png} + \caption{Exemples de produits et de marketing proposé par les GAFAM Google Apple Facebook (Meta) Amazon Microsoft.} + \label{fig:contexte-gafam} +\end{figure} +On trouve des implémentations d'assistant personnels, d'aide à la programmation, d'édition d'image, etc. +Des objects connecté portables, comme l'Apple Watch~\cite{applewatch}, permettent de suivre et d'analyser divers indicateurs médicaux. +Grace à cela, les utilisateurs peuvent avoir accès à une medecine personalisée bien que il n'existe pas d'étude clinique à grande echelle qui prouve fromellement que de tel appareil puisse améliorer la santé~\cite{dunn2018wearables}. +Avec les GAFAM, de nouvelles startups investissent le domaine de l'IA. +Une des plus médiatique\cite{openaiinter,openaibfm,openaint}, OpenAI à délopé ChatGPT : un programme de conversation grandement utilisé~\cite{openaibig}. +Nous montrons quelques exemples d'utilisations dans la figure~\ref{fig:contexte-chatgpt}. +ChatGPT peut être utilsé pour comme fondation pour de nombreuses tâches comme l'assistance à la programmation, resumer des textes, la traduction, la reformulation, etc. +ChatGPT cherche aussi à rendre accessible l'information en temps réel en s'alliant avec des journaux de referance comme LeMonde en France ou El Paìs en Espagne~\cite{gptjournal}. +\begin{figure} + \centering + \begin{subfigure}{\linewidth} + \centering + \includegraphics[width=\linewidth]{contexte/figure/chatgpt/prog.png} + \caption{Aide à la programmation.} + \end{subfigure} +\end{figure} +\begin{figure}\ContinuedFloat + \begin{subfigure}{\linewidth} + \centering + \includegraphics[width=\linewidth]{contexte/figure/chatgpt/hanami.png} + \caption{Résumé en d'un texte en japonais.} + \end{subfigure} + \caption{Exemples d'utilisation de ChatGPT.} + \label{fig:contexte-chatgpt} +\end{figure} +La recherche publique donne aussi lieu à des services utilisables individuellment. +Par exemple Pl@ntNet~\cite{barthelemy:hal-01837361,plantnet} permet avec un simple smartphone de reconnaitre une plante à partir de photographies. + +%Collective +\subsection{A l'échelle institutionelle} +\label{sec:contexte-insti} +L'echelle indiviuelle de l'IA n'est que le sommet de l'iceberg, son utilisation institutionel et gouvernemental est ancré plus profondément. +Cela est particulièrement vraie dans les régimes autoritaires, comme la Chine, où l'IA est utilisé pour controler et opprimer la population nottamant grace à la reconaissance faciale~\cite{beraja2023ai}. +De plus Beraja et al. montre que les choix politiques de Pékin, lors des soulevements populaires, entraînent un dévelopement accéléré des technologie de reconaissance faciale~\cite{beraja2023ai}. +Beraja et al. explique aussi que ces technologies peuvent ensuite quitter la sphère politique et devenir des produits commerciaux disponibles au grand publique. + +%Etats Unis +%Justice prédictive +Aux Etats Unis l'IA est utilisé, nottamant dans la justice et dans l'éducation. +Concernant la justice, +%Position du crime +%https://www.soundthinking.com/ +%\cite{brayne2015predictive} + +%Recidivism + +%France hopitaux +Collaboration HCL/INRIA + +\subsection{Définition(s)} +Nous avons vu dans les parties précédentes que le terme \textquote{Intelligence Artificielle} est utilisé pour parler d'un grand nombre de téchniques différentes et de produits commerciaux différents. +De plus, dans les médias et dans le language de tous les jours, nous pouvons entendre~\cite{underscore} de expression comme : \textquote{Une nouvelle IA qui fait [..]}. +Cela renvoit l'IA à une collection de logiciels comme nous l'avons présenté dans les Sections~\ref{sec:contexte-indi} et \ref{sec:contexte-insti} mais ne donne pas de caracétrisation qui permette de classifier un logiciel spécifique comme \textquote{IA} ou \textquote{pas IA}. +Est-ce que \textit{grep}~\cite{grep}, le logiciel de reconaissance de motifs textuels, est IA ? +Est-ce qu'un programme d'\textit{Optical Character Recognition (OCR)} comme Ocrad~\cite{ocrad} est IA? + +Le dictionaire de l'Académie francaise~\cite{dico-int} défini l'intelligence comme la \textquote{ +Faculté de comprendre, de concevoir, de connaître, et notamment faculté de discerner ou d’établir des rapports entre des faits, des idées ou des formes pour parvenir à la connaissance}. +Peut-on rapporcher cette définition de +Le mot \textquote{artificiel} quand-à lui signifie \textquote{Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement}~\cite{dico-art}. +Intelligence aritificielle : \textquote{ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués}~\cite{dico-art}. + +Strong AI + +Weak AI + +AGI + +Cette polyvalence du terme rend son utilisation assez imprecise comme l'écrit Richard M. Stallman dans la liste de terme \textquote{à éviter} du projet GNU~\cite{gnuAI}. + +France culture Banissons IA~\cite{banIA}. + +\subsection{Philosophie et culture} + +Experience de la Chambre Chinoise~\cite{searle1980minds}. + +Basilique de Roko, Paris Pascalien~\cite{Singler_2018} + +Alignement de l'IA + +Convergence de l'IA + +\textit{The Matrix}~\cite{matrix}. +\textit{The Bicentennial Man}~\cite{bicentenaire} (livre). +\textit{The Terminator}~\cite{terminator}. +\textit{Avengers: Age of Ultron}~\cite{avenger}. + diff --git a/contexte/philo/mu.tex b/contexte/background index e69de29..e69de29 100644 --- a/contexte/philo/mu.tex +++ b/contexte/background diff --git a/contexte/ckoi.tex b/contexte/ckoi.tex index 0dce14d..0bda272 100644 --- a/contexte/ckoi.tex +++ b/contexte/ckoi.tex @@ -1,5 +1,5 @@ -L'intelligence artificielle (IA) est un sujet extrement médiatisé depuis son ouverture au grand publique avec notament ChatGPT~\cite{} ou StableDiffusion~\cite{}. +L'intelligence artificielle (IA) est un sujet extrement médiatisé depuis son ouverture au grand publique avec notament ChatGPT~\cite{chatgpt} ou StableDiffusion~\cite{stabledi}. Ces technologies sont aussi des enjeux capitaux pour résoudre plusieurs problèmes majeurs de l'humanitée, notament : la crise climatique~\cite{barnes2019viewing,slater2023hybrid} et la crise énergetiques~\cite{jin2020energy,kumar2020distributed,kumari2020blockchain,ngarambe2020use}. @@ -8,7 +8,7 @@ Ainsi l'IA est présente aussi bien à l'échelle de la population qui à accès %Individuelle \subsection{A l'échelle individuelle} \label{sec:contexte-indi} -L'IA promet de faciliter et d'accelerer un grand nombre de tâches dans de multiples domaines : de l'édition d'image sur son téléphone portable~\cite{} jusqu'aux diagnostiques médicaux~\cite{}. +L'IA promet de faciliter et d'accelerer un grand nombre de tâches dans de multiples domaines : de l'édition d'image sur son téléphone portable~\cite{aaigpt} jusqu'aux diagnostiques médicaux~\cite{maghded2020novel}. Les géants du numérique poussent de plus en plus l'IA dans leurs produits ce qui rend son utilisation simple d'accès. La figure~\ref{fig:contexte-gafam} montre comment les GAFAM (Google Facebook Amazon Microsoft) mettent en avant des outils grand publiques. \begin{figure} diff --git a/contexte/enjeux.tex b/contexte/enjeux.tex index c69573f..02c6471 100644 --- a/contexte/enjeux.tex +++ b/contexte/enjeux.tex @@ -1,7 +1,7 @@ Les modèles de decisions ont pour but réaliser un choix de manière automatiques sans ou en reduisant l'intervention humaine. -L'optique est de pouvoir traiter un grand nombre de décision rapidement tout en retirant certain biais que pourais avoir un décideur humain~\cite{}. -Par exemple un modèle peut décider quelle publicité vas voir un utiliateur d'un page web~\cite{} ou quelle ecriture comptable présente une anomalie dans une logique d'audit~\cite{}. +L'optique est de pouvoir traiter un grand nombre de décision rapidement tout en retirant certain biais que pourais avoir un décideur humain~\cite{al2021role}. +Par exemple un modèle peut décider quelle publicité vas voir un utiliateur d'un page web~\cite{choi2020identifying} ou quelle ecriture comptable présente une anomalie dans une logique d'audit~\cite{ucoglu2020current}. Applliqué à certains milieux, cette methode de décision soulève de nombreuses critiques et inquiétudes qui ont investi le débat publique. Ces critiques et inquétudes sont théorisés dans la littérature scientifique au travers des six défis de l'IA: \begin{enumerate} @@ -21,12 +21,12 @@ Il revient donc aux personnes qui crée ces modèles de déterminer, en fonction \subsection{Equitée} \label{sec:contexte-eq} -L'élborations de modèles est soumis à différent bias qui influencent son fonctionement~\cite{}. +L'élborations de modèles est soumis à différent bias qui influencent son fonctionement~\cite{surveyfair}. C'est à dire que le modèle se compre différamant pour différents sous-ensembles de la population. Cela peut donner lieu à des discriminations notament dans le modèle de décision qui influence directment la vie de persones. La justice prédictive tel qu'utilisé aux Etats Unis en est un bon exemple. Dans ce cas, un modèle est utilisé pour prédire si un individu jugé coupable à un forte probabilité d'être récidiviste au non. -En utilisant de tel modèle nous mesurons que les afro-américains (\textit{blacks}) son plus souvent predit comme ayant un forte chance d'être récidiviste que le reste de la population (\textit{whites})~\cite{}. +En utilisant de tel modèle nous mesurons que les afro-américains (\textit{blacks}) son plus souvent predit comme ayant un forte chance d'être récidiviste que le reste de la population (\textit{whites})~\cite{dressel2018accuracy}. En plus d'être un enjeu, Al-Alawi et al.~\cite{al2021role} avance que l'utilisation de l'IA peut être une solution plus equitable que la décision humaine dans le processus de recrutement. L'équitée dans le modèle peut-être imposé lors de l'entraînement. @@ -34,17 +34,28 @@ Nous étudierons en détail ce processu dans la Section~\ref{sec:background-eq}. \subsection{Explicabilitée} \label{sec:contexte-expl} -Transparance dans la médecine, Boite noire, ~\cite{quinn2022three}. +Le concepte de boîte noire\footnote{\textit{Black box}} est une manière imagée de dire qu'on ne comprend pas ou qu'on ne peut pas avoir accès au fonctionement d'un programme. +On l'utilise alors comme un outil qui prend un entrée et donnée une sortie, un peu à la manière de la définition d'IA que nous avons illustre dans la Figure~\ref{fig:contexte-IAUE}. +Cette approche de l'IA est problématique pour plusieurs raisons qu'illuste Quinn et al.~\cite{quinn2022three} dans le domaine médicale : +\begin{itemize} + \item Les boîte noires manque de garanties quand à la qualitée de la prédiction et rendent complexe l'étude es biais. + \item Les boîtes noîres ne permettent pas l'interpretation des résultats. + \item Les boîtes noires ne peuvent pas prendre en compte toutes les subtilités des cas particuliers (de patients). +\end{itemize} + +Les réseaux de neuronnes ont une part prépondérante de l'IA. +Or de pars leur fonctionement interne complexe que nous explorerons à la Section~\ref{sec:background-ml} et le fait que leur compréhension théorique soit encore lacunaire, ils sont souvent utilisé en boîte noire~\cite{yuan2022explainability}. +Pour palier cela il existe certaine methodes qui essaie de produire des explication automatisé compréhenseibles des réseaux de neurones~\cite{yuan2022explainability,du2019techniques,rai2020explainable}. \subsection{Confidentialitée} -D'une manière génèrale, l'inteligence artificielle brasse une quantité astronomique de données~\cite{}. +D'une manière génèrale, l'inteligence artificielle brasse une quantité astronomique de données~\cite{villani2018donner}. Ce brassage s'opère à deux niveaux : au moment de la creation du modèle et au moment de son utilisation en production. Pour créer des modèles performants, il est necessaire d'utiliser beaucoup de données. Ces données servent à choisirs les bon parametres du modèle au travers de divers methods statistiques et d'optimisations, on les appeles données d'entrainement. -Les modèles les plus récent et performant necessite un grand nombre de paramètres, citons par exemple le LLM LLaMA qui posède 65 milliard de pramètres ~\cite{}! -Ce grand nombre de paramètre a l'effet indesirable de mémoriserdes informations potentielement sensible sur les données d'entrainement~\cite{}. +Les modèles les plus récent et performant necessite un grand nombre de paramètres, citons par exemple le LLM LLaMA qui posède 65 milliard de pramètres ~\cite{touvron2023llama}! +Ce grand nombre de paramètre a l'effet indesirable de mémoriserdes informations potentielement sensible sur les données d'entrainement~\cite{shokri2017membership}. L'information contenue dans les données d'entrainement est comme résumé, compressée dans la masses, a prior incompréhensible pour un humain, des paramètres du modèle. -Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver des informations sur les données d'entrainement juste en utilisant les paramètres du modèle~\cite{}. +Ainsi un individue malveillant, que l'on appelera attaqueur ou adversaire, pourra retrouver des informations sur les données d'entrainement juste en utilisant les paramètres du modèle~\cite{shokri2017membership,yeom2018privacy,carlini2022membership}. \begin{figure} \centering \input{contexte/figure/tikz/train} @@ -55,26 +66,42 @@ Ainsi un individue malveillant, que l'on appelera attaqueur, pourra retrouver de Un autre risque de fuite de donnée se trouve au moment du l'utilisation du modèle, après son entraînement, lors de son utilisation. A ce moment, les utilisateurs envoient en entrée du modèle des données qu'ils peuvent vouloir gardé confidentielles. -Cependant la sortie du modèle, qui a vocation à être partagée, peut reveler une parite des informations sensibles contenues dans les donnée d'entrée de l'utilisateurs. -Mettre en avant risque est le travail originial que nous avons réalisé : nous le présentons dans la Section~\ref{sec:aia}. +Cependant la sortie du modèle, qui a vocation à être partagée, peut reveler une parite des informations sensibles contenues dans les donnée d'entrée de l'utilisateurs~\cite{yeom2018privacy,zhao2021infeasibility,jayaraman2022attribute,attriguard,Song2020Overlearning,malekzadeh2021honestbutcurious}. +Il s'agit du principle risque de confidentialité que nous allons explorer dans ce manuscrit. +Nous y reviendrons donc dans la Section~\ref{sec:background-conf} pour une présentation de l'état de l'art et au Chapitre~\ref{sec:aia} pour notre contribution. + +Faisons un rapide point sur la términologie de ses attaques. +Quand l'adversaire infère si un donnée à servi à l'entraînement du modèle, c'est une \emph{attaque d'apartenance}\footnote{\textit{Membership inference attack}}. +Quand l'adversaire cherche à retrouver des informations sur les données d'entraîenemnt c'est une \emph{attaque de reconstruction}. +Quand l'adversaire cherche à retrouver un statistique globale du de la base de donnée d'entraînement, par exemple la proportion d'homme et de femme, c'est une \emph{attaque d'inférence de propriété}\footnote{\textit{Property inference attack}}. +Qaudn l'adversaire cherche à infere un attribut sensible c'est une \emph{attaque d'inférence d'attribut sensible (AIA)}\footnote{\textit{Attribut inference attack}}. \subsection{Sécuritée} \label{sec:contexte-secu} -Backdoor~\cite{gao2020backdoor, doan2021lira} +Le processus d'entraînement des réseau de neuronnes est souvent secret et les utilisateur ont accès uniquement à un modèle entraîné. +Dans ce contexte un adversaire qui a accès à l'entraînement de modèle, dans un cadre d'apprentissage décentralisé par exemple, peut injecter des portes dérobé qui lui permet de modifer les futures prédictions à sa convenance. +Considérons le scenarios factice suivant : une entreprise construit un modèle comercial ayant pour but la prédiction du recidivisme. +Cette entreprise vend ce modèle à la l'état de Floride des Etats Unis. +Si un adversaire a introduit une porte dérobée il pourra choisir quelle sera la prédiction du modèle décidant ainsi unilatéralement si la juge va penser que le coupable a une forte chance d'être recidiviste ou non. + +Le principe de ce genre d'attaque est assez simple : l'adversaire cache dans les donnée d'entrée un déclencheur\footnote{trigger} que le modèle apprend à reconaitre~\cite{gao2020backdoor, doan2021lira}. +Ainsi quand le modèle est utilisé en production l'adversaire peut utilisé le déclancheur sans avoir accès à l'ordinateur de juge ou au serveur qui fait tourner le modèle, il suffit de modifier la donnée d'entrée. \subsection{Comsomation d'énergie} +Nous vivons une crise climatique majeure du a l'activité humain qui présage de grave changements pour l'ensemble du vivant ainsi que dans nos mode de vie~\cite{pielke2005hurricanes,khasnis2005global,houghton2005global,melillo2014climate,mcnutt2013climate} +Ainsi, bien que l'IA soit prometeuse pour nous aider à anticiper ces changements~\cite{villani2018donner} il ne faut pas que son développement et l'entraînement de modèles accelère le changment climatique et le rechauffement climatique. +Concrètement, le LLM Llama2 à émis 539 tonnes de $\text{CO}_2$ en prenant en compte les diverse plan de compenssation carbonne de Meta~\cite{touvron2023llama}. +L'empreinte carbone d'un français étant estime à 9,2 tonnes de $\text{CO}_2$ par an~\cite{carbonfr} c'est donc à peut près l'équivalant de 59 personne pendant un an qui à été généré par Llama2. +C'est donc dans l'optique d'entraîner des modèle bien proportioné (ayant peu de paramètres) et pouvant fonctionner sur des ordinateurs portables ou des téléphones portables\footnote{\textit{Smartphone}} que sont né les idée d'IA frugale et embarqué~\cite{schwartz2020green,verdecchia2023systematic,shadrin2019designing}. +Comme nous l'avons vus plus haut, il s'agait aussi d'un positionement stratégique de la France~\cite{stratfr}. + On comprend bien le caractère primoridal et particulier de l'utilitée. A quoi bon avoir un modèle equitable ou qui ne consome presque pas d'énergie si ses prédictions sont toujours fausses ? Ainsi, qaund nous évaluons un modèle au travers des autres défis, nous metons toujours se résultat en parallèle avec l'utilitée. -De manière plus générale, les six défis sont lié entre eux et l'étude de ces liens et un sujet de recherche florissant~\cite{}. - -Par exemple Parcoursup est un programme dévelopé par le gouvernment français qui à pour but d'automatiser l'attribution des places dans l'enseignement supérieur au nouveaux bacheliers~\cite{}. -Depuis son entré en vigeur en 2018.. - -Justice predictive COMPAS - -Assurances +De manière plus générale, les six défis sont lié entre eux et l'étude de ces liens et un sujet de recherche florissant~\cite{dai2022comprehensive,franco2021toward,grant2020show}. +C'est dans ce cadre que ce situe le travail réalisé dans ce manuscrit : nous explorerons à partir du Chapitre~\ref{sec:fini} les lien entre la confidentialité et l'équitée. +Plus précisement les AIA et les différentes définitions téchnique qui sont proposés pour l'équitée. diff --git a/contexte/figure/g5k-backbone.pdf b/contexte/figure/g5k-backbone.pdf Binary files differnew file mode 100644 index 0000000..fef2216 --- /dev/null +++ b/contexte/figure/g5k-backbone.pdf diff --git a/contexte/figure/g5k.svg b/contexte/figure/g5k.svg new file mode 100644 index 0000000..1f89aaa --- /dev/null +++ b/contexte/figure/g5k.svg @@ -0,0 +1,123 @@ +<?xml version="1.0" encoding="UTF-8" standalone="no"?> +<svg height="341.35947" width="470.35272" id="svg2" version="1.1" inkscape:version="1.2.2 (b0a8486, 2022-12-01)" sodipodi:docname="g5k-backbone.svg" inkscape:export-filename="g5k-backbone.png" inkscape:export-xdpi="281.25275" inkscape:export-ydpi="281.25275" xmlns:inkscape="http://www.inkscape.org/namespaces/inkscape" xmlns:sodipodi="http://sodipodi.sourceforge.net/DTD/sodipodi-0.dtd" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns="http://www.w3.org/2000/svg" xmlns:svg="http://www.w3.org/2000/svg" xmlns:rdf="http://www.w3.org/1999/02/22-rdf-syntax-ns#" xmlns:cc="http://creativecommons.org/ns#" xmlns:dc="http://purl.org/dc/elements/1.1/"> + <sodipodi:namedview pagecolor="#ffffff" bordercolor="#666666" borderopacity="1" objecttolerance="10" gridtolerance="10" guidetolerance="10" inkscape:pageopacity="0" inkscape:pageshadow="2" inkscape:window-width="1390" inkscape:window-height="860" id="namedview42" showgrid="true" inkscape:zoom="1.9135374" inkscape:cx="205.37879" inkscape:cy="168.27474" inkscape:window-x="1262" inkscape:window-y="25" inkscape:window-maximized="0" inkscape:current-layer="svg2" inkscape:snap-global="false" fit-margin-top="0.7" fit-margin-left="0" fit-margin-right="0" fit-margin-bottom="0" inkscape:pagecheckerboard="0" inkscape:showpageshadow="2" inkscape:deskcolor="#d1d1d1"> + <inkscape:grid type="xygrid" id="grid3068" empspacing="5" visible="true" enabled="true" snapvisiblegridlinesonly="true" originx="-13" originy="-17.620824" spacingx="1" spacingy="1"/> + </sodipodi:namedview> + <metadata id="metadata4"> + <rdf:RDF> + <cc:Work rdf:about=""> + <dc:title/> + <dc:description>site web</dc:description> + <dc:subject> + <rdf:Bag> + <rdf:li>hash</rdf:li> + <rdf:li>map</rdf:li> + <rdf:li/> + <rdf:li>geography</rdf:li> + <rdf:li>europe</rdf:li> + <rdf:li>france</rdf:li> + </rdf:Bag> + </dc:subject> + <dc:publisher> + <cc:Agent rdf:about="http://www.openclipart.org"> + <dc:title>Yves Aubry (yvounet)</dc:title> + </cc:Agent> + </dc:publisher> + <dc:creator> + <cc:Agent> + <dc:title>Yves Aubry (yvounet)</dc:title> + </cc:Agent> + </dc:creator> + <dc:rights> + <cc:Agent> + <dc:title>Yves Aubry (yvounet)</dc:title> + </cc:Agent> + </dc:rights> + <dc:date/> + <dc:format>image/svg+xml</dc:format> + <dc:type rdf:resource="http://purl.org/dc/dcmitype/StillImage"/> + <cc:license rdf:resource="http://web.resource.org/cc/PublicDomain"/> + <dc:language>en</dc:language> + </cc:Work> + <cc:License rdf:about="http://web.resource.org/cc/PublicDomain"> + <cc:permits rdf:resource="http://web.resource.org/cc/Reproduction"/> + <cc:permits rdf:resource="http://web.resource.org/cc/Distribution"/> + <cc:permits rdf:resource="http://web.resource.org/cc/DerivativeWorks"/> + </cc:License> + </rdf:RDF> + </metadata> + <defs id="defs6"> + <linearGradient id="linearGradient4202" inkscape:swatch="solid"> + <stop style="stop-color:#000000;stop-opacity:1;" offset="0" id="stop4204"/> + </linearGradient> + <marker id="ArrowEnd" markerHeight="3" markerUnits="strokeWidth" markerWidth="4" orient="auto" refX="0" refY="5" viewBox="0 0 10 10"> + <path d="M 0,0 10,5 0,10 z" id="path9" inkscape:connector-curvature="0"/> + </marker> + <marker id="ArrowStart" markerHeight="3" markerUnits="strokeWidth" markerWidth="4" orient="auto" refX="10" refY="5" viewBox="0 0 10 10"> + <path d="M 10,0 0,5 10,10 z" id="path12" inkscape:connector-curvature="0"/> + </marker> + </defs> + <rect style="fill:#ffffff;fill-opacity:1;stroke:none;stroke-width:1.46984;stroke-miterlimit:4;stroke-dasharray:2.93966, 1.46984;stroke-dashoffset:0;stroke-opacity:1" id="rect21372" width="470.353" height="341.35901" x="0" y="0" inkscape:export-filename="/home/bjonglez/grid5000/documents/documentation-sources/g5k-backbone.png" inkscape:export-xdpi="281.25275" inkscape:export-ydpi="281.25275"/> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-opacity:1;stroke-dasharray:none" d="m 307.8717,279.4853 c 12.75122,-11.39571 24.61588,-13.35918 42.85257,-12.54222" id="path4475-1-2" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-opacity:1;stroke-dasharray:none" d="m 269.13506,197.10139 c 5.66957,35.05568 12.83985,55.02394 38.14924,82.56959" id="path4475-1-2-9" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" d="m 216.53108,81.825251 -94.49722,25.968239 m 141.56798,94.00784 -55.82539,74.56933" id="path4475-1-0" inkscape:connector-curvature="0" sodipodi:nodetypes="cccc"/> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-opacity:1;stroke-dasharray:none" d="m 269.72246,195.87053 25.60702,21.42629" id="path4475-1-1" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" d="m 217.60805,82.569802 52.1144,112.778138" id="path4475-1-7" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" d="m 306.19401,91.782053 c -38.10132,4.323657 -50.30131,5.233992 -89.10844,-9.82505" id="path4475-1-66" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" d="M 231.13092,28.107021 217.30843,82.374195" id="path4475-1" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <path inkscape:connector-curvature="0" id="path16" style="fill:none;stroke:#000000;stroke-width:3;stroke-miterlimit:4;stroke-dasharray:none" d="m 118.04573,52.93284 5.3689,0.179 0.7158,1.7896 4.1162,0 1.4317,-1.2527 4.8321,0.7158 0.1789,3.0424 -1.0738,0.5369 -0.1789,3.5793 2.8634,2.3265 0,2.6845 1.7896,0 0.358,-1.4317 7.3373,0.7158 9.485,2.1476 2.327,1.7896 4.653,-0.1789 3.758,-3.5793 3.4,-1.4317 -3.221,-0.8948 -1.79,-1.9687 2.685,-2.6844 0.895,-3.7583 5.369,-3.7582 5.19,-2.6844 8.232,-2.1476 6.443,-4.2951 4.832,-6.8007 1.968,-8.0533 -0.716,-10.201 1.79,-5.9058 4.653,-2.8634 5.727,-1.25273 8.411,-4.47413 2.685,5.54796 -0.895,3.7582 4.653,3.5793 3.579,1.9685 4.116,-3.9371 3.043,3.4003 0.537,3.5793 2.326,3.4002 5.19,-0.7158 2.685,3.5793 0.536,2.3265 5.727,-0.3579 3.043,-0.3579 2.326,2.1475 -0.895,5.19 2.148,1.6106 -1.074,2.6845 2.148,1.6106 7.158,-0.1789 3.043,-2.8634 3.042,-5.7269 0,7.8745 1.79,5.3689 9.664,3.5792 4.653,5.3689 3.758,-0.1789 2.863,-2.5055 3.043,3.4003 6.8,-0.7159 3.222,-1.7896 3.937,1.7896 6.801,9.1272 3.758,0.358 -0.179,-1.9687 3.937,-0.5368 2.685,2.8634 4.295,-0.5369 1.073,-1.7897 2.864,0.358 2.684,3.2213 8.054,-1.4317 6.979,2.1476 -1.252,6.9795 -5.727,5.9059 -3.043,20.0437 1.074,6.98 -1.789,5.727 1.61,4.653 0.537,4.116 -2.863,3.579 -5.548,0.179 -0.358,-2.505 -1.969,0.537 -4.295,3.579 0,2.863 3.758,-0.895 -0.716,2.685 -7.695,12.348 -4.295,0.716 -0.537,8.412 -6.622,6.263 1.074,1.969 -1.789,2.863 0,2.506 2.863,1.789 -1.611,3.58 -3.758,1.789 2.148,2.864 4.653,-1.253 2.147,-2.327 0,-1.968 -1.968,-1.969 2.326,-1.968 4.295,-0.358 4.653,-3.222 5.011,5.548 -2.147,4.832 2.505,0.179 5.011,6.98 -2.326,3.579 -3.043,1.432 0.179,3.4 2.506,1.969 2.863,0.358 0.358,4.474 5.011,3.758 0,6.443 -6.264,4.474 -5.369,0 0.179,4.116 2.864,1.611 0.895,3.4 6.621,1.969 0,8.411 -3.579,2.863 3.758,2.864 -2.326,0.895 0,2.505 5.727,4.295 3.937,0 1.968,1.611 8.949,0.895 1.968,-3.58 1.79,4.832 -1.253,4.295 -2.684,3.759 1.789,3.4 -5.011,2.685 -4.295,1.968 -1.968,4.653 -3.043,1.611 -2.326,4.653 -4.474,2.505 -0.537,6.98 -7.338,1.074 -3.758,3.758 -7.338,1.253 -8.232,-1.432 -9.843,-2.684 0,-3.938 -3.937,-0.179 -2.327,1.432 -14.138,-0.358 -2.147,-3.937 -4.117,1.253 -6.979,-0.358 -2.864,-3.043 -13.601,10.38 -3.042,0.537 -5.548,5.19 -3.4,7.338 0.179,9.485 1.789,7.516 -1.61,0.895 -3.759,0.716 -6.442,5.548 -5.19,-0.358 -3.759,-2.506 -4.832,0.537 -0.716,2.148 -4.474,0 -1.073,-3.222 -5.369,-2.684 -0.179,-3.042 -6.443,-2.148 -1.969,2.148 -2.326,-4.474 -5.548,0.357 -1.79,-2.863 -5.547,-0.716 -7.159,-1.253 1.432,5.727 -9.664,0.716 -11.633,-1.253 0,-2.684 -6.98,-1.969 -6.442,1.79 -5.19,-6.801 -8.2326,0 -5.3689,-3.4 -0.8948,-2.147 -0.8948,-0.179 -1.2528,2.863 -2.1476,-0.358 0,-2.326 1.4318,-0.895 -0.179,-5.727 -9.1272,-1.432 -1.9686,-2.863 4.4741,-1.432 4.8321,-5.727 1.4317,-7.516 3.2213,-10.559 1.6107,-11.454 1.4317,-11.454 3.9372,0.895 -3.5793,-4.653 0.8948,-13.243 0.8949,-12.349 2.5055,-1.431 2.8634,2.505 4.6534,6.264 2.684,6.801 -0.895,-11.275 -5.906,-6.085 -7.695,-4.116 0.5369,-5.727 -4.2951,-4.474 0.8948,-3.4 2.8634,2.505 1.9686,3.221 2.6845,-1.789 -0.3579,-4.653 -3.4004,-3.401 -4.474,0 -2.6845,2.327 -3.0424,-2.685 2.3265,-3.758 3.5793,1.79 4.832,0 -1.6106,-2.685 -5.3689,-2.684 -5.369,-2.148 -4.2951,-3.579 -0.3579,-5.369 -5.7269,-5.369 0.5369,-3.579 2.6845,-4.295 -1.6107,-3.042 -3.2213,-0.537 -1.4318,-4.474 -5.0109,0.357 -1.6107,-3.221 0.8948,-6.085 -2.1476,-1.789 -5.9058,1.073 -1.9686,-2.147 -2.1475,0 -1.7897,2.147 -2.5055,-1.073 0.179,-4.116 -2.3265,-2.506 -2.1476,0.537 -3.9372,2.684 -2.5055,-0.537 -0.3579,-2.684 3.7582,-0.358 -3.4003,-3.4 -6.4427,-1.79 -1.6107,-1.789 -2.8634,0.179 -2.5055,2.863 -3.5793,-0.358 -2.3265,-4.116 0,-3.758 -4.832,-1.432 -1.78964,-0.537 0.35792,-1.969 1.78962,-1.431 5.9058,-0.179 1.4317,1.073 2.3266,-0.178 0.1789,-2.864 -2.6844,-0.716 -3.0424,0.537 -2.1476,-0.537 0.358,-2.684 1.9686,-0.179 5.1899,0.537 0,-2.148 -3.4003,-1.431998 -2.3265,1.252998 -4.4741,0.358 -2.1476,-4.473998 1.7896,-3.937202 5.369,-1.9686 6.4426,-1.4317 5.9059,-0.7159 4.4741,1.6107 0.3579,-1.7896 6.8006,0 1.0738,-4.2951 4.1162,-0.179 6.8006,0.8948 3.5793,4.653 2.6844,4.6531 2.1476,2.505502 3.5793,-0.7159 2.5054,-3.758202 6.8007,2.1476 1.2527,-1.9686 6.2638,-1.0738 1.4317,2.3265 5.011,0.179 2.3265,-2.5055 -1.7897,-2.8634 -0.7158,-14.675 -5.3689,-8.0534 -1.2528,-5.7269 -0.1789,-3.7582 -1.2528,-2.6845 0,0"/> + <path d="m 118.04573,52.93284 5.3689,0.179 0.7158,1.7896 4.1162,0 1.4317,-1.2527 4.8321,0.7158 0.1789,3.0424 -1.0738,0.5369 -0.1789,3.5793 2.8634,2.3265 0,2.6845 1.7896,0 0.358,-1.4317 7.3373,0.7158 9.485,2.1476 2.327,1.7896 4.653,-0.1789 3.758,-3.5793 3.4,-1.4317 -3.221,-0.8948 -1.79,-1.9687 2.685,-2.6844 0.895,-3.7583 5.369,-3.7582 5.19,-2.6844 8.232,-2.1476 6.443,-4.2951 4.832,-6.8007 1.968,-8.0533 -0.716,-10.201 1.79,-5.9058 4.653,-2.8634 5.727,-1.25273 8.411,-4.47413 2.685,5.54796 -0.895,3.7582 4.653,3.5793 3.579,1.9685 4.116,-3.9371 3.043,3.4003 0.537,3.5793 2.326,3.4002 5.19,-0.7158 2.685,3.5793 0.536,2.3265 5.727,-0.3579 3.043,-0.3579 2.326,2.1475 -0.895,5.19 2.148,1.6106 -1.074,2.6845 2.148,1.6106 7.158,-0.1789 3.043,-2.8634 3.042,-5.7269 0,7.8745 1.79,5.3689 9.664,3.5792 4.653,5.3689 3.758,-0.1789 2.863,-2.5055 3.043,3.4003 6.8,-0.7159 3.222,-1.7896 3.937,1.7896 6.801,9.1272 3.758,0.358 -0.179,-1.9687 3.937,-0.5368 2.685,2.8634 4.295,-0.5369 1.073,-1.7897 2.864,0.358 2.684,3.2213 8.054,-1.4317 6.979,2.1476 -1.252,6.9795 -5.727,5.9059 -3.043,20.0437 1.074,6.98 -1.789,5.727 1.61,4.653 0.537,4.116 -2.863,3.579 -5.548,0.179 -0.358,-2.505 -1.969,0.537 -4.295,3.579 0,2.863 3.758,-0.895 -0.716,2.685 -7.695,12.348 -4.295,0.716 -0.537,8.412 -6.622,6.263 1.074,1.969 -1.789,2.863 0,2.506 2.863,1.789 -1.611,3.58 -3.758,1.789 2.148,2.864 4.653,-1.253 2.147,-2.327 0,-1.968 -1.968,-1.969 2.326,-1.968 4.295,-0.358 4.653,-3.222 5.011,5.548 -2.147,4.832 2.505,0.179 5.011,6.98 -2.326,3.579 -3.043,1.432 0.179,3.4 2.506,1.969 2.863,0.358 0.358,4.474 5.011,3.758 0,6.443 -6.264,4.474 -5.369,0 0.179,4.116 2.864,1.611 0.895,3.4 6.621,1.969 0,8.411 -3.579,2.863 3.758,2.864 -2.326,0.895 0,2.505 5.727,4.295 3.937,0 1.968,1.611 8.949,0.895 1.968,-3.58 1.79,4.832 -1.253,4.295 -2.684,3.759 1.789,3.4 -5.011,2.685 -4.295,1.968 -1.968,4.653 -3.043,1.611 -2.326,4.653 -4.474,2.505 -0.537,6.98 -7.338,1.074 -3.758,3.758 -7.338,1.253 -8.232,-1.432 -9.843,-2.684 0,-3.938 -3.937,-0.179 -2.327,1.432 -14.138,-0.358 -2.147,-3.937 -4.117,1.253 -6.979,-0.358 -2.864,-3.043 -13.601,10.38 -3.042,0.537 -5.548,5.19 -3.4,7.338 0.179,9.485 1.789,7.516 -1.61,0.895 -3.759,0.716 -6.442,5.548 -5.19,-0.358 -3.759,-2.506 -4.832,0.537 -0.716,2.148 -4.474,0 -1.073,-3.222 -5.369,-2.684 -0.179,-3.042 -6.443,-2.148 -1.969,2.148 -2.326,-4.474 -5.548,0.357 -1.79,-2.863 -5.547,-0.716 -7.159,-1.253 1.432,5.727 -9.664,0.716 -11.633,-1.253 0,-2.684 -6.98,-1.969 -6.442,1.79 -5.19,-6.801 -8.2326,0 -5.3689,-3.4 -0.8948,-2.147 -0.8948,-0.179 -1.2528,2.863 -2.1476,-0.358 0,-2.326 1.4318,-0.895 -0.179,-5.727 -9.1272,-1.432 -1.9686,-2.863 4.4741,-1.432 4.8321,-5.727 1.4317,-7.516 3.2213,-10.559 1.6107,-11.454 1.4317,-11.454 3.9372,0.895 -3.5793,-4.653 0.8948,-13.243 0.8949,-12.349 2.5055,-1.431 2.8634,2.505 4.6534,6.264 2.684,6.801 -0.895,-11.275 -5.906,-6.085 -7.695,-4.116 0.5369,-5.727 -4.2951,-4.474 0.8948,-3.4 2.8634,2.505 1.9686,3.221 2.6845,-1.789 -0.3579,-4.653 -3.4004,-3.401 -4.474,0 -2.6845,2.327 -3.0424,-2.685 2.3265,-3.758 3.5793,1.79 4.832,0 -1.6106,-2.685 -5.3689,-2.684 -5.369,-2.148 -4.2951,-3.579 -0.3579,-5.369 -5.7269,-5.369 0.5369,-3.579 2.6845,-4.295 -1.6107,-3.042 -3.2213,-0.537 -1.4318,-4.474 -5.0109,0.357 -1.6107,-3.221 0.8948,-6.085 -2.1476,-1.789 -5.9058,1.073 -1.9686,-2.147 -2.1475,0 -1.7897,2.147 -2.5055,-1.073 0.179,-4.116 -2.3265,-2.506 -2.1476,0.537 -3.9372,2.684 -2.5055,-0.537 -0.3579,-2.684 3.7582,-0.358 -3.4003,-3.4 -6.4427,-1.79 -1.6107,-1.789 -2.8634,0.179 -2.5055,2.863 -3.5793,-0.358 -2.3265,-4.116 0,-3.758 -4.832,-1.432 -1.78964,-0.537 0.35792,-1.969 1.78962,-1.431 5.9058,-0.179 1.4317,1.073 2.3266,-0.178 0.1789,-2.864 -2.6844,-0.716 -3.0424,0.537 -2.1476,-0.537 0.358,-2.684 1.9686,-0.179 5.1899,0.537 0,-2.148 -3.4003,-1.431998 -2.3265,1.252998 -4.4741,0.358 -2.1476,-4.473998 1.7896,-3.937202 5.369,-1.9686 6.4426,-1.4317 5.9059,-0.7159 4.4741,1.6107 0.3579,-1.7896 6.8006,0 1.0738,-4.2951 4.1162,-0.179 6.8006,0.8948 3.5793,4.653 2.6844,4.6531 2.1476,2.505502 3.5793,-0.7159 2.5054,-3.758202 6.8007,2.1476 1.2527,-1.9686 6.2638,-1.0738 1.4317,2.3265 5.011,0.179 2.3265,-2.5055 -1.7897,-2.8634 -0.7158,-14.675 -5.3689,-8.0534 -1.2528,-5.7269 -0.1789,-3.7582 -1.2528,-2.6845 0,0" style="fill:none;stroke:#1f6d9f;stroke-width:3;stroke-miterlimit:4;stroke-opacity:1;stroke-dasharray:none" id="path3817" inkscape:connector-curvature="0"/> + <path style="fill:none;stroke:#279600;stroke-width:4.29361;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" d="m 306.16566,47.150552 0.51396,45.445389" id="path4475-1-6" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <circle style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" id="path3819-1" cx="217.02747" cy="81.878189" r="3.6581464"/> + <path sodipodi:type="arc" style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-opacity:1;stroke-dasharray:none" id="path3819-6-0" sodipodi:cx="183.42992" sodipodi:cy="145.80786" sodipodi:rx="7.3162928" sodipodi:ry="7.3162928" d="m 190.74621,145.80786 a 7.3162928,7.3162928 0 1 1 -14.63259,0 7.3162928,7.3162928 0 1 1 14.63259,0 z" transform="translate(86.292544,50.846555)"/> + <circle style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" id="path3819-5" cx="231.32668" cy="28.02817" r="7.3162928"/> + <circle style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" id="path3819-0" cx="306.05377" cy="46.786026" r="7.3162928"/> + <circle style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" id="path3819-0-3" cx="306.67023" cy="91.928497" r="7.3162928"/> + <path sodipodi:type="arc" style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-opacity:1;stroke-dasharray:none" id="path3819-6-0-0" sodipodi:cx="183.42992" sodipodi:cy="145.80786" sodipodi:rx="7.3162928" sodipodi:ry="7.3162928" d="m 190.74621,145.80786 a 7.3162928,7.3162928 0 1 1 -14.63259,0 7.3162928,7.3162928 0 1 1 14.63259,0 z" transform="translate(112.42216,72.272841)"/> + <circle style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" id="path3819-6-0-0-7" cx="208.51434" cy="272.79321" r="7.3162928" inkscape:transform-center-x="2.0903694"/> + <path sodipodi:type="arc" style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-opacity:1;stroke-dasharray:none" id="path3819-6-0-2" sodipodi:cx="183.42992" sodipodi:cy="145.80786" sodipodi:rx="7.3162928" sodipodi:ry="7.3162928" d="m 190.74621,145.80786 a 7.3162928,7.3162928 0 1 1 -14.63259,0 7.3162928,7.3162928 0 1 1 14.63259,0 z" transform="translate(167.29435,120.35134)"/> + <g id="g4427" transform="translate(-21.555992,-27.864847)"> + <rect y="45.0159" x="195.18823" height="22.334761" width="48.408428" id="rect4208-4-0" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:2;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-6" y="63.224297" x="198.10918" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan style="font-size:20px;line-height:1.25;fill:#000000;fill-opacity:1" y="63.224297" x="198.10918" id="tspan3823-11" sodipodi:role="line">Lille</tspan></text> + </g> + <g id="g4437" transform="translate(-50.516943,-19.635499)"> + <rect y="120.79179" x="321.133" height="22.334761" width="69.322578" id="rect4208-4-1" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:2;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-9" y="137.43242" x="325.09912" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan style="font-size:20px;line-height:1.25;fill:#000000;fill-opacity:1" y="137.43242" x="325.09912" id="tspan3823-5" sodipodi:role="line">Nancy</tspan></text> + </g> + <g id="g4447" transform="translate(57.427221,-17.420615)"> + <rect y="191.34175" x="221.31784" height="22.334761" width="55.193394" id="rect4208-4-7" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:2;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-2-0" y="208.50496" x="225.42229" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan style="font-size:20px;line-height:1.25;fill:#000000;fill-opacity:1" y="208.50496" x="225.42229" id="tspan3823-1-4" sodipodi:role="line">Lyon</tspan></text> + </g> + <g id="g4442" transform="translate(-8.7178623,1.225812)"> + <rect y="204.92915" x="313.81668" height="22.334761" width="95.793793" id="rect4208-4-16" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:2;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-2-0-9" y="222.65944" x="316.10104" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan style="font-size:20px;line-height:1.25;fill:#000000;fill-opacity:1" y="222.65944" x="316.10104" id="tspan3823-1-4-35" sodipodi:role="line">Grenoble</tspan></text> + </g> + <g id="g4470" transform="translate(-11.093905,-10.640757)"> + <rect y="285.93097" x="355.02179" height="22.334761" width="76.306793" id="rect4208-4-16-7" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:2;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-2-0-4" y="302.61606" x="358.43103" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan style="font-size:20px;line-height:1.25;fill:#000000;fill-opacity:1" y="302.61606" x="358.43103" id="tspan3823-1-4-1" sodipodi:role="line">Sophia</tspan></text> + </g> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" d="M 2,3.9452785 H 47" id="path4475-7" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <text xml:space="preserve" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';text-align:start;letter-spacing:0px;word-spacing:0px;writing-mode:lr-tb;text-anchor:start;fill:#000000;fill-opacity:1;stroke:none" x="52" y="8.9452791" id="text3886"><tspan sodipodi:role="line" id="tspan3059" x="52" y="8.9452791" style="font-size:10px;line-height:1.25">10G dedicated lambda</tspan></text> + <path sodipodi:type="arc" style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-opacity:1;stroke-dasharray:none" id="path3819-1-3" sodipodi:cx="183.42992" sodipodi:cy="145.80786" sodipodi:rx="3.6581464" sodipodi:ry="3.6581464" d="m 187.08806,145.80786 a 3.6581464,3.6581464 0 1 1 -7.31629,0 3.6581464,3.6581464 0 1 1 7.31629,0 z" transform="translate(124.37698,134.82675)"/> + <g id="g4432" transform="translate(-16.061441,-28.458349)"> + <rect y="43.64106" x="310.94244" height="22.334761" width="129.08031" id="rect4208" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:2;stroke-linecap:butt;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-67-5" y="60.191803" x="313.46811" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan style="font-size:20px;line-height:1.25;fill:#000000;fill-opacity:1;stroke:none" y="60.191803" x="313.46811" id="tspan3823-9-8" sodipodi:role="line">Luxembourg</tspan></text> + </g> + <g id="g4432-0" transform="translate(-203.02712,220.07513)"> + <rect y="43.492168" x="310.79355" height="22.63254" width="92.274033" id="rect4208-3" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:1.70222;stroke-linecap:butt;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-67-5-9" y="60.191803" x="313.46811" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan style="font-size:20px;line-height:1.25;fill:#000000;fill-opacity:1;stroke:none" y="60.191803" x="313.46811" id="tspan3823-9-8-8" sodipodi:role="line">Toulouse</tspan></text> + </g> + <path style="fill:none;stroke:#279600;stroke-width:4;stroke-linecap:butt;stroke-linejoin:miter;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" d="m 122.6505,107.5065 5.50008,35.19321" id="path4475-1-7-8" inkscape:connector-curvature="0" sodipodi:nodetypes="cc"/> + <circle style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" id="path3819-6" cx="122.47929" cy="107.42537" r="7.3162928"/> + <circle style="fill:#ffa100;fill-opacity:1;stroke:#ff0000;stroke-width:2;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1" id="path3819-6-6" cx="128.22589" cy="142.147" r="7.3162928"/> + <text xml:space="preserve" style="font-style:normal;font-weight:normal;font-size:12px;line-height:1.25;font-family:sans-serif;letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" x="253.41571" y="323.26282" id="text7513"><tspan sodipodi:role="line" id="tspan7511" x="253.41571" y="323.26282" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;font-size:12px;font-family:sans-serif;-inkscape-font-specification:'sans-serif Bold'">Last update: 2023-06-16</tspan></text> + <g id="g3113" transform="translate(39.216546,-42.793186)"> + <rect y="175.19142" x="5.860734" height="22.398336" width="73.983688" id="rect4208-4-8-2" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:1.93642;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-2-00" y="192.90901" x="9.3360329" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';text-align:start;letter-spacing:0px;word-spacing:0px;writing-mode:lr-tb;text-anchor:start;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan id="tspan3111" sodipodi:role="line" x="9.3360329" y="192.90901" style="font-size:20px;line-height:1.25">Nantes</tspan></text> + </g> + <g id="g4413" transform="translate(-87.258371,-27.155422)"> + <rect y="124.97253" x="121.50273" height="22.334761" width="79.146034" id="rect4208-4-8" style="fill:#ffffff;fill-opacity:1;stroke:#000000;stroke-width:2;stroke-linejoin:round;stroke-miterlimit:4;stroke-dasharray:none;stroke-opacity:1"/> + <text id="text3821-2" y="142.65834" x="124.94624" style="font-style:normal;font-variant:normal;font-weight:bold;font-stretch:normal;line-height:0%;font-family:Arial;-inkscape-font-specification:'Arial Bold';letter-spacing:0px;word-spacing:0px;fill:#000000;fill-opacity:1;stroke:none" xml:space="preserve"><tspan style="font-size:20px;line-height:1.25;fill:#000000;fill-opacity:1" y="142.65834" x="124.94624" id="tspan3823-1" sodipodi:role="line">Rennes</tspan></text> + </g> + <image width="109.86852" height="55.090775" preserveAspectRatio="none" xlink:href="data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAV8AAACwCAYAAACo0G1iAAAABHNCSVQICAgIfAhkiAAAAAlwSFlz AAAFAgAABQIBwWg4YQAAABl0RVh0U29mdHdhcmUAd3d3Lmlua3NjYXBlLm9yZ5vuPBoAACAASURB VHic7Z15nBxVub+fc6qqOzOdhZCNXfZN1iwVNhVRIOyiBGQPTHfU4AIX9aKoiPsVXLkGpTMYQVCJ uF/x/ty4CkIawqZsCgSBhD2BJN2Tme465/dH1YTJTHfX6Z5eZjLn4dOfMN2nqr+9vXXOe95FaK2x lKc7l9q6y8+vabcOi8Wy5SHbLWCk0p1L7avRV7Rbh8Vi2TKxxrcCGnUJcG53LuW0W4vFYtnysMa3 DJHBPTag5Gj0se3WY7FYtjys8S2DRh8dEEwMCCaC/ni79Vgsli0Pa3zLoj8aEEwCjYY9unOprdqt qF6WLRPOTcunTGy3DovFsjnW+A6iO5eaqGEfCKNAAkrTNPqCNsuqm3Vv6pzXy8Zz263DYrFsjjW+ g9DocwJKW/f/rQg80Ol2ahoOWuiPKqHe324dFotlc6zxHYL+gCIYN/AehZranUvt2S5F9XLtHVtN 1krvodHTuu8at3u79Vgsljdw2y2g3XTnUh3A+Oi2i0ZPHTwmIJgucT7XnUt9CchHtwKQ7/LzQUsF 10ByXN/5JR1MU1olpJu4BLio3ZosFkuIGCsZbt251Ec0+hKNVoDzxi18/RotACegtLVGD1kROLjr BaIAKIGI3jQhARXdlwAeF4jTu/z8Cy15UTF05zoe7qV3X4Akyaef8zfudkX4+i0WS5sZM8YXYEmu 84sKtbBE35DZ7XCQOD0u3mMCcVyXn3+xkeeul+vvnbhXoPr+r0jfDAAX7/WE9OYvmL3h9+3WZrFY xpjPN+0XLpfI8z2Sq0E05JwO3hoX7+cCMXekGF6AQBUvDijN2PQ3pUmlUvCf7dRksVjeYEzNfPvp zqV20ajbihR306i6/d4eiRcF8nNpv7C4kfqGy5UIuX2uY2UfG3caeL+nk6s76dzn7LmvrmuXNovF EjImjS9Ady7VqVE/CwgODSjVlIQgENol8YxAnJH2C8ubpdGUK28X7pu22mq8LvZOCAJnvCPV4UVR vKqkS5slhzi4fY70rnKL4ifaC/JB4OT7evL5l4+kYH3BFktrGbPGt58luc4rFeoDJfqmmYyXOBtd 3EcE8rguP/9Ss/UNZNky4azbpeOraOZrrXu1xhUCR2scBBqthZZItPICgimawZ+twMVZL4TciA43 CjUCKdDR3wGIDhB/UU7h/IWzdKGVr89iGUuMeeMLsCTX+YUSxU8qglhHcIJxzwvETl1+vtQKbYO5 boXwZNDxQ01wbJHipEae28Vb5yDvTozb+O5zD9D5Rp7bYrFszpjacKuMPszE8AIoFMD05uqpzMJZ upj2C2c4OJ9OiOQrokEbhx6JVxzhfrvL7znWGl6LpfmMeePbnUsJDbuZjlcEUzX6pGZqMuFCv3AN jjjJI7lKCln38kUgSIjkak8653fNyX+6kRotFktlxrzxBQ7WqM5yD4gyb09U6+G9TVdlQHpm4W60 nOWqxN8d3I21Hi+0U/JI/tMRvGXB7Pxvm6HRYrGUZ8wbX42eHxBslnQhkaUEyac9vF+5eGuHHsMu 3bnUiHjv0nM3vKjcntmOcG918V4zPc7BW+fJxJ+T43pmXjC756lmarRYLEMZEQbk+/dPMIo0aA76 +HCjP8Ql8YqL9xOB3C/t95wiceYnSD4jkZtqOChUCpjdDrXlWDhLF9NzCuc4OHeWm60PRoRRDy+m 5+SPsf5di6U9tN34XvOESKqi+mE7nrs7l0ppmAIgkcUEyZUSeXra7zmny8/nAdJ+4Y8CuY+Ld4tL Yg1s8vue3g7N1dBC7zHwQlJxXPhf57JHRKIFsiwWSxnabnw71na8S6Pfns2Na3nJRo1+uyKY7OK9 7JK4RSD3T/uFPw8e1+XnC2m/5yyJPC1B8hmBCEAf02q91fju3yZM12FlNiOUDjrXrx9/eDM1WSyW yrTd+KK4uETRE4hLWv/k+r0O7gaJc0baL2ya7VYi7Rf+HM6C3R+D2Ls7l2ponO1wcBx9rNLB1oPv F4iyG4eBUJMVpRGxcWixjEXaany/f/+EaUi9kyIAIY6/MizR2DIEcrlA7FputluJaBZ8jkAcBYyY AuVCBGcNLgIvcQseiYddEn92tLvZxmHonhBHtVSkxWLZRFuNr+orpUu6NB1A6WDSTrnU0a18/i4/ f03cbLfKsXd0+fkVjdY0DPbpTycWCBIkX/SE961J/954YMYvHOUI5+IEyWelkG84hYUev2T5+BmV TmixWJpHe90OgvMVgQthycOAwLZpr4Old43fX6E7AJxwtvuoFu47uubkPzl/vg4A0n7PDaWSO9sl +ScXdw1AQDDZkRzfTu0Wy1ilbcY3e8+ENwfoyf1/azQI9l76wORR26a9XZQc/W4t1DSP5Esu7jWr ChsPyMxZ//Dgce8/bP1L6Tn5o6VwPpIg+azWOhHo4Ox2aLZYxjptM75Cly5RlDarkRDoYGqpt3dB mySNXoQ+2dXuk17gvLPLL1x2xZG6atGf9JyeHzqeO8uTiT8I5BwQjSkQYbFYjGlBVTMhbnyIzvyG 8alkojQ+CJzxWqrxAn7cpzfuOHh0guQ/JWKB0jKv3FI+ody86uvIT1j9SqF/CW15g2XLhPP6zqmL V+Xz34ozuuVYsrzzNEey/II5hWeboc9isZSn4ca3+57x87RS2bDYltYIHDRaay20QAitpBY4Cj1R EQwJ8neE0yu06EETgAyQKKmjiZlAgfCEZj1SnNY1O39/Q8VbLBZLi2jKzPf6e1PHKa2WFHXfdkML etePRAauTqxUrnvSwlnrHmvYiS0NYekDk7dacNBa4/oSFstYpik+3wtn529zAw73SDwqcYqNOKeL u94lcWcHHbOs4R2ZqN6+LyzJdezSbh0Wy2igaRtuCw7peXpSsHGWh/f/XLzXh3MuNyz0fX3a7znS Nn8cmVx5u3C14GyE+HC7tVgso4GmRjvMP1T3dPmFEyXyqwmSL9ferl2QIPm8EPKirjmFi8H2PBqp bDeu8/gSJUdrfZKNnrBY4mlJqFna7/kSitMTJJ4zbXsjkCohEk+i3Hdk5hRuabJEyzARUl+qKE3Q qMnXLx9/ZLv1WCwjnZbF+aYP6bkd5Z7rCPdVk/Eu3stuwDvTh6x/tNnaLMMjTIzRe2g0AaWtNaWP tVuTxTLSaW0hG1F6q9JqSOWtciiCib2Iuc3WZBk+QW/v+QHBFIhqBUv2W3y7MC5vabGMRVpqfDXi FG3cJTjocOCcZmuyDB8l9MJgQMx2QDDd6+y0n53FUoWWGd+lt4txWujp5XbMHJwhd2s0SP3mFkiz DIPuu8btjtZTGBDPHehSUqA/0EZZFsuIx23VE+nxqSMCVZw48D6B1AnhPac0v3WEe3JRF7cd2AZH oTuX3D1hH+v3HTlciZC7L996fN7dmEqUgvHacS5Xom/64FwahZqxJDfhKEeWng4CJ9/Xk8+/fCSF K9DxfY4sljFAy4xvUQdnQbDJ+LraXStxVkjPPavr4PUvL7274yvIxLKAYK+A4gQApYPpEvFu4Iut 0mkJuW7FxKmOCm5E63201oEGB3C2Z5wsiIIm0PQJJKLYEeihrqQgLJr0E6VQUpSU2zmO7XOwRHQE aJSGQCCSAvnNLn/DV1v/Ci2W9tKCwjohS3Idj/fRu6dEahdvlVZcljmk56ZBckR3ruNijf54keI2 oEgw7t4uvzCnJSItm7FkeecOQurbSrq0Z1CmDke9CMAViVeEdr6X9vOfatR5LZbRREuM75Ll42do ETwIQVII514lvTMXzlr3SqXx163o3Mkpsawkgr0d5Hq3sHH3BUfqjU0XahnCNU+IZMerHTcrWTqq pEvDrrUsEHg6sVoIubDLz/9PIzRaLKORlhjf6+8df55S6jsC3tflF242PS6b6/yQhK9qLU9Oz93w +2ZqtFSnO9d5idL6sqLom06dxZIkTsnFfUo5+viFszY+2WCJFsuoojXRDoHKK8fdpRbDC5DxC9do zR5C6IYteS310eUXvuFKcWpCJJ4p1w05Dle76xMicXty3MaZ1vBaLC30+Vq2DJYsHz8DoW4rUdxX ESRNjnFJvCKQ3Rm/cFmz9VksowVrfC01c90K4Tmljqd7xcbt4sZKHFztfTM9t3BJK7RZLKOF9nYv toxKgp5J402L5Edx24c0VZDFMgqxxtdSM9LtOyYQgVGNjihTcfvrVgiv2bosltGENb6WmpEOZymC cUPuR1KuZrPSarwsjj+8FdosltGCNb6WmhFa7z/Y7eBqd40rkn9IkFw5uHWUIpisRemsloq0WEY4 1vhaamLp8nF7aK07+/8WSJUg+SzKfX96Tv7oSUHPmz2RuMkj8Ur/LFihkIK3tU20xTICscbXUhNF KU8JZDANwMVdmxDe/4ogcdDCQwvLIGodNSd/gXbkqQmSKx3h9AEowfjrVqS2bad2i2UkYY2vpSaE 5j1oRILkc1K7C7vm9BzfdejrawaPWzircIdb6NnX0e4NHslXNGqqE3BCOzRbLCMRG+drMebK24W7 Q2fH6wj9f329ybM/cMRra02OW7q885CS4Kdo8Wh6bv7oZuu0WEYDLSspaRn9bDthwu6iGJx54SGF X9Vy3IK5hbuveULs1rE29cFmabNYRht25muxWCxtYFg+38U5eXyjhFgsFstYom7juzgn9we+vTgn jRpiWiwWi+UNhjPzPR/YDTiiQVosFotlzFDXhtvinHQEznmaAGAB8NdGitrSUFkpgb0BH9gBmBzd JgAF4DXgdWAVcA/wd5lRxfJns1jah8rKCUAgM6owArRsBRRkRvW1WYcEJgHrZEYFpsfVteG2OCfn AbdN7TyIVwsPFTRq2iK//R/GSCL6kp4R3XxgYvUjNmMjkANuBH4iM2p94xU2D5WVRxNqr8ZnZUZ9 txV6BqKy8tdAtZ6APcDulX5E0ef6ONVXjffLjDrOUM/+hCvIRlOUGTWsNk0qKz3gKOBdwDuA7YH+ 7MZ1wL+B/wf8SmbUX4bzXAZaJgDHR1oOA7YBEoRtVdYA/wJ+C/xcZtQ/mqxlG+CU6HYQMJ2wwawC XgL+Dvwa+IXMqGcrnafeULPzUt52pSN3ybo/fXhOJ/Ae4n9sYwKVlXsBlwHzgVSdpxkHvDW6fUtl 5Q+Ay2VGGcXVjgAOA2bEjHm8FUIGorLSITQmnVWG3R0ze5kFxGXqPV2DrGuBZhQduh+oy/iqrBTA WcDngV0qDJsI7B/dLlVZeQfwQZlRD9bznFW0jAM+DHwCKNdDUABTotshwOdUVv4I+KjMqNUN1jIN +DTwfqBclT5JeFHYBjgauFpl5deBL8iMypcbXBOLc3IiyHfvPW2BOz01i6079gtAXljrebY0VFZO VFn5NcKr3gLqN7yD6QQ+ADymsvLMBp2z2cR1m9bAfa0QMog3U93wQrjiqIZv8Dxx5wBAZWW/wWgG 99RzkMrKHYG7gR9S2fCW4whghcrKD9TzvBW0zCW8SP8X5Q1vJc4EHlVZeVQDtZwFPAl8iPKGtxwJ wonYgyorh6xu6tlwOw1Ucq+p5wOwz7QLHVBvW5yTb6rjXFsEKiuPJVz2/AfmH0ytTAduVll5dZPO 30jijO+/ZEa93hIlmxOnC+KNVsOMLzCPcLnaDO6t9QCVlW+NjjN5jeVwgMUqKz9d5/EDtVwI/B+w U52nmAj8VmXlqcPU4aisvAq4iXCPph52A+5UWXngwDtrNr4CuWB6yg+2GrcHAHtOOQcRfn/Oq1PY qEZl5aWEy7vpLXrKS1VWZiMn/4hDZeWbiH8vajYMDaIRxjfuHBuAR83kcKLhuHqoaeYbzRJ/T2O+ x59TWfnueg9WWfkRoBsw6hFYhSRwk8rKvYdxjuuBjw5TB4RuuF9EvmugRuO7OCffpFFHhLPdkA5v KjtvdSICZ0y5HlRWSpWV3weupnmzl0qkgU+1+DlNaYSBaxZx2l4H/lnpQZWVM4ifia2QGaXihKis dAlnvs2gBzDedIpmZD8nXCY3iu9F71dNqKw8Hfh6A3V0ADdG73etWr5EYyeVOwPf7P/DhU2Zam8D xg+8CeREkBOFYLzWjAcxXgpP77716ZslVuw97UKx8rVf7nxtzi0gZI9A9AB50Hmt1QaN2hD+TYFw ZvCtRb6q+CUfJSwm9O3Wwzrg5ejf7YjfnCrHZ1RW/klm1B11amgWJsa35TPfaONm/5hh98qMqhb+ 00iXw+HU5seshQdkRpVMBqqsnEoYJWAajVPCbKN+KvAZ4CLD86KycjZwA+aTQlMtswmN6PU1aFlA uMlniqmWC1VWfltm1IP9g/8EnAZcADC18yDV4c2QnkzhyRSuE/0rU0zu2Iuku/l3ZqdJ8zh8p69R DAodJZXvKKo8pSBPUeUpqg2s7XmEdb0rAbERdHq0G97oivi+Gg7pBX4D3Eq4m75y0PkmAHsQLkMv wexH6QA/VFm5Z7vjHAcRZ3wV4U58qzmIeH/8cF0OAH8zkzNiXA7/TTgBqIYmnLHdSnhx2YFw4vFp yvWNeoNzVVZeZhIqqbIyASwl3tVQAK4Efgc8DOxDaCTjOqVchKHxVVm5A/Atg6HPAZ8ltJ+rgJmE 79NcAy0LXYBFvtoIXLg4J+8B8W2lA/G2na9lYnJnE6040uPAbcp3Bn9yzc/4w1PnBgLneU1wyiJf tWOXu2FEEQemV8SNhF/uL8uMGlLztp/oy3kfcJ/Kym8Rbtx9kvgr6ZsIr+hLDPW0glOo7oZR5cJu WkAj3CHPAd8b8Pe72HzVogg3iUyIM74PR89XD7eZDIo2o86IGdYLLJAZ9eMB960ErlBZ+RLh97sS E4CzAZN47s8QRqNU40XgJJlRAz+nfwBnq6zcCFRzfc5UWTln0LGVyBK/EngQOEFm1KoB992tsvLt hMa4WhTL2SorLx2SZLE4Jw8TOD/3nPFTjt39FmfHSfWVX9VakVt1BStWfxGQt4Oav8hXr9R1shGC ysptCT9sk8699wJnyIx6qs7nOo9wJhBXO+MJYC8TP+NYRmXljcA5McN2qhYUP+h84wkD6jsG3H2/ zKiZBsfuRvi5VeMQmVHLTbTUg8rKDsLQqbiY5fkyo35a4RwuYZTPzlWOXyYz6vQYLXsR/q6qTTY2 AjNlRpXdzIxmq09RfXVzmcyo/4rRMh+4pdoYwjjuA2VGratwjuMIXTnVOHqIb2WRr/6mCQ4qButz v358nr7v+a/GnGMovaXX+e0/T9ah4eVroN452g1vxHWYGd4fAIfXa3gBZEbdAHzcYOjuwLH1Ps8Y Im7m+4Kp4Y04mc0NL8Ayw2PjZr0v0/xNyfcTb3h/UsnwAkR+5e/HnMPET/5p4ld5n6lkeCMtzxE/ 46+qJYoguiLmHADpSoY30nIb8asWv+wLXuSr5xfn5NuAb9797GWLXt5wrz5q1+8Lz4nPG1jb8xi/ /efJwbrep4rABYv8zZYroxaVladg5qe7BbiwETNRmVFXR6m6x8QMPQnDpWY9RJtVewPTCFNKnzLd 0GmClgShz3EnwlXBc8BzMqN6qhwzCdgz5tTGxi7SMDiWtUS4UjEh7nt0WzNXMtGsN+7C3ku4/xDH ypjH36SycprMqJcraNkLeG/MOZ7ALAIiTkvcBfg04l0ft8qM+qOBlqcJv6cVtVS82izyVRG4aHFO 3vPk2p9977VHHnfO2P/BqiFVa3seZ9nDc1Sgeldp1EmLfPWQgcgRT5Ru+VmDofcB5zb4h/MN4o3v icCiagNUVp5GuOtbiTtkRv1m0DHHAp+Ljhu4SlqrsvLnwCdlRr04YPzFhKmVlcjLjPp8NZ0VtO9E uMFzDmHA+pAVm8rKBwhT3G+WGfXCoIdnE+++MTK+0ezoasKL0UBukRn1vMHxEwjTxqsxrJoMBiyk +ucE8AOT1wOYjNmBcDZfjsuJD9W8yrBgTZyW7VVWiioRLZ8xeI6vGIwx0bJDbGjEIl8tXZxzznCd VKzzt9ObQUn1CFCLtxTDG/Euwt3yahSAs5oQefC/hEH7+wy4TwEvAM9Et2dVVk6I2VX+KNV3YTfN GiL/2Y3AkRXGTia8ILx/wDEu8GXCuhSVuJOwXoARUQGT7xLO7OPCjw6Kbl9WWXkZ8M0BP7KGxB6r rPSBLxEWmRnIRsINUhOOoXo8bYnwM28m7495XANXGZ7LpOhT2egdlZVbA1X9wYSbbD9okBZJuAk4 xGWgsvItxM96/yQzyjRMMk7LVrHGd3FOJgTyyJ0mzYtNJEi6WzFj/Fz90obl8wjzsbcUTNIlr5IZ 1fBiMTKjtMrKDGGe/TPAs4TLbOOSk1F1qriLxz3R2H0If/w7xoz/2iAN+1Pd8IJ5DCwqK48nXMZP Mz0mIkG4RD1GZeV8mVEbGKbxjVY+/wD2rTDkkzKj/m2oL87lcKfMqNejug9zCDeztiUsO/oicI/M qH8ZPtcQVFYewtBZ+2DukBkVtyHYj8keSKXQyTOJDy37kcyo3gZrKeevvcDg2Dj/9kAmx+kwCQo+ QqPG7Thp6Mr39Y1PMmnc5vUi3jRpnnxxw91HLM7J1CK/LSFFDUVl5cHAwTHD1hK6B5qCzKg7CWeN 9XIA1b/kG4G/q6ycRWh4p8Scbw1hOM5AGpbZprLyEoaf5TQP+EHkbonT9pTMqFerPL4XlQ3vYplR Rp99ZMTjWm+VVFbeBryTCptQKiv/RZh+++1qvu4KmBiZm2s4X9x3BSoXMxoRWlRWpgirEFajAPyi Bi1T43SYZJIc68nxwfTUG9/fDX2r+PVj89RND+2p73zmUkoDPv8dJ80DtEvlJetowyS98No2FYox Jc74PEBYDPoXmH2BrykTq9uopf1pwNcMzmXCuwnjUONm8XG6yrlrNgALZUYZZ3AR7rbH1U54B+GF o9rEaA9C3+M/VVYapyirrEwSH9dbxDxqA+KNDISGa7CWNxOW56zGvwzjcoelhbAk7viY434draIa paUQa3wFzvE7TjpGShF6HR57eSk/emif4Ll1fyiAvvnBF76hf/z3/UrPrw8nZtNTs0g6WwVsAeFP 0eaKSRlHU59Uu4gL91lB6OOttjvbTx64po7nWBO3lI2WxDcQvzlWC1U3IiPi3CEDje/jwBeBXWRG DZ79x3FCjePj2AH4jcpKk9cI4YRoUsyYu2NWAYMxMXjlVsCnGBxX68ZjM7X8Jn5ITVryVY3v4pzc RhPst+OkY0S+bzW/efwE9aeVF1JU+d9r1D6LfHUOcOj63mee/Pmjb9V3/Ps/CHQvO06a50jhNvqL 1g4OIr7uwj0yM+LTpeNmpW/HvMhLdvCPU2VlJ/GbFVU3KqLwpx8zNHa2HKsI4zFPISyOfjkwnE4K cbOrGwlrMWwvM2pvmVGfkpm64tabkVLsAN+J6s3GYdJt/A81Pn/cqgLCVcKI1BLth7zT4DiT8LL+ c3YQv4LcEOfzPQagUHyBmx/aJyipQgH48CI/WNo/YJGvli/OyQOBzzz04rf+8+nXfqm3n3iUq3Rp 18U5ufMiXz1tKnoEMnhXuxxxmSxtJfJnVfJX9lPucQ3cRViHYSXhUvfNlPfFziQ+XChudvkJwnTp OL4IfG5QVMmfgS9FvuKrDLQMJCCmsLvMqLtqOF9ZVFZuT/zewXDIqqx8KKaFTjMM3gEGYwam4KKy cjLxReRLmKdq97tU9ooZ9mqZzbvDiU8lfsQw7K6f/YiPzlkVZ3yPBbhn1WcB8b+gM4v8oa05Fvmq F7h8cU7+dH3vMzc8+nL3fgOO/97g8aMIk0r4f266iuExi9rrNv+JsA2LaQGc4UYT7IZZNt+HZUaV c3kAIDPqGyorVxKWRzTl0RbVmqhnJagxd8F0EvqBy86uow4Vu8ecYwO1RaR4xF/Y+wgjdAbyNgwu 1jX6WPclPkuunNvL5DduPOuNODB+CE9WFLs4JwWIYwRynSb40CI/uCHubIt8df/inJwJXAbi06BH u/GNu6qXCFuuGKOy8juY+SFNuVRmVLXIABPD2I8mNHDViqXU+xzVlvafIz7k6MfVDG8/MqN+obLy N5gv8Y2NzTAx0bOBcP/gJ4SFdfKEs6hjCcMd40L5TlBZeYDMlI2xN/mMHqwxc3Fv4msAryyTdNSM sqNGBq/MfSbpz7VqMVkNPFHtSnEg6Ls1wcJFvvmUO8qM+/zinPw5cM3inPSi+0YVUSZSXKm9p2uI QeynFmNoQpzxMH0+BXTJjFpah4a4L/BzlZZtUT3Z02KOf5naLlgfA47DzP3Q9MLuUXp2nAvrd4TR E4NniSsIe6P9irBTcFw9hrOAcsbXxMjUWurTxMiUi30fSVpMfh+1ajG5EDxebTn61CJfnVSL4R3I Il/9g7CD54hsd2OASeuRmpIqopoAJh+MKbH+Ssz7cX22HsMbZSnFtT6vZuAWED97urqWzs0yox6j SkeKQbSiq8YuhBuC9xBW3hoclngtYXnCioV9Il/uZw2e6y0V7o8L64LmGJlys8YRoUVl5S7EJ2b0 Yt4Wqh+TC8G91Wo7VKzaY8oiX5UIl+ajEZNeVrXWWz2QxrZqeVhmVLm4RWDTrNKkA+0TQO3l60Kq 1Yvop5qBS8ccuwb4jrmcTfyTzVOyy9FL+VliQ4mqcR038L4oHXtrYKsaomWuJ6w/sH2VMbNVVjpl aiHsanD+Bwx19GOygbhZWUyVlVsRn/3VBzxiKiJKXonL4IShq0ST9+QftbhiIoMe1wzhGZlRL9bc 12gMERd0DeVjBqvRapeDiWEE+Egd7pN+6m6tE9WQiNuh/lmdG2ImKbgP1JKm3UiiH/RL0c34GJWV D1Ld+CYIw5w2nTeKV4+L4S5SW983Dzg0Zphm6IXXpBvxwzV+Lm8mfgb7VJnwQBMttc7A44omQXRB Gq0ugVZg0ia63ca3EW3OV8qMGk64XNxr0lTesIj78QJUrCcbQ8UVwQDa1chzOJTbNBrM4AD/bYhf cT1SY1GoOUBcjdl/lHEXNcPgvd1gTLk48GZoOdJgzF/AGt9qmJSFrPX9tp2AEgAAGOpJREFUG4mb bbXkztfzHP+qknp9WMyxAfUnT8RtTMHoNL4mM+XBiSomxYlMC+n0c6TBmHJZYSbuvGZoKZct14z3 xeRC8D9g1m1zrFKp/uhAjLvPRn6pX2Kepngy1X2WJu3BTYzvTYZ6hhC5DeKMXLULRJyf7tE6Csf0 s6Ua3zh/KYQV0AZi4kIzdn9EmMTHljN48R0ZatASuVTeFjOsSBgpMpiGvi8qK3clPlHokf4Gutb4 VsbE+JqUsAPC0pCEabBGqKyMK6B+f7WNgKgAeVxq9D+qtWYxYLjxvXEzj4dr0DKYuGiVdcBjwzh/ uzCpXzDYt9log7c18QbvVcrHwDf6QvAW4lN5/1Kh7Y+JFhM70M+7DMZsuiBZt0NlTN70pqSLRnGh +8UMa0Sbc+P0zQrUvdkWYVK6smaiGUhcNteKKh0NRjJx34vnyrh54hJYoDaDdzLxE7dlFbpPmGip xeDFxYhDWDOkHI1+X0y0/Kj/f+zMtzImb/peKisn1xKDashBVO/CCvH+XhPD+FczORWJM/Alqocv xa0c6i3TeVz8kNa4HKLY7unRbcagf39cQ2eE/ovy/jHDym0QmYSNNtrgXV/hfhMtRgYvcuW9O2ZY gTBjsB4tr5lGXUS1O+LqVTw4MGXfGt8KyIxaH4X1VAveFoRfxFpLC8bRiNq4Jueo2/hGX/y4ULa/ y4zaWOX4uAuMyeZMOU42GNPUtGKVlTsTGsJq+wL3UVvq6onEv2e/L3PfYB9wOUyNzI7El4v9R5U6 vA3TQlgoKC4LdVmV9lpxWmoJd+sivg7HZhck63aozu8MxsT1w6qHOKO2liq7sJFhi8siWikzQ4sk 1cCexNeGrWjgoiV/XJ+ruMy5IaisPIj4hqPQ/Jnva8RvyJqEOg3kwwZjfllBSxwmG5QAHyR+0lZt MtJILSbdlYejZWoUz1yVaHUTl/5eAH448A5rfKtjYnxnqqw0+VHUQtys9d4Yf+XexJfJa7bLAeIN XJxbYQ9DLQP5lMGYl2RGPVPHuY2RGfUa8TOnnU3Pp7JyPpVTh/v5a4XX9Rzxcc9xM8j+7LRMzLDV VDd4Jin5JlpmEl8v449RC656tQjiuzwDnE/85vZ/y4zabA/DGt/q3InZlfqrKiuHXTxeZeUeUdWz uJ36RsT31lSNrc7niDO+cXVDtlNZaeK/BUBl5aHE+wChdSFmcZEkx0V1aKsSRa5ca/B8ZavbRRtf ce6NmQbn/xrxoW5figkPfJT4FU9VLSorHeC6mHNA/IV4eczjJlqmE3btrsZ6yqTvW+NbhcjZ/hWD oUngVyorP6uy0iR8ZRMqK7dWWXmBysrfEl6JFxHvO2qEv3e4BihuQ69AfKiYiYb/imI5qxLVBP4l ZvVvW1VGslxs6UB2Ima5GsVS/5n4yJBHgF9VeTzO0MxTWVkxQkRl5ZnAhTHneJqY/Y+ovGTc574w 5qL0FeLdar+WGRU3wfgn8ZOriqvaaAN0KfGfzdfKtWayxjeebxG2bI9DEra2eVpl5ddVVp6ssnKH qMUOKiuTKitnqKzcV2XlmSorr1ZZ+RfCduDXE+7QmxbOHm6kw7AKyhi2or+vQqjRQExm3/sDi6v9 GKN297/DvM18q2a+Jm6rr5RzW6msdFRWngc8iFkBmA+WqZs7kLgC8xK4VmXlEHeVysrLMUvGyRim KMdpmQFcPfiiG/2GbgI+GnP8ekLfdFUi112clqNUVg4p/qSycgZwO/GRNY9SYQIntB5+qGN3LvU+ INvl501SckcdKivPZpCzvEYCamttU41VMqMqFkmJnP/rqB7DmJMZVa4jrxEqKw8mvpTlN2RG/UfM eaYTdjkwqfR2H2Gd3pzMqA3RD3MP4CLgA9QWuTOtzh5sNRFtfD5IfHgYhNmK9xC+HzsS9tQz3Xi6 QWbU+QZ67if+ovk4Ycr544Szy3dg5pK4TmbU+wzGERn41cQnf9xBaBxfJGz3cyxmF6L3yYwycUug snIOZiuhWwkjSRRh8Zxjib/YB8DhMqPKrjqGHWrWnUsJjf4iYcGPWvs/jRZuJgxfOr3O4xtleCH+ i3IA8cHjzXY5gMEXWmbUSyorf0pYADyOmYTtXFTUKmg7zJptDubpVhheCGdWKis/D9xiMHw/4hMo yvEPzAvNf5vK8bf97AVcWaOGR4mfjW5CZtQ6lZVLCS+c1TgiutXCL00Nb6TlHpWVdxFf5Ok90a0W PlfJ8EJj3A5vV6gk6I814Fwjkmh5ci7tv7j8Hbg6ZoyJv3e4Ps9G+pS/RjhDMEUShqDVY3ihdf7e fn5K7W3HTVkFnFpDyc2lNP47/BxwbJVY2kp8Evh3g7X8DTizjuPSQNl49GGwRGbU56oNGLbx1aiP BRTHa3hzdy5lUoZxVBL5sk6l9n5OjeAZwnCWg2RG/S1m7EjYbFsjM8qk9CEyo+4DPj9MPf28QPk2 5QNpaTGd6MJ9DuadNUx5AjhCZpRx1a1IywLCuguN4GVgXrUOHFW0rAPOo3HNFh4CTqynEJPMqEcw a+Bqyq0YxP8Py/h251LjNeyv0QSUpmr0ucM530gn6qb6dlrXFPQB4EPAnjKjbojZUOknzjCuo8b2 RwOJNhDjOtbWauC+QG0dh8txP6F/sjNmXMsrmUW1Fo4m9P82gmWALzPq6Tq0rCL0WdbahWUw9wGz ZUbVXfxIZtRfCIvRmNRersathL7VutP8o+asHyOsP10vGvgicLrBZvPwjK9GnxVQmgKgCJKgm5Ht NaKQGbVBZtT7CbOomtGC5mXgm4Sz3INlRv23aZeJKMwtrnXOCkMjXomZxPuwazJw0Rf1NOprF6QI Yz6PINwAqfadVoQNKVtOlPxwOMOrn/wv4L0yo04fpqF5hNDHWS0BoRJF4BrCWfewE1VkRv0PYXlK o5XSIF4HLgXm19hmvpKWq4GzCTNIa+UZQhfQp0x/X8N0O+iLFMGmdtYKPb07lzLZjRz1yIz6vcyo A4G5wBJqr4faT4lwFnEV4Q7q9jKjLpEZVc8saSbxn+mI2GwbjMwoJTPqg4RZXHGuFQgN6R+BOTKj 3hf1sotLy360ET/SepEZlZcZdTbhe/g7zHzdCvgT4Z7DPjKjKhWJqVXLczKjjojO+5TBIT2EFbn2 lRn14WHUWS6nZTlhK6DLGVoOsxxrCBNKdpMZ9fVGVqeTGfUjwiia72I2I3+G8AKwp8yocqndFak7 1Kw7l9pZEdxVpG9T+p1A4uH9d9rv+VBdJx3lRMVUfMJiPFMJc/u3IgypKRD6I18h3Ch5lnADrWLx mbFMFPB/EmGY1gzC2qsvEYYd3Q/8RmbUi+1TOHxUVk4mdJUcShhW1p+iuoZwM2o5YcrwCy3QcjBh 4Z5deaPt0GpC98QdwJ8aaXCr6HAI3SLHEIbcbUN4kVpF+J78EbjLZFnfAC2dhBOitxJG18wgjCFe RThT/53MqL/Xe/66je+SXOdVJfr+Q6E2m2l5JP8tkbt0+fnRWCvVYrFYWsIQ49udS+2k0acAW4Oe TDhzm0TYUHIC4YaGp2Fakd4h9Vgd3HUOzhpC31AfYZPJDdFtHfA6iLUCkevy879u4muzWCyWEcuQ JIsuP//MklzntqAvLlLsAB1t/5lNZANKEwNKQ1IURZQ56+D2SZzHCAO+LRaLZUxS0e2wJNd5gkZf V6Rvu+FFX7yBi7dG4vxSIBZ2+flGxfdZLBbLqKOqz7c7l9pFo35bpLi7Rg0rFdkj+aJAXJ72C93D OY/FYrFsCVQNS+ry8ysFcqaH93sH16T30hAEQidIPi0Qx1nDO7bozqVMGhRaLGOS2DjfLj/fk/Z7 jndwr3JJ1NJkD4lT8EjcK5Cz036hXGM/yxaMRn+8O5eKK75tsYxJjJMs0n7hCxJ5pkfSyABLnKKL 9xuBPLTLzzcql9wySujOpQTwEY3uarcWi2UkUlOGm0CsAG3U0VOjPdCru/x804OhLSOSIxWBBH1B u4VYLCORmoyvRr9TERgtIzUKwmIiljGIRn08oDRZoaZ151JxhXgsljFHjbUd9NkByriOqkZP7s6l 4tpnW7YwunOpCQOq3U3TqC221rPFUi81znw5YHDMr0CqBMmXXbwhjegCgskafcwwNVpGGRp9dn+1 Ox0m6RzVnUsNu2uKxbIlYWx8u3Op3TRqs1qpLt4aj8TvBHJvibPQI7laIDdZZ4XqAH12IwVbRgN6 0ebV7oLJGn18OxVZLCMNY+Or0Scrgmmwaba7SuJk0n7hhC4/vybtF5ZJ5H4e3u/emAVrdH19qSyj lPAirTdrLBhQmrAlt5myWOqhBreDPk2hHBdvrYf3W4HcP+0XfjZwRJefX5v2e46XOBckSK4SSKVR qe5caq9GC7eMTDT6IwGlGWXu37U7l9ohCkGzWMY8RiUlu3MpV6NfBb0exEVpvxBbNLg7l5qkUTdo OEYgrkz7hbK96y2jg+5cahuN/iroXQlr6yYAR4ddLVzCfx2NTpboG1LtTiCLLl5/vLcirNEaiOhf wgp46wXyh11+fnErXpPF0k5MN0EOAW4TyPd1+fnXTQ6Ixp2yJNd5AjC/XoGWkUGXn39hSa7zOuCW In3b6hqLLWmUV6R3m0qPu3ivS5zfE3YFsVi2eExnvh1dfr7uKvbDPd4ycujOpbbVqNtKlPYO+/YN H4/EywL55bRf+EYjzmexjAbq7mRhGbt051KeRt2oUMeWKNYdxy0QeCRWg3hv2i/8tZEaLZaRjjW+ lrpZkutcpFGfLdI3LX705kicXhfvCYGY1+Xnh9vG3GIZdVjjaxkWS3Kdc0DfWqRvB402imRw8F5z cP5PIN7b5edt81DLmMQaX8uw6c6lpmr0Y31snBI3VuJoF29J2i8sbIU2i2WkUmNtB4ulLEVtWO1O oQTo7ZotyGIZ6Ywq47vsLmFc1MfSOqJqd5OMR9usR4tldBnfdW7qy9et2NrwR25pHfpsRVBDtTuV 6s6lrAG2jGlGjfG95gmRRKuMU9q4oN1aLEM4eHDShYNTSDDuCY/k84LN9+EUwRSNtok3ljHNqDG+ na91nBpQAqHf124tljfozqV2VegBs16BR/JlB+8bArG3RM7xSN7l4G7KjIz8vqe0Q6/FMlIYNcYX zSUBQafSesp1Kybu3W45lpCo2t1U6J/tJh6RyLel/cKnuvx80OXnV6X9wmEO7scHzoI1TOvOpVJt FW+xtJFRYXyX3jN+G631ThqNksE0WSx+pN2aLP3o+RrleCRfcvC+LpAHdPn5RwePSvuF6yRylkfy DgdvnSLYSqOPaodii2UkMCqMb0nr95V0aRpAoAOBFCcuWyacdusa63TnUg6IAzwSD0ez3U9Xa5ja 5eefT/uFtzg4lzi4JdDntVKvxTKSGBXGF63PUSLYZGwVpfHrd+m07YnazwHAlwTywC4//5jpQWm/ cL1A7AnimSZqs1hGNCM+w+37d6dmFmXwvyX6pvbfFxZkSf4p7Rfe0U5to40bHxKpcw/Q+XbrsFgs I3jmeyVC3rR8ysRA6v8MKE0d+JhGo4XeZ+ndHTvbxAszlizv3KGvp+Oz7dZhsVhC2jbz/f49nTsq +AaaXbXQnla4AlwEDgJHayI3g+ooUhzSGUHi9Dq4rwD9UaRKQ4AgELq/S4LoE0J858I5+WzLXtgI 5bpc6osSLpr078KU+fN1Rb+sxWJpDW1r533BnMKzS5d3Xh0Ibinq4g5aqDci8Q2uB4ogqQi2H/JA dKyrvTVCODevnlPobpTm0YxEnxlQEpGv/LZ267FYxjptdTssmFu4W2s5JyESD0jchpQWFAiSIvmC g3NRxi986Aq0asR5RzPd93b6SqgJimCiVraLsMUyEmi7zzc9d8OLgeyZ6+De6mhv7XDOJYVUCZIr pXLf0TW38ONGaRztqBKXBro0VYfe8j1tfQyLpf203fgCLJylixm/cI4r3E8kSL4ItXcXd4RbcHXi 7sAZd/AFc9c/0gSZo5Jlj4iEkPowTbgACAimyeLG89ssy2IZ84wI49tPl5//nqflCQmd/LcU0ngn 0MNb4+F+f5Xf85aFs9YYdVceK7y2ruNdA8s9BpQSQupMOzVZLJYRZnwBzp+bX5EQ7ixXJ14xGe8I Vwnc7144p/BB698dihBcHBBMGHhfgJ66dPm4PdqlyWKxtDHaoRpKKE9rXTIaq5V00W9utqbRxtLb xbggmdxBSbHT4HKPitKMokj+53f/NuGTMrlhw8JZutAmmRbLmGVkGl+tT1AEsf3AADQKLTi42Zqq 0Z1LOdVqGjTnOTs/qOF8tE5pwthoNI4QOBpcOschQChRnDI4dE+hhKR0qnTFPBmMY8k9HQJNgEYh CDQEArTQ8jGNWJieu+HFVr42i2UsMOLcDgAKdZYiSAy+f3BR7n60VuOuv3fiXk0XVgGNviIsMtM6 niv0fFfDo0qobYqid88ivbsVRe/OffTuWKR32yK92/bRu43Syit3fIni1iX6tu+jd/s+3btdH707 9oneN/XRu2ugS7sKgXAIPmoNr8XSHEag8RVCCPYY2hnBW+eRfCChk6vlINkBwTSlS6e2UmU/3blU B/AxjZ7Xyue94khdyviF8xzcjydIvlTpwlQrjnY3OML7S29+48wFczf+qyEntVgsQxhxxnfJ8s6Z Ja06+/+WSBIkn09I9+Npv3CwcuVsj8RfHbzNOyNo3tMOvRp9miIA2pO80OXnlwgp53kk/y2FrHvD UQAu3quOcK/N+D3vWHSk3tBAmRaLZRAjzvgKoedr1BQAB+91h8TfZFHOvmB2/nsAC2fln+/yC291 cT+aEMnVYUiaBvQ21zwhkq1XrD9cojhOwx7dudRWrX9+6Jqdv18E3kxHJ+5xcGvePBMIEiRfcAMn k/YLH4cRXurOYtkCGHHGV6NP1Gg8nVzlCPcTGb9w+IWH51cPHtfl55e4OLNcEn91cdcqgkmda1NH tFJrdy61nUZvDxBQmqrRC1r5/APpOvT1Nav9nsMcnBtc7a0xPU7iBB7JJx2t33rhoYWfN1OjxWJ5 gxFlfK+/c9oEELsnROLOpBJz03Py11Ybv2DOhhfScwpvc6T3UYmnlA7OapVWAI1eGFCaDhBuEOp0 K59/MFegVdrv+YAU7ncd7RpFX7h4r8pi6mDr37VYWsuIMr7K23CQUOKDXXMKR5x3aGGV6XFds/PX u0Ls7SBb3BlBn61QAzps6KnduVTboi76EVLvO7DzRzW0UIEr8xObrclisWzOiIrzTfs9fwX+Ws+x C+ZseAG4srGKKtOdS81SqM2MVkBphkReDHygVTrKoZU+cHC0SCWUVlOLjnMi8L3mqrJYLAMZUTPf 0YRGX9LvcnjjPoVGH9udS7Xtfb3+3ol7KXTZ7h6izMetCDyEfm/ThVksls0YUTPfkUB3LrWbRl8M ehtgQnQbD3iAq8EBHNCpcrPLgNIUcJ/O5joCQAlQhLcSkAcKIF4TiB91+fmfNFq/VqVTNMG0gfdJ JA6J5x3B8yVd2q1EaVOhHY1Gab3rlQhpa2NYLK3DGt9BdPn5J5fkOh8BzivSN9F0+d6PIpioCCr6 UF289RLnNuBnw5RaFi14T6Df8EM72l3n4j4UuOL0C2fln+9enrpQ4H6+JPq21YTdQxRBaod7O2Yz m1wzNFkslqFYt0MZ0n7hWhBHeSSeEYiGxbx6JF6UOJen/cIZXX6+2Kjz9nPNEyKJ1tuBjpJTxj3v Cu/SrrmFtyyclX8eoGtu/vogcA5O6MTtnnBfA9CoKWjmN1qPxWKpjDW+FUj7hRUCOcsjsULi9Azn XFGr+2cE8tS0X7imURoH07k2dYQiSLm461yduNMVcmaXn18yeNz7D1v/UtfcwlHgfDDBuFWA1rq1 6dEWy1jHGt8qdPn5VwTyEBfvZpf6WhxJZK9H4kGJnJv2C3c1WuNANMHpEtdz8C5Nzy0cEUWAVCQz p+emBO6BrvD+H0LscdPyKTbkzGJpEdb4xtDl54O0X0hLnEs8kjVV+HJwX3PxfimQc7r8fFVD2BAC +bwr5B7lZruVOM9f92p6Ts88R4kzekWPrYtssbQIoW0avzHdudR+CvXnIr1T48Y6uL0O7jfSfuET rdBmsVhGF3bmWxuvaww7bKCSVIi3tVgsFmt8a0CjT1IEsbPecKwCOLq5iiwWy2jFGt+a0GcoAuPY aI2e1J1LTW6mIovFMjqxxteQ7lxKath58P0Sp5Bg3CqXxKuDHwsIpmj0sS0RaLFYRhXW+JozS6FS b/wp8Ei85OJdIxA7S+SpCZJPS5y+/hEKNQ702a2XarFYRjo2vdgQjZ7f31FZ4vS4uCsF8vQuP/9w NOSv3bnUPi7uNRrnXUX6poaVE7DhWxaLZQh25muMngcaj+RLLt63BPKAAYYXgC4/vzHt92QE8sQE ySclTq9GdXbnUvu2S7XFYhmZWONrQHcuNQHE7h7JRyXy7Wm/8IkuP1+xU0TaLywXyH1d3G6JM1Gj 391KvRaLZeRjja8ZhwNfFoj9u/z8IyYHdPn5vrTfc1F07NZNVWexWEYd/x+uD+IMVUYUpwAAAABJ RU5ErkJggg== " id="image1212" x="141.95799" y="146.26675" style="fill:none;fill-opacity:1"/> +</svg>
\ No newline at end of file diff --git a/contexte/legal.tex b/contexte/legal.tex index 7f47af4..57b3333 100644 --- a/contexte/legal.tex +++ b/contexte/legal.tex @@ -1,13 +1,11 @@ -L'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil -du 13 juin 2024 -établissant des règles harmonisées concernant l’intelligence artificielle. Pour mieux comprendre les enjeux autour des différents scénarios d'attaques, outre la recherche inhérente au comportement sociétal humain à se dissimuler et à ne montrer que ce qu'il souhaite montrer, penchons-nous du côté de la législation, des droits et des obligations qui entourent nos données. \subsection{Protection des utilisateurs} +\label{sec:contexte-legal-util} L'article 8 de la Charte des droits fondamentaux de l'Union Européenne dispose que : \og \begin{enumerate} \item Toute personne a droit à la protection des données à caractère personnel la concernant. @@ -19,35 +17,68 @@ le droit d’accéder aux données collectées la concernant et d’en obtenir l \fg L'objet de cette section est de comprendre comment ce droit fondamental entre en conflit avec les attaques décrites dans ce rapport au travers de l'étude de textes légaux. -L'article 4 paragraphe 1 du Règlement Général sur la Protection des Données, le R.G.P.D., dispose que +L'article 4 paragraphe 1 du Règlement Général sur la Protection des Données, le RGPD, dispose que \og Une donnée à caractère personnel est toute information se rapportant à une personne physique identifiée ou identifiable \fg. Cette définition est importante dans le cadre des attaques de modèles car elle permet de rapidement identifier le cadre légal : -si nous pouvons rattacher l'inférence à une personne, il s'agit d'une donnée personnelle, elle doit donc être utilisée conformément au R.G.P.D. \cite{RGPD} +si nous pouvons rattacher l'inférence à une personne, il s'agit d'une donnée personnelle, elle doit donc être utilisée conformément au RGPD \cite{RGPD} et à la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés\cite{78-17}. On se place dans le cadre où la base de données ayant servi d'entraînement au modèle de machine learning contient des données personnelles et des données sensibles. On suppose aussi que l'utilisation de ces données pour l'entraînement du modèle est licite. -Dans nos travaux sur la fairness nous avons étudié plusieurs attaques sur les attributs sensibles tels que l'ethnie ou le genre. +Dans nos travaux sur l'équitée nous avons étudié plusieurs attaques sur les attributs sensibles tels que l'ethnie ou le genre. Nous nous sommes placés notamment dans le cadre où l'attribut sensible n'est pas utilisé dans l'entraînement du modèle, ce qui signifie que la personne ayant fourni la donnée n'a pas donné son accord pour l'utilisation de l'attribut sensible. -Nous avons montré que retrouver cet attribut sensible à partir du modèle est possible avec une grande précision, ce qui implique le traitement de cet attribut au sens de la définition de l'article 4 paragraphe 2 du R.G.P.D. le définissant comme: +Retrouver cet attribut sensible à partir du modèle est possible~\cite{malekzadeh2021honestbutcurious,Song2020Overlearning}. +Le traitement de cet attribut au sens de la définition de l'article 4 paragraphe 2 du RGPD est : \og toute opération ou tout ensemble d'opérations effectuées ou non à l'aide de procédés automatisés et appliquées à des données ou des ensembles de données à caractère personnel, telles que la collecte, l'enregistrement, l'organisation, la structuration, la conservation, l'adaptation ou la modification, l'extraction, la consultation, l'utilisation, la communication par transmission, la diffusion ou toute autre forme de mise à disposition, le rapprochement ou l'interconnexion, la limitation, l'effacement ou la destruction. \fg -L'article 9 paragraphe 1 du R.G.P.D. dispose que +L'article 9 paragraphe 1 du RGPD dispose que \og Le traitement des données à caractère personnel qui révèle l'origine raciale ou ethnique, les opinions politiques, les convictions religieuses ou philosophiques ou l'appartenance syndicale, ainsi que le traitement des données génétiques, des données biométriques aux fins d'identifier une personne physique de manière unique, des données concernant la santé ou des données concernant la vie sexuelle ou l'orientation sexuelle d'une personne physique sont interdits. \fg -Publier un modèle avec lequel il est possible de retrouver l'ethnie ou le genre est donc illégal, sauf exceptions. +Donc, publier un modèle avec lequel il est possible de retrouver l'ethnie ou le genre est donc illégal, sauf exceptions. -Même si l'attribut sensible ne rentrait pas dans le cadre de l'article 9 paragraphe 1 du R.G.P.D. le fait de pouvoir utiliser une attaque d'attribut constitue une violation des données personnelles au sens de l'article 4 paragraphe 12 du R.G.P.D. qui dispose qu'une violation des données personnelles est +Même si l'attribut sensible ne rentrait pas dans le cadre de l'article 9 paragraphe 1 du RGPD le fait de pouvoir utiliser une attaque d'attribut constitue une violation des données personnelles au sens de l'article 4 paragraphe 12 du RGPD qui dispose qu'une violation des données personnelles est \og une violation de la sécurité entraînant, de manière accidentelle ou illicite, la destruction, la perte, l'altération, la divulgation non autorisée de données à caractère personnel transmises, conservées ou traitées d'une autre manière, ou l'accès non autorisé à de telles données. \fg +\subsection{Discrimination} +\label{sec:contexte-legal-discrimination} +Les facteur de discrimination et les données personels ont une grande intersection, (ethnie, couleur de peau, coryance religieuses, etc). +Si un adversaire utilise une attaque d'attribut pour inférer un facteur de discrimination et l'utilise pour réaliser une décision conernant un utilisateur, ou si un facteur de discrimination est implicitement ou explicitement utilisé par un modèle, il est possible que cette situation tombe dans le cadre des loi sur les discriminations. +Sur le site de \url{servie-publique.fr} nous trouvons la définition suivante de discrimination. +\textquote{La discrimination est un délit interdit par la loi et puni d'une amende et/ou d'une peine d'emprisonnement inférieure à 10 ans qui consiste à traiter défavorablement une personne en s'appuyant sur un motif interdit par la loi}~\cite{servicepubdiscrimination}. +Les motifs interdit par la loi se comptent au nombre de 25 critères de discrimination qui nous listons en Annexe~\ref{anx:discri}. +Nous remarquons bien que ces critères sont ceux souvent classifier d'attribut sensible dans la litérature IA~\cite{Song2020Overlearning,malekzadeh2021honestbutcurious}. + +En France, la lutte contre les discrimination fait parti des fondements de notre république. +Le mot \textquote{égalité} est dans la dévise de la cinquième république comme en dispose l'article 2 de la Constitution du 3 Juin 1958. +L'Article permier de notre Constitution dispose que +\textquote{Elle [la France] assure l'égalité devant la loi de tous les citoyens sans distinction d'origine, de race ou de religion. Elle respecte toutes les croyances.}. +De plus, l'article +71 alinéa 1 de la Constitution met en place +la Défenseure des droits veille notament à défendre les personnes victimes de discimination~\cite{defenseure}. +Cette instance pousse aussi pour plus de responssabilisation des utilisateurs d'IA qui utilisent ces technologie sans considérer leur biais~\cite{defenseure2024lutter}. + +Donnons un cas concret : l'utilisation de l'IA pour automatiser le recrutement est de plus en plus courant~\cite{defenseur2015emploi}. +Si les logiciels utilisé présentent de facteur de discrimination ou collecte trop d'informations sur les candidats au recrutemnt, l'employeur est dans l'illégalité. +En effet, l'article L 1221 alinéa 6 du Code du travail dispose que les informations demandé +\textquote{doivent présenter un lien direct et nécessaire avec l'emploi proposé ou avec l'évaluation des aptitudes professionnelles}. +De plus l'article L 1132 alinée 1 dispose que \textquote{aucune personne ne peut être écartée d'une procédure de recrutement ou de nomination ou de l'accès à un stage ou à une période de formation en entreprise, aucun salarié ne peut être sanctionné, licencié ou faire l'objet d'une mesure discriminatoire, directe ou indirecte}. + +Comparativement à la loi française, aux Etats Unis d'Amérique, l'effet différencié\footnote{\textit{Disparate impact}} est une manière pratique de contrôler si une procédure crée un désavantage, une discrimination, contre une minoritée~\cite{biddle2006adverse}. +Cet effet différencie est une qunatité qui peut être calculé sur sur le modèle d'IA ou sur tout autre procédure qui réalise une séléction binaire comme l'admission dans une école, l'attribution et pret ou encore l'embauche. +C'est tout simplement la proportion d'admis de la minorité discriminé divisé par la majorité favorisé. +Nous en donnerons une définition plus formelle à la Section~\ref{sec:background-eq} +C'est dons une quantité qui varie entre 0 et 1 où 0 indique que personne dans la minorité n'est séléctioné et 1 indique que autant de personne de la majorité que de la minorité sont sélectione : c'est la parité. +Aux Etats Unis, si l'effet différencié est inférieur à $0,8$ cela constitu une preuve au regard de la loi qui fait jursiprudence que le système de selection fait preuce de discrimination. +En France nous n'avons pas de tel précédent ou un métrique précise est utilisé. + \subsection{Protection des bases de données} On considère dans cette section que le producteur de la base de données bénéficie d'une protection par le droit sui generis au sens de l'article L.341-1 du Code de la Propriété Intellectuelle qui dispose que \og Le producteur d'une base de données, entendu comme la personne qui prend l'initiative et le risque des investissements @@ -55,23 +86,22 @@ correspondants, bénéficie d'une protection du contenu de la base lorsque la constitution, la vérification ou la présentation de celui-ci atteste d'un investissement financier, matériel ou humain substantiel \fg. -On peut imaginer plusieurs cas où les attaques présentées dans mon stage peuvent porter atteinte aux droits du producteur de la base de données. -\begin{itemize} - \item Supposons que le producteur décide d'interdire \og l'extraction ou la réutilisation répétée et systématique de parties qualitativement ou quantitativement non substantielles du contenu de la base lorsque ces opérations excèdent manifestement les conditions d'utilisation normales de la base de données.\fg, +On peut imaginer plusieurs cas où les attaques présentées dans ce manuscrit peuvent porter atteinte aux droits du producteur de la base de données. + +Supposons que le producteur décide d'interdire \og l'extraction ou la réutilisation répétée et systématique de parties qualitativement ou quantitativement non substantielles du contenu de la base lorsque ces opérations excèdent manifestement les conditions d'utilisation normales de la base de données.\fg, comme le prévoit l'article L.342-2 du Code de la Propriété Intelectuelle. -Nous sommes alors en droit de penser qu'une inference attack représente l'extraction d'une partie de la base de données, en l'occurence une colonne de la base de données. +Nous sommes alors en droit de penser qu'une attaque de reconstruction représente l'extraction d'une partie de la base de données, en l'occurence une colonne de la base de données. De plus cette attaque excède les conditions d'utilisation car, dans ce cas, la condition d'utilisation normale est l'entraînement d'un modèle de machine learning. Ici, la personne menant l'attaque porte atteinte aux droits du producteur de la base de données. - \item Ici, c'est le fournisseur de solution de machine learning, exploitant la base de données, qui porte atteinte aux droits du producteur. +Considéreon maintenant que c'est le fournisseur de solution de machine learning, exploitant la base de données, qui porte atteinte aux droits du producteur. On se place dans le cas où le producteur interdit \og la réutilisation, par la mise à la disposition du public de la totalité ou d'une partie qualitativement ou quantitativement substantielle du contenu de la base, quelle qu'en soit la forme.\fg, conformément à l'article L.342-1 alinéa 2 du Code de la Propriété Intelectuelle. Dans le cas où le fournisseur de modèle de machine learning permet à ses clients (le public) de mener à bien des attributs inference attack, il met à disposition une partie de la base par sa négligence à utiliser une méthode d'apprentissage résistante à ce type d'attaque. -\end{itemize} Notons que l'article L.343-4 du Code de la Propriété Intellectuelle dispose qu'\og est puni de trois ans d'emprisonnement et de 300 000 euros d'amende le fait de porter atteinte aux droits du producteur d'une base de données tels que définis à l'article L. 342-1.\fg \subsection{Secret des affaires} -L'attaque property inference peut révéler des statistiques globales sur une entreprise ayant utilisé une base de données qu'elle tient secrète pour l'entraînement d'un modèle de machine learning ensuite publié. +L'attaque d'inférence de propriété peut révéler des statistiques globales sur une entreprise ayant utilisé une base de données qu'elle tient secrète pour l'entraînement d'un modèle de machine learning ensuite publié. Ces statistiques sont des informations qui : \begin{itemize} \item Ne sont pas connues ou aisément accessibles pour les personnes familières de ce type d'information. @@ -83,11 +113,56 @@ Au titre de l'article L.151-1 du Code de Commerce, ces statistiques sont protég De plus l'article L.151-4 alinéa 2 du Code de Commerce dispose que \og L'obtention d'un secret des affaires est illicite lorsqu'elle est réalisée sans le consentement de son détenteur légitime et qu'elle résulte [...] de tout autre comportement considéré, compte tenu des circonstances, comme déloyal et contraire aux usages en matière commerciale. \fg Ces articles datent de la loi n° 2018-670 du 30 juillet 2018 relative à la protection du secret des affaires. -Il n'y a pas de jurisprudence pour confirmer mais on peut raisonnablement penser qu'une attaque sur un modèle de machine learning peut être considérée comme déloyale et contraire aux usages en matière commerciale. +Il n'y a pas de jurisprudence pour confirmer mais on peut raisonnablement penser qu'une attaque sur un modèle d'IA peut être considérée comme déloyale et contraire aux usages en matière commerciale. Mais d'un autre côté, l'article L.151-3 alinéa 2 du Code de Commerce dispose que \og Constituent des modes d'obtention licite d'un secret des affaires l'observation, l'étude, le démontage ou le test d'un produit ou d'un objet qui a été mis à la disposition du public ou qui est de façon licite en possession de la personne qui obtient l'information, sauf stipulation contractuelle interdisant ou limitant l'obtention du secret. \fg On pourrait donc dire que l'attaque s'apparente à une observation ou une étude d'un produit qui a été mis à la disposition du public. Il faut donc attendre une jurisprudence en la matière pour savoir si cette attaque représente une atteinte au secret des affaires. -Quoi qu'il en soit, il est dans l'intérêt du producteur de la base de données de s'assurer que le fournisseur de solution machine learning sécurise convenablement ses modèles contre ce genre d'attaque. +Quoi qu'il en soit, il est dans l'intérêt du producteur de la base de données de s'assurer que le fournisseur de solution IA sécurise convenablement ses modèles contre ce genre d'attaque. +\subsection{Usage illicite de l'IA} +Comme nous l'avons vu à la Section~\ref{sec:contexte-insti} avec l'exemple de la Chine, l'IA peut-être utilisé pour des raisons qui vont à l'encontre des droits les plus fondamentaux. +Face à cette menace, +l'Union Européene a établie le règlement (UE) 2024/1689 du parlement européen et du conseil +du 13 juin 2024 +établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}. +Etant un réglement il est directement applicable en droit français. +Ce réglement a trois approches visant à limité une utilisation de l'IA qui serait contraire aux droit fondamentaux. + +La première approche consiste à résponsabiliser les fournisseur et les deployeurs de système d'IA quand au potentielles dérive avec l'Article 4. +De plus l'Article 50 dispose de l'obligation des frounisseur etdeployeurs de transparance, c'est à dire informer les utilisateurs qu'ils interagissent avec une IA. +Enfin de part leur nature générale et pouvant amener à la création d'IA mutliples, les fournisseurs de modèle de fondation\footnote{\textit{Fundation model}} comme ChatGPT ou Llama sont soumis à de plus grande obligations et responsabilités. + +La seconde approche très pragmatique consiste à interdire un certaine nombre de pratiques qui sont listé à l'Article 5. +Citons certaines qui sont en rapport avec ce manuscrit. +Le paragraphe 1 alinéa c point (i) dispose que +\textquote{ +Les pratiques en matière d’IA suivantes sont interdites:[...] +la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA pour l’évaluation ou la classification de +personnes physiques ou de groupes de personnes[...] +conduisant [au] +traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes de personnes dans des +contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l’origine +} +Ce qui, en plus de lois française sur les discriminations que nous avons cité plus haut, permet de clairment intérdire l'utilisation d'IA qui vont utiliser des critère de discrimination dans leur décision. +Ce point est particulièrement imporant pour ce manuscrit car nous allons déveloper aux Chapitres~\ref{sec:fini} et~\ref{sec:aia} une méthode d'audit des systèmes d'IA qui permet de savoir si un système utilise un critère de discrimination pour réaliser un prédiction. + +Citons aussi le paragraph 1 alinéa d qui dispose que sont intérdit les sytème d'IA +\textquote{visant à évaluer ou à prédire le risque qu’une personne physique commette une infraction pénale}. +C'est un point de divergence important avec la législation de Etats Unis qui utilise ce genre de système comme nous l'avons vus à la Section~\ref{sec:contexte-insti}. +Dans ce manuscrit nous avons utilisé des bases de donée Etats Unienne pour construir ce genre de système IA pour les étudier. +Bien que nos conclusions sur ces sytèmes ne pourront pas s'appliquer en Union Européenne vu qu'ils sont désormais intérdits, notre analyse théorique reste valable et applicable à d'autres systèmes. +Nous avons d'ailleur évalué nos solutions sur d'autres modèles n'impliquant pas la justice prédictive. + +La troisième approche consiste à classifier un certain nombre de pratique comme des \textquote{système d'IA à haut risques}. +Comme en dispose l'article 6, paragraphe 2 les système à haut risques sont par exemple des système qui concernent : +\begin{itemize} + \item Emploi, gestion de la main-d'œuvre et accès à l'emploi indépendant (Annexe III, paragraphe 4) + \item Accès et droit aux services privés essentiels et aux services publics et prestations sociales essentiels (Annexe III, paragraph 5) +\end{itemize} +Ce sont deux points pour lesquelles nous avons construit des système d'IA à titre illustratif dans ce manuscrit à la Section~\ref{sec:aia}. +Cette classification d'IA à haut risque impose des régles plus restrictive pour le déployement. +Par exemple l'Article 9, paragraph 1 dispose qu'un système de gestion des risques doit être établis. +L'Article 13 quand à lui impose un certain niveau d'exlicabilité du système. +Enfin nous atirons l'atention du.de la lecteur.rice sur l'Articel 15 qui met l'accent sur la sécurité de tel système forcant les fournisseurs de contrôler par exemple que leur système ne contient pas de porte dérobées. diff --git a/contexte/philo/anthro.tex b/contexte/philo/anthro.tex index 1cf6ba4..c6e39fd 100644 --- a/contexte/philo/anthro.tex +++ b/contexte/philo/anthro.tex @@ -1,6 +1,6 @@ -L'anthropomorphisation consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain. +L'antrhopomorphisme consiste à attribuer des caractéristiques humaines à ce qui n'est pas humain. Dans le contexte de l'IA et plus précisement de l'AGI, ce phénomène peut devenir courant. -L'anthropomorphisation des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies. +L'antrhopomorphisme des ordinateurs et d'ailleur déjà encré dans notre société depuis plusieur décénies. En effet, l'attribution d'un rôle sociale humain à un ordinateur était déjà présent avant l'introduction des logiciels IA~\cite{MARAKAS2000719} : le programme ecrit, copie, attrape un virus, etc. Une interaction avec quelquechose qui montre un semblant de comportement social nous renvoi a notre propre aliénation sociale au sens décrit par Jean Jaques Rousseau dans son \textit{Du contrat social}~\cite{rousseau1762contrat}. Cela nous pousse à considérer ce que l'on anthropomorphisme comme des personnes, des être huamins. @@ -64,7 +64,7 @@ Une nevrose en particulier est interessante dans le contexte d l'AGI, qui n'exis Pourquoi rester à parler avec un humain quand on est infiniement plus rapide et performant que lui ? Ainsi même si Samantha dit aimer Théodore, elle le quite achevant la phase de construction primordiale du moi qui consiste a identifier l'amour du père pour constuire son caractère en métant fin a son Eudipe~\cite{Freud2010-qq}. -Concernant la construction du caractère, le hasard et est élement important de l'anthropomorphisation, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative. +Concernant la construction du caractère, le hasard et est élement important de l'antrhopomorphisme, que ce soit dans la litérature d'anticipation où dans le téchnologie actuelles de l'IA générative. Asimov présente dans \textit{The Bicentennial Man} un robot qui, par le hasard inhérent à son fonctionnement, montre des caractéristique humaine comme l'empathie ou la créativitée. Ce hasard dans la création est aussi décrit au septième point de de la proposition de l'école d'été de Dartmouth~\cite{dartmouth}. Cela renforce le lien entre intuition scientifique et imaginaire créatif, artistique. @@ -108,7 +108,7 @@ Cependant le processus de création par le hasard peut-il être vraiement appara \label{fig:contexte-penses} \end{figure} -Enfin, l'anthropomorphisation peut présenter un risque dans la mesure où +Enfin, l'antrhopomorphisme peut présenter un risque dans la mesure où Marakas et al.~\cite{MARAKAS2000719} explique que cette confusion de l'humain et de la machine entraîne une sur évaluation de la capacité des ordinateurs et peut mener à utiliser à outrance la décision automatisé. C'est le cas avec les décisions juridiques~\cite{zhiyuan2020limits} ou scolaire~\cite{waters2014grade} où la vie d'être humain est décidé par des ordinateur. Cela donne lieu à de nombreux problème moraux qui forment les fondements de l'IA éthique nottamant autout de l'équitée, de la confidentialité et de l'explicabilité sur lesquels nos reviendrons à la Section~\ref{sec:contexte-enjeu}. diff --git a/contexte/strat.tex b/contexte/strat.tex index 830afb7..2f35d83 100644 --- a/contexte/strat.tex +++ b/contexte/strat.tex @@ -5,26 +5,120 @@ \centering \includegraphics[width=\linewidth]{contexte/figure/anr/prc.pdf} \caption{Proportion attribué à des projets IA} + \label{subfig:contexte-anr-prop} \end{subfigure} \begin{subfigure}{0.3\linewidth} \centering \includegraphics[width=\linewidth]{contexte/figure/anr/aide_ai.pdf} \caption{Financement total attibué à des projets IA} + \label{subfig:contexte-anr-fin} \end{subfigure} \begin{subfigure}{0.3\linewidth} \centering \includegraphics[width=\linewidth]{contexte/figure/anr/avg.pdf} \caption{Financement moyen des projets IA} + \label{subfig:contexte-anr-moy} \end{subfigure} \caption{Financement de la recherche en IA par Agence Nationale de la Recherche (ANR).} \label{fig:contexte-anr} \end{figure} -\subsection{Plance France 2023} -Dans le cadre du plan France 2030~\cite{france2030}, la France a dévelopé une stratégie nationale de l'IA~\cite{stratfr}. -Missions Villani. -PEPER IA. -AUtres appels. +Nous observons sur la Figure~\ref{fig:contexte-trend} que le recherche des termes \textquote{intelligence artificielle} en France sur le moteur de recherche Google à subit une grande augmentation depuis 2020. +Ainis, l'IA interesse de plus en plus le grand publique qui voit ces téchnologies investire leur téléphones portable, ordinateur, médias, etc. +Ce phénomène semble suivre en parallèle une très forte augmentation de l'investissement français en matière d'IA. +Pour mieux comprendre ce phénomène nous avons conduit une micro étude des financements accordés par l'Agence Nationate la Recherche (ANR), l'un des principaux bailleur en France. +L'ANR publi les appels a projets financé par la Direction des Opérations Scientifiques (DOS) de l'ANR depuis 2005. +Dans ces données, il y a entra autre, le montant du financement accordé, le titre en anglais et français ainsi que le résumé en anglais et en francais. +Le titre et le résumé constituent un court paragraph de texte donc chaque mots présent est normalement consciencieusement choisit. +Nous avons crée, en utilisant ChatGPT, une liste de mots clés en anglais et en français qui indique qu'un projet a une forte composante IA. +Nous présentons cette liste à l'Annexe~\ref{anx:mots}. +Pour tous les projets financé depuis 2005 nous avons cherché sir le titre ou le résumé contiens un ou plusieur mots de la list e. +Grâce à cela nous construisons la Figure~\ref{fig:contexte-anr} qui montre l'évolution du financement de l'IA au cours du temps. +Nous observons sur la Sous-figure~\ref{subfig:contexte-anr-moy} que en moyenne le financement d'un projet IA n'a pas évolué depuis 2005. +Cependant nous voyons sur la Sous-figure~\ref{subfig:contexte-anr-prop} que le nombre de projets IA a augmenté passant de 2\% du nombre total de projet à 15\%. +Nous observons la même augmentation la proportion d'argent accordé à l'IA. +Ainsi, en sommant par année les financements de tous les projets IA, nous observons sur la Sous-figure~\ref{subfig:contexte-anr-fin} une augmentation de 5 à 125 millions d'Euros. +Cette claire augmentation de l'investissement en IA en France n'est pas du au hasard mais à une stratégie duement établie. + +\subsection{Rapport Villani : Donner un sens à l'intelligence artificielle} +Le 8 septembre 2017 le Premier ministre Edouard Philippe confie au mathématicien et déupté de l'Essone Cedric Villani une mission parlémentaire : +fair un état des lieux des stratégies française et européenne autour de l'IA~\cite{villani2018donner}. +Ce rapport a permis la mise en place d'une stratégie d'investissement publique en France qui a pour but d'orienter la recherche vers la construction d'une IA aligné avec les valeurs de la république. +Cette stratégie se découpe en six parties : + +\paragraph{Une politique économique articulée autour de la donnée.} +La donnée est le pilié de l'IA car elle sert à construire les modèles. +Le rapport préconise de recensser les besoins en IA et de construire des politiques de recolte de donnée au niveau européen dans le cadre de la Réglementation Générale de la Protection des Données. +Cela inclu par exemple de limiter la fuite de données vers les grands acteur hors Union Européenne (UE) comme les GAFAM. +Pour éviter de séparpiller et de gâcher des ressource, le rapport préconsie de se concentrer sur quatre aspect niches où la France à déjà un avantage. +Ces quatres pilier son deveni capitaux de la politique d'investissement, il sagit de : +\begin{enumerate} + \item La santé + \item L'environnement + \item Les transports et la mobilité + \item La défense et la sécurité +\end{enumerate} + +\paragraph{Pour une recherche agile et diffusante.} +C'est tout d'abord éviter la fuite des cervaux en augmentant l'attractivité de établissement publique. +Par exemple en créeant des Instituts Interdisciplinaires d’Intelligence Artificielle (3IA). +Cela passe aussi par en renforcement des lien entres la recherche et l'industrie notament avec les transfert technologique et la valorisation. +Ce gadre dinamique ne peut être possible qu'avec des moyens pratique et pragmatique comme par exempe de dédier des supercalculateur à la recherche. +Nous reviendrons sur ce sujet à la Section~\label{sec:contexte-strat-infra}. + +\paragraph{Anticiper les impacts sur le travail, l’emploi et expérimenter.} +De part son interdisciplinarité, l'IA peut profondement modifier la manière dont nous invisageons le travail, un peu à la manière dont l'informatique ou avant la méchanisation ont profodément transformé notre société. +\label{sec:contexte-strat-infra} +Le rapport préconise une apporche législative visant à redéfinir le cadre du travail en France à l'heure ou beaucoup de tâches peu qualifé peuvent être automatisés. +C'est aussi en formant à tous les niveau à l'IA que ces technologie pourront être utilisé efficacement est sans casse sociale. + +\paragraph{L’intelligence artificielle au service d’une économie plus écologique.} +L'IA necessite une grande consomation d'énergie, il est donc necessaire d'investir massivement dans l'IA frugale et embarqué qui permet une utilisation réduite d'électricité. +De plus l'IA doit être mise au service de la transition écologique pour aider notament à prédire et comprendre le changement climatique. +Pour cela le rapport indque qu'il faut libérer la donée écologique qui contient les données : \textquote{ météorologiques, agricoles, de transports, +d’énergie, de biodiversité, de climat, +de déchets, cadastrales, de diagnostic +de performance énergétique}. + +\paragraph{Quelle éthique de l’IA ?} +Les utilisateur doivent avoir la possibilité de comprendre les décision que prennent les IA. +Pour cela il est necessaire d'investire plus dans le recherche en explicailité comme nous le verrons à la Section~\ref{sec:contexte-expl}. +De plus le rapport propose une consulation et un dialogue autour des questions de savoir pour quel type de tâche peut-on utiliser l'IA ? +Cette question à déjà été un partie explorée au niveau Européen avec +le règlement (UE) 2024/1689 du parlement européen et du conseil +du 13 juin 2024 +établissant des règles harmonisées concernant l’intelligence artificielle~\cite{aiact}. +Ce règlement à mis en place un liste de tâche dite \textquote{Inacceptables} et \textquote{à haut risque}. +Nous y reviendrons à la Seciont~\ref{sec:contexte-legal-util}. + +\paragraph{Pour une IA inclusive et diverse.} +Pour que l'IA profite à toutes et tous il est necessaite déjà de palier l'écart historique de chois d'étude scientifiqeus entre homme et femme. +Il s'agit aussi de favoriser la mixité sociale dans la recherche et l'industrie en IA. +Cela passe par la médiation scientifique et à une reflexion quand à l'utilisation de l'IA dans le secteur sociale (autre que la santé qui est déjà bien loti). + +\subsection{Plance France 2030} +Le plan France 2030 est un plan d'investissement du gouvernement d'Emannuel Macron de 54 milliards d'Euros~\cite{france2030} ayant pour but de ratraper le retard industriel de la France. +L'IA touchant à plusieur aspect industriels à une part important dans ce plan. +Ce plan est divisé en deux phases~\cite{2030phase}. +La première phase de 2018 à 2022 a pour but de \textquote{Doter la France de capacités de recherche compétitives}. +Avec nottamant la mise en place des (3IA) et du supercalculateur Jean Zay~\cite{jeanzay}. + +La seconde phase de 2021 à 2025 à pour but de \textquote{Diffuser des technologies d’intelligence artificielle au sein de l’économie}. +Nous pouvons citer par exemple le programme \textit{IA Booster}~\cite{iabooster} qui propose en accompagnement aux PME\footnote{Petites et Moyennes Entreprises} pour les aider à intégrer l'IA à leur produits et leur solutions. +Concernant l'IA générative il y l'appel \textit{ +Accélérer l’usage de l’intelligence artificielle générative dans l’économie}~\cite{2030generatif}. +Cet appel à pour but de le dévelopement d'outils de A à Z et met l'accent les different enjeux de l'IA avec des exigence environementale et d'équitée par exemple. +De part son aspect interdisiplinaire, l'IA est aussi présent dans d'autres domaine comme dans la santé par exemple avec l'appel \textit{Data Challenges en santé}~\cite{2030sante}. +Les compétitions donnée\footnote{Data challenge} font partis de la culture de la recherche en informatique et notament en apprentissage automatique comme avec la plateform Kaggle~\cite{kaggle}. +Cet appel à projet à pour but d'encourager la création de compétitions sur les donnée médicales. + +Pour généraliser, concernant l'IA, France 2030 a pour but la souveraineté numérique. +C'est-à dire de réduire la dépendance des institutions française aux services étrangers et notament des GAFAM aux Etats Unis. +Il s'agit d'un aspect fondamentale de la LOI n° 2016-1321 du 7 octobre 2016 pour une République numérique~\cite{loinumerique}. + +Pour coordoner ces investissements en matière d'IA, le directeur général des entreprises du ministère de l’économie et des finances, et en lien avec le secrétariat général pour l’investissement on nomé un coordinateur national pour l’intelligence artificielle. +\textquote{Il aura pour mission la coordination interministérielle de la stratégie nationale en intelligence artificielle}~\cite{coordinateur}. +Ce coordinateur est un exemple d'une réalisation pratique d'une recommendation du rapport Villanni\footnote{Cf. page 63 du rapport Villani}. \begin{figure} \centering @@ -33,6 +127,22 @@ AUtres appels. Les données ont été exportées grâce à Google Trend~\cite{gtrend}.} \label{fig:contexte-trend} \end{figure} +%\subsection{Attentes de l'IA} +%OMS rapport santé~\cite{oms}. + +\subsection{Infrastructures} +\label{sec:contexte-strat-infra} +Le dévelopement de l'IA demande des puissacne de calcul considérable pour faire fonctione les algorithem d'apprantissage automatique. +Par exemple le modèle Llama2 à necessité 3.311.616 GPUheure d'entraînement~\cite{touvron2023llama} ce qui signife qu'il faudrait 378 and à un individu ayant une seul carte graphique\footnote{Graphical Processing Unit} (GPU). +Pour que la France puisse réaliser ses objectif ambitieux en maitère d'IA il est donc necessaire de construire des supercalculateurs permettant de mutualiser entre les différents acteurs. +Nous avons donné l'exemple du supercalculateru Jean Zay~\cite{jeanzay} qui à été construit en parti dans cette optique. +\begin{figure} + \centering + \includegraphics[width=0.4\linewidth]{contexte/figure/g5k-backbone.pdf} + \caption{Grid5000 : une infrastructure de calcul scientifique distribuée. Source : \url{www.grid5000.fr/w/File:G5k-backbone.png}} + \label{fig:contexte-g5k} +\end{figure} -\subsection{Attentes de l'IA} -OMS rapport santé~\cite{oms}. +Dans ce manuscrit les calculs ont été réalisé sur une autre infrastructure : Grid5000 (G5K)~\cite{g5k}. +Il s'agit d'une grille de calcul mettant à disposition des centres de recherche français différent type de machine : des GPU, des CPU, des ordinateurs complets\footnote{Bare metal} ce qui permet un très large éventaille d'experiences. +Comme nous pouvons le voir sur la Figure~\ref{fig:contexte-g5k} l'aspect distribué de G5K permet de réaliser des experiences implique des système distribué comme par exemple l'apprentissage fédéré\footnote{Federated learning}. |
