[nom]

Alors que l'IA offre des opportunités pour le développement, elle soulève aussi des défis éthiques, juridiques et sociaux. Au Maroc, le cadre juridique est en pleine évolution pour répondre à ces enjeux.

Amine Haounani, doctorant en sciences juridiques, Faculté des sciences juridiques et politiques, Université Hassan Premier, Settat/

Maroc. Article original publié dans la Revue Internationale de la Recherche Scientifique (Revue-IRS) en juin 2024.

L’INTELLIGENCE ARTIFICIELLE

AU MAROC : ENTRE ÉTHIQUE

ET RÉGLEMENTATION

L ’intelligence artificielle (IA) et les · (n°09-08 et n°05-20) qui imposent des

technologies connexes offrent d’im- · obligations strictes aux entreprises et

portantes opportunités pour le Ma- · institutions. La Commission nationale

roc, notamment dans des secteurs clés · de contrôle de protection des données

comme l’agriculture, la santé et l’édu- · à caractère personnel (CNDP) assure la

cation. Cependant, elles soulèvent des · supervision de ces normes, mais des dé-

défis éthiques, juridiques et sociaux, · fis persistent en matière de transparence

notamment en ce qui concerne la pro- · algorithmique et de respect des droits

tection des données personnelles, la · des citoyens. Un renforcement du cadre

transparence des algorithmes et la res- · législatif est nécessaire pour garantir des

ponsabilité en cas de dysfonctionne- · explications transparentes et éviter les

ments. En l'absence d’un cadre normatif · discriminations.

spécifique, une réglementation stricte · Le Maroc pourrait s’inspirer des

est nécessaire pour prévenir les pra- · meilleures pratiques internationales,

tiques intrusives et discriminatoires. · comme le RGPD (règlement général sur

Le Maroc, déjà engagé dans la mise · la protection des données), pour inté-

en place d'un cadre institutionnel, trans- · grer les principes de transparence, de li-

pose la Recommandation de l’UNESCO · mitation des finalités et de minimisation

sur l’éthique de l’IA dans ses structures, · des données dans son cadre juridique.

soutenu par la création d'un Centre de · L’infrastructure institutionnelle joue

catégorie II pour l’IA en Afrique sous · un rôle central, mais une collaboration

l’égide de l’UNESCO depuis novembre · étroite entre régulateurs, entreprises

2023. Cependant, le pays doit dévelop- · et citoyens est essentielle pour garantir

per une stratégie nationale de compé- · une transition technologique éthique et

tences et favoriser un consensus autour · bénéfique pour tous.

d’une vision éthique et réglementée de · Quels sont les fondements néces-

l’IA pour garantir une intégration inclu- · saires à l'élaboration d'un cadre juri-

sive de cette technologie. · dique et éthique adapté pour encadrer

La protection des données person- · l'utilisation de l'intelligence artificielle

nelles est un pilier essentiel, avec des lois · au Maroc ?

62 afkar/idées | Automne/Hiver 2024

ENJEUX ÉTHIQUES INHÉRENTS

À L’INTELLIGENCE ARTIFICIELLE

L’intégration de l’IA dans la société ma-rocaine soulève des enjeux éthiques et juridiques majeurs, particulièrement en matière de protection des données personnelles. L’exploitation massive des données par les systèmes d’IA peut me-nacer la vie privée si des mesures adé-quates ne sont pas mises en place pour garantir leur sécurité et prévenir les abus. Par ailleurs, la transparence des algorithmes reste une problématique clé, étant donné l’impact significatif des décisions automatisées sur les indivi-dus. Il est crucial de rendre ces proces-sus décisionnels compréhensibles afin de préserver la confiance du public et de prévenir toute partialité.

L’équité constitue également un défi central, les systèmes d’IA risquant de reproduire ou d’aggraver les biais exis-tants dans les données utilisées, ce qui pourrait entraîner des discriminations.

Pour y remédier, il est indispensable d’intégrer des mécanismes d’identifica-tion et de correction des biais. Ces défis nécessitent une approche proactive, ba-sée sur un cadre juridique robuste et des principes éthiques définis, pour garantir

une utilisation responsable, équitable et respectueuse des droits fondamentaux de l’IA au Maroc.

LA PROTECTION DE LA VIE

PRIVÉE ET DES DONNÉES

PERSONNELLES À L’ÈRE DE L’IA

L’IA repose sur l’utilisation de vastes en-sembles de données, nécessaires à l’en-traînement, au perfectionnement et au fonctionnement des algorithmes. Cette dépendance intrinsèque soulève des en-jeux fondamentaux relatifs à la protec-tion de la vie privée et à la confidentialité des informations personnelles. Les sys-tèmes d’IA, en collectant des données sensibles telles que celles liées à la santé, aux finances ou aux préférences indivi-duelles, offrent des opportunités pour améliorer les services et produits, mais exposent également les utilisateurs à des risques d’abus ou de violations. Pour pré-venir ces risques, il est essentiel d’adop-ter des mesures comme la minimisation des données collectées, leur anonymisa-tion ou pseudonymisation, ainsi qu’une gestion stricte des accès. Par ailleurs, le respect des cadres juridiques en vigueur, tels que le RGPD en Europe et la loi 09-

08 au Maroc, est impératif. La transpa-rence sur la collecte et l’utilisation des données, combinée au contrôle effectif accordé aux individus sur leurs informa-tions, constitue un pilier éthique pour garantir leur protection.

Au-delà des questions de confiden-tialité, d’autres défis majeurs se posent, notamment les biais algorithmiques.

Entraînés sur des ensembles de don-nées biaisés, les systèmes d’IA risquent de perpétuer ou d’accentuer des discri-minations. La mise en œuvre d’algorith-mes transparents et équitables est donc nécessaire. Par ailleurs, les questions de responsabilité juridique en cas d’erreurs ou de dommages causés par un système d’IA doivent être clarifiées afin d’assurer une reddition des comptes appropriée.

Le Maroc, disposant déjà de lois telles que la loi 09-08 sur la protection des données personnelles et la loi 05-20 sur la cybersécurité, est appelé à renforcer son arsenal juridique pour répondre aux spécificités de l’IA. En abordant ces dé-fis par une réglementation adaptée, une surveillance constante et une collabora-tion entre les parties prenantes, le pays peut garantir un déploiement responsa-ble et éthique de l’IA, aligné sur les stan-dards internationaux et bénéfique pour l’ensemble de la société.

La transparence sur la collecte et l’utilisation des données, combinée au contrôle effectif accordé aux individus sur leurs informations, constitue un pilier éthique pour garantir leur protection

LA TRANSPARENCE DES · nimisant les risques, dans le respect des

ALGORITHMES DANS L'IA · droits fondamentaux. Depuis 2022, le

Sur le volet de la transparence des al- pays a élaboré une cartographie de son gorithmes, les décisions automatisées écosystème d'IA, identifiant les prio-par des systèmes d'IA – qu'il s'agisse de rités stratégiques pour son développe-l'octroi de crédits, des processus de re- ment, notamment le renforcement du crutement ou de l'évaluation de risques cadre réglementaire, la transparence en justice – restent souvent opaques et des algorithmes, la protection des don-difficiles à interpréter. Cela peut com- nées et la lutte contre les biais discrimi-promettre les droits fondamentaux des natoires.

individus et pose des questions quant à · Le Maroc mise également sur une

la responsabilité des entités utilisant ces gouvernance multipartite et multidisci-outils. Le cadre juridique actuel, notam- plinaire pour superviser l’IA de manière ment en matière de protection des don- éthique et efficace, et sur le dévelop-nées personnelles, demeure insuffisant pement des capacités en formant une pour encadrer ces processus. Il est donc main-d'œuvre qualifiée adaptée aux impératif de développer des réglemen- transformations induites par l’IA. L’in-tations spécifiques imposant la divul- clusion numérique est une autre prio-gation des algorithmes et l’explicitation rité, avec des efforts pour réduire les des critères décisionnels. Une transpa- disparités régionales et de genre, tout en rence accrue renforcerait la confiance favorisant une IA accessible et équitable.

des citoyens et limiterait les biais déci- La stratégie « Digital Morocco 2030 »

sionnels. · soutient l’innovation numérique et les

Concernant l’équité, les algorithmes partenariats entre le public, les universi-d’IA, souvent entraînés sur des données tés et les entreprises, renforçant ainsi les biaisées, risquent de reproduire ou d'ac- infrastructures numériques.

centuer des discriminations historiques, · En dépit des avancées, des défis

que ce soit dans le secteur de la justice, subsistent, notamment en matière de de l’emploi ou d'autres domaines. Ces politique environnementale pour l’IA et systèmes pourraient favoriser ou dé- de préservation du patrimoine culturel savantager des groupes sur des critères et des langues autochtones. Le Maroc arbitraires tels que l’origine ethnique ou doit aussi combler les inégalités d’accès le genre, exacerbant ainsi les inégalités aux technologies entre les sexes et les sociales. Face à cela, des mécanismes de régions. Cependant, le pays dispose de correction s’imposent, incluant des au- solides atouts, notamment une base aca-dits réguliers des algorithmes, la diver- démique solide avec un taux de fémini-sification des données utilisées et l’in- sation de 42,2 % dans les filières scienti-tégration de mesures spécifiques pour fiques, et des initiatives de gouvernance atténuer les biais. Ces actions doivent numérique avancées, comme les projets être accompagnées de réglementations de smart cities.

robustes pour garantir l’équité et préve- · Le Maroc se positionne ainsi comme

nir toute discrimination. · un leader potentiel en IA en Afrique,

avec une vision qui allie éthique, innova-tion et inclusion, soutenue par des par-

ÉVALUATION ET DIAGNOSTIC DE · tenariats internationaux, des investis-

L’ÉTAT DE PRÉPARATION À L’IA · sements dans l’éducation, la recherche

Le Maroc a entrepris une démarche et les infrastructures numériques. En ambitieuse pour aligner son dévelop- alliant ambition et responsabilité, le pement de l'IA avec les recommanda- pays entend exploiter le potentiel trans-tions éthiques de l'UNESCO, visant à formateur de l'IA tout en respectant les maximiser ses opportunités tout en mi- valeurs de justice et d’équité.

afkar/idées | Automne/Hiver 2024 63

[nom]

ÉVALUATION DU CADRE · sions automatisées; l’exploitation non

JURIDIQUE ET INSTITUTIONNEL · encadrée des travailleurs du clic ; et des

La montée en puissance du cyberespace · atteintes à la vie privée et à la dignité hu-

a apporté de nombreux défis juridiques · maine.

et sécuritaires auxquels le Maroc, à · Cette lacune entrave également l’in-

l’instar d’autres pays, doit faire face. · novation responsable, car les entreprises

L’utilisation croissante d’Internet, des · et les chercheurs manquent de direc-

réseaux sociaux, du commerce électro- · tives claires sur les normes à respecter.

nique et de l’IA offre des opportunités · Par ailleurs, elle peut limiter l’attractivité

considérables, mais expose également · du Maroc sur la scène internationale en

à des menaces telles que la cybercri- · matière d’investissement et de dévelop-

minalité, la violation de la vie privée et · pement technologique.

l’exploitation abusive des données per-

sonnelles. · n Cadre institutionnel

Pour relever ces défis, le Maroc s’est · Le développement numérique du

engagé dans un processus de renforce- · Maroc repose sur plusieurs institutions

ment de son arsenal juridique et insti- · clés, chacune jouant un rôle fondamen-

tutionnel. Cette démarche ne se limite · tal dans la mise en œuvre de la stratégie

pas à la répression des cyberinfractions, · nationale et la régulation des technolo-

mais vise aussi à protéger les droits nu- · gies numériques, ainsi que la protection

mériques des citoyens, notamment la · des données personnelles et la cybersé-

liberté d’expression en ligne, l’accès à · curité.

l’information et la neutralité du net, · — L’Agence de développement du di-

tout en préservant leurs identités nu- · gital (ADD) est responsable de l'exécu-

mériques. · tion de la stratégie nationale de dévelo-

Le Maroc s’appuie sur une série de · ppement numérique. Elle œuvre pour

lois adoptées au cours des deux der- · la promotion de l'adoption des techno-

nières décennies pour encadrer le cybe- · logies numériques par les citoyens, les

respace, notamment : · entreprises et les institutions. Son rôle

• Loi 07-03 : relative aux infractions · inclut la structuration de l'écosystème liées aux systèmes de traitement auto- · numérique pour favoriser l'émergence matisé des données (STAD). · d'acteurs clés dans l'économie numé-
• Loi 09-08 : portant sur la protec- · rique, l'encouragement de l'adminis- tion des données personnelles. · tration numérique, et la réduction de
• Loi 43-20 : concernant les ser- · la fracture numérique. L'agence sou- vices de confiance pour les transactions · tient également l'innovation sociale et électroniques. · entrepreneuriale, contribuant à une
• Loi 04-20 : instituant la Carte Na- · inclusion numérique responsable et

[pièce d'identité]

• Loi 53-05 : relative à l’échange · — L'Agence nationale de réglemen- électronique de données juridiques. · tation des télécommunications (ANRT) —Loi 05-20 : axée sur la cybersécu- · assure la régulation du secteur TIC au rité. · Maroc. Elle est chargée de l'élabora- Ce cadre juridique traduit la volonté · tion du cadre réglementaire du secteur, des autorités de garantir une utilisation · de l'octroi des licences nécessaires aux sûre et éthique des technologies numé- · opérateurs, et de la gestion des ressour- riques, tout en stimulant l’innovation et · ces comme le spectre des fréquences. en renforçant la confiance des citoyens · L'ANRT veille également à la quali- et des entreprises dans l’écosystème nu- · té des services et à la promotion de la mérique. · concurrence loyale. Elle contribue à la Malgré ces progrès, l’absence d’un · société de l'information à travers des cadre juridique spécifique dédié à l’IA au · actions de formation et de recherche.

Maroc pose des défis considérables. Les · — La Direction générale de la sûre-

lois existantes offrent une base initiale, · té nationale (DGSN) est responsable

mais restent insuffisantes pour enca- · de la sécurité intérieure, en particulier

drer les spécificités de l’IA. En l'absence · dans les domaines de la cybercriminali-

de régulations adaptées, l'IA peut être · té et de la protection des données per-

utilisée de manière non éthique, engen- · sonnelles. Elle mène des enquêtes sur

drant des risques tels que la collecte et · les infractions liées à la cybersécurité,

le traitement non réglementés des don- · sensibilise le public aux risques liés à la

nées personnelles ; la discrimination et · divulgation des données personnelles,

les biais algorithmiques dans les déci- · et collabore avec d'autres institutions

64 afkar/idées | Automne/Hiver 2024 pour identifier, enquêter et poursuivre les cybercriminels. Elle assure aussi la sécurité des systèmes d'information des institutions publiques et des organismes gouvernementaux.

• La Direction générale de la sécu- rité des systèmes d'information (DGSSI) déploie des dispositifs de sécurité pour protéger les données personnelles et les systèmes d'information critiques. Elle met en place une stratégie nationale de sécurité des systèmes d'information, en collaboration avec les ministères et autres parties prenantes. Elle élabore des normes et des standards de sécurité pour les systèmes traitant des données personnelles, conseille et assiste les en- tités publiques et privées, et mène des audits de sécurité pour identifier les vulnérabilités.
• La Commission nationale de la protection des données à caractère per- sonnel (CNDP) veille à la conformité des pratiques de traitement des don- nées personnelles avec la loi n°09-08.

Elle informe les citoyens de leurs droits en matière de protection des données, traite les plaintes et sensibilise les ac-teurs concernés sur leurs obligations légales. Elle effectue également des ins-pections pour vérifier la conformité des traitements de données et gère les au-torisations de traitement des données sensibles.

• Le Centre marocain d'alerte et de gestion des incidents informatiques

(MA-CERT) est chargé de la surveillan-ce et de la gestion des cyberattaques et incidents informatiques. Il coordonne les actions de réponse aux menaces numériques au niveau national, parta-ge des informations sur les menaces et vulnérabilités avec les organismes de cybersécurité, et sensibilise le public et les entreprises sur l'importance de la cy-bersécurité. Il contribue également à la formation et au renforcement des com-pétences en cybersécurité.

• Le Comité stratégique de la cy- bersécurité (CSC) coordonne les efforts pour protéger les systèmes d'informa- tion du Maroc contre les cybermena- ces. Il élabore des politiques et nor- mes de cybersécurité, collabore avec la Gendarmerie Royale pour détecter et réprimer les cybercrimes, et assure la sécurité des infrastructures publi- ques et privées. Le comité œuvre pour la construction d'un cyberespace sûr et résilient pour le pays.
• La Commission nationale pour le développement du numérique supervise la mise en œuvre de la stratégie natio- nale de développement numérique. Elle formule des recommandations et évalue les progrès réalisés dans le cadre de la stratégie numérique. Elle organise éga- lement des commissions thématiques pour aborder des aspects spécifiques du développement numérique, et pro- meut la collaboration entre les autorités publiques, les experts et les parties pre- nantes.
• La Cellule numérique au sein du

Secrétariat général du gouvernement supervise la mise en œuvre de la stra-tégie numérique au sein du gouver-nement, en soutien à la transition nu-mérique. Elle régule et coordonne les activités numériques dans le cadre de la stratégie « Digital Morocco 2030 », assure la création d'un cadre juridique pour accompagner la transition numéri-que, et collabore avec les acteurs publics et privés pour renforcer l'infrastructure numérique et la régulation du secteur.

n Points forts

L'arsenal juridique marocain relatif au cyberespace repose sur une approche globale visant à encadrer les technolo-gies de l'information et de la commu-nication. Il se concentre sur plusieurs aspects clés : la protection des données personnelles, la lutte contre la cybercri-minalité, la sécurisation des transactions électroniques et la promotion de l'inno-vation technologique.

La protection des données person-nelles est renforcée par des obligations strictes pour les responsables de leur traitement et un contrôle assuré par la CNDP. Le cadre juridique combat égale-ment la cybercriminalité en définissant des infractions spécifiques et en ren-forçant les pouvoirs des autorités pour enquêter et sanctionner les activités illé-gales en ligne.

Le Maroc facilite les transactions électroniques par des lois garantissant leur validité et sécurité, soutenant ainsi la croissance de l'économie numérique.

La cybersécurité est également une priorité, avec des mesures de protection contre les cyberattaques et des initia-tives pour sécuriser les systèmes d'infor-mation critiques.

Enfin, le Maroc encourage l'innova-tion numérique, soutenant les start-ups et la recherche technologique, tout en sensibilisant le public à la cybersécurité.

La mise en place d'une plateforme natio-nale d'identité numérique, associée à la carte nationale d'identité électronique,

vise à renforcer la fiabilité des transac- · les données personnelles à l'ère de Big

tions en ligne. · Data. Les corrélations statistiques et les

Ces efforts visent à créer un environ- · profils de groupe ne sont pas reconnus

nement numérique sûr, fiable et propice · comme des données personnelles, mal-

à l'innovation, tout en protégeant les · gré leur capacité à influencer largement

droits des utilisateurs et en respectant · le contexte de vie des individus. De plus,

les standards internationaux. · la croissance de l'utilisation du Big Data

soulève des questions sur la définition

n Lacunes · même des données personnelles.

Au Maroc, la protection des don-

nées personnelles face à l’IA est régie · — Le besoin d’une loi cadre pour

par la loi générale sur la protection des · réglementer l’Intelligence Artificielle :

données personnelles. Cette législation · à l'heure actuelle, le Maroc ne dispose

vise à protéger les droits individuels, · pas d'une législation spécifique pour

mais elle se concentre principalement · régir l'IA, ce qui crée un vide juridique

sur les données permettant d'identifier · et rend impérative l'adoption d'une

une personne. Cependant, l'IA et le Big · loi-cadre pour garantir un développe-

Data dépassent souvent la gestion des · ment éthique et responsable de l'IA.

données individuelles pour inclure des · Une telle loi devrait définir les principes

données agrégées, des profils génériques · fondamentaux, les normes de sécurité,

et des corrélations statistiques qui, · les mécanismes de surveillance, ainsi

bien qu'elles ne soient pas considérées · que les responsabilités des acteurs im-

comme des données personnelles au · pliqués dans l'écosystème de l'IA. Elle

sens strict, peuvent avoir une influence · contribuera à assurer la protection des

sur la vie des individus. Le cadre juri- · droits individuels, la transparence et la

dique actuel semble insuffisant pour ré- · confiance du public dans cette technolo-

pondre aux défis posés par l’utilisation · gie en constante évolution.

croissante de ces technologies, ce qui

nécessite une évolution législative pour · —L'impératif d'encourager l'adop-

inclure des normes adaptées à la réalité · tion du Cloud au Maroc : il est indé-

de l'IA et du Big Data. · niable que le Cloud-computing est l'une

des avancées technologiques les plus

n Recommandations · révolutionnaires de notre époque. Ce-

• L’absence d’un cadre juridique qui · pendant, au Maroc, son adoption n'a réglemente le Big-Data : au Maroc la pro- · peut-être pas encore atteint son plein tection de Big-Data se réfère à la régle- · potentiel. Pourtant, encourager l'utili- mentation générale relative à la protec- · sation du Cloud offre d'innombrables tion des personnes physiques à l’égard · avantages, tant pour les entreprises du traitement des données à caractère · que pour l'administration publique. Le personnel (Loi 09-08), les données · Cloud permet une flexibilité inégalée, massives, à la différence des données · favorise l'efficacité des opérations, et personnelles, ne bénéficient pas d’une · réduit les coûts informatiques. De plus, protection juridique spécifique. Elles · il facilite l'accès à des ressources infor- constituent un champ attractif en ma- · matiques de pointe, ouvrant la voie à tière de recherche et d’innovation dans · l'innovation et à la compétitivité. Pour divers domaines, ce qui justifie l’ébauche · maximiser ces avantages, il est impé- d’un droit prospectif. La réglementation · ratif de mettre en place une infrastruc- en vigueur se focalise sur les intérêts · ture législative et technique adaptée. particuliers et les droits fondamentaux · La sécurité, la protection des données tels que la préservation de la vie privée · et la confidentialité sont des préoccu- et la protection des données, lesquels · pations essentielles dans le contexte reposent sur la notion de « données per- · du Cloud. Dans cet environnement en sonnelles » permettant d'identifier ou · évolution rapide, le Maroc a l'opportu- de caractériser une personne physique. · nité de stimuler sa croissance économi- Toutefois, les processus de Big Data · que, de moderniser son secteur public transcendent l'unique gestion et traite- · et d'améliorer la qualité de vie de ses ment de données à l'échelle individuelle, · citoyens grâce à une adoption accrue en incluant de plus en plus l'utilisation · du Cloud computing. Il est temps de de données consolidées, de profils géné- · promouvoir des politiques et des inci- riques et de profils de groupe. Dès lors, · tations qui encouragent les entreprises il convient de s'interroger sur la perti- · et les organismes publics à embrasser nence de la focalisation sur l'individu et · cette technologie./ afkar/idées | Automne/Hiver 2024 65