Évaluation des besoins en intelligence artificielle en Afrique, UNESCO, 2021

Organisation affiliée : UNESCO

Type de publication : Rapport

Date de publication : 2021

Lien vers le document original

Un nécessaire renforcement des initiatives politiques en faveur de la gouvernance de l’IA

La nature et la portée des instruments politiques mis en œuvre pour la gouvernance de l’IA varient fortement d’un pays africain à un autre. Par exemple :

• Des initiatives ont été lancées dans 18 pays sur 32 pour orienter le développement de l’IA au niveau national.
• Le développement et l’utilisation de l’IA constituent une priorité dans les plans de développement nationaux de 21 pays sur 32.
• Sur les 32 pays qui ont répondu à l’enquête, 13 ont lancé des stratégies d’IA, 13 ont développé des politiques d’IA, 6 déclarent s’être dotés d’une législation pour relever les défis de l’IA, 12 ont ouvert des centres d’excellence spécialisés dans l’IA et 3 indiquent avoir conçu un code déontologique de l’IA.

En ce qui concerne l’organisation de la gouvernance de l’IA au sein du gouvernement, 28 pays sur 32 ont pris des mesures pour rationaliser les processus gouvernementaux ou envisagent de le faire. Ainsi, dans 14 pays, une agence gouvernementale spécialisée travaille sur des domaines prioritaires spécifiques, sans toutefois avoir élaboré de réponse coordonnée interministérielle. Dans 14 autres pays, le gouvernement n’a pas lancé de discussions ou d’actions concrètes pour répondre aux défis et aux opportunités que présente l’IA. Dans 2 pays, l’Égypte et le Cameroun, le gouvernement a organisé plusieurs conférences et ateliers interministériels pour discuter de l’impact de l’IA sur la société.

Recommandations relatives aux initiatives politiques en faveur de la gouvernance de l’IA et adressées aux organisations intergouvernementales, aux organismes de développement et aux États membres de l’UNESCO

• Concevoir un ensemble de politiques relatives à l’IA dans les domaines de la science, de la technologie, de l’innovation, de l’éducation, de la culture et de la politique de communication pour le développement durable qui soient susceptibles d’orienter les politiques nationales.
• Élaborer des guides de mise en œuvre et proposer des exemples d’utilisation de modèles illustrant l’application des principes éthiques de l’IA.
• Lancer des projets pilotes pour déterminer comment exploiter l’IA et les données d’apprentissage et ainsi saisir les opportunités dans les domaines prioritaires identifiés par les États membres de l’UNESCO.
• Élaborer des directives politiques en coopération avec les gouvernements, le secteur privé, le milieu universitaire et la société civile pour traiter les préjugés de genre et les discriminations algorithmiques.

Un nécessaire développement des cadres juridiques et réglementaires pour la gouvernance de l’IA

L’expansion du développement et de l’utilisation de l’IA dans différents domaines s’accompagnera d’un besoin d’orientation sur le plan réglementaire afin de veiller à ce que cette utilisation soit conforme aux droits de l’homme et encourage l’innovation et la croissance. Ces dernières devront être portées par un secteur privé capable d’élaborer des produits et des services dans un cadre réglementaire légal prévoyant une atténuation des risques.

Sur les 32 pays qui ont répondu au questionnaire :

• 22 ont déclaré s’être dotés d’un cadre juridique de protection des données personnelles. Il convient cependant de noter que ces lois de protection des données devront être en phase avec les nouveaux usages et applications des données, qui seront susceptibles de générer notamment des préjugés, des discriminations et des atteintes à la vie privée. L’enquête n’est pas entrée dans les détails de cette problématique.
• 9 pays ont déclaré avoir mis en place une protection juridique contre les préjugés et les discriminations générés par les algorithmes.
• 19 pays ont indiqué avoir pris des mesures pour donner libre accès aux données gouvernementales dans un format consultable facilement.

Recommandations relatives aux cadres juridique et réglementaire pour la gouvernance de l’IA et adressées aux organisations intergouvernementales, aux organismes de développement et aux États membres de l’UNESCO

• Adapter et tester les cadres pour évaluer les risques des applications IA en matière de droits de l’homme et de diligence raisonnable dans le but de s’assurer qu’elles n’entravent pas les libertés et les droits fondamentaux. De plus, l’UNESCO élabore actuellement un cadre plus global de l’éthique de l’IA (comprenant un volet d’évaluation de l’éthique de l’IA) qui tiendra compte des droits de l’homme, des droits fondamentaux et du droit à la dignité humaine. Ces directives offriront un cadre plus robuste pour évaluer et traiter les défis et les opportunités de l’IA pour tous les individus et communautés.
  • Ex ante : garantir l’absence de discrimination dans la sélection des jeux de données et dans les choix de conception des développeurs. Expliciter les valeurs qui sous-tendent ces choix, notamment celles qui concernent les préjugés de genre, implicites ou non.
  • Ex post : prévoir un strict suivi des résultats qui pourraient nuire à différents droits : liberté d’expression, vie privée, égalité, etc.
• Concevoir et actualiser les cadres juridiques et réglementaires pour la protection des données personnelles et la gouvernance des données, notamment par l’élaboration de lois types.

Compétences nécessaires pour répondre aux conséquences juridiques de l’IA

L’IA soulève une série de problématiques souvent dépourvues de précédent judiciaire et auxquelles la législation en vigueur ou les cadres politiques n’apportent pas de réponse adéquate. Certaines problématiques juridiques propres à l’IA concernent, entre autres :

• la personnalité juridique ;
• le partage des responsabilités relatives aux décisions prises par les systèmes d’IA ;
• la gouvernance des données ;
• la discrimination algorithmique ;
• l’utilisation de l’IA pour la personnalisation des contenus en ligne et ses conséquences en matière d’accès à l’information, de liberté d’expression et de vie privée ;
• la propriété intellectuelle, notamment les droits des contenus générés par les systèmes d’IA ;
• l’utilisation de l’IA pour la modération et la sélection de contenus numériques, notamment les contenus considérés comme illégal ou potentiellement dangereux.

Ces défis sont considérables et nécessitent une intervention gouvernementale pour combler les lacunes réglementaires et apporter une orientation juridique.

19 pays indiquent une absence de cadres juridiques pour répondre aux défis de l’IA ainsi qu’un manque important de ressources humaines pour en aborder les implications juridiques

Parmi les 32 pays qui ont participé à l’enquête, 19 indiquent une absence de cadres juridiques pour répondre aux défis de l’IA ainsi qu’un manque important de ressources humaines pour en aborder les implications juridiques. À ce sujet, notons que plusieurs juridictions sont en train d’évaluer la réglementation du développement et de l’utilisation de l’IA dans leur cadre actuel et que celle-ci reste une source de préoccupation dans le monde.

Recommandations relatives au renforcement des compétences pour répondre aux conséquences juridiques de l’IA et défendre les droits humains fondamentaux, adressées aux organisations intergouvernementales, aux organismes de développement et aux États membres de l’UNESCO :

• Inclure des programmes de sensibilisation à l’IA, aux droits de l’homme et aux implications juridiques dans le cadre de la formation politique des décideurs gouvernementaux. Les modules de formation doivent comporter un volet d’informations sur les risques d’une propagation potentielle des préjugés de genre à travers les systèmes d’IA et sur la manière d’éviter cette propagation.
• Concevoir et promouvoir des modules de formation pour que les acteurs judiciaires examinent la question des conséquences juridiques de l’IA et de son utilisation dans les systèmes judiciaire et exécutif, et garantir ainsi les droits fondamentaux tels que la liberté d’expression, l’accès à l’information, le droit à la vie privée et la non-discrimination. Les modules de formation doivent comporter un volet sur la sensibilisation aux préjugés et aux stéréotypes de genre qui risquent d’être intégrés et diffusés via l’utilisation des systèmes d’IA.
• Élaborer des directives politiques en coopération avec les gouvernements, le secteur privé, le milieu universitaire et la société civile pour traiter les préjugés de genre et d’autres formes de discrimination implicite et explicite dans les algorithmes.
• Sensibiliser les parlementaires aux conséquences juridiques et politiques de l’IA grâce à des présentations adressées aux commissions parlementaires, aux commissions chargées des technologies émergentes et à leur gouvernance, ainsi qu’à l’organisation de forums parlementaires d’échange de connaissances.

Des efforts supplémentaires requis afin de faire progresser l’éducation, la recherche et la formation en IA

Dans 7 pays, les universités et établissements scolaires ont développé des cours spécialisés et des initiatives ont été lancées en milieu scolaire pour renforcer l’éducation aux médias et à l’information des étudiants et des citoyens. De plus, 8 pays indiquent que leurs universités développent des cours sur l’IA et sont intéressés par l’ajout d’un cours sur l’IA au niveau secondaire. Dans 12 pays, aucune mesure spécifique n’a été mise en place à l’université ou à l’école pour développer les compétences et l’enseignement de l’IA, mais la démarche les intéresse. Dans 4 pays, le niveau d’intégration de l’IA dans la recherche et l’enseignement varie fortement en fonction des universités et établissements scolaires.

Les compétences humaines et institutionnelles restent lacunaires quand il s’agit d’intégrer l’enseignement et l’apprentissage de l’IA dans les systèmes éducatifs, la recherche et le développement

L’Égypte a lancé plusieurs programmes consacrés à l’IA dans ses écoles. Ceux-ci comportent un volet sur la science des données pour des disciplines techniques et non techniques. En outre, le gouvernement offre des bourses d’études pour certains cursus en rapport avec l’IA, aux niveaux master (MSc) et doctorat (PhD). Au Bénin, le gouvernement aide la formation des enseignants dans le cadre de la production de ressources pédagogiques numériques. Certains pays recherchent et instaurent activement des partenariats. C’est le cas de l’Eswatini, dont la Faculté des sciences et de l’ingénierie de l’Université d’Eswatini a conclu un partenariat avec le Royal Science and Technology Park d’Eswatini afin de mettre en œuvre des programmes et des activités communs, notamment dans la recherche. Par ailleurs, les réseaux de diasporas contribuent aussi à favoriser les échanges de connaissances et le développement des compétences dans un pays. L’Université de Gambie s’est ainsi associée avec des experts de la diaspora gambienne et Google AI West Africa pour organiser une conférence en 2019 visant à renforcer les connaissances et compétences d’enseignement et d’apprentissage de technologies basées sur l’IA.

Malgré tout, les compétences humaines et institutionnelles restent lacunaires quand il s’agit d’intégrer l’enseignement et l’apprentissage de l’IA dans les systèmes éducatifs, la recherche et le développement. La section suivante présente les conclusions relatives au déficit de compétences dans l’éducation, la recherche et la formation en IA ainsi que des données sur le sujet.

Les Wathinotes sont soit des résumés de publications sélectionnées par WATHI, conformes aux résumés originaux, soit des versions modifiées des résumés originaux, soit des extraits choisis par WATHI compte tenu de leur pertinence par rapport au thème du Débat. Lorsque les publications et leurs résumés ne sont disponibles qu’en français ou en anglais, WATHI se charge de la traduction des extraits choisis dans l’autre langue. Toutes les Wathinotes renvoient aux publications originales et intégrales qui ne sont pas hébergées par le site de WATHI, et sont destinées à promouvoir la lecture de ces documents, fruit du travail de recherche d’universitaires et d’experts.

The Wathinotes are either original abstracts of publications selected by WATHI, modified original summaries or publication quotes selected for their relevance for the theme of the Debate. When publications and abstracts are only available either in French or in English, the translation is done by WATHI. All the Wathinotes link to the original and integral publications that are not hosted on the WATHI website. WATHI participates to the promotion of these documents that have been written by university professors and experts.