Commentaires
Philippe NIEUWBOURG
le 23/04/2024 à 07:39
A noter que l'on commence également à voir apparaitre des annonces de recrutement de "AI Governance Manager", qui sans avoir forcément un niveau comité de direction, vont avoir en charge la mise en place des processus de gouvernance de l'intelligence artificielle.
Un exemple ici : https://onlydatajobs.com/job/350857/Ai-Governance-Manager-Ai-Centre-Excellence-Coe-Greater-London-London
L’administration américaine va nommer ses premiers CAIO (Chief Artificial Intelligence Officer) et former ses comités de gouvernance
Rédigé le 22/04/2024
Philippe Nieuwbourg
Suite à l’Executive Order signé par Joe Biden le 30 octobre 2023, l’administration américaine a publié un Mémorandum destiné à l’ensemble des agences et départements de l’administration américaine.
Dans ce document, Shalanda D. Young, précise que les administrations concernées devront nommer d’ici le 28 mai 2024, un Chief Artificial Intelligence Officer (CAIO), dont le document définit le profil, ainsi que former un comité de gouvernance de l’IA.
Les principales responsabilités du CAIO seront les suivantes :
- coordonner l'utilisation de l'IA dans l’agence gouvernementale ;
- promouvoir l'innovation liée à l'IA ;
- gérer les risques liés à l'utilisation de l'IA.
Le mémorandum précise que la personne choisie pour occuper cette fonction peut être le directeur des systèmes d’information, ou le directeur du data office ; mais il peut également s’agir d’un recrutement extérieur. La description de poste (en pages 6 et 7 du document) permet de détailler les trois points indiqués ci-dessus et l’ensemble des tâches qui leur sont connectées, dont :
- Un travail de coordination avec l’ensemble des départements et agences de l’administration y compris dans le domaine des ressources humaines afin de prendre en compte l’impact sur les métiers actuels et le besoin de formation ;
- Promotion de l’égalité et de l’inclusion dans les processus de décision ;
- Identification et cartographie des risques, en particulier en matière de sécurité et de respect des droits ;
- Établissement de procédures de contrôle afin de vérifier la conformité des systèmes d’IA utilisés avec les lois et règlements américains ;
- Le document prévoit que pour réaliser ces tâches, le CAIO doit avoir une position hiérarchique suffisamment élevée pour d’une part échanger avec les directions des autres agences, et d’autre part vérifier la conformité des systèmes d’IA implémentés dans les directions de sa propre agence.
En parallèle, le document demande à chaque agence de mettre en place un comité de gouvernance de l’intelligence artificielle. Il peut s’agir d’un comité existant (par exemple de gouvernance des données) dont les compétences seront élargies à l’IA.
Devront participer à ce comité au moins les départements suivants : « informatique, cybersécurité, données, vie privée, droits civils et libertés civiles, équité, statistiques, capital humain, achats, budget, affaires juridiques, gestion de l'agence, expérience client, évaluation des programmes, et responsables de la mise en œuvre de l'IA au sein du ou des bureaux de programme de l'agence. Les agences devraient également envisager d'inclure des représentants de leur bureau de l'inspecteur général respectif »
Après cette avancée en matière d’organisation et de ressources, comment les autres pays vont-ils s’organiser ? Quand verra-t-on dans l’administration française, canadienne, suisse ou belge la nomination de CAIOs et de comités de gouvernance de l’IA ?
Il semble d'ailleurs que les CDOs (Chief Data Officers) entendent bien se saisir du sujet, qui d'une part les intéressent, et d'autres part correspond à une partie importante de leurs connaissances. Emerge alors le titre de CDAIO (Chief Data & Artificial Intelligence Officer), que l'on va encore avoir du mal à traduire en français !
Les principales responsabilités du CAIO seront les suivantes :
- coordonner l'utilisation de l'IA dans l’agence gouvernementale ;
- promouvoir l'innovation liée à l'IA ;
- gérer les risques liés à l'utilisation de l'IA.
Le mémorandum précise que la personne choisie pour occuper cette fonction peut être le directeur des systèmes d’information, ou le directeur du data office ; mais il peut également s’agir d’un recrutement extérieur. La description de poste (en pages 6 et 7 du document) permet de détailler les trois points indiqués ci-dessus et l’ensemble des tâches qui leur sont connectées, dont :
- Un travail de coordination avec l’ensemble des départements et agences de l’administration y compris dans le domaine des ressources humaines afin de prendre en compte l’impact sur les métiers actuels et le besoin de formation ;
- Promotion de l’égalité et de l’inclusion dans les processus de décision ;
- Identification et cartographie des risques, en particulier en matière de sécurité et de respect des droits ;
- Établissement de procédures de contrôle afin de vérifier la conformité des systèmes d’IA utilisés avec les lois et règlements américains ;
- Le document prévoit que pour réaliser ces tâches, le CAIO doit avoir une position hiérarchique suffisamment élevée pour d’une part échanger avec les directions des autres agences, et d’autre part vérifier la conformité des systèmes d’IA implémentés dans les directions de sa propre agence.
En parallèle, le document demande à chaque agence de mettre en place un comité de gouvernance de l’intelligence artificielle. Il peut s’agir d’un comité existant (par exemple de gouvernance des données) dont les compétences seront élargies à l’IA.
Devront participer à ce comité au moins les départements suivants : « informatique, cybersécurité, données, vie privée, droits civils et libertés civiles, équité, statistiques, capital humain, achats, budget, affaires juridiques, gestion de l'agence, expérience client, évaluation des programmes, et responsables de la mise en œuvre de l'IA au sein du ou des bureaux de programme de l'agence. Les agences devraient également envisager d'inclure des représentants de leur bureau de l'inspecteur général respectif »
Après cette avancée en matière d’organisation et de ressources, comment les autres pays vont-ils s’organiser ? Quand verra-t-on dans l’administration française, canadienne, suisse ou belge la nomination de CAIOs et de comités de gouvernance de l’IA ?
Il semble d'ailleurs que les CDOs (Chief Data Officers) entendent bien se saisir du sujet, qui d'une part les intéressent, et d'autres part correspond à une partie importante de leurs connaissances. Emerge alors le titre de CDAIO (Chief Data & Artificial Intelligence Officer), que l'on va encore avoir du mal à traduire en français !