IA responsable : comment le Cnam forme les professionnels de demain

L’IA transforme profondément les métiers et les organisations. Dans ce contexte, les entreprises cherchent désormais des spécialistes capables d’allier maîtrise technologique et prise en compte des enjeux liés à un usage responsable de l’IA. Le Cnam répond à cette demande en proposant des cursus qui associent expertise technologique et réflexion sur les défis que posent l’usage de ces nouveaux outils. Cette approche croisée vise à former des professionnels conscients des conséquences de leurs choix techniques.

Les apprenants découvrent les principes du machine learning (apprentissage automatique), la gestion des données et les algorithmes. Mais au-delà de ces compétences techniques, le Cnam accorde une place importante aux dimensions humaines et éthiques de l’intelligence artificielle. Les élèves sont invités à réfléchir aux enjeux de confiance, d’inclusion et de responsabilité. Les enseignants-chercheurs du Cnam travaillent sur les problématiques liées à l’IA dans des domaines variés comme la santé, l’industrie ou les services. Cette interdisciplinarité favorise une compréhension globale des transformations en cours. En formant des experts capables de conjuguer innovation et responsabilité, le Cnam contribue au développement d’une IA plus durable et respectueuse de l’humain.
 

ENTRETIEN AVEC BÉATRICE ARRUABARRENA, ENSEIGNANTE-CHERCHEUSE AU CNAM EN SCIENCES DE L’INFORMATION ET DE LA COMMUNICATION SCIENTIFIQUE

 

Quelle serait votre définition de l’IA responsable ? 

Une IA responsable est une IA qui innove, mais dans certaines limites. La première limite, c'est le respect de l'humain au sens large : ne pas déléguer à un système automatisé des décisions qui engagent la dignité ou les droits d'une personne sans garde-fous. Les biais algorithmiques en sont l'expression la plus concrète : un système entraîné sur des données biaisées par des implicites sociaux et culturels reproduit, et parfois amplifie, des discriminations existantes, qu'il s'agisse du genre, de l'origine ou de l'âge. Cette exigence de responsabilité humaine vaut aussi en amont, avec le travail humain caché qui modère les données et entraîne les IA ; et en aval, avec la dette cognitive que l'usage de l'IA générative peut créer chez ceux qui l’utilisent sans recul.

La seconde limite, c'est la dimension écologique. L'entraînement et le déploiement des modèles reposent sur des data centers dont la consommation d'énergie et d'eau ne cesse de croître avec la taille des modèles et la multiplication des usages, un coût souvent invisible pour l'utilisateur final, qui ne voit que l'interface, jamais l'infrastructure. Une IA responsable suppose donc de rendre ce coût visible et de le mettre en balance avec les bénéfices réels de chaque usage, plutôt que de considérer l'IA comme une ressource sans limite physique.

Enfin le troisième point important, c'est la sécurité : l'intégrité des systèmes et des données. Un système d'IA élargit les failles d'attaque d'une organisation : vol ou empoisonnement des données d'entraînement, manipulation des modèles, extraction d'informations confidentielles via le système lui-même, dépendance à des infrastructures et des fournisseurs tiers. Une IA responsable doit donc intégrer, dès sa conception, les mêmes exigences de cybersécurité que n'importe quel système critique, et pas seulement une fois l'incident survenu.

Ces trois limites ne doivent pas être vues comme des contraintes qui freineraient l'innovation. Au contraire, prises en compte, elles constituent les conditions de sa légitimité. Sans confiance, il n'y a pas d'adoption durable. Une IA aussi performante soit-elle ne profite ni à l'humain, ni aux organisations, ni à la société. Seule cette posture d’IA responsable peut permettre de transformer la performance technique en véritable progrès pour la société.
 

Quelles compétences sont aujourd’hui les plus recherchées par les entreprises dans le domaine de l’IA responsable ? 

On voit émerger des profils hybrides, qui ne se limitent plus à la maîtrise technique du machine learning¹ ou du deep learning². Ce que recherchent aujourd'hui les entreprises, c'est la capacité à relier technologie, gouvernance et transformation organisationnelle : des professionnels capables d'évaluer les risques d'un système d'IA, de documenter ses choix, d'expliquer une décision algorithmique, et de dialoguer avec des équipes juridiques ou métier.

La gouvernance de la donnée en particulier devient une compétence à part entière : savoir organiser des données hétérogènes, en garantir la qualité et la traçabilité, documenter leur provenance et leurs usages autorisés. Un système d'IA n'est jamais meilleur que les données sur lesquelles il s'appuie, c'est donc en amont, sur cette organisation des données, que se joue une bonne partie de la fiabilité et de la conformité d'un système, avant même toute question de modèle algorithmique.

C'est d'ailleurs le sens de ce que dit Deepak Seth, analyste chez Gartner³ : « La compétence la plus précieuse ne sera plus le codage, mais la capacité à instaurer la confiance. » C'est précisément cette articulation entre compétence technique et compétence de gouvernance que nous essayons de construire dans nos formations au Cnam.
 

1.    Le machine learning (ou apprentissage automatique) est un champ d'étude de l'IA qui permet aux ordinateurs d'apprendre à résoudre des tâches à partir de données, sans être programmés explicitement pour chacune d'elles.
2.    Le deep learning (ou apprentissage profond) est un sous-domaine de l'IA qui utilise des réseaux de neurones artificiels multicouches pour permettre aux machines d'apprendre à partir de données complexes sans intervention humaine.
3.    Entreprise américaine de conseil et de recherche dans le domaine des techniques avancées.

Comment les formations du Cnam intègrent-elles les questions d’éthique, de biais algorithmiques et de protection des données ? 

Au Cnam, il y a plusieurs approches selon les formations. Certaines ont intégré un module « Éthique de l'IA » à part pour répondre aux exigences liées à l’évolution récente de l’intelligence artificielle. Mais dans les formations les plus récentes, le choix a été fait d'articuler l’éthique avec les enseignements techniques eux-mêmes. Quand les apprenants abordent le machine learning ou la gouvernance de données, les questions de biais, de transparence et de protection des données sont posées au même moment.

Par exemple, dans la micro-certification « Éthique de l'IA pour les organisations » du Cnam, les élèves sont amenés à auditer des systèmes d'IA en croisant analyse technique, organisationnelle et approche critique ; ils peuvent ainsi examiner aussi bien le fonctionnement du système lui-même que la manière dont il s'insère dans les processus de décision de l'organisation qui l'utilise. L’audit de la gouvernance permet de comprendre que l'organisation humaine et le pilotage des données au sein des entreprises sont, tout autant que l'algorithme, un élément de maîtrise des systèmes d'IA. Cela suppose de regarder qui décide d'adopter un système, qui en contrôle les résultats, comment les données circulent entre les services, et à quel moment un humain reste en capacité d'interrompre ou de corriger une décision automatisée. C'est cette double focale, technique et organisationnelle, qui distingue un audit véritablement utile d'un simple contrôle de conformité formel.

Quels sont, selon vous, les principaux défis que devront relever les futurs professionnels de l’intelligence artificielle dans les prochaines années ?

Les défis sont nombreux, et le premier est certainement la vitesse à laquelle évoluent les systèmes d'IA : on le voit avec le cadre réglementaire. L'AI Act¹ notamment qui évolue au même rythme que la technologie, ce qui oblige les professionnels à se former en continu plutôt qu'une fois pour toutes. Cette évolution n'est d'ailleurs pas seulement technique : plusieurs cadres réglementaires coexistent dans le monde, parfois avec des logiques différentes, et un professionnel qui travaille pour une organisation internationale doit apprendre à naviguer entre plusieurs régimes à la fois, pas seulement suivre l'évolution d'un seul texte. Un autre défi va être de savoir comment arbitrer entre performance et explicabilité : les modèles les plus puissants restent souvent les moins interprétables, et c'est aux professionnels de choisir consciemment ce compromis selon le contexte d'usage. 

À cela s'ajoutent des enjeux plus récents, qui touchent directement les pratiques des professionnels avec l’intégration des IA génératives dans les organisations. Plus elles produisent des réponses fluides et convaincantes, plus il devient difficile de distinguer une réponse correcte d'une réponse simplement plausible. La compétence critique ne va plus être de produire, mais de vérifier ce qui est produit. Il y a ici un risque de déresponsabilisation par délégation. C’est encore plus vrai avec les IA agentiques², qui enchaînent des actions sans validation humaine à chaque étape : savoir qui est responsable en cas d'erreur va devenir plus difficile à établir et cela va nécessiter une expertise qui ne peut se construire que par la formation.
 

1.    L'AI Act est le premier règlement mondial complet de l'Union européenne pour encadrer l'intelligence artificielle.
2.    L'IA agentique est un système d'intelligence artificielle autonome capable de planifier, d'exécuter et d'enchaîner des actions de manière proactive pour atteindre un objectif précis sans intervention humaine constante.