Un « Cahier » sur l’IA : Déléguer, assister, sanctuariser

Zoom sur ce document

L’intelligence artificielle entre dans les industries à haut risque avec une promesse : mieux traiter une complexité informationnelle devenue difficile à maîtriser et détecter des signaux jusqu’ici invisibles.

Ce « Cahier » adopte le point de vue du praticien de la sécurité industrielle. Il s’appuie sur un diagnostic mettant en évidence des fragilités déjà présentes dans les organisations et montre en quoi l’IA peut aider à mieux les traiter.

Mais une question centrale reste largement ignorée : quel modèle de sécurité enseigne-t-on à la machine ?

Pour y répondre, le « Cahier » propose une grille de décision (déléguer, assister, sanctuariser) et analyse les effets du niveau d’assistance de l’IA (l’humain pilote l’IA, l’IA conseille l’humain, ou l’IA produit et l’humain supervise) sur les compétences, la vigilance, la responsabilité et la culture de sécurité. Il met aussi en lumière un risque organisationnel spécifique, le blanchiment de légitimité — où une signature humaine donne l’illusion d’une décision pilotée, alors qu’elle est algorithmique —, et suggère des pistes pour le prévenir.

Enfin, le « Cahier » met en avant des questions à se poser pour un comité de direction et ouvre le débat sur plusieurs tensions structurantes :

• transparence vs performance ;
• assistance vs affaiblissement ;
• partage vs protection des données.
   

Découvrir ce « Cahier »

Déléguer, assister, sanctuariser

Quel modèle de sécurité apprenez-vous à l’IA ?

Découvrir ce « Cahier »

Ce « Cahier » a été rédigé par Alain Quiot, expert senior en sécurité chez EDF et ancien chargé de mission auprès du directeur général de l’Icsi, sous la coordination de Éric Marsden, responsable de programmes à la Foncsi.