Sécurisation des systèmes intelligents: « C’est un impératif à l’ère des données sensibles », selon Emery Assogba

La Nation : Qu’entend-on par système intelligent ?

Emery Assogba : Un système est un ensemble d’éléments ou de composants interconnectés qui travaillent ensemble pour atteindre une fonction, un objectif ou une finalité spécifique. Ces éléments peuvent être physiques, comme les pièces d’une machine, ou abstraits, comme les processus d’une organisation. On retrouve des systèmes dans différents domaines. Par exemple, en biologie, le système nerveux où les neurones coopèrent pour transmettre des signaux, ou en technologie, avec les systèmes informatiques composés de matériel et de logiciels qui interagissent pour exécuter des tâches. C’est ce dernier type de système qui nous intéresse ici.

Un système informatique est un ensemble intégré de composants matériels et logiciels conçu pour collecter, traiter, stocker et diffuser des données et des informations. Il peut accomplir des tâches variées, allant de simples calculs à la gestion complexe de réseaux ou de bases de données. On parle de système intelligent lorsqu’il est capable d’exécuter des tâches qui nécessitent normalement l’intelligence humaine. Cela implique qu’il peut apprendre, s’adapter à de nouvelles situations et prendre des décisions de manière autonome, souvent grâce à l’Intelligence artificielle (Ia).

Pourquoi la protection des données personnelles est-elle essentielle dans ces systèmes ?

Les systèmes intelligents sont souvent entraînés à partir de données sensibles : préférences, comportements, données biométriques, etc. Il est donc crucial d’anonymiser ces données pour préserver la vie privée. Lors du déploiement, il faut également sécuriser les accès pour éviter les fuites d’informations. Le respect des lois sur la protection des données personnelles, comme celles en vigueur au Bénin, est indispensable.

De plus, lors de la mise en production de ces systèmes, des mécanismes de protection des accès doivent être mis en place pour éviter toute divulgation d’informations utilisateurs. Le respect de la réglementation en vigueur au Bénin, notamment en matière de protection des données à caractère personnel, est fondamental. L’entreprise doit faire preuve de transparence quant au traitement des données personnelles collectées par le système intelligent. Elle doit également mettre en œuvre des mécanismes garantissant l’intégrité et la confidentialité des données. Les principes de minimisation et d’anonymisation des données ne doivent en aucun cas être négligés.

Quelles sont les principales menaces qui pèsent sur les systèmes intelligents ?

Selon le projet Owasp GenAI Security Project, dix principales menaces ont été identifiées en 2025. Les trois plus importantes sont : LLM01: 2025 - Prompt Injection : Cette menace survient lorsque l’utilisateur est capable de détourner le comportement du système intelligent en formulant certaines requêtes ou instructions. LLM02 : 2025 - Sensitive Information Disclosure : Ici, le système peut, en raison de défauts de conception ou d’implémentation, divulguer des informations sensibles ou personnelles apprises durant l’entraînement ou issues d’autres utilisateurs.

LLM03 : 2025 - Supply Chain: Cette menace concerne les vulnérabilités dans les composants du système, telles que des données d’entraînement biaisées, des failles logicielles, ou encore des défaillances techniques.

Quelles sont les meilleures pratiques pour sécuriser les systèmes intelligents ?

Owasp recommande plusieurs bonnes pratiques, regroupées dans une liste de contrôle pour une gouvernance et une sécurité efficace des systèmes intelligents. D’abord, il est essentiel de définir une stratégie claire de déploiement des systèmes intelligents, alignée sur les objectifs de l’entreprise.

Ensuite, une analyse des risques doit être menée pour identifier les menaces spécifiques et y répondre de manière adéquate. La mise en place d’un cadre de gouvernance adapté est également cruciale pour garantir le respect des lois, des réglementations et des principes éthiques.

Enfin, il est recommandé de tester régulièrement le système pour évaluer sa robustesse et détecter d’éventuelles vulnérabilités.

Quels conseils donneriez-vous à une entreprise qui souhaite adopter des systèmes intelligents tout en protégeant les données de ses utilisateurs ?

Je lui recommanderais de suivre les bonnes pratiques proposées par Owasp, de se conformer aux exigences du Livre V du Code du numérique relatif à la protection des données personnelles, et d’adopter les systèmes intelligents de façon progressive. Cela permettra une meilleure maîtrise des risques, tout en assurant la sécurité et le respect de la vie privée des utilisateurs.