Qu’est-ce que la sécurité de l’IA ?

F5 Newsroom Staff

Si l’intelligence artificielle (IA) est entrée dans le langage courant fin 2022 avec le lancement de ChatGPT, la sécurité de l’IA reste un domaine relativement nouveau, encore mal compris et souvent ignoré ou écarté, même par les professionnels de la cybersécurité. Il est temps de lever toute ambiguïté et de dissiper les malentendus sur ce que recouvre la sécurité de l’IA, les menaces auxquelles elle est confrontée et les approches à adopter pour créer un environnement d’IA sécurisé à l’échelle de votre entreprise.

Une nouvelle surface d’attaque

La sécurité de l’IA désigne la mise en œuvre stratégique de mesures et de politiques robustes visant à protéger les systèmes d’IA, les données et les activités de votre organisation contre les accès non autorisés, les altérations, les attaques malveillantes et autres menaces numériques. Il est essentiel que toute organisation déployant des outils d’IA intègre la sécurité à sa stratégie d’utilisation de l’IA, car chaque nouveau composant ajouté à un système numérique, y compris les applications basées sur l’IA, élargit la « surface d’attaque » dont disposent les acteurs malveillants pour s’infiltrer dans le système ou lui porter atteinte. 

La sécurisation des composants basés sur l’IA ajoutés à votre infrastructure numérique, qu’il s’agisse de modèles statistiques ou de grands modèles de langage (LLM), tels que ChatGPT et d’autres, est essentielle pour préserver l’intégrité, la confidentialité et la fiabilité de votre système, mais aussi pour renforcer la confiance de vos clients et protéger la réputation de votre organisation. Alors qu’un nombre croissant d’organisations utilisent des outils et des solutions d’IA pour la prise de décision, leurs opérations et les interactions sensibles avec leurs clients, une stratégie robuste de sécurité de l’IA est indispensable pour garantir que ces outils restent dignes de confiance et qu’ils sont efficacement protégés contre les menaces externes et les vulnérabilités internes.

Risques liés aux modèles d’IA

Les LLM sont considérés tantôt comme des gadgets ingénieux, tantôt comme des outils puissants. En réalité, ils constituent le dernier ajout en date à l’infrastructure informatique critique des organisations et doivent être traités comme une surface d’attaque vulnérable. Les premières discussions sur les risques liés aux LLM ont largement porté sur l’identification et la résolution des menaces découlant du comportement humain, telles que la perte de données et les usages inappropriés. Toutefois, les menaces les plus insidieuses sont les attaques furtives visant les modèles et/ou leurs jeux de données. Ces attaques gagnent non seulement en potentiel de nuisance, mais aussi en portée, en ampleur et en subtilité, ce qui les rend de plus en plus difficiles à détecter. Nous présentons ici trois types d’attaques qui constituent les menaces les plus importantes pour les entreprises déployant des LLM et d’autres modèles d’intelligence artificielle générative (IA générative).

Contournements des garde-fous / injection de prompts

Les techniques de jailbreak ou d’injection de prompt tentent de « tromper » un LLM afin qu’il fournisse des informations considérées comme dangereuses, illégales, immorales ou contraires à l’éthique, ou plus généralement opposées aux normes sociales communément admises. Environ deux heures après la sortie de ChatGPT-4 en mars 2023, des tentatives de jailbreak réussies ont amené le système à fournir des instructions concernant un éventail alarmant d’activités antisociales. 

Depuis lors, de nombreux acteurs malveillants ont élaboré des prompts soigneusement formulés et très détaillés — faisant notamment appel au jeu de rôle, au texte prédictif, à la psychologie inversée et à d’autres techniques — afin d’amener les LLM à contourner les filtres de contenu internes et les mécanismes de contrôle qui régissent leurs réponses. Le danger d’une attaque par jailbreak réussie contre un système d’IA générative, tel qu’un LLM, réside dans le fait qu’elle neutralise les dispositifs de protection empêchant le modèle d’exécuter des commandes malveillantes, comme des instructions lui demandant d’ignorer les mesures de sécurité ou d’entreprendre des actions destructrices. Une fois cette frontière entre usage acceptable et inacceptable supprimée, le modèle ne dispose plus d’aucun garde-fou pour l’empêcher de suivre les nouvelles instructions.

Empoisonnement des données

Une attaque par empoisonnement peut cibler le modèle, ses données d’entraînement ou une source de données non sécurisée de votre organisation. Son objectif est de fausser les résultats ou les prédictions produits par votre modèle. Votre organisation risque alors de se fier à ces résultats erronés et de prendre de mauvaises décisions potentiellement préjudiciables, de diffuser des informations inexactes ou incorrectes, ou d’entreprendre d’autres actions malavisées sur la base des résultats du modèle.

• Empoisonnement des données : ces attaques ciblent le jeu de données d’entraînement du modèle. L’auteur de la menace altère ou manipule les données, ou y ajoute des données malveillantes, erronées, biaisées ou inappropriées d’une autre manière, ce qui fausse les résultats du modèle. 
• Empoisonnement du modèle : ces attaques ciblent le modèle lui-même. L’auteur de la menace modifie le modèle ou ses paramètres afin de provoquer des résultats erronés. 
• Porte dérobée : ce type d’attaque nécessite une approche en deux étapes. L’acteur malveillant commence par manipuler le jeu de données du modèle en y ajoutant des données malveillantes afin de créer une vulnérabilité cachée qui n’affecte en rien le modèle tant qu’elle n’est pas déclenchée. L’activation de cette vulnérabilité constitue la deuxième étape de l’attaque ; elle permet au pirate de nuire à votre organisation au moment de son choix.

IA antagoniste

Les attaques adversariales surviennent après le déploiement et la mise en service des modèles. Leurs méthodes varient, mais elles sont toutes très difficiles à détecter et extrêmement dangereuses.

• Inversion de modèle : ces attaques analysent les résultats d’un modèle afin de révéler des informations sensibles sur le modèle lui-même ou sur le jeu de données ayant servi à son entraînement, ce qui peut entraîner des atteintes à la vie privée.
• Inférence d’appartenance : ces attaques consistent, pour l’auteur de la menace, à tenter de déterminer si des données spécifiques, telles que des informations sur une personne en particulier, faisaient partie du jeu de données d’entraînement. Si elles réussissent, ces attaques portent gravement atteinte à la vie privée.
• Vol de modèle : ces attaques consistent à examiner minutieusement les résultats d’un modèle entraîné afin de voler ou de copier sa propriété intellectuelle dans le but de cloner le modèle d’origine, généralement à des fins commerciales.
• Tatouage numérique : ces attaques modifient les paramètres d’un modèle entraîné afin d’y intégrer un motif caché pouvant servir à « prouver » qui en est le propriétaire. Cela peut entraîner des pertes financières importantes ainsi qu’une perte d’avantage concurrentiel.
• Inférence de modèle : ces attaques analysent les résultats d’un modèle afin d’obtenir des informations sensibles sur les données d’entraînement ou les paramètres du modèle, ce qui peut entraîner des atteintes à la vie privée.

Solutions

Des stratégies de protection et des tactiques de déploiement innovantes doivent être développées en permanence afin de suivre l’évolution des nouvelles technologies d’IA, telles que les grands modèles de langage (LLM). Le déploiement proactif de mesures de protection contre les menaces connues et émergentes est la seule approche raisonnable pour créer un environnement sécurisé permettant de mettre en œuvre les LLM à grande échelle dans toute l’entreprise. 

Notre plateforme protège votre organisation contre les utilisateurs qui cherchent à ignorer ou à contourner les contrôles du système. Pour ce faire, elle analyse les schémas et les catégories linguistiques, tels que les jeux de rôle, les conversations hypothétiques, la création d’univers et la psychologie inversée, afin d’identifier les requêtes visant à enfreindre les règles d’utilisation autorisée.

Elle analyse également les contenus entrants et sortants afin de détecter tout élément toxique, biaisé ou autrement inacceptable. Les utilisateurs sont avertis que leur requête ne sera pas envoyée tant que son contenu n’aura pas été modifié. Un historique détaillé des requêtes permet en outre d’auditer ces dernières ainsi que les utilisateurs qui les ont créées. Notre plateforme permet également aux administrateurs d’exiger une vérification humaine des informations renvoyées par le modèle afin de garantir l’exactitude et la véracité de tout contenu utilisé dans la documentation de l’organisation.

Conclusion

Comprendre et mettre en œuvre des protocoles de sécurité de l’IA devient rapidement un impératif stratégique majeur dans un environnement professionnel de plus en plus axé sur l’IA. En intégrant des outils de sécurité de l’IA à votre infrastructure, votre organisation pourra s’adapter de manière dynamique et en temps réel aux nouvelles menaces, assurer une protection robuste de ses systèmes d’IA, de ses données et de ses opérations, et offrir une plus grande sérénité aux décideurs. En bref, la sécurité de l’IA permet à votre organisation de garder une longueur d’avance sur les cybercriminels — et sur vos concurrents.

À propos de l’auteur

F5 Newsroom Staff

Autres articles de F5 Newsroom Staff