Liste de contrôle en sept étapes pour sécuriser votre application d’IA générative

 

L’IA générative a connu une croissance fulgurante ces dernières années et transforme la manière dont les start-ups créent du contenu, analysent les données et prennent des décisions critiques. Les organisations utilisent de plus en plus la puissance des modèles d’IA générative pour créer des applications personnalisées. À ce titre, les start-ups qui expérimentent et utilisent l’IA générative doivent faire de la sécurité et de l’utilisation responsable une priorité absolue.

Dans cet article, nous proposons une liste de contrôle en sept points qui présente les mesures essentielles de sécurité et de conformité à prendre en compte pour faire passer vos applications basées sur l’IA générative de l’expérimentation à la production.

1. Mettre en place un cadre de gouvernance et un processus de conformité

2. Examiner et respecter le contrat de licence utilisateur final (EULA) et les politiques d’utilisation des données du fournisseur de grands modèles de langage (LLM)

3. Mettre en œuvre des contrôles d’accès complets

4. Atténuer les risques liés aux entrées et aux sorties

5. Protéger vos données

6. Sécuriser votre périmètre

7. Mettre en œuvre une surveillance complète et une réponse aux incidents

La mise en œuvre de la liste de contrôle aidera votre start-up à atténuer les risques, protéger les données et maintenir la confiance des utilisateurs. Plus vous validez d’éléments, plus votre niveau de protection augmente. Vous n’avez toutefois pas besoin d’implémenter chaque point, car leur importance dépend des besoins de votre application.

Les contrôles de sécurité requis varient selon le type de modèle (préentraîné, peaufiné ou personnalisé) utilisé pour créer votre application. Nous nous concentrerons sur les applications créées à l’aide de modèles préentraînés, qui répondent à la plupart des cas d’utilisation des clients.

 

La mise en place d’un cadre complet de gouvernance et de conformité constitue la base d’un déploiement responsable de l’IA. Les personnes et les processus sont essentiels. Commencez donc par former un comité interfonctionnel de gouvernance de l’IA réunissant des spécialistes des services juridiques, de la sécurité informatique et des unités opérationnelles concernées. Ce comité doit définir et appliquer des politiques propres à votre application d’IA générative, notamment pour le traitement des données, la sélection des modèles et les règles d’utilisation.

Ensuite, élaborez une liste de contrôle de conformité adaptée aux réglementations de votre secteur (comme le RGPD ou la norme PCI DSS). Cette liste doit couvrir les mesures de confidentialité des données, la gestion du consentement et les exigences de transparence. Mettez en place des examens réguliers de la conformité, comme des audits trimestriels, afin de respecter les normes à mesure qu’elles évoluent. Pour obtenir des conseils supplémentaires, consultez les articles Scaling a governance, risk, and compliance program for the cloud, emerging technologies, and innovation et Securing generative AI: data, compliance, and privacy considerations.

Enfin, configurez un système de documentation pour suivre les décisions, les modifications et le statut de conformité de votre application d’IA générative. Prévoyez notamment le contrôle de version des politiques, des journaux d’audit des modifications apportées aux modèles et un tableau de bord du statut de conformité. Non seulement ce système aidera à maintenir la conformité, mais il fournira également les preuves nécessaires lors des audits externes.

 

Il est essentiel de comprendre les limitations et exigences spécifiques afin d’assurer la conformité et d’éviter d’éventuels problèmes juridiques. Avant d’intégrer un modèle préentraîné à votre application, examinez le CLUF et les politiques d’utilisation des données du fournisseur de LLM que vous avez choisi. Portez une attention particulière aux clauses relatives au traitement des données, aux sorties des modèles et aux restrictions d’utilisation commerciale. Pour les utilisateurs d’Amazon Bedrock, consultez la page Request access to models. Si vous effectuez vous-même le déploiement sur Amazon SageMaker, consultez les sources des modèles sur la page des détails du modèle.

En plus d’assurer la conformité, surveiller les nouvelles mises à jour peut également offrir des opportunités intéressantes. Par exemple, la licence Meta Llama 3.1 est considérée comme plus permissive que les précédentes, ouvrant la voie à de nouveaux cas d’utilisation, comme l’analyse de documents longs et la création de chatbots multilingues avancés destinés à une utilisation dans le monde entier. Quel que soit le modèle choisi, l’examen régulier de ces aspects permet à votre application de tirer parti de nouvelles opportunités.

Lors du développement et du déploiement de votre application d’IA générative, vous aurez besoin de contrôles d’accès robustes pour protéger votre système et vos données. Cela comprend la configuration de l’authentification des utilisateurs, des autorisations et des politiques d’accès aux données, dans le respect du principe du moindre privilège (PoLP). Selon le principe PoLP, les utilisateurs et les services reçoivent uniquement les accès nécessaires à l’exécution de leurs tâches. En appliquant ce principe, les équipes peuvent réduire les risques de sécurité potentiels et compliquer les tentatives d’intrusion.

Commencez par mettre en œuvre l’authentification des utilisateurs avec des services comme Amazon Cognito ou Amazon Verified Permissions, puis configurez des contrôles d’autorisation afin de respecter le principe PoLP. Voici un exemple d’utilisation des jetons JWT d’Amazon Cognito pour propager l’identité et appliquer des autorisations précises :

Définissez des contrôles d’accès pour chaque partie de votre application d’IA générative, y compris le LLM, les bases de données, les systèmes de stockage et tous les services ou API connectés. Utilisez des modèles accessibles au moyen d’informations d’identification temporaires de courte durée, comme ceux disponibles sur Amazon Bedrock ou Amazon SageMaker, afin de sécuriser et de simplifier la gestion des accès. Amazon Bedrock vous permet également de contrôler exactement qui peut accéder à quels modèles, afin que vous puissiez bloquer l’accès si nécessaire.

Ensuite, isolez les sessions utilisateur et les contextes de conversation au moyen de mécanismes empêchant les utilisateurs d’accéder au contenu, à l’historique des sessions ou aux informations conversationnelles d’autres utilisateurs. Attribuez un identifiant de session unique à chaque utilisateur et validez-le à chaque accès au système. La gestion des sessions côté serveur permet d’enregistrer l’historique et le contexte des conversations dans des magasins de données isolés pour chaque utilisateur.

Pour les implémentations de la génération à enrichissement contextuel (RAG), il est essentiel de gérer l’accès aux bases de connaissances utilisées pour enrichir les réponses des LLM. Vous pouvez simplifier cette opération en utilisant les bases de connaissances Amazon Bedrock avec un filtrage des métadonnées, dont les contrôles d’accès intégrés garantissent que les utilisateurs récupèrent uniquement les informations auxquelles ils ont l’autorisation d’accéder. Si vous gérez votre propre RAG, utilisez Amazon Kendra pour filtrer les réponses en fonction des autorisations des utilisateurs. Reportez-vous au schéma ci-dessus (étape 5) pour une illustration du fonctionnement du filtrage des métadonnées.

 

Une fois les contrôles d’accès mis en place, vous pouvez vous concentrer sur les mécanismes d’évaluation permettant d’analyser et d’atténuer les risques associés aux entrées des utilisateurs et aux sorties des modèles dans votre application d’IA générative. Cela permet de se protéger contre les vulnérabilités, comme les attaques par injection d’invite, la génération de contenu inappropriée ou les hallucinations.

Vous pouvez simplifier ce processus à l’aide des barrières de protection Amazon Bedrock. Ces barrières permettent de configurer des mécanismes de défense pour les invites en entrée et les sorties des modèles, applicables aux différents LLM sur Amazon Bedrock, y compris aux modèles peaufinés et aux applications d’IA générative extérieures à Amazon Bedrock.

Par mesure de précaution supplémentaire, mettez en œuvre un catalogue d’invites vérifié (un ensemble d’invites préapprouvées pour les tâches courantes) avec Amazon Bedrock Prompt Management, afin de gérer efficacement les invites et de protéger le LLM contre les instructions malveillantes.

La validation des résultats est tout aussi importante. Les réponses des LLM doivent être traitées avec prudence : si le modèle génère du code ou des requêtes de base de données qui seront transmis à d’autres composants, considérez ses sorties comme provenant d’un utilisateur non approuvé. Vérifiez toujours les autorisations et effectuez des contrôles de sécurité avant de le laisser interagir avec d’autres systèmes. Utilisez des méthodes sûres, comme les requêtes paramétrées pour les bases de données, et examinez la structure de tout code SQL généré avant de l’utiliser. Vous pouvez également limiter les risques en utilisant des modèles d’invite dans les invites système pour contrôler le format des réponses du modèle.

Si vos LLM génèrent des commandes système ou du code, il est essentiel d’utiliser des mesures de sécurité strictes. Commencez par utiliser des contrôles de validation stricts. Ces contrôles comprennent l’utilisation de listes d’autorisations, la vérification de la syntaxe et l’analyse de l’objectif du code. Pour des langages comme JavaScript ou Markdown, encodez toujours la sortie avant de l’afficher aux utilisateurs afin de les protéger contre d’éventuelles vulnérabilités. Si le code généré par l’IA doit être exécuté, faites-le dans un environnement de test (sandbox) isolé afin de protéger votre système principal en cas de problème.

 

Ensuite, protégez par chiffrement les données qu’utilise votre modèle et qui alimentent ses réponses, comme les requêtes des utilisateurs, les contextes supplémentaires et les bases de connaissances employées dans les systèmes RAG.

Des services comme AWS Key Management Service (KMS) facilitent la gestion, le stockage et la rotation sécurisés des clés de chiffrement, tandis que la Gestion des identités et des accès AWS (AWS IAM) permet de gérer les contrôles d’accès. Vous pouvez également activer la gestion des versions pour le stockage de vos bases de connaissances, comme le contrôle de version S3, afin de suivre les modifications et de préserver la fiabilité et la sécurité de vos données.

Si vous traitez des données sensibles, vous pouvez également mettre en œuvre leur masquage ou leur blocage à l’aide des filtres d’informations sensibles des barrières de protection Amazon Bedrock.

 

Maintenant que vos données sont sécurisées, vous pouvez vous concentrer sur la protection de votre infrastructure d’IA générative. Lorsque vous utilisez des données exclusives, veillez à configurer un périmètre sécurisé afin d’éviter toute exposition à l’Internet public. Le point de terminaison de VPC Amazon Bedrock établit une connexion privée entre votre cloud privé virtuel (VPC) et votre compte Amazon Bedrock, ce qui renforce la sécurité de vos données et des interactions avec les modèles.

Les LLM utilisent une puissance de calcul importante, ce qui en fait des cibles d’abus. Pour prévenir ces abus, vous pouvez limiter la fréquence d’accès des utilisateurs à votre application. Utilisez le pare-feu d’applications Web (AWS WAF) pour définir ces limites et Amazon API Gateway pour contrôler le taux de requêtes adressées à votre application. Ces mesures protègent votre infrastructure tout en garantissant des performances élevées et un fonctionnement stable du système.

 

Une fois votre configuration et vos données sécurisées, vous pouvez vous concentrer sur la surveillance du système. Cela suppose de mettre en œuvre des mécanismes de réponse permettant de détecter et de traiter rapidement les problèmes de sécurité. Surveillez les métriques d’utilisation des LLM, comme le volume de requêtes, la latence et les taux d’erreur, afin de comprendre les performances du système et de détecter les anomalies. Amazon CloudWatch génère des alertes lorsque ces métriques dépassent les seuils définis.

Parallèlement, élaborez un plan de réponse aux incidents pour traiter des scénarios comme les injections d’invite, les sorties inattendues des modèles ou les fuites de données. Définissez un processus d’escalade pour chaque scénario, en précisant les principaux outils, les membres de l’équipe concernés et leurs responsabilités. Enfin, configurez un système comme le cordon Andon, qui permet de désactiver rapidement un modèle, de revenir à une version antérieure ou de passer en mode sécurisé en cas de problème. La mise en place de ces étapes claires pour les problèmes de sécurité vous aidera à réagir plus rapidement et à assurer la sécurité et la stabilité de votre application d’IA.

Cette liste de contrôle en sept étapes est un guide essentiel pour faire passer votre application d’IA générative du prototype à la production. Le fait de traiter et de mettre en œuvre chaque élément vous aidera à créer et à déployer votre application de manière responsable, tout en protégeant votre organisation et vos utilisateurs. Et n’oubliez pas que l’IA générative évolue rapidement. Il est donc important de suivre les dernières évolutions en matière de sécurité de l’IA afin que votre application (et votre start-up) reste à l’avant-garde en matière d’innovation et de confiance. Consultez AWS Builder Center : IA agentique pour découvrir nos dernières actualités !

Cet article présente les contrôles de sécurité pour les applications qui utilisent des modèles préentraînés. Si vous envisagez d’utiliser des modèles peaufinés ou personnalisés, consultez la matrice de cadrage de la sécurité de l’IA générative afin de comprendre les différents risques et les mesures d’atténuation à prévoir selon le type de modèle. Vous pouvez également consulter l’article Sécurisation de l’IA ou contacter l’équipe chargée de votre compte pour obtenir une assistance supplémentaire.