Una checklist di sette passaggi per rendere la tua applicazione di IA generativa pronta per la sicurezza

 

L'IA generativa ha registrato una crescita esponenziale negli ultimi anni, con applicazioni che stanno trasformando il modo in cui le startup creano contenuti, analizzano i dati e prendono decisioni cruciali. Le organizzazioni utilizzano sempre più spesso la potenza dei modelli di IA generativa per creare applicazioni personalizzate. Pertanto, le startup che sperimentano e utilizzano l'IA generativa devono fare della sicurezza e dell'uso responsabile una priorità assoluta.

In questo articolo, abbiamo sviluppato una checklist di sette punti che delinea le misure essenziali di sicurezza e conformità da considerare quando si spostano le applicazioni basate sull'IA generativa dalla fase di sperimentazione alla produzione.

1. Stabilire un quadro di governance e un processo di conformità

2. Rivedi e rispetta il contratto di licenza per l'utente finale (EULA) del fornitore del modello linguistico di grandi dimensioni (LLM) e le policy sull'utilizzo dei dati

3. Implementa controlli di accesso completi

4. Mitiga i rischi di input e output

5. Proteggi i tuoi dati

6. Proteggi il tuo perimetro

7. Implementa un monitoraggio completo e una risposta agli incidenti

L'implementazione della checklist aiuterà la tua startup a mitigare i rischi, proteggere i dati e mantenere la fiducia degli utenti. Anche se selezionare più elementi migliora la difesa, non è necessario completare tutti i punti, poiché ciò dipenderà dalle esigenze della tua applicazione.

I controlli di sicurezza richiesti variano a seconda del tipo di modello (pre-addestrato, con fine-tuning o personalizzato) utilizzato per la creazione dell'applicazione. Ci concentreremo sulle applicazioni create utilizzando modelli pre-addestrati, che rispondono alla maggior parte dei casi d'uso dei clienti.

 

Definire un quadro completo di governance e conformità è fondamentale per la distribuzione dell'IA responsabile. Le persone e i processi sono fondamentali, quindi inizia creando un comitato interfunzionale per la governance dell'IA con esperti in materia provenienti dall'ufficio legale, dalla sicurezza informatica e dalle unità aziendali pertinenti. Questo comitato dovrebbe creare e far rispettare policy specifiche per la tua applicazione di IA generativa che riguardino la gestione dei dati, la selezione del modello e le linee guida per l'utilizzo.

Successivamente, sviluppa una checklist di conformità adatta alle normative del tuo settore (come ad esempio GDPR o PCI DSS). Ciò dovrebbe includere misure di protezione dei dati, gestione del consenso e requisiti di trasparenza. Implementa una revisione periodica della conformità, ad esempio con audit trimestrali, per assicurarti di rispettare gli standard in continua evoluzione. Consulta questi blog per ulteriori indicazioni: Dimensionamento di un programma di governance, rischio e conformità per cloud, tecnologie emergenti e innovazione e Protezione dell'IA generativa: considerazioni su dati, conformità e privacy.

Infine, predisponi un sistema di documentazione per tenere traccia delle decisioni, delle modifiche e dello stato di conformità della tua applicazione di IA generativa. Includi funzionalità come il controllo delle versioni per le policy, i log di audit per le modifiche al modello e un pannello di controllo per lo stato di conformità. Questo sistema non solo contribuirà a garantire la conformità alle normative, ma fornirà anche le prove necessarie durante gli audit esterni.

 

È fondamentale comprendere limitazioni e requisiti specifici per mantenere la conformità ed evitare potenziali problemi legali. Prima di integrare un modello pre-addestrato in un’applicazione, rivedi l’accordo di licenza con l’utente finale (EULA) e le policy sull’utilizzo dei dati del provider del modello linguistico di grandi dimensioni (LLM) scelto. Presta particolare attenzione alle clausole relative a gestione dei dati, output del modello e restrizioni sull’utilizzo commerciale. Gli utenti di Amazon Bedrock devono fare riferimento alla pagina Accesso ai modelli di fondazione Amazon Bedrock. Se esegui la distribuzione automatica dei modelli su Amazon SageMaker, consulta le origini dei modelli nella pagina relativa ai dettagli sui modelli.

Tenere d’occhio i nuovi aggiornamenti non è utile solo per mantenere la conformità, ma anche per cogliere opportunità entusiasmanti. Ad esempio, la licenza Meta Llama 3.1 è considerata più permissiva rispetto alle versioni precedenti e può aprire la strada a nuovi casi d’uso, come l’analisi di documenti lunghi e lo sviluppo di chatbot multilingue avanzati per uso globale. Indipendentemente dal modello scelto, la revisione regolare di questi aspetti assicura che la tua applicazione possa cogliere nuove opportunità.

Durante lo sviluppo e la distribuzione della tua applicazione di IA generativa, avrai bisogno di solidi controlli di accesso per proteggere il tuo sistema e i tuoi dati. Ciò include la definizione di policy di autenticazione, autorizzazione e accesso ai dati per gli utenti, il tutto nel rispetto del principio del privilegio minimo (PoLP). L'idea alla base di PoLP è che utenti e servizi ottengano solo l'accesso necessario per svolgere le proprie mansioni. Seguendo il PoLP, i team possono ridurre i potenziali rischi per la sicurezza e rendere più difficile per gli aggressori trovare un punto di accesso.

Inizia implementando l'autenticazione degli utenti utilizzando servizi come Amazon Cognito o Autorizzazioni verificate da Amazon, e imposta controlli di autorizzazione per garantire la conformità alla normativa PoLP. Ecco un esempio di come è possibile utilizzare i token JWT di Amazon Cognito per eseguire la propagazione dell'identità e l'autorizzazione granulare:

Imposta i controlli degli accessi per ogni parte della tua app di IA generativa, inclusi il LLM, i database, i sistemi di archiviazione e qualsiasi servizio o API connessi. Utilizza modelli a cui è possibile accedere tramite credenziali temporanee di breve durata (come quelle su Amazon Bedrock o Amazon SageMaker), per mantenere l'accesso sicuro e più facile da gestire. Amazon Bedrock ti consente inoltre di controllare esattamente chi può accedere a quali modelli, in modo da bloccare l'accesso dove necessario.

Successivamente, assicurati che le sessioni utente e i contesti di conversazione siano isolati implementando meccanismi che impediscano agli utenti di accedere ai contenuti, alle cronologie di sessione o alle informazioni di conversazione di altri utenti. Utilizza identificatori di sessione univoci per ciascun utente e convalidali ogni volta che un utente accede al sistema. L'implementazione della gestione delle sessioni lato server consentirà di registrare la cronologia delle conversazioni e il contesto in archivi dati isolati per ciascun utente.

Per le implementazioni della generazione potenziata da recupero dati (RAG), è fondamentale gestire l'accesso alle knowledge base utilizzate per aumentare le risposte degli LLM. Puoi semplificare questo processo utilizzando le knowledge base di Amazon Bedrock con filtraggio dei metadati, che fornisce controlli di accesso integrati per garantire che gli utenti recuperino solo le informazioni a cui sono autorizzati ad accedere. Se gestisci la tua RAG, usa Amazon Kendra per filtrare le risposte in base alle autorizzazioni degli utenti. Fai riferimento al diagramma precedente (fase 5) per un'illustrazione di come funziona il filtraggio dei metadati.

 

Una volta implementati i controlli di accesso, ora puoi concentrarti sui meccanismi di valutazione per valutare e mitigare i rischi associati agli input degli utenti e agli output dei modelli nella tua applicazione di IA generativa. Questo aiuta a proteggersi da vulnerabilità come attacchi di iniezione di prompt, generazione di contenuti inappropriati o allucinazioni.

Puoi semplificare questo processo utilizzando Amazon Bedrock Guardrails. Guardrails consente di configurare delle difese per l'input dei prompt e l'output del modello, applicabili a tutti gli LLM su Amazon Bedrock, inclusi i modelli ottimizzati con fine-tuning e persino applicazioni di IA generativa al di fuori di Amazon Bedrock.

Come ulteriore precauzione, implementa un catalogo di prompt verificato (un set pre-approvato di prompt per attività comuni) utilizzando Gestione prompt di Amazon Bedrock, per gestire i prompt in modo efficace e proteggere l'LLM da istruzioni dannose.

La convalida dell'output è altrettanto importante. Le risposte dell'LLM devono essere trattate con cautela: se il modello genera codice o query di database (che verranno passate ad altri componenti), è necessario considerare il suo output come se provenisse da un utente non attendibile. Prima di consentire l'interazione con altri sistemi, verifica sempre le autorizzazioni ed esegui i controlli di sicurezza. Utilizza metodi sicuri come le query parametrizzate per i database e rivedi la struttura di qualsiasi codice SQL generato prima di utilizzarlo. È inoltre possibile limitare i rischi utilizzando modelli di prompt all'interno dei prompt di sistema per controllare il formato delle risposte del modello.

Se i tuoi LLM generano comandi o codice di sistema, è fondamentale utilizzare misure di sicurezza efficaci. Inizia adottando rigorosi controlli di convalida. Ciò include l'utilizzo di liste di elementi consentiti, il controllo della sintassi e la comprensione di ciò che il codice sta cercando di fare. Per linguaggi come JavaScript o Markdown, è sempre consigliabile codificare l'output prima di mostrarlo agli utenti per proteggersi da potenziali vulnerabilità. Se il codice dell'IA deve essere eseguito, assicurati di farlo in una sandbox (un ambiente isolato) per proteggere il sistema principale in caso di problemi.

 

Successivamente, assicurati di proteggere i dati che il tuo modello utilizza e a cui risponde (come le query degli utenti, i contesti aggiuntivi e le knowledge base utilizzate nei sistemi RAG) tramite crittografia.

Questo è reso facile da servizi come il Servizio AWS di gestione delle chiavi per la gestione, l'archiviazione e la rotazione sicure delle chiavi di crittografia e AWS Identity and Access Management (IAM) per il controllo degli accessi. Puoi anche attivare il versionamento per l'archiviazione della tua knowledge base (come il versionamento di S3) per tenere traccia delle modifiche e assicurarti che i tuoi dati rimangano affidabili e sicuri.

Se gestisci dati sensibili, puoi anche implementare il mascheramento o il blocco dei dati utilizzando i filtri per le informazioni sensibili di Bedrock Guardrails.

 

Ora che i tuoi dati sono protetti, puoi concentrarti sulla protezione della tua infrastruttura di IA generativa. Quando utilizzi dati proprietari, assicurati di impostare un perimetro sicuro per prevenire l'esposizione alla rete Internet pubblica. L'endpoint VPC di Amazon Bedrock crea una connessione privata tra il tuo cloud privato virtuale (VPC) e l'account Amazon Bedrock, rafforzando la sicurezza delle interazioni con i tuoi dati e modelli.

Gli LLM utilizzano una notevole potenza di calcolo, il che li rende bersaglio di abusi. Per evitare che ciò accada, puoi impostare dei limiti al numero di utenti che possono accedere alla tua applicazione. Usa AWS Web Application Firewall (WAF) per impostare questi limiti e Gateway Amazon API per controllare la frequenza delle richieste alla tua applicazione. Queste misure proteggeranno la tua infrastruttura assicurando al contempo che il tuo sistema funzioni bene e funzioni in modo coerente.

 

Una volta messi in sicurezza la configurazione e i dati, è possibile passare alla messa in sicurezza del monitoraggio del sistema. Ciò include l'implementazione di meccanismi di risposta per rilevare e risolvere rapidamente i problemi di sicurezza. Monitora le metriche di utilizzo dell'LLM, come il volume delle richieste, la latenza e i tassi di errore, per comprendere le prestazioni del sistema e rilevare eventuali anomalie. Amazon CloudWatch creerà avvisi quando queste metriche superano i livelli impostati.

Parallelamente a ciò, è necessario sviluppare un piano di risposta agli incidenti per affrontare scenari quali iniezioni di prompt, output inattesi del modello o fughe di dati. Descrivi un processo di escalation per ogni scenario, indicando gli strumenti chiave, i membri del team e le loro responsabilità. Infine, configura un sistema come Andon cord che ti permetta di disattivare rapidamente un modello, ripristinare una versione precedente o passare a una modalità sicura in caso di problemi. Avere a disposizione procedure chiare per la gestione dei problemi di sicurezza ti aiuterà a reagire più rapidamente e a mantenere la tua applicazione di intelligenza artificiale sicura e stabile.

Questa checklist in sette passaggi è una guida essenziale per portare la tua applicazione di IA generativa dal prototipo alla produzione. Affrontare e intervenire su ciascun punto ti aiuterà a sviluppare e distribuire in modo responsabile, proteggendo sia la tua organizzazione che i tuoi utenti. E ricorda che l’IA generativa si evolve a un ritmo rapido, quindi è importante non perdere nessun aggiornamento relativo agli ultimi sviluppi nella sicurezza dell’IA per mantenere la tua applicazione (e la tua startup) all’avanguardia in termini di innovazione e fiducia. Dai un’occhiata alla pagina Builder Center - IA agentica per scoprire gli ultimi aggiornamenti!

Questo articolo illustra i controlli di sicurezza per le applicazioni che utilizzano modelli pre-addestrati. Se stai pensando di utilizzare modelli con fine-tuning o personalizzati, fai riferimento alla Generative AI Security Scoping Matrix per comprendere i diversi rischi e le mitigazioni a cui prestare attenzione in base al tipo di modello. Puoi anche fare riferimento alla sezione Approccio sicuro all'IA generativa o contattare il team del tuo account per ulteriore supporto.