Eine 7-Punkte-Checkliste zum Vorbereiten von Anwendungen der generativen KI auf Sicherheit

 

Generative KI verzeichnete in den vergangenen Jahren ein explosives Wachstum. KI-Anwendungen haben die Art und Weise, wie Startups Inhalte erstellen, Daten analysieren und wichtige Entscheidungen treffen, grundlegend verändert. Unternehmen nutzen zunehmend die Leistungsfähigkeit von Modellen der generativen KI zum Erstellen kundenspezifischer Anwendungen. Daher müssen die Startups, die mit generativer KI experimentieren und generative KI handhaben, Sicherheit und verantwortungsvolle Nutzung zu ihrer obersten Priorität machen.

In diesem Post stellen wir eine sieben Punkte umfassende Checkliste vor, in der die wichtigsten Sicherheits- und Compliance-Maßnahmen aufgeführt sind. Diese Maßnahmen sollten Sie beim Überführen Ihrer auf generative KI gestützten Anwendungen vom Experimentieren in die Produktion unbedingt berücksichtigen.

1. Einrichten eines Governance-Frameworks und eines Compliance-Prozesses

2. Prüfen und Einhalten der Endbenutzer-Lizenzvereinbarung (End User License Agreement, EULA) und den Datennutzungsrichtlinien des Anbieters des großen Sprachmodells (Large Language Model, LLM)

3. Implementieren umfassender Zugriffskontrollen

4. Mindern von Risiken im Zusammenhang mit Eingaben und mit Ausgaben

5. Schutz Ihrer Daten

6. Absichern des Perimeters

7. Implementieren einer umfassenden Überwachung und Reaktion auf Vorfälle

Die Implementierung der Checkliste hilft Ihrem Startup beim Mindern von Risiken, beim Schützen Ihrer Daten und beim Aufrechterhalten des Vertrauens der Benutzer. Je mehr Punkte Sie abhaken können, desto stärker ist zwar Ihre Verteidigung, Sie müssen jedoch nicht jeden Punkt umfassend abarbeiten. Das ist voll und ganz von den Anforderungen Ihrer Anwendung abhängig.

Welche Sicherheitskontrollen erforderlich sind, ist vom zum Erstellen Ihrer Anwendung verwendeten Modell abhängig (vortrainiert, feinabgestimmt oder kundenspezifisch). Wir konzentrieren uns auf Anwendungen, die mit vortrainierten Modellen erstellt wurden und die meisten Anwendungsfälle von Kunden abdecken.

 

Das Einrichten eines umfassenden Governance- und Compliance-Frameworks ist die Grundlage für die verantwortungsvolle Bereitstellung von KI. Leute und Prozesse sind von entscheidender Bedeutung. Formieren Sie daher zuerst ein funktionsübergreifendes KI-Governance-Komitee mit Fachexperten aus dem Bereich Recht, aus dem Bereich IT-Sicherheit und aus den relevanten Geschäftsbereichen. Dieses Komitee hat die Aufgabe, spezifische Richtlinien für Ihre Anwendungen der generativen KI zu erstellen und durchzusetzen. Diese Richtlinien umfassen den Umgang mit Daten, die Modellauswahl und Leitfäden zur Nutzung.

Entwickeln Sie als Nächstes eine Compliance-Checkliste, die auf die Gesetze und Bestimmungen Ihrer Branche (z. B. GDPR oder PCI DSS) zugeschnitten ist. Diese Liste muss Datenschutzmaßnahmen, Einwilligungsmanagement und Anforderungen an die Transparenz umfassen. Führen Sie eine regelmäßige Compliance-Überprüfung durch, z. B. vierteljährliche Audits, um sicherzustellen, dass Sie die sich ständig weiterentwickelnden Standards und Normen einhalten. Weitere hilfreiche Informationen finden Sie in diesen Blogs: Skalierung eines Governance-, Risiko- und Compliance-Programms für die Cloud, neue Technologien und Innovationen und Absichern generativer KI: Überlegungen zu Daten, Compliance und Datenschutz.

Richten Sie abschließend ein Dokumentationssystem ein, mit dem Sie Entscheidungen, Änderungen und den Compliance-Status Ihrer Anwendungen der generativen KI nachverfolgen. Dazu gehören Funktionen wie die Versionsverwaltung für Richtlinien, Auditprotokolle bei Änderungen an Modellen und ein Dashboard zum Compliance-Status. Dieses System hilft nicht nur bei der Aufrechterhaltung der Compliance, sondern hält bei externen Audits auch die erforderlichen Nachweise bereit.

 

Es ist wichtig, die spezifischen Einschränkungen und Anforderungen zu verstehen, um die Compliance zu gewährleisten und potenzielle rechtliche Probleme zu vermeiden. Bevor Sie ein vortrainiertes Modell in Ihre Anwendung integrieren, überprüfen Sie die EULA und die Richtlinien zur Datennutzung Ihres ausgewählten LLM-Anbieters. Achten Sie genau auf die Bestimmungen zum Umgang mit Daten, zu Modellausgaben und zu Einschränkungen bei der kommerziellen Nutzung. Amazon-Bedrock-Benutzer finden weitere Informationen unter Zugriff auf Amazon-Bedrock-Basismodelle. Wenn Sie selbst auf Amazon SageMaker bereitstellen, überprüfen Sie die Modellquellen auf der Seite mit den Modelldetails.

Neben der Gewährleistung der Compliance kann das Verfolgen neuer Updates auch spannende Möglichkeiten mit sich bringen. Zum Beispiel gilt die Meta-Llama-3.1-Lizenz als weniger restriktiv als ihre Vorgänger und eröffnet damit neue Anwendungsfälle wie die Analyse umfangreicher Dokumente und die Entwicklung fortschrittlicher mehrsprachiger Chatbots für den weltweiten Einsatz. Unabhängig davon, für welches Modell Sie sich entscheiden: Wenn Sie diese Aspekte regelmäßig überprüfen, stellen Sie sicher, dass Ihre Anwendung neue Möglichkeiten nutzen kann.

Bei Entwicklung und Bereitstellung Ihrer Anwendung der generativen KI benötigen Sie robuste Zugriffskontrollen, um Ihr System und Ihre Daten zu schützen. Das umfasst die Einrichtung von Richtlinien für Benutzerauthentifizierung, Autorisierung und Datenzugriff unter Einhaltung des Prinzips der geringsten Berechtigung (PoLP). Die Idee hinter PoLP ist, dass Benutzer und Services nur genau den Zugriff erhalten, den sie für ihre Aufgaben benötigen. Durch die Umsetzung von PoLP können Teams potenzielle Sicherheitsrisiken eindämmen und es Angreifern erschweren, einen Weg in das System zu finden.

Implementieren Sie zunächst die Benutzerauthentifizierung mithilfe von Services wie Amazon Cognito oder Amazon Verified Permissions und richten Sie Autorisierungskontrollen zur Unterstützung der Einhaltung von PoLP ein. Hier ist ein Beispiel dafür, wie Sie mithilfe von JWT-Token von Amazon Cognito eine Identitätsweitergabe und eine detaillierte Autorisierung realisieren können:

Richten Sie Zugriffskontrollen für jeden Teil Ihrer Anwendung für generative KI ein, also für LLM, Datenbanken, Speichersysteme und alle verbundenen Services und APIs. Verwenden Sie Modelle, auf die über kurzlebige, temporäre Anmeldeinformationen zugegriffen werden kann (wie bei den Modellen in Amazon Bedrock oder Amazon SageMaker). Dadurch können Sie den Zugriff besser absichern und einfacher verwalten. Mit Amazon Bedrock können Sie zudem genau kontrollieren, wer auf welche Modelle zugreifen kann, sodass Sie den Zugriff bei Bedarf blockieren können.

Stellen Sie als Nächstes sicher, dass Benutzersitzungen und Konversationskontexte isoliert sind. Implementieren Sie dazu Mechanismen, die verhindern, dass Benutzer auf Inhalte, Sitzungsverläufe oder Konversationsinformationen anderer Benutzer zugreifen. Verwenden Sie eindeutige Sitzungskennungen für Benutzer und überprüfen Sie diese Kennungen bei jedem Zugriff eines Benutzers auf das System. Durch die Implementierung einer serverseitigen Sitzungsverwaltung können Sie Konversationsverläufe und den Kontext in isolierten Datenspeichern für die einzelnen Benutzer protokollieren.

Für Implementierungen von Retrieval Augmented Generation (RAG) ist es von entscheidender Bedeutung, den Zugriff auf die zur Verbesserung der LLM-Antworten genutzten Wissensdatenbanken zu verwalten. Sie können dies vereinfachen, indem Sie Amazon Bedrock Wissensdatenbanken mit Metadatenfilterung verwenden. Das bietet integrierte Zugriffskontrollen, die sicherstellen, dass Benutzer nur Informationen abrufen, für die sie autorisiert sind. Wenn Sie Ihre eigene RAG verwalten, verwenden Sie Amazon Kendra zum Filtern von Antworten auf der Grundlage von Benutzerberechtigungen. Das obige Diagramm (Schritt 5) veranschaulicht, wie die Metadatenfilterung funktioniert.

 

Nach dem Implementieren von Zugriffskontrollen können Sie sich auf Bewertungsmechanismen zum Einschätzen und Mindern von Risiken im Zusammenhang mit Eingaben durch Benutzer und mit Ausgaben von Modellen bei Ihrer Anwendung für generative KI konzentrieren. Dies trägt zum Schutz vor Schwachstellen wie Promptinjektionsangriffen, der Generierung unangemessener Inhalte oder Halluzinationen bei.

Sie können diesen Vorgang mithilfe von Amazon Bedrock Guardrails vereinfachen. Guardrails ermöglicht es Ihnen, Abwehrmechanismen für Prompt-Eingaben und Modellausgaben zu konfigurieren, die auf allen LLMs auf Amazon Bedrock angewendet werden können, auch auf fein abgestimmte Modelle und sogar auf Anwendungen der generativen KI außerhalb von Amazon Bedrock.

Implementieren Sie als zusätzliche Vorsichtsmaßnahme mithilfe von Amazon Bedrock Prompt Management einen Katalog bereits verifizierter Prompts (eine vorab genehmigte Menge von Prompts für allgemeine Aufgaben). Dadurch können Sie Prompts effektiv verwalten und das LLM vor böswilligen Anweisungen schützen.

Die Validierung der Ausgaben ist ebenso wichtig. LLM-Antworten sind stets mit Vorsicht zu genießen – wenn das Modell Code oder Datenbankabfragen generiert (die an andere Komponenten weitergegeben werden), sollten Sie die Ausgaben des Modells so behandeln, als kämen sie von einem nicht vertrauenswürdigen Benutzer. Überprüfen Sie immer die Berechtigungen und führen Sie Sicherheitsprüfungen durch, bevor Sie das Modell mit anderen Systemen interagieren lassen. Verwenden Sie sichere Methoden wie parametrisierte Abfragen für Datenbanken und überprüfen Sie die Struktur aller generierten SQL, bevor Sie die SQL verwenden. Sie können Risiken auch senken, indem Sie das Format der Antworten des Modells mithilfe von Prompt-Vorlagen innerhalb von System-Prompts steuern.

Wenn Ihre LLMs Systembefehle oder Code generieren, ist das Ergreifen strenger Sicherheitsmaßnahmen von entscheidender Bedeutung. Beginnen Sie mit strikten Validierungsprüfungen. Dazu gehören die Verwendung von Zulassungslisten, die Überprüfung der Syntax und das Verstehen, was der Code zu tun versucht. Kodieren Sie bei Sprachen wie JavaScript oder Markdown die Ausgabe immer erst, bevor Sie sie Benutzern zeigen. Das schützt vor potenziellen Schwachstellen. Wenn der Code der KI ausgeführt werden muss, stellen Sie sicher, dass Sie dies in einer Sandbox (einer isolierten Umgebung) tun. Dadurch ist Ihr Hauptsystem geschützt, sollte etwas schief gehen.

 

Stellen Sie als Nächstes durch Verschlüsselung den Schutz der Daten sicher, die Ihr Modell verwendet und auf die Ihr Modell reagiert (z. B. Benutzerabfragen, zusätzliche Kontexte und Wissensdatenbanken, die in RAG-Systemen verwendet werden).

Dies wird durch Services wie AWS Key Management Service für die sichere Verwaltung, Speicherung und Rotation von Verschlüsselungsschlüsseln und AWS Identity and Access Management (IAM) für Zugriffskontrollen vereinfacht. Sie können auch eine Versionsverwaltung für Ihren Wissensdatenbankspeicher aktivieren (z. B. die S3-Versionsverwaltung). Dadurch können Sie Änderungen nachverfolgen und dafür sorgen, dass Ihre Daten zuverlässig und sicher bleiben.

Wenn Sie mit sensiblen Daten umgehen, können Sie mithilfe der Filter für vertrauliche Informationen von Bedrock Guardrail auch eine Datenmaskierung oder -sperrung implementieren.

 

Jetzt, da Ihre Daten gesichert sind, können Sie sich auf den Schutz Ihrer Infrastruktur für generative KI konzentrieren. Wenn Sie proprietäre Daten verwenden, sollten Sie unbedingt einen sicheren Perimeter einrichten, um eine Exponierung gegenüber dem öffentlichen Internet zu verhindern. Ein Amazon Bedrock VPC-Endpunkt stellt eine private Verbindung zwischen Ihrer Virtual Private Cloud (VPC) und Ihrem Amazon-Bedrock-Konto her. Das erhöht die Sicherheit Ihrer Daten und der Modellinteraktionen.

LLMs verbrauchen eine erhebliche Rechenleistung und sind daher Ziele für Missbrauch. Um dies zu verhindern, können Sie Grenzen dafür festlegen, wie stark Benutzer auf Ihre Anwendung zugreifen können. Legen Sie diese Grenzen mithilfe der AWS Web Application Firewall (WAF) fest und steuern Sie mithilfe von Amazon API Gateway die Anzahl der Anfragen an Ihre Anwendung. Diese Maßnahmen schützen Ihre Infrastruktur und stellen gleichzeitig sicher, dass Ihr System gut funktioniert und konsistent läuft.

 

Nachdem Sie Ihre Einrichtung und Ihre Daten abgesichert haben, können Sie sich nun der Absicherung der Systemüberwachung zuwenden. Dazu gehört die Implementierung von Reaktionsmechanismen zur schnellen Erkennung und Behebung von Sicherheitsproblemen. Überwachen Sie LLM-Nutzungsmetriken wie Anforderungsvolumen, Latenz und Fehlerraten, damit Sie die Performance Ihres Systems verstehen und Anomalien erkennen können. Sobald diese Metriken die von Ihnen vorgegebenen Werte überschreiten, generiert Amazon CloudWatch entsprechende Warnmeldungen.

Darüber hinaus sollten Sie einen Plan zur Reaktion auf Vorfälle aufstellen, mit dem Sie Szenarien wie Promptinjektionen, unerwarteten Ausgaben von Modellen und Datenlecks begegnen. Beschreiben Sie für jedes Szenario einen Eskalationsprozess, einschließlich der wichtigsten Tools und der Mitglieder Ihres Teams sowie ihrer Verantwortlichkeiten. Richten Sie letztendlich ein System wie einen Not-Aus-Mechanismus ein, mit dem Sie ein Modell schnell vom System trennen, zu einer früheren Version zurückkehren oder in einen abgesicherten Modus wechseln können, sollte etwas schief gehen. Indem Sie diese eindeutigen Schritte zu Sicherheitsproblemen befolgen, können Sie schneller reagieren und Ihre KI-Anwendung sicher und stabil halten.

Diese aus sieben Punkten bestehende Checkliste ist ein unverzichtbarer Leitfaden für die Überführung Ihrer Anwendung für generative KI vom Prototyp in die Produktion. Indem Sie sich mit jedem einzelnen Punkt befassen und Maßnahmen ergreifen, können Sie Entwicklung und Bereitstellung verantwortungsbewusst gestalten und sowohl Ihr Unternehmen als auch Ihre Benutzer schützen. Und vergessen Sie nicht: Generative KI entwickelt sich rasant weiter. Daher ist es wichtig, sich über die neuesten Entwicklungen im Bereich der KI-Sicherheit auf dem Laufenden zu halten, damit Ihre Anwendung (und Ihr Startup) in Sachen Innovation und Vertrauen an der Spitze bleibt. Schauen Sie sich Builder Center – agentenbasierte KI an, um unsere neuesten Updates zu erhalten!

In diesem Post behandeln wir die Sicherheitskontrollen für Anwendungen, die vortrainierte Modelle verwenden. Wenn Sie die Verwendung fein abgestimmter oder kundenspezifischer Modelle erwägen, schauen Sie sich die Scoping-Matrix für die Sicherheit generativer KI an. Dort finden Sie viel über die verschiedenen Risiken und Abhilfemaßnahmen, auf die Sie bei den verschiedenen Modelltypen achten müssen. Weitere Informationen finden Sie unter Sicherer Ansatz für generative KI. Sie können sich auch an Ihr Konto-Team wenden.