생성형 AI 애플리케이션의 보안을 확보하기 위한 7단계 체크리스트

 

생성형 AI는 스타트업이 콘텐츠를 만들고, 데이터를 분석하고, 중요한 결정을 내리는 방식을 혁신하는 애플리케이션을 통해 최근 몇 년 동안 폭발적인 성장을 보였습니다. 생성형 AI 모델의 강력한 기능을 사용하여 맞춤형 애플리케이션을 구축하는 조직이 점점 더 많아지고 있습니다. 따라서 생성형 AI를 실험하고 사용하는 스타트업은 보안과 책임 있는 사용을 최우선 과제로 삼아야 합니다.

이 게시물에서는 생성형 AI 기반 애플리케이션을 실험 환경에서 프로덕션 환경으로 전환할 때 고려해야 하는 필수 보안 및 규정 준수 조치를 요약한 7개 항목의 체크리스트를 개발했습니다.

1. 거버넌스 프레임워크 및 규정 준수 프로세스 설정

2. 대규모 언어 모델(LLM) 제공업체의 최종 사용자 라이선스 계약(EULA) 및 데이터 사용 정책 검토 및 준수

3. 포괄적인 액세스 제어 구현

4. 입력 및 출력 위험 완화

5. 데이터 보호

6. 외부 경계 보호

7. 포괄적인 모니터링 및 인시던트 대응 구현

이 체크리스트를 구현하면 스타트업이 위험을 완화하고 데이터를 보호하며 사용자 신뢰를 유지하는 데 도움이 됩니다. 더 많은 항목을 확인하면 방어 체계가 개선되지만 모든 체크포인트를 완료할 필요는 없습니다. 애플리케이션에 필요한 사항에 따라 달라지기 때문입니다.

필요한 보안 제어는 애플리케이션을 구축하는 데 사용하는 모델 유형(사전 학습된 모델, 미세 조정된 모델 또는 사용자 지정 모델)에 따라 달라집니다. AWS는 대부분의 고객 사용 사례를 다루는 사전 학습된 모델로 구축된 애플리케이션에 중점을 두려고 합니다.

 

포괄적인 거버넌스 및 규정 준수 프레임워크를 설정하는 것은 책임 있는 AI 배포의 기반입니다. 사람과 프로세스가 핵심이므로 먼저 법률, IT 보안 및 관련 사업부의 주제별 전문가로 구성된 부서 간 AI 거버넌스 위원회를 구성합니다. 이 위원회는 데이터 처리, 모델 선택, 사용 지침 등 생성형 AI 애플리케이션을 위한 특정 정책을 만들고 시행해야 합니다.

다음으로 업계 규정(예: GDPR 또는 PCI DSS)에 맞는 규정 준수 체크리스트를 개발합니다. 여기에는 데이터 프라이버시 조치, 동의 관리 및 투명성 요구 사항이 포함되어야 합니다. 분기별 감사와 같은 정기적인 규정 준수 검토를 실시하여 개발 중인 표준을 준수하는지 확인합니다. 다음 블로그에서 클라우드, 신기술, 혁신을 위한 거버넌스, 위험 및 규정 준수 프로그램 확장 및 생성형 AI 보안: 데이터, 규정 준수 및 프라이버시 고려 사항 등의 추가 지침을 확인하세요.

마지막으로, 문서 시스템을 설정하여 생성형 AI 애플리케이션의 의사 결정, 변경 사항, 규정 준수 상태를 추적합니다. 정책에 대한 버전 제어, 모델 변경에 대한 감사 로그, 규정 준수 상태를 위한 대시보드와 같은 기능을 포함합니다. 이 시스템은 규정 준수를 유지하는 데 도움이 될 뿐만 아니라 외부 감사 중에 필요한 증거를 제공합니다.

 

규정 준수 상태를 유지하고 잠재적인 법적 문제를 방지하려면 구체적인 제한 사항과 요구 사항을 이해하는 것이 중요합니다. 사전 훈련된 모델을 애플리케이션에 통합하기 전에, 선택한 LLM 제공업체의 EULA와 데이터 사용 정책을 검토하세요. 데이터 취급, 모델 출력 및 상업적 사용 제한에 관한 조항을 주의 깊게 살펴보세요. Amazon Bedrock 사용자는 Amazon Bedrock 파운데이션 모델 액세스를 참조하세요. 자체적으로 Amazon SageMaker에 배포하는 경우 모델 세부 정보 페이지에서 모델 소스를 검토하세요.

규정 준수를 보장하는 데 그치지 않고, 새로운 업데이트에도 주의를 기울이면 흥미로운 기회를 포착할 수 있습니다. 일례로, Meta Llama 3.1 라이선스는 이전 라이선스보다 관대하다고 할 수 있으며, 긴 문서 분석, 글로벌 사용을 위한 고급 다국어 챗봇 구축과 같은 새로운 사용 사례를 가능케 합니다. 어떤 모델을 선택하든 이러한 측면을 주기적으로 검토하면 애플리케이션에서 새로운 기회를 활용할 수 있습니다.

생성형 AI 애플리케이션을 개발하고 배포할 때는 시스템과 데이터를 보호하기 위한 강력한 액세스 제어가 필요합니다. 여기에는 최소 권한 원칙(PoLP)을 준수하면서 사용자 인증, 권한 부여 및 데이터 액세스 정책을 설정하는 작업이 포함됩니다. PoLP의 기본 개념은 사용자와 서비스가 작업을 수행하는 데 필요한 액세스 권한만 얻는다는 것입니다. PoLP에 따라 팀은 잠재적 보안 위험을 줄이고 공격자가 침입하는 것을 더 어렵게 만들 수 있습니다.

먼저 Amazon Cognito 또는 Amazon Verified Permissions와 같은 서비스를 사용하여 사용자 인증을 구현하고 PoLP를 준수하는 데 도움이 되는 권한 부여 제어를 설정합니다. 다음은 Amazon Cognito의 JWT 토큰을 사용하여 ID 전파 및 세분화된 권한 부여를 수행하는 방법의 예입니다.

LLM, 데이터베이스, 스토리지 시스템, 커넥티드 서비스 또는 API를 포함하여 생성형 AI 앱의 모든 부분에 대한 액세스 제어를 설정합니다. 수명이 짧은 임시 자격 증명을 통해 액세스할 수 있는 모델(예: Amazon Bedrock 또는 Amazon SageMaker에 있는 모델)을 사용하여 액세스를 안전하고 관리하기 쉽게 만듭니다. 또한 Amazon Bedrock을 사용하면 누가 어떤 모델에 액세스할 수 있는지 정확히 제어할 수 있으므로 필요한 경우 액세스를 차단할 수 있습니다.

다음으로, 사용자가 다른 사용자의 콘텐츠, 세션 기록 또는 대화 정보에 액세스하지 못하도록 하는 메커니즘을 구현하여 사용자 세션과 대화 컨텍스트를 격리합니다. 사용자에 대해 고유한 세션 식별자를 사용하고 사용자가 시스템에 액세스할 때마다 해당 식별자를 검증합니다. 서버 측 세션 관리를 구현하면 각 사용자가 격리된 데이터 저장소에 대화 기록과 컨텍스트를 기록할 수 있습니다.

검색 증강 생성(RAG) 구현의 경우 LLM 응답을 보강하는 데 사용되는 지식베이스에 대한 액세스를 관리하는 것이 중요합니다. Amazon Bedrock 지식 베이스를 사용하면 내장 액세스 제어 기능을 제공하여 사용자가 액세스 권한이 있는 정보만 검색하도록 하는 메타데이터 필터링이 포함되어 있으므로 이러한 관리를 간소화할 수 있습니다. RAG를 직접 관리하는 경우 Amazon Kendra를 사용하여 사용자 권한에 따라 응답을 필터링할 수 있습니다. 메타데이터 필터링의 작동 방식을 보려면 위 다이어그램(5단계)을 참조하세요.

 

액세스 제어를 구현한 후에는 이제 평가 메커니즘에 집중하여 생성형 AI 애플리케이션의 사용자 입력 및 모델 출력과 관련된 위험을 평가하고 완화할 수 있습니다. 이를 통해 프롬프트 인젝션 공격, 부적절한 콘텐츠 생성 또는 할루시네이션과 같은 취약성으로부터 보호할 수 있습니다.

Amazon Bedrock Guardrails를 사용하여 이 프로세스를 간소화할 수 있습니다. Guardrails를 사용하면 프롬프트 입력 및 모델 출력을 위한 방어 체계를 구성하여 미세 조정된 모델, Amazon Bedrock 외부의 생성형 AI 애플리케이션 등 Amazon Bedrock의 LLM 전체에 적용할 수 있습니다.

추가 예방 조치로 Amazon Bedrock Prompt Management를 사용하여 검증된 프롬프트 카탈로그(일반 작업을 위한 사전 승인된 프롬프트 세트)를 구현하여 프롬프트를 효과적으로 관리하고 악의적인 명령으로부터 LLM을 보호하세요.

출력 검증도 마찬가지로 중요합니다. LLM 응답은 주의해서 처리해야 합니다. 모델이 코드 또는 데이터베이스 쿼리(다른 구성 요소에 전달되는)를 생성하는 경우 해당 출력을 신뢰할 수 없는 사용자가 보낸 것처럼 처리해야 합니다. 다른 시스템과 상호 작용하기 전에 항상 권한을 확인하고 보안 검사를 실행하세요. 데이터베이스용으로 파라미터화된 쿼리와 같은 안전한 방법을 사용하고 생성된 SQL의 구조를 검토한 후 사용합니다. 또한 시스템 프롬프트 내에서 프롬프트 템플릿을 사용하여 모델의 응답 형식을 제어함으로써 위험을 제한할 수 있습니다.

LLM이 시스템 명령 또는 코드를 생성하는 경우 강력한 보안 조치를 사용하는 것이 중요합니다. 엄격한 검증 검사부터 시작하세요. 이를 위해 허용 목록을 사용하고, 구문을 검사하고, 코드가 수행하려는 작업을 이해해야 합니다. JavaScript 또는 Markdown과 같은 언어의 경우 잠재적 취약성으로부터 보호하기 위해 항상 출력을 사용자에게 표시하기 전에 인코딩해야 합니다. AI 코드를 실행해야 하는 경우 샌드박스(격리된 환경)에서 실행하여 문제가 발생하더라도 메인 시스템을 안전하게 보호해야 합니다.

 

다음으로, 모델이 사용하고 응답하는 데이터(예: 사용자 쿼리, 추가 컨텍스트, RAG 시스템에서 사용되는 지식 베이스)를 암호화를 통해 보호해야 합니다.

암호화 키의 안전한 관리, 저장 및 순환을 위한 AWS Key Management Service, 액세스 제어를 위한 AWS Identity and Access Management(IAM)와 같은 서비스를 사용하여 이 작업을 쉽게 수행할 수 있습니다. 또한 지식 베이스 스토리지의 버전 관리(예: S3 버전 관리)를 활성화하여 변경 사항을 추적하고 데이터를 안정적이고 안전하게 유지할 수 있습니다.

민감한 데이터를 처리하는 경우 Bedrock Guardrail의 민감한 정보 필터를 사용하여 데이터 마스킹 또는 차단을 구현할 수도 있습니다.

 

이제 데이터 보안이 유지되므로 생성형 AI 인프라를 보호하는 데 집중할 수 있습니다. 독점 데이터를 사용할 때는 공용 인터넷에 노출되지 않도록 안전한 경계를 설정해야 합니다. Amazon Bedrock VPC 엔드포인트는 가상 프라이빗 클라우드(VPC) 와 Amazon Bedrock 계정 간에 프라이빗 연결을 생성하여 데이터 및 모델 상호 작용의 보안을 강화합니다.

LLM은 상당한 컴퓨팅 성능을 사용하므로 악용의 대상이 될 수 있습니다. 이를 방지하기 위해 애플리케이션에 액세스할 수 있는 사용자의 수를 제한할 수 있습니다. AWS Web Application Firewall(WAF)을 사용하여 이러한 제한을 설정하고, Amazon API Gateway를 사용하여 애플리케이션에 대한 요청 속도를 제어할 수 있습니다. 이러한 조치를 통해 인프라를 보호하는 동시에 시스템이 잘 작동하고 일관되게 실행되도록 할 수 있습니다.

 

설정 및 데이터의 보안을 유지했으면 이제 시스템 모니터링의 보안을 살펴볼 수 있습니다. 여기에는 보안 문제를 신속하게 탐지하고 해결하기 위한 대응 메커니즘 구현이 포함됩니다. 요청량, 지연 시간 및 오류율과 같은 LLM 사용 지표를 모니터링하여 시스템 성능을 파악하고 이상 현상을 감지합니다. Amazon CloudWatch는 이러한 지표가 설정된 수준을 초과할 경우 알림을 생성합니다.

이와 함께 프롬프트 인젝션, 예상치 못한 모델 출력 또는 데이터 유출과 같은 시나리오를 해결하기 위한 인시던트 대응 계획을 개발해야 합니다. 주요 도구, 팀 구성원과 해당 책임을 명시하는 것을 포함하여 각 시나리오에 대한 에스컬레이션 프로세스를 간략하게 설명하세요. 마지막으로 Andon cord와 같은 시스템을 설정하여 모델을 빠르게 끄거나, 이전 버전으로 롤백하거나 문제가 발생할 경우 안전 모드로 전환할 수 있습니다. 보안 문제에 대해 이러한 명확한 단계를 지정하면 더 빠르게 대응하고 AI 애플리케이션을 안전하고 안정적으로 유지하는 데 도움이 됩니다.

이 7단계 체크리스트는 생성형 AI 애플리케이션을 프로토타입에서 프로덕션으로 전환하는 데 필요한 필수 가이드입니다. 각 항목을 처리하고 조치를 취하면 책임 있게 구축하고 배포하여 조직과 사용자를 모두 보호하는 데 도움이 됩니다. 또한 생성형 AI는 빠른 속도로 진화하고 있으므로 애플리케이션(및 스타트업)이 혁신과 신뢰를 선도하도록 AI 보안의 최신 개발 상황을 파악하는 것이 중요합니다. 빌더 센터 - 에이전틱 AI에서 최신 업데이트를 확인하세요!

이 게시물에서는 사전 훈련된 모델을 사용하는 애플리케이션의 보안 제어를 다룹니다. 미세 조정된 모델이나 사용자 지정 모델을 사용하려는 경우 생성형 AI Security Scoping Matrix를 참조하여 모델 유형에 따라 주의해야 할 다양한 위험과 완화 방법을 확인하세요. 생성형 AI에 대한 보안 접근 방식을 참조하거나 계정 팀에 문의하여 추가 지원을 받을 수도 있습니다.