IA responsável: dos princípios à prática
Acelere a implantação de IA confiável com orientação especializada e ferramentas práticas
Criar IA com responsabilidade
O rápido crescimento da IA e dos agentes inteligentes traz inovações promissoras e novos desafios. Na AWS, tornamos a IA responsável prática e escalável, dando a você liberdade para acelerar a inovação confiável em IA. Adotamos uma abordagem centrada nas pessoas que prioriza a educação, a ciência e nossos clientes para integrar a IA responsável em todo o ciclo de vida da IA de ponta a ponta. Nossas práticas recomendadas baseadas na ciência, proteções integradas e ferramentas ajudam você a criar e operar a IA de forma responsável em seus casos de uso. Desenvolva com práticas de IA responsável desde o primeiro dia para avançar com mais rapidez e confiança e conquistar a confiança do cliente.
O que é IA responsável?
A AWS define a IA responsável usando um conjunto básico de dimensões que avaliamos e atualizamos ao longo do tempo à medida que a tecnologia de IA evolui.
Imparcialidade
Consideração dos impactos em diferentes grupos de partes interessadas
Explicabilidade
Compreensão e avaliação de resultados do sistema
Privacidade e segurança
Obtenção, uso e proteção de dados e modelos da forma adequada
Segurança
Prevenção da saída prejudicial do sistema e do uso indevido
Controlabilidade
Existência de mecanismos para monitorar e orientar o comportamento do sistema de IA
Veracidade e robustez
Obtenção de saídas corretas do sistema, mesmo com entradas inesperadas ou adversárias
Governança
Incorporação das práticas recomendadas na cadeia de suprimentos de IA, incluindo provedores e responsáveis pela implantação
Transparência
Permissão para que as partes interessadas façam escolhas informadas sobre seu envolvimento com um sistema de IA
Práticas recomendadas de IA responsável
Essas dimensões centrais da IA responsável representam propriedades técnicas inerentes a cada sistema de IA. Sua tarefa é fazer escolhas deliberadas de design para seu caso de uso específico. O novo AWS Well-Architected Responsible AI Lens fornece as práticas recomendadas e orientações práticas para ajudar você a abordar essas considerações em design, desenvolvimento e operação. Aplique essa orientação para tomar decisões informadas que equilibrem seus requisitos empresariais e técnicos e que ajudem a acelerar a implantação de sistemas de IA confiáveis.
Serviços e ferramentas
A AWS oferece serviços e ferramentas para ajudar a projetar, criar e operar sistemas de IA com responsabilidade.
Crie com proteções configuráveis
O Amazon Bedrock Guardrails ajuda você a implementar proteções personalizadas de acordo com os requisitos de sua aplicação e as políticas de IA responsável. Com proteções de segurança líderes do setor que bloqueiam até 88% do conteúdo nocivo e fornecem explicações auditáveis e matematicamente verificáveis para decisões de validação com 99% de precisão, o Bedrock Guardrails fornece proteções configuráveis para ajudar a detectar e filtrar conteúdo nocivo de texto e imagem, suprimir informações sensíveis e detectar alucinações de modelos. Use o Bedrock Guardrails com qualquer modelo de base, no Amazon Bedrock ou auto-hospedado, para obter controles consistentes de segurança e privacidade em todas as suas aplicações.
Avaliações do modelo de base (FM)
A avaliação de modelos no Amazon Bedrock ajuda a avaliar, comparar e selecionar os melhores FMs para seu caso de uso específico com base em métricas personalizadas, como precisão, robustez e toxicidade. Você também pode usar o Amazon SageMaker Clarify e o fmeval para avaliação de modelos.
Detecção de vieses e explicação de previsões
Vieses são desequilíbrios nos dados ou disparidades na performance de um modelo em grupos diferentes. O Amazon SageMaker Clarify ajuda a reduzir os vieses detectando sua possível ocorrência durante a preparação dos dados, após o treinamento de modelo e no modelo implantado, examinando atributos específicos.
Compreender o comportamento de um modelo é importante para desenvolver modelos mais precisos e tomar decisões melhores. O Amazon SageMaker Clarify fornece maior visibilidade do comportamento do modelo, para que você possa oferecer transparência às partes interessadas, informar as pessoas que tomam decisões e acompanhar se um modelo está funcionando conforme o esperado.
Monitoramento e revisão humana
O monitoramento é importante para manter modelos de machine learning (ML) de alta qualidade e ajudar a garantir previsões precisas. O Amazon SageMaker Model Monitor detecta automaticamente e alerta sobre previsões imprecisas de modelos implantados. Com o Amazon SageMaker Ground Truth, você pode aplicar feedback humano em todo o ciclo de vida do ML para melhorar a precisão e a relevância dos modelos.
Aprimoramento da governança
A governança de ML do Amazon SageMaker fornece ferramentas específicas para melhorar a governança de projetos de ML, oferecendo maior controle e visibilidade sobre os modelos de ML. Você pode capturar e compartilhar facilmente as informações do modelo e se manter informado sobre o comportamento dele, como viés, tudo em um só lugar.
Cartões de serviço de IA da AWS
Os cartões de serviço de IA são um recurso para aumentar a transparência, fornecendo a você um único local para encontrar informações sobre os casos de uso e limitações pretendidos, escolhas de design de IA responsável e práticas recomendáveis de otimização de desempenho para nossos serviços e modelos de IA.
O que há de novo na IA responsável
Contribuição e colaboração da comunidade
Com um profundo envolvimento com organizações compostas por várias partes interessadas, como os grupos de trabalho do OCDE AI, a Partnership on AI e o Responsible AI Institute, bem como parcerias estratégicas com universidades em escala global, estamos comprometidos em trabalhar com outras pessoas para desenvolver a tecnologia de IA e ML de forma responsável e que promova a confiança.
Adotamos uma abordagem centrada nas pessoas para educar a próxima geração de líderes em IA com iniciativas como o programa de bolsa de estudos de AI & ML e We Power Tech para aumentar o acesso ao aprendizado prático, a bolsas de estudo e a mentorias para pessoas carentes ou sub-representadas em tecnologia.
Nosso investimento em IA generativa segura, transparente e responsável inclui a colaboração com a comunidade global e os formuladores de políticas, incluindo o Código de Conduta do Processo de Hiroshima do G7 AI, o AI Safety Summit no Reino Unido e o suporte à ISO 42001, um novo padrão fundamental para promover a IA responsável. Apoiamos o desenvolvimento de estruturas regulatórias eficazes baseadas em riscos para a IA que protejam os direitos civis e permitam a inovação contínua.
A IA responsável é uma área ativa de pesquisa e desenvolvimento na Amazon. Temos parcerias estratégicas com instituições acadêmicas, como o California Institute of Technology e com a Amazon Scholars, incluindo os principais especialistas que aplicam suas pesquisas acadêmicas para ajudar a moldar fluxos de trabalho de IA responsável na Amazon.
Inovamos com nossos clientes, permanecendo na vanguarda das novas tendências e pesquisas para agregar valor, com bolsas de pesquisa contínuas por meio do Amazon Research Awards e publicações científicas da Amazon Science. Saiba mais sobre a ciência para criar IA generativa de forma responsável neste blog da Amazon Science, que revela os principais desafios e soluções emergentes.
