Transformar la IA responsable de la teoría a la práctica
Fomentar el desarrollo seguro y responsable de la IA como una herramienta beneficiosa
Desarrollar la IA de forma responsable en AWS
El rápido crecimiento de la IA generativa trae consigo nuevas innovaciones prometedoras y, al mismo tiempo, plantea nuevos desafíos. En AWS, nos comprometemos a desarrollar la IA de manera responsable, mediante un enfoque centrado en las personas que prioriza la educación, la ciencia y nuestros clientes, para integrar la IA responsable en todo el ciclo de vida de la IA.
Dimensiones fundamentales de la IA responsable
Servicios y herramientas
AWS ofrece servicios y herramientas para ayudarlo a diseñar, crear y operar sistemas de IA de manera responsable.
Implementación de medidas de seguridad en la IA generativa
Las barreras de protección de Amazon Bedrock lo ayudan a implementar medidas de seguridad adaptadas a sus aplicaciones de IA generativa y alineadas con sus políticas de IA responsable. Las barreras de protección ofrecen medidas de seguridad adicionales personalizables, además de las protecciones nativas de los FM, y protecciones de seguridad que se encuentran entre las mejores del sector. Las protecciones incluyen lo siguiente:
- Bloqueo de hasta un 85 % más de contenido dañino
- Filtrado de más del 75 % de las respuestas con alucinaciones en cargas de trabajo de resumen y RAG
- Habilitación para que los clientes personalicen y apliquen protecciones de seguridad, privacidad y veracidad en una única solución
Evaluaciones de modelos fundacionales (FM)
La evaluación de modelos en Amazon Bedrock lo ayuda a evaluar, comparar y seleccionar los mejores FM para su caso de uso específico en función de métricas personalizadas, como la precisión, la solidez y la toxicidad. También puede usar Amazon SageMaker Clarify y fmeval para la evaluación de modelos.
Detección del sesgo y explicación de las predicciones
Los sesgos son desequilibrios en los datos o disparidades en el rendimiento de un modelo en diferentes grupos. Amazon SageMaker Clarify lo ayuda a mitigar los sesgos gracias a la detección de posibles sesgos durante la preparación de los datos, después de entrenar el modelo y en el modelo implementado mediante el análisis de atributos específicos.
Comprender el comportamiento de un modelo es importante para desarrollar modelos más precisos y tomar mejores decisiones. Amazon SageMaker Clarify proporciona una mejor visibilidad del comportamiento del modelo para que pueda ofrecer transparencia a las partes interesadas, informar a los humanos que toman decisiones y hacer un seguimiento del rendimiento de un modelo.
Supervisión y revisión humana
La supervisión es importante para mantener modelos de machine learning (ML) de alta calidad y ayudar a garantizar predicciones precisas. El Monitor de modelos de Amazon SageMaker detecta de manera automática y le avisa de las predicciones inexactas de los modelos implementados. Además, con Amazon SageMaker Ground Truth, puede aplicar comentarios humanos a lo largo del ciclo de vida del ML para mejorar la precisión y la relevancia de los modelos.
Mejora de la gobernanza
La gobernanza de ML de Amazon SageMaker ofrece herramientas diseñadas específicamente para mejorar la gobernanza de sus proyectos de ML al brindarle un control y una visibilidad más estrictos de sus modelos de ML. Puede capturar y compartir con facilidad la información del modelo y mantenerse informado sobre su comportamiento, por ejemplo, el sesgo, todo en un solo lugar.
Fichas de servicio de IA de AWS
Las fichas de servicio de IA son un recurso para mejorar la transparencia. Le ofrecen un lugar único donde encontrar información sobre los casos de uso y las limitaciones previstos, las opciones de diseño de IA responsable y las prácticas recomendadas de optimización del rendimiento para nuestros servicios y modelos de IA.
Contribución y colaboración de la comunidad