什么是可信人工智能？

可信人工智能是一种人工智能，它优先考虑与之互动的每个人的透明度和安全性。当最终用户了解该技术的工作原理及其数据使用方式时，技术的采用率就会提高。可信人工智能旨在在人工智能生命周期的每个阶段（从设计到部署）建立信任和透明度。开发人员采取措施帮助客户了解人工智能技术的工作原理、局限性及其预期使用案例。可信人工智能在技术上很强大，同时又保持合法合规并符合伦理。

可信人工智能提供了一个框架，可以降低潜在风险，提高可解释性，并确保对人工智能用户的公平性。采用可信人工智能的组织以不同的方式受益。

提升客户信任

一些客户对采用人工智能技术犹豫不决，因为最终用户无法完全理解具体结果是如何推断出来的。这限制了医疗保健、金融和汽车等任务关键型应用中人工智能的使用。

可信人工智能可以更好地回答诸如模型如何做出特定决策之类的问题。帮助数据科学家通过创建输出公平一致的人工智能模型来获得用户的信任。

遵守道德规范

随着人工智能技术的不断发展，机器学习工程师可能会发现一些可能影响组织和关键利益相关者的新风险。例如，深度学习模型可能会继承其算法或其训练所依据的数据集的偏见。当在现实生活中使用有偏见的模型时，可能会产生不公平的决策，使弱势群体被边缘化。可信人工智能为组织提供了一种降低此类道德风险，并确保所有用户群体在实际应用中得到公平对待的手段。

提高数据安全性和隐私

实现人工智能模型需要为模型提供大量的训练数据。人工智能训练数据集可能包含医疗和金融等使用案例中的敏感信息。这使得人工智能系统容易受到数据风险、隐私问题和对抗性攻击的影响，这可能会对人工智能用户产生负面影响。

可信人工智能允许工程师通过采取预防措施防止未经授权的访问尝试，从而构建强大而有韧性的人工智能系统。更重要的是，组织可以通过告知用户人工智能系统收集哪些数据以及人工智能解决方案如何使用这些数据，让用户安心。

组织通过安全、公平地大规模实施人工智能来降低风险。他们遵循全面的指导方针来管理风险，改善人工智能与人类的协作，并遵守监管法案。

透明度

生成式人工智能模型可以以与人类类似的方式生成内容。通常，如果不参考系统输出上的明确标签，用户就无法区分人工智能创建的内容和人类内容。此外，他们无法将模型做出的决策追溯到影响因素。

可信人工智能允许用户学习人工智能系统如何收集、存储和处理他们的数据。它赋予用户接受、拒绝或限制人工智能系统收集数据的权利。透明度还意味着通过标记人工智能创建的决策，使用户能够知道他们是否以及何时与人工智能系统进行互动。

可解释性

可信人工智能使生成式机器学习专家能够自信地解释生成式人工智能系统做出的决策。数据科学家可以使用相关工具来研究和解释隐藏在神经网络中的复杂推理。对于那些信任对人工智能的采用至关重要的行业，这样做非常有利。例如，在将人工智能驱动的成像系统应用于现实世界之前，医生需要明确其如何产生特定的诊断。

公平

从根本上讲，人工智能算法无法像社会那样理解公平的概念。算法只能发现、分析和关联数据集中复杂模式的关系。因此，如果训练数据或算法本身存在偏见，结果将反映出这一点。因此，评估和微调人工智能模型非常重要，可确保人工智能算法始终做出符合社会规范的公平决策。

问责

人工智能模型是演示类人智能的软件。但是，这些模型无法像人类一样做出有意识、受道德指引的决策。因此，不能直接要求人工智能对违背社会价值观和商业道德的结果负责。但是，可信人工智能提供了向参与训练、开发和运营人工智能系统的相关利益相关者分配责任和问责的机制。

组织可以制定可信人工智能政策，评估模型的准确性、一致性和偏见。例如，如果人工智能模型得出的结果不准确，利益相关者会调查并修复问题，因为他们知道自己位于责任链上的哪个环节。

开发可信人工智能应用程序需要将我们提到的关键原则嵌入到整个人工智能生命周期中。但是，生成式人工智能（AI）模型的设计与黑箱类似；推断它们如何得出特定结果具有挑战性。

关注以下做法有助于组织保护用户隐私，并确保在实施人工智能时取得更公平的结果。

提高对人工智能伦理的意识。

在整个组织中宣传对人工智能伦理及其实施原因的意识。人工智能开发人员和非技术业务部门都应同样了解此类措施的重要性。

实施风险管理

评估和识别人工智能算法可能构成的潜在风险。这包括正在开发的模型的数据隐私、偏见、可解释性和可重复性。咨询行业专家，评估使用人工智能自动化特定工作流程时可能存在的缺点。

强制实施数据治理

对人工智能系统收集和使用的数据应用保护措施有助于组织降低数据风险。此外，对数据使用情况和可能的社会影响保持透明度可以创造一个更加可信的环境。

制定以人为本的政策

人工智能创新的最终目标是造福人类。仅仅关注人工智能开发的技术细节不足以创建可信人工智能系统。相反，应当制定反映人类价值观的政策，以提高信任度并实现更高效的人机协作。

持续评估人工智能模型

人工智能模型并不完美，组织必须意识到随着时间的推移可能出现的相关风险。开发人员必须持续监控数据漂移、准确性和其他问题，并及时进行故障排除。

在 AWS，我们致力于开发可信人工智能，将教育、科学和客户需求放在首位。我们为以人为本的人工智能开发提供了一系列可信人工智能工具和资源。例如，

• Amazon SageMaker Clarify 提供的工具可以帮助解释深度学习模型如何进行预测。
• Amazon Augmented AI 让您可以在需要人工监督时对机器学习预测实施人工审查。
• Amazon SageMaker Ground Truth 提供最全面的人机协同功能，可在机器学习生命周期中融入人类反馈，从而提高模型的准确性和相关性。

您可以通过自助服务或 AWS 托管服务完成各种人机协同任务，包括数据生成和注释、奖励模型生成、模型审查和自定义。

立即创建免费账户，开始在 AWS 上使用可信人工智能！