azure openai customer managed key的进一步展开说明

目录

Azure OpenAI服务的数据、隐私和安全性

文章

2023年6月23日

5位贡献者反馈

本文提供了有关您提供给Azure OpenAI服务的数据是怎么处理、使用和存储的详细信息。Azure OpenAI存储和处理数据以提供服务，并监控违背适用产品条款的使用。另外，还请参阅Microsoft产品和服务数据保护补充协议，该协议规定了Azure OpenAI服务的数据处理，除非适用产品条款另有规定。

重要提示：您的提示（输入）、完成（输出）、嵌入和训练数据都不会提供给其他客户使用。都不会可供OpenAI使用。都不会用于改进OpenAI模型。都不会用于改进任何Microsoft或第三方产品或服务。都不会自动改进用于Azure OpenAI模型的使用（除非您明确使用自己的训练数据来微调模型）。您经过微调的Azure OpenAI模型仅供您专有使用。Azure OpenAI服务完全由Microsoft控制；Microsoft将OpenAI模型托管在其Azure环境中，该服务不与OpenAI运营的任何服务（如ChatGPT或OpenAI API）进行交互。

Azure OpenAI服务处理哪些数据？

Azure OpenAI处理以下类型的数据：

提示和生成内容。提示由用户提交，内容由服务通过完成、聊天完成、图象和嵌入操作生成。

与提示一起使用的增强数据。在使用“on your data”功能时，服务从配置的数据存储中检索相关数据，并通过增强提示产生与您的数据相关的生成结果。

训练和验证数据。您可以提供自己的训练数据，包括提示-完成对，用于微调OpenAI模型。

Azure OpenAI服务怎么处理数据？

下图说明了您的数据是怎么处理的。该图涵盖了三种区别类型的处理：

Azure OpenAI服务怎么处理您的提示以生成内容（包括使用Azure OpenAI on your data将来自连接数据源的附加数据添加到提示中）。Azure OpenAI服务怎样使用您的训练数据创建一个经过微调的（定制的）模型。Azure OpenAI服务和Microsoft人员如何分析提示、完成和图象，以检测有害内容和可能违背行动准则或其他适用产品条款的使用模式。

如上图所示，托管客户可以申请修改滥用监控。

生成完成、图象或嵌入

部署在您的资源中的模型（基础或微调）会处理您的输入提示并生成具有文本、图象或嵌入的响应。服务已配置为实时同步评估提示和完成数据，以检查会不会存在有害内容类型，并停止生成超过配置阈值的内容。了解更多信息，请访问Azure OpenAI服务内容过滤。

这些模型是无状态的：模型中不存储任何提示或生成结果。另外，提示和生成结果不用于训练、重新训练或改进基础模型。

使用从数据源中检索的数据增强提示，以“绑定”生成的结果

Azure OpenAI的“on your data”功能允许您连接数据源，以将生成的结果与您的数据关联起来。数据依然存储在您指定的数据源和位置中，不会复制到Azure OpenAI服务中。当接收到用户提示时，服务会从连接的数据源中检索相关数据并增强提示。模型会处理此增强提示，并将生成的内容返回，如上所述。

如上图所示，托管客户可以申请修改滥用监控。

使用您的数据创建自定义（微调）模型：

用户可以将他们的训练数据上传到服务中，以微调模型。上传的训练数据存储在客户的Azure租户中的Azure OpenAI资源中。训练数据和经过微调的模型：

仅供客户专用使用。

存储在与Azure OpenAI资源相同的区域内。

可以在静止状态下进行二次加密（默许情况下使用Microsoft的AES⑵56加密，可选择使用客户管理的密钥进行加密）。

可由客户随时删除。

上传进行微调的训练数据不会用于训练、重新训练或改良任何Microsoft或第三方基础模型。

避免滥用和生成有害内容

为了减少Azure OpenAI服务被滥用的风险，Azure OpenAI服务包括内容过滤和滥用监控功能。要了解有关内容过滤的更多信息，请参阅Azure OpenAI服务内容过滤。要了解有关滥用监控的更多信息，请参阅滥用监控。

内容过滤以同步方式进行，当服务处理提示以生成内容时，如上文所述，检查会不会存在有害内容，并停止生成超过配置阈值的内容。内容分类模型不存储任何提示或生成结果，并且提示和结果不用于对分类器模型进行训练、重新训练或改进。

Azure OpenAI滥用监控检测和减轻可能违背行动准则或其他适用产品条款的重复内容和/或行动的情况。为了检测和减轻滥用，Azure OpenAI安全地存储所有提示和生成的内容，最长可达30天（如果客户取得批准并选择关闭滥用监控的配置，那末不存储任何提示和完成）。存储提示和完成的数据存储区逻辑上由客户资源分隔（每一个要求包括客户Azure OpenAI资源的资源ID）。在Azure OpenAI服务可用的每一个区域中都有一个单独的数据存储，并且客户的提示和生成内容存储在客户的Azure OpenAI服务资源所部署的Azure区域内的Azure OpenAI服务边界内。评估潜伏滥用的人工审核员只有在滥用监控系统标记了该数据时才能访问提示和完成数据。这些人工审核员是经过授权的Microsoft员工，他们使用要求ID、安全访问工作站（SAWs）和临时要求批准进行使用数据。对部署在欧洲经济区域的Azure OpenAI服务，授权的Microsoft员工位置在欧洲经济区域。

客户如何取得滥用监控和人工审核的豁免？

一些客户可能希望使用Azure OpenAI服务进行触及敏感、高度机密或受法律管制的输入数据处理的用例，但输出的有害性和/或误用的可能性较低。这些客户可能得出结论，根据其内部政策或适用的法律法规，他们不希望或没有权利允许Microsoft处理此类数据以进行滥用检测，如上所述。为了解决这些问题，Microsoft允许符合附加有限访问条件并声明特定用例的客户，通过填写此表格申请修改Azure OpenAI内容管理功能。

如果Microsoft批准客户的修改滥用监控的要求，那末Microsoft将不会在配置了关闭滥用监控的已批准Azure定阅中存储任何与之关联的提示和完成。在这类情况下，由于在服务结果存储中没有存储任何提示和完成，所以没法进行人工审核。有关更多信息，请参阅滥用监控。

客户如何验证滥用监控关闭后的数据存储？

一旦取得批准关闭滥用监控，有两种方法供客户验证其已批准的Azure定阅中的滥用监控数据存储已关闭：

使用Azure门户，或

Azure CLI（或任何管理API）。

请注意，“ContentLogging”属性的值仅在滥用监控关闭时出现为“false”。否则，此属性将不会出现在Azure门户或Azure CLI的输出中。

先决条件

登录Azure选择托管Azure OpenAI服务资源的Azure定阅打开Azure OpenAI服务资源的概览页面。

使用Azure门户验证日志记录状态：

转到资源概览页面单击右上角的JSON视图链接，以下图所示。

Capabilities列表中将有一个名为“ContentLogging”的值，如果滥用监控关闭，则显示为FALSE。

{ “name”:”ContentLogging”, “value”:”false” }

使用Azure CLI进行日志记录状态验证（或其他管理API）：

在Azure CLI中履行以下命令，以查看与Azure门户中显示的相同的JSON数据。

az cognitiveservices account show -n resource_name -g resource _group

要了解有关Microsoft的隐私和安全许诺的更多信息，请参阅Microsoft 信任中心。

更新日志

日期 变更 2023年6月23日 添加有关新的Azure on your data功能的数据处理信息；删除滥用监控的信息，该信息现在可以在Azure OpenAI服务滥用监控中找到。添加了摘要注释。更新并简化内容，以提供更清晰的信息。添加更新日志

参考资料

azure openai customer managed key的常见问答Q&A