虽然单个数据元素可以包含敏感信息（例如私人电子邮件地址），但不同非敏感数据元素的组合也可能是敏感信息。例如，一项研究表明，美国 87% 的用户可以通过三种非敏感数据元素（邮政编码、性别和出生日期）的组合来唯一识别。然而，更复杂的是，当敏感信息作为非敏感信息的上下文出现在训练数据中时。例如，用户和聊天机器人之间的聊天记录可能包含以下语句：“我在办公室 4 楼的连接不好， 所以我现在在 G St. Buffet 前面的大厅里。”假设只有一家 G St. Buffet；那么可以从非结构化的记录文本中根据上下文识别用户的位置。
保证训练数据中的敏感信息安全是一项复
保护预测性 AI 模型的训练数据免遭对手无意丢失是一项艰 手机数据 巨的任务。许多 AI 应用程序在使用大量训练数据、验证数据和测试数据的系统上运行。 ，验证数据用于微调模型的超参数，测试数据用于评估最终模型的性能。如果企业使用第三方机器学习即服务 (MLaaS) 供应商来构 /吸尘机提 计算机视觉训练数据：你需要知道的一切 到它们 建预测性 AI 模型，则企业可能需要授权 MLaaS 供应商访问企业的训练数据、验证数据和测试数据。授权第三方访问增加了遵守数据保护法规的复杂性，因为这可能会为隐私攻击铺平道路。
对手可以执行多种
此外，经过训练的预测 AI 模型会在一定程度上固有 任 线数据库 何数 地记忆其训练数据的各个方面（例如，分类器模型节点之间的权重可以表示训练数据中记忆的相关性）。如果不采取适当的保护措施，对手可以利用预测 AI 模型的这种固有记忆特性，通过对模型预测进行推断，从训练数据中提取稀有或独特的敏感信息。 类型的隐私攻击来推断训练数据的内容或模型本身的参数。下面讨论两种主要的隐私攻击类型——模型反转攻击和成员推理攻击。