一些预测性 AI 模型经过训练后，会在输出模型预测的同时输出置信度分数。置信度分数表示模型对模型预测准确性的置信度的解释。然而，置信度分数可能会被攻击者利用，从而发起隐私攻击。 度分数会产生一个漏洞，因为置信度分数表明了模型之前见过输入的程度。如果输入是目标用户（正在推断其在训练数据中的成员身份），那么置信度分数可以推断出训练数据中是否包含有关目标用户的信息。有鉴于此，ICO 建议在最终用户需要了解模型预测的置信度与向最终用户提供置信度分数所带来的漏洞之间取得平衡。
攻击者可以传输大量查
如果任何人都可以通过公共 API 等方式访问预测性 AI 模型，那么该模型可 电报数据 能容易受到黑盒隐私攻击。在黑盒隐私攻击中，攻击者可以使用 API 等方式查询模型并接收模型预测。 询，获取查询的输出，然后评估输入和输出之间的关系，以推断有关训练数据 户的客 管理计算机视觉模型训练数据的最佳实践 户的见解 或模型本身的特征。因此，监控传输到模型的查询可以帮助识别 AI 隐私攻击。
在向外部提供 AI 模型时，请考虑
出于多种原因，保护训练数据或模型参数（例如特征权重）中的知识产 任 线数据库 何数 权隐私非常重要。数据保护法规要求保护这些数据免受未经授权的访问。此外，收集训练数据和生成模型参数可能是一项重大投资，因此保护这项投资非常重要。预测性 AI 模型可能会增加保护训练数据隐私目标的复杂性。ICO 的建议为向公众开放预测性 AI 模型（例如，使用公共 API）提供了一条安全途径，同时保护模型的训练数据免遭对手无意丢失。