循序渐进 · AIP 教学 · 核心平台(八)

AIP 的安全与隐私

把 AI 接进企业数据,安全是第一道门槛。这一篇讲 AIP 如何保护客户数据的隐私与安全

本文来源 · Source 内容整理自 Palantir Foundry 官方文档:
https://www.palantir.com/docs/foundry/aip/aip-security/
原始标题:AIP security and privacy • Palantir · 所属:核心平台(AIP 总览与治理)

先记住这几条

① 数据保护是首要原则
从产品设计阶段就内建,而非附加。
② 权限体系沿用平台
不新建一套,直接用既有治理机制。
③ 数据流向可审计
谁在什么时候让 AI 看了什么,都能查。
0

写在前面

Palantir 致力于保护客户数据的隐私与安全。对客户信息的保护与负责任处理是我们运营的核心,并作为首要原则融入到我们的产品(包括 AIP)之中。

尽管生成式 AI 模型(包括 LLM)为改进和加速业务流程与决策提供了机会,但这些技术也可能在隐私与安全、偏见与歧视,以及人类判断所扮演的角色等方面引发问题。Palantir 严肃对待这些关切;本页包含了一系列关于 AIP 安全与隐私的常见问题。如需了解更多信息,请参阅 Palantir 信任门户 ↗ 中的《常见问题:Palantir AIP 利用第三方托管的 LLM 的安全与隐私》↗

1

AIP 是否受与 Foundry 数据相同的安全措施保护?

要点:最常见的第一个疑问。

是的。 AIP 纳入了 Palantir 所有先进的安全措施,以在符合行业法规的前提下保护敏感数据。AIP 提供强大的访问控制、加密与审计能力,以维护数据的完整性与透明度。此外,内置的治理工具帮助组织在 AI 运营中保持问责制与历史血缘。

2

AIP 的第三方托管模型来自哪里?

要点:模型服务的部署位置。

在集成第三方托管的模型时,AIP 的设计目标是在可用且可行的前提下尽可能利用区域端点。这样做有助于降低延迟,目前针对部分模型在美国、英国和欧盟等地区提供。具体的地理区域取决于通过 AIP 可用的第三方托管 AI 模型服务所存在的技术限制与约定,这些限制可能随时间发生变化。进一步了解 AIP 的地理限制。

3

第三方模型服务商是否会存储客户数据?

要点:数据留存问题。

不会。 当 Palantir AIP 使用第三方托管的模型服务时,提示词(prompt)或补全(completion)中包含的任何客户数据都不会被相关第三方保留。

在 AIP 中提供新模型之前,Palantir 会从第三方托管的模型服务提供商处获得技术与合同层面的保证,以确保该政策得到一致执行。

4

客户数据会被用于再训练模型吗?

要点:这是企业最关心的红线之一。

不会。 当 AIP 访问第三方托管的模型服务时,不会使用任何客户数据来重新训练此类模型。Palantir 从第三方托管的模型服务提供商处获得严格的技术与合同保证,以确保提示词中提交的或补全中包含的客户数据都不会被用于模型训练。

与第三方托管的模型服务完全独立的是:如果客户确实希望重新训练自己私有的 AI 模型部署,可以使用 AIP 来支持这种私有的、受治理的重新训练,并提供全方位的治理工具,供团队审计、审查和监控模型性能。

5

第三方模型服务商能否访问 AIP 提示词中的数据?

要点:数据可见性边界。

没有。 鉴于 Palantir 在为任何给定的第三方托管模型服务建立访问权限时所确保的严格技术保证,第三方托管模型服务提供商的任何人员都无法访问提示词或补全内容。第三方托管模型服务提供商同样不会存储或保留客户的提示词或补全内容。所有传输到底层服务的数据在提示词完成处理后都会被立即丢弃。

关于各服务提供商相关的隐私考量,请查阅 Azure ↗AWS ↗Google Cloud ↗ 的相关文档以了解更多信息。

6

AIP 调用第三方模型服务有多安全?

要点:整体链路的安全保障。

Palantir AIP 服务构建在来自云服务提供商(包括 AWS、Azure、Google Cloud)的安全基础设施之上。通过 AIP 提供的第三方托管模型服务提供商,除非在你与 Palantir 就 AIP 签订的协议中另有明确说明,否则均已获得 ISO 27017、SOC(1、2、3)、CSA STAR 和/或其他认证。要进一步了解 Palantir 的安全态势,请访问 Palantir 的信任门户 ↗

7

Palantir 就客户数据的 AI 处理作了哪些合同承诺?

要点:法律层面的保障。

在开始代表客户处理任何个人数据之前,Palantir 会签署数据保护协议以及实质相似的协议(例如业务伙伴协议)。这些合同承诺通常适用于 Palantir 提供的所有服务,包括 AIP。

8

Palantir 如何支持负责任的 AI 使用?

要点:机制与能力。

Palantir 的隐私与公民自由团队提供了关于开发、构建和部署 AI 使能技术的大量指导 ↗。Palantir 致力于遵循以下 AI 伦理原则:

  1. 关注完整集成的系统,而不只是其组成部分工具。
  2. 承认技术的局限性。
  3. 不去解决本就不应解决的问题。
  4. 遵循稳健数据科学的方法论最佳实践。
  5. 保持 AI 负责任、可问责,并以人为本。
  6. 促进多方利益相关者的参与。
  7. 确保在数据与技术应用中具备技术、治理与文化层面的意识。

Palantir 在安全、隐私与负责任使用方面的原则,是我们产品开发与部署的基石。

延伸阅读 · 相关页面

按主题横向跳转,不必顺着目录一篇篇读。

本组其他页面 · 核心平台(AIP 总览与治理)

同一主题下的相邻内容。

常见问题速答 · FAQ

关于「AIP 的安全与隐私」,读者最常问的几个问题。

AIP 的第三方托管模型来自哪里?是什么?
模型服务的部署位置。在集成第三方托管的模型时,AIP 的设计目标是在可用且可行的前提下尽可能利用区域端点。这样做有助于降低延迟,目前针对部分模型在美国、英国和欧盟等地区提供。
第三方模型服务商是否会存储客户数据?
数据留存问题。不会。当 Palantir AIP 使用第三方托管的模型服务时,提示词(prompt)或补全(completion)中包含的任何客户数据都不会被相关第三方保留。
客户数据会被用于再训练模型吗?
这是企业最关心的红线之一。不会。当 AIP 访问第三方托管的模型服务时,不会使用任何客户数据来重新训练此类模型。Palantir 从第三方托管的模型服务提供商处获得严格的技术与合同保证,以确保提示词中提交的或补全中包含的客户数据都不会被用于模型训练。
AIP 调用第三方模型服务有多安全?是什么?
整体链路的安全保障。Palantir AIP 服务构建在来自云服务提供商(包括 AWS、Azure、Google Cloud)的安全基础设施之上。