AI FDE 最佳实践
让智能体替你操作平台,如何既高效又不失控?这一篇给出实操建议。
https://www.palantir.com/docs/foundry/ai-fde/best-practices/
原始标题:AI FDE • Best practices • Palantir · 所属:AI FDE(让 AI 帮你操作平台)
先记住这几条
写在前面
请审阅以下最佳实践,以帮助你在保持系统完整性并优化结果的同时,有效地利用 AI FDE。
核实资源与流程
在生产环境中实施生成的资源之前,务必先验证它们。此验证过程应包括审查所有生成的代码是否正确,以及是否符合组织标准。
使用有代表性的样本数据测试变换逻辑,以确保其在各种条件下都能如期运行。AI FDE 默认会在分支上进行更改,并在 Global Branch 提案或 Code Repository 的 pull request 中提出更改以供审查。
取决于所使用的工具和工具配置,AI FDE 可能会在执行动作前请求工具批准。请确保你理解模型试图执行的动作,并在批准前检查正在使用的工具。
限制工具与上下文
我们建议只向模型提供给定任务所必需的上下文和工具。提供不必要的上下文或工具可能导致次优或错误的动作。通过将可用工具限制为特定任务所需的那些,并只包含最相关的上下文,你可以降低混淆或出错的可能性。限制工具和上下文可以提升 AI FDE 的效率和准确性,同时通过最小化对敏感操作或信息的访问来增强安全性。
拆解问题、迭代推进
复杂操作应分解为更小、更易管理的步骤。我们建议从基本结构开始,随着每个组件得到验证再逐步增加复杂度。
AI FDE 在快速原型设计方面尤其有效,允许快速探索不同方法。对于生产级实现,请将 AI 生成的基础与手动开发相结合,以进行微调和优化。
用 AIP Evals 跟踪表现
使用 AIP Evals 来评估并跟踪由 AI FDE 创建或修改的 functions 的表现。为你的 LLM 支撑的 functions 创建评估套件,让你能够衡量更改随时间推移的影响,并比较不同方法。这在使用 AI FDE 进行迭代式 function 开发时尤其有价值,因为它能就更改是提升还是降低了表现提供定量反馈。
考虑基础设施约束
使用 AI FDE 时,重要的是要认识到其运作模式与人类开发者之间的差异。人类开发者通常一次执行一个操作,常常在动作之间停下来思考并休息;而 AI FDE 可以快速连续地执行操作,每个动作之间只间隔几秒。这可能在几分钟内触发数十个操作,并持续运行直到任务完成。多个 AI FDE 会话可能并行运行,从而使对基础设施的整体影响叠加。这可能暴露出那些对人类较慢、较顺序的活动而言尚可应对的基础设施瓶颈。
请仔细考虑以下方面:
- 存储读写
- 计算资源,尤其是 GPU
- 存储容量
AI FDE 的使用可能需要能够容纳高频并行操作、持续计算负载、增加的网络活动和扩展的存储需求的基础设施。
延伸阅读 · 相关页面
按主题横向跳转,不必顺着目录一篇篇读。
本组其他页面 · AI FDE(让 AI 帮你操作平台)
同一主题下的相邻内容。
常见问题速答 · FAQ
关于「AI FDE 最佳实践」,读者最常问的几个问题。