2024年为AI助力的应用程序建立治理框架白皮书.pdf

2024年为AI助力的应用程序建立治理框架白皮书.pdf
本文探讨了人工智能 (AI) 在应用程序开发中的应用,以及由此带来的安全和治理挑战。 **AI 的兴起与挑战:** * **AI 的加速发展:** 各行各业都在快速部署 AI 应用,尤其是 AI 辅助的应用程序开发。 * **新的安全风险:** 传统的网络安全方法难以应对 AI 带来的新风险和挑战。 * **关键挑战:** 影子 AI 项目、数据隐私、模型治理、输出控制等。 **“传统的”AI 和 ML:** * **应用:** 用于制造优化、供应链、欺诈检测和营销等。 * **安全风险:** 数据完整性、模型性能监控、偏见审核、访问控制。 **大型语言模型 (LLM):** * **LLM 的应用:** 能够进行开放式对话、生成文本和代码等。 * **实现模式:** 预训练的基础模型、微调和 RAG、自定义模型训练。 * **预训练 LLM 的模式:** SaaS、由 CSP 管理、自我管理。 **安全隐患:** * 云 API 和开源模型增加了影子 AI 项目的风险。 * 微调和 RAG 导致模型暴露于敏感的内部信息。 * 模型训练需要对敏感信息和个人数据进行彻底审查。 **AI 风险的概念:** * **变化更快更极端:** 新模型、新技术和新应用快速涌现。 * **安全挑战:** 模型可以获取的敏感信息、数据中毒攻击。 * **安全框架:** 将安全和治理考量纳入 AI 开发生命周期。 **更广泛的影响:** * **AI 的影响:** 影响深远,涉及结果偏差、侵犯隐私、知识产权暴露等。 * **治理框架:** 网络安全团队需要与数据科学和工程团队合作。 **新型的安全与合规监督:** * **监督目标:** 公平性、透明度和问责制。 * **实施:** 评估和降低 AI 应用相关风险。 **威胁检测和补救:** * **检测:** 检测数据中毒攻击、模型规避。 * **补救:** 重新训练模型。 **AI 助力的应用程序治理框架:** * **可视性:** 了解企业如何使用 AI。 * **控制:** 制定政策、流程和技术保障措施。 * **框架组成:** 模型、数据、用例、访问、合规性。 **模型:** * **可视性:** 对模型清单的可视性。 * **治理:** 认可和不认可模型的政策。 * **审查:** 审查和批准新 AI 模型的政策。 **数据:** * **可视性:** 发现和分类数据。 * **治理:** 接受的敏感数据使用政策。 **用例:** * **可视性:** 了解 AI 的用途。 * **治理:** 批准和未批准用例的政策。 **访问:** * **可视性:** 企业中谁在使用 AI。 * **治理:** AI 代理的使用政策。 **合规性:** * **可视性:** 相关的合规框架。 * **治理:** 持续考虑当前和未来的风险。 **Prisma Cloud AI Security Posture Management (AI-SPM):** * **目的:** 提供 AI 的可视性、控制和治理。 * **功能:** 模型发现和盘点、预防数据泄露、态势和风险分析。 * **效益:** 降低与 AI 相关的风险,实施一致的安全策略。
在线阅读 下载完整报告 | 843.64 KB | 13页
阅读和下载会消耗积分;登录、注册、邀请好友、上传报告可获取积分。
成为VIP会员可免费阅读和下载报告