2024年为AI助力的应用程序建立治理框架白皮书.pdf

本文探讨了人工智能 (AI) 在应用程序开发中的应用,以及由此带来的安全和治理挑战。
**AI 的兴起与挑战:**
* **AI 的加速发展:** 各行各业都在快速部署 AI 应用,尤其是 AI 辅助的应用程序开发。
* **新的安全风险:** 传统的网络安全方法难以应对 AI 带来的新风险和挑战。
* **关键挑战:** 影子 AI 项目、数据隐私、模型治理、输出控制等。
**“传统的”AI 和 ML:**
* **应用:** 用于制造优化、供应链、欺诈检测和营销等。
* **安全风险:** 数据完整性、模型性能监控、偏见审核、访问控制。
**大型语言模型 (LLM):**
* **LLM 的应用:** 能够进行开放式对话、生成文本和代码等。
* **实现模式:** 预训练的基础模型、微调和 RAG、自定义模型训练。
* **预训练 LLM 的模式:** SaaS、由 CSP 管理、自我管理。
**安全隐患:**
* 云 API 和开源模型增加了影子 AI 项目的风险。
* 微调和 RAG 导致模型暴露于敏感的内部信息。
* 模型训练需要对敏感信息和个人数据进行彻底审查。
**AI 风险的概念:**
* **变化更快更极端:** 新模型、新技术和新应用快速涌现。
* **安全挑战:** 模型可以获取的敏感信息、数据中毒攻击。
* **安全框架:** 将安全和治理考量纳入 AI 开发生命周期。
**更广泛的影响:**
* **AI 的影响:** 影响深远,涉及结果偏差、侵犯隐私、知识产权暴露等。
* **治理框架:** 网络安全团队需要与数据科学和工程团队合作。
**新型的安全与合规监督:**
* **监督目标:** 公平性、透明度和问责制。
* **实施:** 评估和降低 AI 应用相关风险。
**威胁检测和补救:**
* **检测:** 检测数据中毒攻击、模型规避。
* **补救:** 重新训练模型。
**AI 助力的应用程序治理框架:**
* **可视性:** 了解企业如何使用 AI。
* **控制:** 制定政策、流程和技术保障措施。
* **框架组成:** 模型、数据、用例、访问、合规性。
**模型:**
* **可视性:** 对模型清单的可视性。
* **治理:** 认可和不认可模型的政策。
* **审查:** 审查和批准新 AI 模型的政策。
**数据:**
* **可视性:** 发现和分类数据。
* **治理:** 接受的敏感数据使用政策。
**用例:**
* **可视性:** 了解 AI 的用途。
* **治理:** 批准和未批准用例的政策。
**访问:**
* **可视性:** 企业中谁在使用 AI。
* **治理:** AI 代理的使用政策。
**合规性:**
* **可视性:** 相关的合规框架。
* **治理:** 持续考虑当前和未来的风险。
**Prisma Cloud AI Security Posture Management (AI-SPM):**
* **目的:** 提供 AI 的可视性、控制和治理。
* **功能:** 模型发现和盘点、预防数据泄露、态势和风险分析。
* **效益:** 降低与 AI 相关的风险,实施一致的安全策略。
相关报告
-
5.5 MB 159页 Graph+AI:大模型浪潮下的图计算白皮书(2024年).pdf
-
6.61 MB 10页 2024调味粉的味和色白皮书为什么色彩至关重要.pdf
-
6.62 MB 40页 中国AI治理的独立思考 生成式人工智能发展与监管白皮书.pdf
-
16.31 MB 77页 极客邦科技:数智时代的AI人才粮仓模型解读白皮书(2024版).pdf
-
5.35 MB 82页 英特尔工业人工智能白皮书2025年版-边缘AI驱动助力新质生产力.pdf
-
5.3 MB 17页 2024年3D打印材料赋予医疗设计师全新的工作方式白皮书.pdf
-
1.23 MB 37页 人工智能风险治理报告(2024年)——构建面向产业的人工智能安全治理实践方案-中国信通院.pdf
-
1.3 MB 73页 2024年行动框架-评估向低碳排放的过渡报告(英文版).pdf
-
34.9 MB 82页 2024关于中国青年的真相白皮书-麦肯中国-202412.pdf
-
3.21 MB 126页 中国智算中心(AIDC)产业发展白皮书(2024年).pdf
-
4.62 MB 34页 2024年成为王者:消费品的王者之道报告-解数咨询-202411.pdf
-
2.4 MB 72页 2024年AI时代全链路营销进化白皮书.pdf
-
1.38 MB 16页 2024年AI是否适合你的HR部门研究报告.pdf
-
1.46 MB 36页 2024年AI Agent实施的明路应用实践报告:智慧灯塔,照亮企业.pdf
-
2.17 MB 36页 2024年中国企业数据治理白皮书-艾瑞咨询-2024-36页.pdf
-
3.78 MB 49页 生成式AI时代下的数据战略(2024年).pdf
-
35.07 MB 37页 2024中国年轻人的钻石新意:真正的奢华是“悦己”-JINGDAILY-202404.pdf