2024年为AI助力的应用程序建立治理框架白皮书.pdf
本文探讨了人工智能 (AI) 在应用程序开发中的应用，以及由此带来的安全和治理挑战。
**AI 的兴起与挑战：**
* **AI 的加速发展：** 各行各业都在快速部署 AI 应用，尤其是 AI 辅助的应用程序开发。
* **新的安全风险：** 传统的网络安全方法难以应对 AI 带来的新风险和挑战。
* **关键挑战：** 影子 AI 项目、数据隐私、模型治理、输出控制等。
**“传统的”AI 和 ML：**
* **应用：** 用于制造优化、供应链、欺诈检测和营销等。
* **安全风险：** 数据完整性、模型性能监控、偏见审核、访问控制。
**大型语言模型 (LLM)：**
* **LLM 的应用：** 能够进行开放式对话、生成文本和代码等。
* **实现模式：** 预训练的基础模型、微调和 RAG、自定义模型训练。
* **预训练 LLM 的模式：** SaaS、由 CSP 管理、自我管理。
**安全隐患：**
* 云 API 和开源模型增加了影子 AI 项目的风险。
* 微调和 RAG 导致模型暴露于敏感的内部信息。
* 模型训练需要对敏感信息和个人数据进行彻底审查。
**AI 风险的概念：**
* **变化更快更极端：** 新模型、新技术和新应用快速涌现。
* **安全挑战：** 模型可以获取的敏感信息、数据中毒攻击。
* **安全框架：** 将安全和治理考量纳入 AI 开发生命周期。
**更广泛的影响：**
* **AI 的影响：** 影响深远，涉及结果偏差、侵犯隐私、知识产权暴露等。
* **治理框架：** 网络安全团队需要与数据科学和工程团队合作。
**新型的安全与合规监督：**
* **监督目标：** 公平性、透明度和问责制。
* **实施：** 评估和降低 AI 应用相关风险。
**威胁检测和补救：**
* **检测：** 检测数据中毒攻击、模型规避。
* **补救：** 重新训练模型。
**AI 助力的应用程序治理框架：**
* **可视性：** 了解企业如何使用 AI。
* **控制：** 制定政策、流程和技术保障措施。
* **框架组成：** 模型、数据、用例、访问、合规性。
**模型：**
* **可视性：** 对模型清单的可视性。
* **治理：** 认可和不认可模型的政策。
* **审查：** 审查和批准新 AI 模型的政策。
**数据：**
* **可视性：** 发现和分类数据。
* **治理：** 接受的敏感数据使用政策。
**用例：**
* **可视性：** 了解 AI 的用途。
* **治理：** 批准和未批准用例的政策。
**访问：**
* **可视性：** 企业中谁在使用 AI。
* **治理：** AI 代理的使用政策。
**合规性：**
* **可视性：** 相关的合规框架。
* **治理：** 持续考虑当前和未来的风险。
**Prisma Cloud AI Security Posture Management (AI-SPM)：**
* **目的：** 提供 AI 的可视性、控制和治理。
* **功能：** 模型发现和盘点、预防数据泄露、态势和风险分析。
* **效益：** 降低与 AI 相关的风险，实施一致的安全策略。
相关报告
-
5.5 MB 159页 Graph+AI：大模型浪潮下的图计算白皮书（2024年）.pdf
-
4.74 MB 62页 2024年金融AIGC音视频反欺诈白皮书-交通银行&顶象&瑞莱-2024.12-60页.pdf
-
6.61 MB 10页 2024调味粉的味和色白皮书为什么色彩至关重要.pdf
-
6.62 MB 40页 中国AI治理的独立思考 生成式人工智能发展与监管白皮书.pdf
-
16.31 MB 77页 极客邦科技：数智时代的AI人才粮仓模型解读白皮书(2024版).pdf
-
1.93 MB 23页 日本公共养老基金的治理和运营及启示——2024年度机构投资者的资产管理.pdf
-
5.09 MB 31页 2025年：AI-R-IAM：AI就绪的大模型身份与访问管理白皮书.pdf
-
5.35 MB 82页 英特尔工业人工智能白皮书2025年版-边缘AI驱动助力新质生产力.pdf
-
5.3 MB 17页 2024年3D打印材料赋予医疗设计师全新的工作方式白皮书.pdf
-
1.23 MB 37页 人工智能风险治理报告（2024年）——构建面向产业的人工智能安全治理实践方案-中国信通院.pdf
-
1.3 MB 73页 2024年行动框架-评估向低碳排放的过渡报告（英文版）.pdf
-
34.9 MB 82页 2024关于中国青年的真相白皮书-麦肯中国-202412.pdf
-
3.21 MB 126页 中国智算中心（AIDC）产业发展白皮书（2024年）.pdf
-
4.62 MB 34页 2024年成为王者：消费品的王者之道报告-解数咨询-202411.pdf
-
2.4 MB 72页 2024年AI时代全链路营销进化白皮书.pdf
-
1.38 MB 16页 2024年AI是否适合你的HR部门研究报告.pdf
-
1.46 MB 36页 2024年AI Agent实施的明路应用实践报告：智慧灯塔，照亮企业.pdf
-
2.17 MB 36页 2024年中国企业数据治理白皮书-艾瑞咨询-2024-36页.pdf