DeepSeek应用场景中需要关注的十个安全问题和防范措施-北京大学-202503.pdf
本次讲座聚焦于DeepSeek平台的安全性与可靠性，围绕其面临的**模型5大安全问题**（DDoS攻击、无限推理攻击、漏洞探测与利用、投毒问题和越狱问题）、**私有化部署的2大安全问题**（本地化部署工具漏洞和网络攻击风险）以及**外延的3大安全问题**（仿冒APP与仿冒网站收集信息、辅助攻击）展开深入探讨。
**DeepSeek快速发展与安全问题**：DeepSeek凭借其快速的迭代、用户增长速度，在全球范围内迅速扩张，但也带来了安全风险。AI发展的独特之处在于由广大民营创业者主导，通过开源平台共享代码和研究成果，这种全球协作加速了技术的传播和创新。然而，其快速发展也伴随着安全问题，如威胁难以预测、攻防非对称等特点。
**安全问题特点**：
1. **威胁难以预测**：传统技术工具的行为相对固定、容易控制，而AI大模型技术主要基于深度学习神经网络模型的数据智能，难以排除错误和安全隐患。
2. **攻防非对称**：在人工智能安全领域，攻击成本低廉、手段丰富且易于实施，而防御难度极大，需要持续投入。
**DeepSeek安全方案框架**：
分为**内生安全问题**和**外延安全问题**。
内生安全问题：更聚焦于Deepseek系统自身内部的核心要素，如数据、算法、模型等，关注的是这些要素在系统运行过程中的安全保障，确保系统本身能够稳定、正确、安全地运行
外延安全问题：重点关注在社会、经济、法律等外部环境中产生的影响和问题，包括发展安全、技术滥用（如网络攻击、深度伪造等）。更侧重于 Deepseek 技术与外部世界交互过程中引发的一系列安全问题和挑战
**DeepSeek模型的5个安全问题**：
1. **DDoS攻击**：DeepSeek官网曾遭受DDoS攻击导致服务瘫痪。
2. **无限推理攻击**：黑客可以通过特定方式构造查询，导致模型陷入无限推理，消耗大量资源，影响服务。
3. **漏洞探测与利用**：DeepSeek可能存在漏洞，黑客可以通过主动或被动方式探测，并利用漏洞获取信息。
4. **投毒问题**：黑客可以通过污染训练数据集，干扰模型，造成错误或有害输出。
5. **越狱问题**：通过特定的提示词或漏洞，绕过安全机制，导致模型输出不符合道德、法律规范的内容。
**DeepSeek私有化部署的2个安全问题**：
1. **针对DeepSeek本地化部署实施网络攻击的风险**：黑客可以通过构建仿冒网站、捆绑恶意程序等方式，诱导用户安装恶意工具，窃取数据、控制服务器。
2. **DeepSeek本地化部署工具的风险**：本地部署工具Ollama启动后，可能在未授权情况下提供API接口，也可能因配置不当产生漏洞，增加被攻击风险。
**DeepSeek外延的3个安全问题**：
1. **仿冒DeepSeek官方APP植入手机木马**：黑客制作与官方APP相似的恶意APP，诱导用户安装，窃取用户数据。
2. **仿冒DeepSeek官方网站和域名收集用户信息**：黑客通过仿冒官方网站和域名，诱骗用户输入账号密码等敏感信息。
3. **利用DeepSeek实现自动渗透攻击**：黑客可以利用DeepSeek模型进行信息收集、漏洞分析，并生成可运行的渗透测试脚本，实施攻击。
**DeepSeek大模型漏洞防范措施**：
1. 开发阶段：强化数据管理、加强模型设计与验证、严格代码审查。
2. 部署阶段：安全配置服务器、采用加密传输。
3. 运行阶段：实时监控与预警、定期漏洞扫描与更新、应急响应与恢复。
**DeepSeek外延安全问题的防范方法**：
1. 技术层面：使用防病毒软件、开启浏览器防护、设置身份验证。
2. 用户层面：谨慎点击链接、留意应用来源、细看网址域名。
3. 企业层面：注册商标和域名、发布官方声明、建立监测系统。
相关报告
-
11.08 MB 57页 DeepSeek 原理和落地应用-北京大学-202503.pdf
-
15.77 MB 96页 从技术突破到场景落地：大模型发展图谱与DeepSeek创新应用-中山大学-202503.pdf
-
3.03 MB 37页 DeepSeek政务应用场景与解决方案（最新版）-清华大学-202503.pdf
-
13.85 MB 51页 2025DeepSeek技术全景解析——重塑全球AI生态的中国力量-智研咨询-202503.pdf
-
3.15 MB 38页 Deepseek背景综述及在金融领域应用场景初探-中邮证券-20250224.pdf
-
18.43 MB 86页 DeepSeek内部研讨系列：DeepSeek提示词工程和落地场景-北京大学-202502.pdf
-
2.43 MB 17页 中国低空经济应用场景研究报告（2025）.pdf
-
4.79 MB 55页 中国消费品和零售行业纵览2025：挖掘消费结构升级中的增长新机遇报告-德勤-202504.pdf
-
3.58 MB 12页 2025揭开法规遵循的神秘面纱-面向安全领导者和IT决策者.pdf
-
8.3 MB 96页 2025资本博弈：对赌、回购与投资人特殊权利的争议与演进报告-中伦-202503.pdf
-
1.52 MB 24页 让DeepSeek更有趣更有深度的思考研究分析报告-AGI智能时代-202503.pdf
-
38.77 MB 57页 DeepSeek的本地化部署与AI通识教育之未来-浙江大学-202503.pdf
-
16.7 MB 38页 2025中国新手妈妈现状调查报告——看见母亲的困境与希望-珀莱雅公益-202503.pdf
-
10.43 MB 48页 深度解读DeepSeek：部署、使用、安全-天津大学-202503.pdf