登录注册

2025大小模型端云协同赋能人机交互报告.pdf

2025大小模型端云协同赋能人机交互报告.pdf

这份文档是关于大小模型端云协同赋能人机交互的报告，主要探讨了在移动端智能化发展趋势下，如何利用云端大模型和端侧小模型的协同，提升人机交互的效率和体验。

报告首先介绍了当前人工智能发展的大背景，包括马斯克的硅基生命预言、DeepSeek & ChatGPT 的发展以及 GPT-4o 的应用案例，突出了大模型的重要性。接着，报告分析了移动端智能的现状，以及端侧计算能力的提升。

核心内容是大小模型端云协同的概念，强调了端云协同在处理复杂任务时的优势。具体而言：

  • 端云协同的定义：利用边缘设备（如智能手机、IoT设备）的模型和云侧服务器模型协同进化推断。
  • 优势：可以发挥终端靠近用户和数据源的优势，降低服务延时，增强模型个性化精准推理能力，并缓解云服务器压力。
  • 应用：报告列举了端云协同在自动驾驶、3D渲染、推荐系统等领域的应用。
  • 大小模型协同基础算法研究：探讨了基于调度、基于反馈、基于生成、以及基于融合的进化等不同协同方式。
  • 生成式协同：重点介绍了 ModelGPT 模型，该模型能够通过用户需求和少量数据，生成定制化的小模型，以适应更广泛的应用场景。
  • 知识迁移框架： 提出了跨越异构模型、任务、模态的统一模型知识迁移框架 MergeNet，该框架解决了传统方法在端云协同中遇到的问题。
  • 端云协同的实际应用案例：报告列举了在 GLUE Benchmark、Tabular Data 以及 Office-31 数据集上，模型在不同方面的性能提升。

为了解决云智能和移动端智能的局限性，报告提出了端云混合智能的概念，强调了终端和云端协同工作的重要性。

  • 云智能的局限性：推理响应延时高，模型更新周期长，请求负载压力大。
  • 移动端智能的局限性：算力、带宽和电量限制。
  • 高通的端云混合智能：通过终端和云端协同工作，实现更佳的用户体验和资源利用。

报告也分析了推荐系统面临的挑战。

  • 推荐系统的现状：强调了信息过载，需要推荐系统来过滤信息。
  • 移动端智能推荐的必要性：由于云端处理的延迟和负担，需要移动端智能推荐。

为了实现更高效的端云协同，报告介绍了两种算法：

  • 基于端云协同的高效端模型参数定制：通过彩票假说理论，实现低通信开销和高响应速度的模型定制。
  • 利用端侧反事实表征学习实现端向云去偏汇聚：解决数据分布异质性导致的辛普森悖论，通过反事实表征学习和因子去相关模块来缓解问题，提高模型准确度。
  • 云上大语言模型和端上小推荐模型的端云协同推荐：通过大小模型协同训练和推理，提升推荐效果，提高场景适应性。

最后，报告总结了大小模型端云协同的优势，强调了泛化学习、轻量压缩、跨域迁移、自主请求、模型汇聚和高效适应在端云协同中的重要性。

在线阅读 下载完整报告 | 6.16 MB | 55页
阅读和下载会消耗积分；登录、注册、邀请好友、上传报告可获取积分。
成为VIP会员可免费阅读和下载报告