AI行业系列点评:ChatGPTAIGC九问九答-申万宏源-20230206.pdf

AI行业系列点评:ChatGPTAIGC九问九答-申万宏源-20230206.pdf

ChatGPT/AIGC 九问九答

本报告主要探讨了 AIGC (人工智能生成内容) 和 ChatGPT 相关问题,并对 AI 行业进行了系列点评。

核心问题与回答:

  1. 大模型 vs. 小模型: 大模型(如 GPT-3)的核心优势在于参数量巨大(例如 GPT-3 有 1750 亿参数),使得模型能够:① 简化调参流程;② 解决小模型需要为不同任务训练不同模型的问题;③ 实现迁移学习,降低对数据量的需求。

  2. 大模型与 Transformer 的关联: GPT/Bert 等大模型均基于 Transformer 架构,该架构的优势在于可以捕捉到整句的信息,是 NLP 领域效果较好的深度学习模型。

  3. Transformer 在计算机视觉 (CV) 领域的应用: Transformer 在 CV 领域起步较晚,2017 年提出后,效果提升有限。随着 Swin Transformer、MAE 等论文的推出,CV 和跨模态应用增加。未来 CV 领域的 AI 公司可能会加大对大模型的投入。

  4. 国内 Transformer 大模型发展: 国内大模型发展落后于美国,但正在加速追赶。百度、华为等公司已推出相关大模型。

  5. 参与大模型的机会: 大模型的技术研发需要很高的存储和算力,并且需要开发者对深度学习框架有深入的理解,普通机构难以复现。

  6. 上市公司机会: 计算机领域:泛 AI 领域是主线,关注 AI 领军企业、科大讯飞等;关注云从科技、汉王科技等弹性标的。互联网领域:关注 AIGC 技术发展和单模态应用落地,关注技术驱动的初创企业、科研院所,以及与应用场景关联的 A 股上市公司。

  7. ChatGPT 和 AIGC 的商业应用:

    • 大规模预训练带来的优势: 降低训练成本,减少数据需求,适应长尾场景,提升小样本 (Few-shot) 训练效果。
    • 挑战: GPT 等大模型仍存在问题,如缺乏逻辑、易产生有毒或不真实的结果。
    • 改进: OpenAI 改进版 InstructGPT,通过人类反馈强化学习(RLHF),提高了输出结果的质量,减少了有毒结果。
    • 图像生成: AIGC 在图像生成领域也有应用, DALL·E-2 等模型可以生成高像素图像,并用于商业应用。
  8. 国内 Transformer 大模型现状与中美技术差距: 国内大模型正在追赶,百度、华为等公司已推出大模型。

  9. 大模型商业前景: 大模型需要高算力,并且底层算法的壁垒很高,目前只有少数互联网巨头能够复现。

  10. 上市公司投资机会:

    • 泛 AI 领域:科大讯飞、万兴科技、虹软科技等。
    • 互联网:中文在线、汉仪股份、视觉中国等。

风险提示:大模型技术中美仍存在差异,部分技术尚处于早期实验室阶段,存在落地风险;实体清单等可能对训练硬件产生影响。

在线阅读 下载完整报告 | 1.63 MB | 13页
阅读和下载会消耗积分;登录、注册、邀请好友、上传报告可获取积分。
成为VIP会员可免费阅读和下载报告