AI行业系列点评:ChatGPTAIGC九问九答-申万宏源-20230206.pdf

ChatGPT/AIGC 九问九答
本报告主要探讨了 AIGC (人工智能生成内容) 和 ChatGPT 相关问题,并对 AI 行业进行了系列点评。
核心问题与回答:
大模型 vs. 小模型: 大模型(如 GPT-3)的核心优势在于参数量巨大(例如 GPT-3 有 1750 亿参数),使得模型能够:① 简化调参流程;② 解决小模型需要为不同任务训练不同模型的问题;③ 实现迁移学习,降低对数据量的需求。
大模型与 Transformer 的关联: GPT/Bert 等大模型均基于 Transformer 架构,该架构的优势在于可以捕捉到整句的信息,是 NLP 领域效果较好的深度学习模型。
Transformer 在计算机视觉 (CV) 领域的应用: Transformer 在 CV 领域起步较晚,2017 年提出后,效果提升有限。随着 Swin Transformer、MAE 等论文的推出,CV 和跨模态应用增加。未来 CV 领域的 AI 公司可能会加大对大模型的投入。
国内 Transformer 大模型发展: 国内大模型发展落后于美国,但正在加速追赶。百度、华为等公司已推出相关大模型。
参与大模型的机会: 大模型的技术研发需要很高的存储和算力,并且需要开发者对深度学习框架有深入的理解,普通机构难以复现。
上市公司机会: 计算机领域:泛 AI 领域是主线,关注 AI 领军企业、科大讯飞等;关注云从科技、汉王科技等弹性标的。互联网领域:关注 AIGC 技术发展和单模态应用落地,关注技术驱动的初创企业、科研院所,以及与应用场景关联的 A 股上市公司。
ChatGPT 和 AIGC 的商业应用:
- 大规模预训练带来的优势: 降低训练成本,减少数据需求,适应长尾场景,提升小样本 (Few-shot) 训练效果。
- 挑战: GPT 等大模型仍存在问题,如缺乏逻辑、易产生有毒或不真实的结果。
- 改进: OpenAI 改进版 InstructGPT,通过人类反馈强化学习(RLHF),提高了输出结果的质量,减少了有毒结果。
- 图像生成: AIGC 在图像生成领域也有应用, DALL·E-2 等模型可以生成高像素图像,并用于商业应用。
国内 Transformer 大模型现状与中美技术差距: 国内大模型正在追赶,百度、华为等公司已推出大模型。
大模型商业前景: 大模型需要高算力,并且底层算法的壁垒很高,目前只有少数互联网巨头能够复现。
上市公司投资机会:
- 泛 AI 领域:科大讯飞、万兴科技、虹软科技等。
- 互联网:中文在线、汉仪股份、视觉中国等。
风险提示:大模型技术中美仍存在差异,部分技术尚处于早期实验室阶段,存在落地风险;实体清单等可能对训练硬件产生影响。
相关报告
-
2.34 MB 13页 申万宏源-计算机行业AIGC系列之九:阿里大模型,统一底座滋养多模态之花-230329.pdf
-
1.67 MB 23页 申万宏源-计算机行业AIGC系列之七:国产AI芯片的百倍算力需求!-230324.pdf
-
22.67 MB 52页 Agent如何重构软件生态?-申万宏源-20250206.pdf
-
1.53 MB 31页 2023年中宏观经济展望:峰回路转-申万宏源-20230627.pdf
-
692.63 KB 13页 外循环“破局”系列之三:贸易顺差缘何飙升?产业链变迁伏脉千里-申万宏源-20230518.pdf
-
3.94 MB 41页 AIGC行业深度报告(7):ChatGPT:三大主线,AI算力需求井喷!_2023.pdf
-
1.16 MB 31页 外循环“破局”系列之一:30图看懂中国对外投资新变化-申万宏源-20230420.pdf
-
1.32 MB 19页 区块链行业点评:Web3视角下的AIGC算力进化论-20230319-国盛证券-19页.pdf
-
1021.81 KB 10页 策略对话行业:传媒:AIGC催化传媒互联网热潮_2023-02-13_中银证券.pdf
-
2.42 MB 34页 2021下半年电商行业投资策略:效率为王,电商突围之战-申万宏源-20210623.pdf