电子行业专题研究:从英伟达GTC看AI工厂的投资机会

电子行业专题研究:从英伟达GTC看AI工厂的投资机会
本报告深入探讨了英伟达GTC(GPU Technology Conference)大会对AI工厂投资机会的影响。 **一、AI大模型带来的投资机会** 1、AI 领域迎来“iPhone”时刻:ChatGPT等生成式AI的出现,英伟达希望成为AI时代的台积电。 2、算力基础设施受益:关注先进封装及计算芯片(半导体产业链)、服务器、PCB、光模块、光纤等数据中心产业链,以及海康、大华、商汤等在垂直行业的布局。 3、AI芯片国产替代空间:H100训练速度提升10倍,中国在成本和速度上仍有差距。国内AI芯片厂商在推理芯片已有一定市占率,但在训练芯片上差距仍较大。 **二、GPU到AI工厂,驱动服务器产业链增长** 1、AI计算促进服务器产业链升级:从GPU到AI超级计算机,推动服务器整机、PCB、光模块等性能升级。 2、相关公司:包括工业富联、中兴、紫光、联想、沪电、胜宏、中际旭创等。 **三、云计算与大模型服务,关注垂直行业发展** 1、英伟达推出AI计算服务和AI Foundations服务:超算云服务+模型代工厂模式。 2、中国大模型应用发展:对垂直行业有深刻理解,有软硬件整合能力的企业更容易获益。 **四、英伟达GTC2023的关键信息** 1、英伟达的全方位AI工厂:英伟达从硬件到软件全方位打造AI工厂。 2、DGX超级计算机:大语言模型背后的引擎。 3、DGX Cloud 和 NVIDIA AI Foundations。 **五、AI计算如何推动训练芯片和推理芯片需求** 1、AI 训练:主要采用英伟达V100/A100/H100、A800以及AMD的MI 250/250X/300。 2、AI 芯片架构: CUDA, 张量和矩阵核心, HBM存储器和控制单元。 3、AI 推理:推理更依赖于任务本质,并关注能效比、时延、成本。 4、NVIDIA 推理平台:发布L4、L40、H100 PCIE、Grace-Hopper等新平台。 **六、AI模型带来的其他关键问题** 1、 训练大模型的算力需求。 2、GPT-3模型训练所需成本和GPU数量测算。 3、国内AI训练芯片与英伟达的差距。 4、推理阶段运营成本及案例分析。 5、国内AI推理芯片的进展。 **七、其他** 1、NVIDIA Al Foundations:“超算云服务+模型代工厂”,AI 大模型领域的台积电。 2、NVIDIA AI 推理成本:推理阶段运营成本较高,成本与场景相关。 3、NVIDIA 生物模型服务BioNemo。
在线阅读 下载完整报告 | 1.75 MB | 16页
阅读和下载会消耗积分;登录、注册、邀请好友、上传报告可获取积分。
成为VIP会员可免费阅读和下载报告