ChatGPT对GPU算力的需求测算与相关分析 (1)

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

2023年2月16日
半导体行业专题
ChatGPT对GPU算力的需求测算与相关分析
中信证券研究部 雷俊成/王子源/徐涛/杨泽原 1
核心观点：单个大模型可带来 2万GPU销售量，搜索引擎带来成倍空间
核心观点：
1.短期内GPU增量与市场规模： 参考OpenAI算法，假设每日 1亿用户，每人进行 10条交互，每
个问题的回答长度为 50词，算力利用率 30%，则单个大语言模型（ LLM）的日常需求有望带
来2.13万片A100的增量，对应市场规模 2.13亿美元。假设有5家大企业推出此类 LLM，则总
增量为10.7片A100，对应市场规模 10.7亿美元。
2.短期服务器增量与市场规模： 单个服务器包含 8个GPU，因此单个 LLM带来2669台服务器需
求，对应市场规模 3.39亿美元，5家大企业共需要 13345台，对应市场规模 20亿美元。
3.长期市场空间： 参考谷歌，若 每日搜访问 30亿次，需要106.74万张A100，对应13.3万台服
务器DGX A100，带来市场空间 200亿美元。
资料来源： Raconteur，OpenAI：Language Models  ...

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：chat 相关分析 hat GPU Language