【国金证券】ChatGPT训练及多场景推理成本测算

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

行业观点
  2023 年 3 月 1 日，OpenAI 宣布开发者可通过 API 将 ChatGPT 和 Wisper 模型集成到他们的应用程序和产品中。
  本次 ChatGPT API 接入的模型名为 GPT-3.5-turbo，只需 0.2 美分/千 Tokens。本文尝试测算训练和不同推理场
  景之下的实际成本；未来随着模型压缩的持续发展，推理成本可能进一步降低，也有望大幅推动生成式模型在各
  个场景的大规模商用。我们的成本估算思路是：计算 AI 模型在进行训练与推理时所需的浮点运算次数，与 AI 算
  力集群的平均算力 (以每秒浮点运算次数计) 做比，以此估算 AI 模型的训练成本与推理成本。
  在通用大模型训练方面，经测算，使用云计算时 ChatGPT 的训练成本约为 170 万美元，若自建 AI 算力中心进
  行模型训练，训练成本有望降至约 51 万美元；在大模型推理方面，使用云计算时的 ChatGPT 每处理 1,000Tokens
  信息需花费约 0.177 美分，自建 AI 算力中心有望将成本降至 0.053 美分。
  不同应用场景中 AI 模 ...

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：国金证券 chat hat 金证券 Token

相关内容：ChatGPT成本测算