8-大模型高效微调工具HF+PEFT

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

大模型高效微调工具
Hugging Face PEFT
     彭靖田
Google Developer Expert
目录
     Hugging Face PEFT 快速入门
       PEFT 库是什么？
       PEFT 与 Transformers 结合
       PEFT 核心类定义与功能说明
         AutoPeftModels、PeftModel
         PeftConfig
         PeftType | TaskType
     实战 PEFT 库模型微调多种下游任务
       LoRA 低秩适配 OPT-6.7B 文本生成任务
       LoRA 低秩适配 OpenAI Whisper-Large-V2 语音识别任务
Hugging Face PEFT 库
  PEFT 是一个为大型预训练模型提供多种高效微调方法的 Python 库。
  微调传统范式是针对每个下游任务微调模型参数。大模型参数总量庞大，这种方式变得极其昂贵和不切实际。
  PEFT 采用的高效做法是训练少量提示参数 ...

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：EFT Transformers developer transform Develop