ICML-EL-Attention Memory Efficient Lossless Attention for Generation

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

EL-Attention: Memory Efficient Lossless Attention for Generation

  Yu Yan 1 Jiusheng Chen 1 Weizhen Qi * 2 Nikhil Bhendawade * 1 Yeyun Gong * 3 Nan Duan 3 Ruofei Zhang 4

             Abstract                pruning layer (Fan et al., 2019) or training a smaller stu-
                                 dent model (Shleifer & Rush, 2020). Another way is non-
    Transformer model with multi-head attention re-      autoregressive generation (Gu et al., 2018; Lee et al., 2018;
    quires caching inte ...

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：Generation Attention EFFICIENT ration memory