GPT图解：大模型是怎样构建的（黄佳）

相似文件 换一批

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

GPT图解：大模型是怎样构建的（黄佳）

GPT图解：大模型是怎样构建的（黄佳）.pdf (65.3 MB, 需要: 200 个论坛币)

2024-4-15 17:12:24 上传

需要: 200 个论坛币  [购买]

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏2 回帖

谢谢分享

GPT图解：大模型是怎样构建的
黄佳
种类:Computers - Artificial Intelligence (AI)
年:2024
出版:第1版第4次印刷
出版社:人民邮电出版社
语言:Chinese
页:266

感谢分享

感谢分享，就是有点小贵哈

谢谢分享！

谢谢分享

黄佳，笔名咖哥，新加坡科技研究局人工智能研究员。主攻方向为 NLP 大模型的研发与应用、持续学习、AI in FinTech。黄佳深耕人工智能领域多年，积累了丰富的科研项目和政府、银行、能源、医疗等领域 AI 项目落地实战经验，目前正与 PlatoX.AI 展开富有前景的技术合作。曾著有《零基础学机器学习》《数据分析咖哥十话》等多部热销书。同时，在极客时间开设专栏《零基础实战机器学习》《LangChain 实战课》，在深蓝学院开设视频课程“生成式预训练语言模型：理论与实战”。

目录
序章 看似寻常最奇崛，成如容易却艰辛 001

GPT-4：点亮人工通用智能的火花 002

人工智能演进之路：神经网络两落三起 004

现代自然语言处理：从规则到统计 007

何为语言？信息又如何传播？ 008

NLP是人类和计算机沟通的桥梁 009

NLP技术的演进史 010

大规模预训练语言模型：BERT与GPT争锋 012

语言模型的诞生和进化 012

统计语言模型的发展历程 014

基于Transformer架构的预训练模型 016

“预训练+微调大模型”的模式 018

以提示/指令模式直接使用大模型 019

从初代GPT到ChatGPT，再到GPT-4 021

GPT作为生成式模型的天然优势 022

ChatGPT背后的推手——OpenAI 023

从初代GPT到ChatGPT，再到GPT-4的进化史 024

第1课 高楼万丈平地起：语言模型的雏形N-Gram和简单文本表示Bag-of-Words 026

1．1N-Gram模型 026

1．2“词”是什么，如何“分词” 030

1．3创建一个Bigram字符预测模型 032

1．4词袋模型 036

1．5用词袋模型计算文本相似度 037

小结 042

思考 043

……


内容摘要
人工智能（AI），尤其是生成式语言模型和生成式人工智能（AIGC）模型，正以惊人的速度改变着我们的世界。驾驭这股潮流的关键，莫过于探究自然语言处理（NLP）技术的深奥秘境。本书将带领读者踏上一段扣人心弦的探索之旅，让其亲身感受，并动手搭建语言模型。本书主要内容包括N-Gram，词袋模型（BoW），Word2Vec（W2V），神经概率语言模型（NPLM），循环神经网络（RNN），Seq2Seq（S2S），注意力机制，Transformer，从初代GPT到ChatGPT再到GPT-4等一系列突破性技术的诞生与演进。

本书将以生动活泼的笔触，将枯燥的技术细节化作轻松幽默的故事和缤纷多彩的图画，引领读者穿梭于不同技术的时空，见证自然语言处理技术的传承、演进与蜕变。在这场不断攀登技术新峰的奇妙之旅中，读者不仅能深入理解自然语言处理技术的核心原理，还能自己动手，从零开始搭建起一个又一个语言模型。

无论你是在校学生还是人工智能从业者，这本书都将成为一盏明灯，照亮你探索人工智能无限奥秘的道路。


主编推荐
1、结构清晰，全面解读N-Gram至GPT-4等突破性技术，带读者轻松读懂NLP发展脉络，掌握AI核心，开启未来之旅！
2、书中含有多个插图及结构图，以生动的笔触、缤纷的图画，让技术细节变得轻松愉快，让读者能够轻松读懂知识，有趣，又有料！
3、配有丰富学习资料，提供源代码，带读者动手实操，搭建大模型，成为语言模型构建达人。

谢谢分享

谢谢分享