Python大语言模型应用开发入门实战

宿永杰

扉页
版权信息
+书签
前言
内容简介
第1章大语言模型概述
1.1 大语言模型的概述
1.1.1 大语言模型的定义
1.1.2 大语言模型的分类
1.1.3 大语言模型的应用场景
1.2 大语言模型的演变与发展
1.2.1 大语言模型的网络架构演变
1.2.2 大语言模型发展的关键事件
1.3 大语言模型的基础知识
1.3.1 什么是算力？
1.3.2 显卡的基础知识
1.3.3 大语言模型的参数单位
1.3.4 大语言模型的参数精度
1.3.5 Token是大语言模型的基本单位
1.3.6 通用人工智能（AGI）等级划分
1.4 小结
第2章大语言模型开发基础
2.1 Python大语言模型开发基础
2.1.1 Python编程基础知识
2.1.2 接口的设计与优化
2.1.3 大模型接口开发实战
2.2 Docker容器基础
2.2.1 Docker基础命令
2.2.2 Docker构建镜像
2.2.3 Docker容器编排
2.3 自然语言处理概述
2.3.1 NLP的研究任务概述
2.3.2 NLP应用的传统技术实现路径
2.3.3 大语言模型对传统NLP的影响
2.4 小结
第3章分词技术
3.1 分词
3.1.1 什么是分词
3.1.2 英文分词
3.1.3 中文分词
3.1.4 制作词云图
3.2 常见的分词算法
3.2.1 基于规则的分词方法
3.2.2 基于统计的分词方法
3.2.3 基于深度学习的分词方法
3.2.4 基于预训练语言模型的分词方法
3.3 使用大语言模型进行分词
3.3.1 基于ChatGPT服务的分词
3.3.2 基于本地大语言模型的分词
3.4 小结
第4章词嵌入技术
4.1 词袋模型
4.1.1 词袋的构建
4.2 词向量模型
4.2.1 One-Hot编码
4.2.2 Word2Vec模型
4.3 大语言模型生成Embedding
4.3.1 使用ChatGPT生成Embedding
4.3.2 使用text2vec生成Embedding
4.3.3 使用sentence-transformers生成Embedding
4.3.4 使用Transformers库生成Embedding
4.3.5 统计输入文本的tokens数
4.4 大语言模型Embedding应用
4.4.1 Embedding数据集准备
4.4.2 Embedding数据2D可视化
4.4.3 Embedding中文相似度计算
4.5 小结
第5章向量数据库
5.1 向量数据库简介
5.1.1 向量数据库的简介
5.1.2 向量数据库的特点
5.1.3 与传统数据库的比较
5.1.4 向量数据库的使用场景
5.2 向量数据库的原理
5.2.1 向量距离的度量
5.2.2 相似度搜索算法
5.3 向量数据库的应用
5.3.1 Faiss向量数据库
5.4 小结
第6章 Prompt提示词工程与优化
6.1 认识提示词工程
6.1.1 人机交互的演进
6.1.2 什么是提示词？
6.1.3 提示词工程
6.2 提示词工程使用技巧
6.2.1 使用文本分隔符
6.2.2 给模型赋予角色
6.2.3 将过程分步拆解
6.2.4 尽可能量化需求
6.2.5 提供正反示例
6.2.6 要求结构化输出
6.2.7 合理进行限制
6.2.8 使用链式思维
6.3 使用提示词完成自然语言处理任务
6.3.1 使用提示词进行分词
6.3.2 使用提示词提取关键词
6.3.3 使用提示词进行文本分类
6.3.4 使用提示词进行情感分析
6.3.5 使用提示词进行文本摘要
6.3.6 使用提示词进行中英文翻译
6.4 小结
第7章 HuggingFace入门与开发
7.1 HuggingFace简介
7.1.1 HuggingFace简介
7.1.2 HuggingFace Hub客户端库
7.2 HuggingFace数据集工具
7.2.1 数据集工具简介
7.2.2 数据集工具基本操作
7.3 HuggingFace模型工具
7.3.1 Transformers简介
7.3.2 数据预处理
7.3.3 模型微调
7.3.4 模型评价指标
7.4 小结
第8章 LangChain入门与开发
8.1 初识LangChain
8.1.1 LangChain简介
8.1.2 LangChain的开发生态
8.2 模型I/O（Model IO）
8.2.1 模型I/O简介
8.2.2 提示词模版
8.2.3 模型包装器
8.2.4 输出解析器
8.3 数据增强（DataConnection）
8.3.1 文档加载器
8.3.2 文档转换器
8.3.3 文本嵌入
8.3.4 向量存储库
8.3.5 检索器
8.4 链（Chains）
8.5 小结
第9章大语言模型的微调
9.1 大语言模型微调概述
9.1.1 为什么需要微调？
9.1.2 少样本提示与微调
9.1.3 微调的基本流程
9.2 大语言模型的微调策略
9.2.1 全面微调
9.2.2 参数高效微调
9.3 基于ChatGPT的微调
9.3.1 使用Fine-Tuning UI微调
9.3.2 使用CLI命令微调
9.3.3 使用API接口微调
9.4 基于HuggingFace的开源大模型微调
9.4.1 Accelerate介绍
9.4.2 PEFT介绍
9.5 小结
第10章浅谈大语言模型的部署
10.1 MLOps与LLMOps简介
10.1.1 DevOps简介
10.1.2 MLOps简介
10.1.3 LLMOps简介
10.2 大语言模型量化部署
10.2.1 Qwen2-0.5B简介
10.2.2 ChatGLM3-6B简介
10.2.3 基于Qwen2-0.5B的CPU推理
10.2.4 基于ChatGLM3-6B的GPU量化推理
10.3 大语言模型部署实战
10.3.1 基于Gradio框架的网页部署
10.3.2 基于FastAPI框架的接口部署
10.4 小结
第11章数字人电商直播应用概述
11.1 数字人直播概述
11.1.1 数字人简介
11.1.2 品牌虚拟代言人
11.1.3 数字人与“人货场”
11.2 2D数字人核心技术
11.2.1 AI生成文案
11.2.2 AI语音合成
11.2.3 2D数字人口型驱动
11.2.4 2D数字人直播推流
11.3 2D数字人电商直播实战
11.3.1 数字人直播流程简介
11.3.2 大语言模型生成商品台词
11.3.3 TTS将商品台词转成音频
11.3.4 口型驱动生成2D数字人
11.3.5 2D数字人推流到直播间
11.4 小结
第12章数字人口播台词生成项目实战
12.1 数字人口播台词生成概述
12.1.1 数字人直播的台词特点
12.1.2 数字人直播的台词编排
12.1.3 数字人直播的防封策略
12.2 数字人口播台词Prompt模板
12.2.1 整段式商品台词Prompt模板
12.2.2 分段式商品台词Prompt模板
12.2.3 商品互动问答台词Prompt模版
12.3 数字人口播台词生成项目实战
12.3.1 使用Prompt模板生成口播台词
12.3.2 品牌知识库和Prompt模板结合生成口播台词
12.4 小结
第13章数字人直播间问答分类项目实战
13.1 文本分类简介
13.1.1 文本分类的方法介绍
13.1.2 文本分类的模型及特点
13.1.3 文本分类的发展与挑战
13.2 文本分类器的训练过程
13.2.1 传统分类器的训练
13.2.2 提示词少样本学习
13.2.3 定制化微调预训练模型
13.3 数字人直播间问答分类项目实战
13.3.1 直播间问答分类简介
13.3.2 直播间问答分类流程
13.3.3 直播间问答分类实战
13.4 小结
第14章数字人直播间互动问答项目实战
14.1 RAG知识库的构建
14.1.1 RAG知识库基本概念
14.1.2 RAG知识库构建流程
14.1.3 RAG知识库发展与挑战
14.2 RAG知识库的优化策略
14.2.1 非结构化文档解析优化
14.2.2 文档分块策略优化
14.2.3 中文Embedding优化
14.2.4 查询重写Rewrite优化
14.2.5 重排序Rerank优化
14.2.6 混合技术优化信息检索
14.3 数字人直播间互动问答项目实战
14.3.1 数字人直播间互动问答简介
14.3.2 基于关键词检索的互动问答实现
14.3.3 基于RAG向量库检索的互动问答实现
14.3.4 基于RAG混合检索的互动问答实现
14.3.5 基于微调LLM的互动问答实现
14.4 小结
第15章数字人直播间数据分析Text2SQL项目实战
15.1 数据分析的本质
15.1.1 取之于业务，用之于业务
15.2 数据分析的思维和方法论
15.2.1 最爱的费米估计
15.2.2 违背常理的辛普森悖论
15.2.3 必知必会的两个原则
15.2.4 三种思考模型
15.2.5 四大战略分析工具
15.2.6 五大生命周期理论
15.2.7 数字化营销的六脉神剑
15.3 直播间数据分析Text2SQL项目实战
15.3.1 Text2SQL概述
15.3.2 Text2SQL开源项目简介
15.3.3 直播间数据分析Text2SQL项目实战
15.4 小结

简介

版权

Python大语言模型应用开发入门实战