首页
技术小册
AIGC
面试刷题
技术文章
MAGENTO
云计算
视频课程
源码下载
PDF书籍
「涨薪秘籍」
登录
注册
第1章 大模型时代的开端
1.1 大模型的历史与发展
1.1.1 大模型的“涌现”
1.1.2 深度学习与大模型的起源
1.1.3 大模型的概念与特点
1.1.4 大模型开启了深度学习的新时代
1.2 为什么要使用大模型
1.2.1 大模型与普通模型的区别
1.2.2 为什么选择ChatGLM
1.2.3 大模型应用场合与发展趋势
第2章 PyTorch 2.0深度学习环境搭建
2.1 安装Python开发环境
2.1.1 Miniconda的下载与安装
2.1.2 PyCharm的下载与安装
2.1.3 softmax函数练习
2.2 安装PyTorch 2.0
2.2.1 NVIDIA 10/20/30/40系列显卡选择的GPU版本
2.2.2 PyTorch 2.0 GPU NVIDIA运行库的安装
2.2.3 Hello PyTorch
2.3 Hello ChatGLM3
2.3.1 ChatGLM3简介与安装
2.3.2 CPU版本的ChatGLM3推演
2.3.3 GPU（INT4或INT8量化）版本的ChatGLM3推演
2.3.4 GPU（half或float量化）版本的ChatGLM3推演
2.3.5 离线状态的ChatGLM3的使用
2.3.6 ChatGLM的高级使用
第3章 基于gradio的云上自托管ChatGLM3部署实战
3.1 gradio的基本使用详解
3.1.1 从gradio的Interface开始
3.1.2 gradio输入与输出组件
3.1.3 启动gradio的launch
3.1.4 gradio中多样化的输入和输出组件
3.1.5 gradio中常用的几个组件
3.1.6 使用gradio搭建视频上色服务
3.2 基于gradio的猫狗分类可视化训练与预测实战
3.2.1 运行环境与数据集的准备
3.2.2 模型的设计
3.2.3 PyTorch模型训练的基本流程
3.2.4 可视化训练流程
3.2.5 使用训练好的模型完成gradio可视化图像分类
3.3 基于网页端的ChatGLM3部署和使用
3.3.1 使用gradio搭建ChatGLM3网页客户端
3.3.2 使用ChatGLM3自带的网页客户端
3.4 基于私有云服务的ChatGLM3部署和使用
3.4.1 使用FastAPI完成ChatGLM3私有云交互端口的搭建（重要）
3.4.2 基于streamlit的ChatGLM3自带的网页客户端
第4章 使用ChatGLM3与LangChain实现知识图谱抽取和智能问答
4.1 当ChatGLM3遇见LangChain
4.1.1 LangChain的基本构成、组件与典型场景
4.1.2 确认统一地址的ChatGLM3部署方案
4.1.3 使用ChatGLM3构建LangChain的LLM终端
4.1.4 从一个简单的提示模板开始
4.1.5 ChatGLM3格式化提示词的构建与使用
4.2 ChatGLM3+ LangChain搭建专业问答机器人
4.2.1 使用LangChain的LLM终端完成文本问答
4.2.2 数据准备与基础算法分析
4.2.3 使用LangChain完成提示语Prompt工程
4.2.4 基于ChatGLM3的LLM终端完成专业问答
4.3 使用ChatGLM3的LLM终端搭建知识图谱抽取与智能问答
4.3.1 基于ChatGLM3的LLM终端完成知识图谱抽取
4.3.2 基于ChatGLM3的LLM终端完成智能问答
当前位置:
首页>>
技术小册>>
ChatGLM3大模型本地化部署、应用开发与微调(上)
小册名称：ChatGLM3大模型本地化部署、应用开发与微调(上)
### 第1章 大模型时代的开端 #### 引言 在科技日新月异的今天，人工智能（AI）正以前所未有的速度重塑着我们的世界。从简单的语音助手到复杂的自动驾驶系统，AI的触角已深入到社会经济的每一个角落。而在这一波澜壮阔的技术演进中，大模型（Large-scale Models）的兴起无疑是最引人注目的里程碑之一。本章将带您回顾大模型时代的开启背景，探讨其技术基础、发展历程以及对未来的深远影响，为您深入理解《ChatGLM3大模型本地化部署、应用开发与微调(上)》这本书奠定坚实的理论基础。 #### 1.1 大模型的概念界定 大模型，顾名思义，是指具有海量参数、能够处理复杂数据并展现强大学习能力的深度学习模型。这些模型通常包含数十亿乃至数万亿个参数，通过在大规模数据集上进行训练，能够捕捉到数据中的微妙模式和规律，从而在多种任务上展现出惊人的性能。大模型的出现，标志着人工智能领域的一次重大飞跃，它们不仅能够执行传统的分类、识别等任务，还能进行自然语言处理、图像生成、代码编写等更为复杂的智能活动。 #### 1.2 技术背景与驱动力 **1.2.1 计算能力的提升** 大模型时代的开启，首先得益于计算能力的飞速增长。随着GPU、TPU等专用加速器的广泛应用以及云计算平台的普及，计算资源变得更加丰富和易获取。这为训练大规模神经网络提供了坚实的基础，使得以往因资源限制而无法实现的模型成为可能。 **1.2.2 数据量的爆炸** 互联网的发展促进了信息的海量增长，社交媒体、电子商务、物联网等领域的快速发展积累了海量的数据资源。这些数据不仅为大模型提供了丰富的训练素材，还促进了模型泛化能力的提升，使得模型能够处理更加复杂多变的场景。 **1.2.3 算法的创新** 在算法层面，Transformer架构的提出及其在各种任务上的成功应用，为大模型的发展开辟了新道路。Transformer通过自注意力机制实现了对序列数据的深度理解，极大地提升了模型处理自然语言的能力。此外，迁移学习、元学习等技术的兴起，也进一步推动了大模型的泛化能力和适应性。 #### 1.3 大模型的发展历程 **1.3.1 萌芽期：初步探索** 早期的大模型尝试主要集中在图像处理领域，如AlexNet、VGGNet等深度学习模型的提出，标志着深度学习技术在计算机视觉领域的初步成功。尽管这些模型在当时的条件下已经相当庞大，但与今天的大模型相比仍显“小巧”。 **1.3.2 发展期：自然语言处理的突破** 随着Transformer架构的兴起，自然语言处理领域迎来了大模型的春天。BERT、GPT等模型的出现，不仅刷新了多项自然语言处理任务的记录，还开启了预训练+微调（Pre-training + Fine-tuning）的新范式。这些模型通过在大规模文本数据上进行预训练，学习到了丰富的语言知识和上下文信息，为后续的任务迁移和微调提供了强有力的支持。 **1.3.3 繁荣期：多模态与超大规模** 近年来，大模型的发展进一步向多模态和超大规模方向迈进。DALL-E、CLIP等模型展示了在图像生成和跨模态理解方面的惊人能力，而GPT-3、Switch Transformer等超大规模模型的出现，则将模型的参数规模推向了前所未有的高度。这些模型不仅在单一任务上取得了卓越性能，还展现出了强大的泛化能力和创造力，为AI的未来发展开辟了无限可能。 #### 1.4 大模型时代的影响与挑战 **1.4.1 正面影响** - **提升效率与准确性**：大模型在多个领域的应用显著提高了任务处理的效率和准确性，推动了产业升级和智能化转型。 - **促进创新**：大模型为科研人员和开发者提供了强大的工具，促进了新技术、新应用的不断涌现。 - **改善生活**：在教育、医疗、交通等领域，大模型的应用正逐步改善人们的生活质量，提升社会福祉。 **1.4.2 面临的挑战** - **计算资源消耗**：大模型的训练和推理过程需要巨大的计算资源，对硬件和能源提出了严峻挑战。 - **数据隐私与安全**：大规模数据集的使用涉及到用户隐私和数据安全问题，如何确保数据安全、防止数据泄露成为亟待解决的问题。 - **模型可解释性与公平性**：大模型的复杂性和不透明性使得其决策过程难以被理解和解释，可能导致不公平现象的发生。 - **技术与伦理的平衡**：随着AI技术的快速发展，如何确保技术进步与社会伦理、法律法规相协调，成为了一个重要议题。 #### 1.5 展望未来 大模型时代的到来，不仅标志着人工智能技术的又一次飞跃，也预示着人类社会即将迎来一场深刻的变革。未来，随着技术的不断进步和应用场景的不断拓展，大模型将在更多领域发挥重要作用，推动社会经济的全面智能化升级。同时，我们也应正视大模型发展过程中面临的挑战和问题，积极探索解决方案，确保技术发展的可持续性和社会责任的履行。 在《ChatGLM3大模型本地化部署、应用开发与微调(上)》这本书中，我们将深入探讨ChatGLM3这一大模型在本地化部署、应用开发与微调方面的具体实践。通过理论讲解与实战案例相结合的方式，帮助读者掌握大模型技术的前沿动态和实用技能，为未来的职业发展和科研探索奠定坚实基础。让我们携手共进，共同迎接大模型时代的辉煌未来！
下一篇：
1.1 大模型的历史与发展
该分类下的相关小册推荐：
机器学习训练指南
ChatGPT商业变现
AI时代产品经理：ChatGPT与产品经理(下)
AIGC:内容生产力的时代变革
区块链权威指南(下)
AI 大模型企业应用实战
AI时代架构师：ChatGPT与架构师(中)
深度强化学习--算法原理与金融实践(五)
ChatGPT通关之路(下)
区块链权威指南(中)
ChatGPT通关之路(上)
Midjourney新手攻略
