大模型入门学习笔记

2023-11-23

大模型入门学习笔记

资源文件介绍

本仓库提供了一个名为 大模型入门学习笔记.zip 的资源文件,该文件包含了关于大模型入门学习的详细笔记。这些笔记主要基于DataWhale组织的学习任务,涵盖了从语言模型的进化史到大模型的能力探索,再到ChatGPT的原理和训练流程等多个方面的内容。

内容概述

Task 01

梳理了语言模型的进化史,帮助读者了解语言模型的发展脉络。

Task 02

主要讲述了大模型的能力,并通过一些任务来探索。笔记中整理了prompt的范式,包括一个范例,同时还介绍了langchain,并提供了一些langchain示例。

Task 03

这一部分主要整理了ChatGPT的原理,包括ChatGPT训练的三个阶段。目前这部分仅是简单叙述,接下来会对具体的技术细节进行总结。

Task 04

梳理了GPT的进化史,从GPT-1到GPT-3,从数据、模型、训练方式有了一个大致的了解。

Task 05

整理了ChatGPT从零开始的训练流程,主要包括预训练、指令微调、奖励模型三个阶段。

使用说明

  1. 下载 大模型入门学习笔记.zip 文件。
  2. 解压缩文件,查看各个Task的笔记内容。
  3. 根据笔记内容进行学习,深入了解大模型的相关知识。

希望这些笔记能够帮助你更好地理解大模型的入门知识,并为你的学习提供有力的支持。

下载链接

大模型入门学习笔记