相关阅读
相关 LLM-大模型训练-步骤(二)-预训练/Pre-Training(1)：全参数预训练(Full-Param Pre-Training)【对LLaMA等模型进一步全量参数预训练】【中文无监督学习语料】
GitHub项目：[KnowLM][] 一、全参数预训练（Full-Param Pre-training） 使用中文语料对LLaMA等模型进行进一步全量预训练，在
Dear 丶相关 LLM-预训练：Megatron-LM 中自定义流水线并行的切分方式
> 最近在研究 Megatron-LM 源码，本篇文章聊聊在 Megatron 中如何自定义流水线并行的切分方式。 Megatron-LM 代码版本：23.06 [http
淩亂°似流年相关 LLM-预训练：深入理解 Megatron-LM（5）张量并行
> 最近在基于Megatron-LM的代码来训练大语言模型，本人觉得Megatron的代码很具有学习意义，于是大量参考了网上很多对Megatron代码的解读文章和NVIDA M
相关 LLM-预训练：深入理解 Megatron-LM（3）代码结构
> 最近在基于Megatron-LM的代码来训练大语言模型，本人觉得Megatron的代码很具有学习意义，于是大量参考了网上很多对Megatron代码的解读文章和NVIDA M
相关 LLM-预训练：深入理解 Megatron-LM（4）并行设置
> 最近在基于Megatron-LM的代码来训练大语言模型，本人觉得Megatron的代码很具有学习意义，于是大量参考了网上很多对Megatron代码的解读文章和NVIDA M
相关 LLM-预训练：深入理解 Megatron-LM（2）原理介绍
> 最近在基于Megatron-LM的代码来训练大语言模型，本人觉得Megatron的代码很具有学习意义，于是大量参考了网上很多对Megatron代码的解读文章和NVIDA M
相关 LLM-预训练：深入理解 Megatron-LM（1）基础知识
> 最近在基于Megatron-LM的代码来训练大语言模型，本人觉得Megatron的代码很具有学习意义，于是大量参考了网上很多对Megatron代码的解读文章和NVIDA M
忘是亡心i相关 深入理解张量维度的真正含义
在人工智能领域，比如深度学习，机器学习，张量这一概念被频繁使用。虽然网上有很多关于张量的文章，但基本都是废话太多，而且复制粘贴说不到重点。 今天我就来讲解一下张量维度的真正含
深藏阁楼爱情的钟相关 LLM-202210：GLM【开源双语预训练语言模型】
[《GLM: General Language Model Pretraining with Autoregressive Blank Infilling》][GLM_ Gen
分手后的思念是犯贱
还没有评论，来说两句吧...