https://ithelp.ithome.com.tw/m/articles/10330137 这篇虽是3年前文章，但在今日对於语言模型的训练上仍是基础知识，最近某些单位要求 建置自有AI但若以为像是安装软体完就能用，那就大错特错了。 现在AI乍看似乎渐入生活，但要深入生活和企业导入还很漫长。 —— 现在许多企业都不是从零开始训练模型，而是使用大型企业提供的预训练模型(pre-train ed model)以实现企业自身的目标，而在这个步骤中，接着他们会微调(Fine-tune)这些模 型，让模型的权重更适合自身的具体需求，在今日的学习内容中，我们主要探讨的就是以 下几个主题: 理解迁移学习(Transfer Learning)的原理 源资料(Source Data)与源模型(Source Model)的用处 目标资料(Target Data)与目标模型(Target Model)的用途 预训练模型(Pre-trained Model) https://ithelp.ithome.com.tw/upload/images/20230928/201522361vmxBWcZGS.png 预训练模型（Pre-trained Model）通常是由大型数据集上的大量训练过程得来，这个动 作让模型已经初步掌握了丰富的语言或图像特徵，并且该模型在训练期间常会透过一些特 殊训练策略使模型更能应对後续的调整或目标。 而这种训练方法也被称为迁移学习(Transfer Learning)，我们可以将迁移式学习分为两 大部分：源模型(Source Model)/源资料(Source Data)和目标模型(Target Model)/目标 资料(Target Data)。 预训练阶段(源模型/源资料) 在预训练阶段，强大的模型架构（源模型）通常被顶尖的资料科学家们所开发，并在大量 的资料集（源资料）上进行训练，这个过程通常需要消耗非常多的电脑资料并且该步骤非 常耗时，我们在【Day 11】掌握文字翻译的技术（下）-英法语言翻译模型这篇文章中， 仅用MB级别的资料以及一个较为复杂的神经网路就已经花去了许多时间，对於搭载有RTX 3090与i9第10代处理器的电脑来说，这样的训练过程大概需要50分钟。 但当我们以GPT3(ChatGPT的老祖宗)这类大型语言模型（Large Language Model, LLM)来 看，其模型参数量大约是我们模型的16500倍，资料集的大小更拥有上万倍以上的差距， 若我们只用一张显卡来进行训练，就有可能需要好几百年才能完成，因此这种类型的模型 训练，通常需要用到多张GPU或TPU，以GPT-3为例，OpenAI训练过程使用了10000张A100显 卡，但即便如此却还是需要大约15天的时间完成训练，所以训练这种大型模型通常只有顶 尖的科学家与公司能力所及。 那麽使用大量的资料与模型来进行训练的目的到底是什麽呢?你可以将模型想像成一个箱 子当参数量越大时，模型的「箱子」就越大。而我们所设计的模型架构，则可以被想像成 「箱子内部的配置」。当这个配置越合理，我们就能更有效地利用和理解这些资料，所以 增加模型的参数量和优化其结构是深度学习模型上两个相当重要的部分。 小提示: 除了模型与资料之外，预训练模型在训练过程中的策略也占有重要之地，这一点我将在後 续的内容中逐步详述，让你能够理解这些模型的训练方式是如何形成的。 微调阶段(目标模型/目标资料) https://ithelp.ithome.com.tw/upload/images/20230928/20152236abzM4Osw5i.png 图片来源:从零开始的AI程式设计养成之路 作者:我自己 当源模型完成训练後，许多公司会选择将其开源，例如 「Google 的 BERT」、「OpenAI 的 GPT-J」，以及 「Facebook 的 Llama2」，这些都会被称为预训练模型，简单来说预 训练模型就是是透过大型资料训练一个模型来获得丰富的特徵，然後再进行第二次的训练 ，因此在这个阶段我们通常需要做的工作就是对模型进行微调（Fine-tune）。那为何我 们称预训练模型的这一步骤为微调，而非训练呢？原因在於原始资料量通常是目标资料量 的上千倍，这意味着当我们为模型提供目标资料时，模型只会对权重作微小的调整，其影 响就好比在大海中加入几滴自来水，基本上并不会引起太大变化。 但微调的效果自然有其限制，当模型使用源资料训练时所对应到的标签并不涵盖我们目标 资料所需的标签，那麽无论我们如何努力训练，都无法有效调整模型的权重，所以通常情 况下，我们会直接将最後一层的输出层权重进行随机初始化，这样一来当我们的目标资料 输入给模型时，可以透过前几层的特徵进行判断并大幅调整输出层的结果，这种方式好比 我们已经学习到了许多动物的特徵，但遇到新的动物，我们就会通过以前学习到的这些特 徵来形容这个新动物，从而理解这个动物的真实样貌。 後话 现在你已经了解预训练模型和自主训练模型的差异，因此在後续的内容中，我将逐步告诉 你自然语言处理领域中，有那些具有划时代意义的预训练模型，并深入介绍他们如何实行 强大且有效的训练策略，这一点是我们学习自然语言处理不可或缺的一部分，因为许多预 训练策略不仅仅只用在预训练阶段，而是被大量运用在自然语言任务中，因此掌握这些策 略能够在我们开发自己的模型时，提供极佳的参考价值。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 49.216.21.139 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI/M.1792223275.A.4D7.html