人工智能、机器学习、深度学习、生成式AI与大语言模型

从让AI帮忙写代码到通过一句话修改图片再到让智能体调用工具完成任务AI已经出现在越来越多的应用场景中。不过刚开始学习时很容易被几个高频概念绕晕人工智能、机器学习、深度学习、生成式AI、大语言模型它们究竟有什么区别监督学习、分类、计算机视觉这些词又应该放在哪里理解这些概念关键是先分清我们讨论的是能力目标、学习方法、任务类型还是模型本身。一、从三个应用场景认识AI先看三个比较直观的例子。应用场景用户提出的需求AI完成的工作自然语言编程“帮我做一个音乐播放器”根据需求生成代码并辅助修改、调试对话式图像编辑“把照片背景换成海边”理解图片和指令修改指定内容智能体执行任务“帮我预定一场会议”拆解任务调用工具完成操作前两个例子主要展示内容生成和编辑能力第三个则进一步涉及任务执行。这里的“智能体Agent”可以理解为一种能够围绕目标组织步骤、调用工具并执行任务的系统。它通常需要模型、工具和执行流程配合不能简单等同于一个聊天模型。二、人工智能让机器表现出智能能力人工智能即Artificial Intelligence简称AI研究如何让机器具备识别、理解、推理、决策等能力。图像识别、语言助手、机器人控制、自然语言处理、都属于人工智能的研究和应用范围。需要注意实现AI不一定要使用机器学习。早期的一些系统主要依赖专家编写规则例如如果满足条件A并且满足条件B就采取操作C。随着问题变得复杂手动编写和维护规则会越来越困难。比如要列出所有能够区分猫和狗的规则几乎是不现实的。于是人们开始让机器直接从数据中学习规律。这就引出了机器学习。三、机器学习让机器从数据中学习规律机器学习即Machine Learning简称ML是人工智能的一个分支。它的基本思路是通过数据训练模型让模型学到可以用于预测或决策的规律。以打车费用为例假设我们得到以下数据距离费用1公里12元2公里14元3公里16元如果假设费用与距离满足线性关系那么根据这些数据可以得到a2b10训练得到的模型就是当输入15公里时预测费用为40元。这个简单例子包含了机器学习中的几个基本概念概念含义对应例子特征模型使用的输入信息距离标签训练数据中的目标答案已知费用样本一条数据记录“1公里12元”参数训练时需要确定或调整的数值a、b训练根据数据调试参数的过程找到合适的a、b模型学习得到的计算规则或结构推理使用训练好的模型处理新输入输入20公里计算费用这里最容易混淆的是训练和推理训练是学习规律推理是使用规律上面的例子属于监督学习。其他学习方式不一定要求每条训练数据都有现成答案。四、机器学习有哪些方式如果按照学习时依赖的反馈信号划分可以认识一下五种方式。学习方式数据或反馈来源核心思路监督学习带有标签的数据对照已知答案学习无监督学习数据自身的结构从数据中发现规律半监督学习少量有标签数据和大量无标签数据联合利用两类数据自监督学习从数据本身构造监督信号让数据提供训练目标强化学习与环境交互获得的奖励通过试错改善行为策略1.监督学习对照答案学习例如训练数据中既有花的测量特征也有对应的品种名称。模型通过这些数据学习之后就可以预测一朵新花属于哪个品种。垃圾邮件识别、房价预测也都可以采用监督学习。2.无监督学习自己发现结构无监督学习没有预先提供的类别标签。例如把用户的购买记录交给算法算法根据相似性形成若干用户群体。之后业务人员在解释各个群体的特点。3.半监督学习少量标签带动大量数据当标签获取成本较高时可以同时使用少量有标签数据和大量无标签数据。一种常见思路是使用有标签数据训练初始模型。用模型预测无标签数据。筛选高置信度结果赋予伪标签。将这些数据加入训练过程。伪标签也可能出错因此筛选和训练策略很重要。4.自监督学习从数据中构造训练目标自监督学习不需要人工逐条提供标签但它仍然有监督信号。例如隐藏一部分文本让模型预测被隐藏的内容。根据前面已有的文本预测接下来可能出现的文本。给图像加入噪声让模型学习预测噪声或回复图像。它的关键是训练目标可以由数据和任务构造过程自动得到。5.强化学习根据奖励改善策略强化学习通过与环境交互来学习。模型执行动作后获得奖励并调整策略目标是提高长期累计奖励。例如围棋程序可以通过自我对弈根据胜负结果改进下棋策略。它不要求每一步都有标准答案而是关注一系列行为最终带来的结果。五、学习方式和任务数要分开理解”监督学习“描述的是怎么学”分类“描述的是要解决什么问题两者不是同一层面的概念。常见任务可以整理如下任务解决的问题示例分类属于哪个类别判断邮件是否为垃圾邮件回归数值是多少预测打车费用聚类哪些样本比较相似根据听歌特征给歌曲分组关联规则哪些事物经常一起出现分析购物篮中的商品组合序列预测根据已有序列预测后续内容文本续写时间序列预测其中分类的聚类尤其容易混淆分类事先定义类别在判断新样本属于哪一类。聚类根据样本之间的相似性形成分组组的含义往往需要进一步解释。六、深度学习用多层神经网络学习特征深度学习即Deep Learning简称DL是机器学习的一类方法。它的核心是使用多层神经网络对输入数据进行逐层变换学习完成任务所需要的特征表示。神经网络通常包含三个部分输入层-多个隐藏层-输出层用数学形式表示可以写成也就是前一层的输出成为后一层的输入。以菜品识别为例可以把这个过程直观理解为图片像素-颜色和纹理-局部形状-更复杂的组合特征-菜品判断这只是帮助理解的类比。实际神经网络中的特征通常更复杂并不是每一层都明确负责一种人能命中的特征。传统机器学习与深度学习的常见区别如下比较难度传统机器学习深度学习特征处理往往更依赖人工设计特征能通过多层结构学习特征数据需求常适合较小规模的结构化数据从头训练大模型通常需要更多数据计算资源通常相对较少大型模型训练通常需要更多算力可解释性部分模型较容易解释内部计算通常较难直观解释这些事常见倾向并非绝对规则。深度学习也不意味着一定需要大量人工标签自监督训练就是一个重要例子。七、从数据类型看AI视觉、语言、语音与多模态除了学习方式和任务划分也可以从处理对象认识AI。1.计算机视觉理解图像和视频计算机视觉简称CV常见任务包括任务主要解决问题图像分类图中主要是什么目标检测图中有什么它们在哪里语义分割每个像素属于什么类别实例分割同一类别中的不同个体分别在哪里目标跟踪视频不同帧中的目标如何对应关键点检测关节、眼角等关键位置在哪里OCR图像中的文字是什么例如语义分割可以把所有人的像素标成”人“实例分割还会继续区分”第一个人“和”第二个人“。2.自然语言处理理解和生成语言自然语言处理简称NLP包含两类重要能力自然语言理解NLU文本分类、情感分析、命名实体识别、语义相似度等。自然语言生成NLG机器翻译、对话生成、文本摘要等。例如从一句话中提取人名和地点属于信息理解与抽取根据要求写一封邮件属于语言生成。3。语音处理连接声音与文字两个常见概念是ASR语言识别语言转文字。TTS语言合成文字转语音。微信语音转文字是ASR的典型应用文字朗读时TTS的典型应用。4.多模态结合不同类型的信息多模态指同时处理、理解或生成两种及以上类型的数据例如文本、图像、音频和视频。典型任务包括看图回答问题。根据文字生成图片。根据图片生成文字描述。根据文字描述检索对应图片。多模态强调的是不同类型信息之间的结合。八、生成式AI从学习规律到生成内容生成式人工智能即Generative AI简称GenAI强调根据学习到的数据规律生成文本、图像、音频、视频或代码等。可以通过两个问题理解它与分类任务的区别”这张照片里有没有猫“侧重识别和判断。”生成一张猫在窗边晒太阳的图片。“侧重内存生成。生成模型通常需要学习数据的分布对于带有输入条件的生成任务可以用下面的形式帮助理解其中x是输入条件y是生成结果表示模型参数。例如输入一段文字描述模型根据生成条件生成图片输入问题和上下文语言模型逐步生成答案。“上下文”就是模型生成当前内容时可以参考的信息比如用户提供的材料、当前对话中前面的问答以及模型已经写出的文字。当生成过程使用随机采样时同样的输入可得到不同结果。不过输出是否变化也取决于生成设置不能把”每次都不同“当作生成式AI的定义。按内容类型生成式AI可以分别为文本生成、图像生成、音频生成、视频生成等。九、大语言模型面向语言的大规模模型大语言模型即Large Language Model简称LLM通过大规模语言数据训练学习用于理解处理或生成语言的规律。”大“通常体现在训练数据、模型参数和计算投入等方面但没有一个使用于所有模型的简单门槛。常见语言模型架构包括架构核心特点典型用途代表模型仅编码器综合利用输入的双向上下文分类、实体识别、语义表示BERT、RoBERta仅解码器根据已有上下文逐步生成后续内容对话、续写、代码生成GPT系列编码器—解码器编码输入再根此生成输出翻译、摘要T5、BART可以分别用“读懂”“续写”“读懂后转换输出”帮助记忆但它们不是严格的能力边界。生成语言模型通常按Token生成内容Token是模型处理文本的基本单位不一定对应一个汉字或一个完整单词。可以把Token比作成话费。另外参数量不是模型能力的唯一决定因素训练数据质量、模型结构、训练方法等也会影响效果。十、五个概念到底是什么关系首先人工智能、机器学习和深度学习之间存在明确的包含关系深度学习机器学习人工智能但加入生成式AI和大预言模型后就不能简单地画成五个严格嵌套的圆。原因式它们的分类角度不同概念重要强调人工智能智能能力于研究目标机器学习从数据中学习的方法深度学习使用多层神经网络的技术方法生成式AI生成内容这一能力或任务方向大语言模型面向语言的大规模模型生成式AI与深度学习的关系当前主流生成式AI大量采用深度学习但生成式AI这个概念并不限定必须使用深度学习。反过来深度学习也可以用于分类、检测等生成任务。生成式AI与大语言模型的关系生成式AI还包含图像、音频和视频生成因此不等于大语言模型。同时在较宽泛的语言模型分类口径下也会讨论BERT这类侧重理解的表示学习的模型。日常交流中“LLM”则往往主要指GPT类生成式语言模型需要结果语境理解。更准确的表达是生成式大语言模型是生成式AI在语言领域的一类重要模型。最后以“让GPT类模型帮忙写邮件”为例这五个名称可以同时适用能完成语言相关的智能任务因此属于人工智能。能力通过数据训练获得因此采用了机器学习。使用多层神经网络因此采用了深度学习。能生成邮件内容因此具有生成式AI能力。式经过大规模语言训练的模型因此属于大语言模型。学习时可以反复用四个问题定位一个概念它实现什么能力通过上面方法学习处理上面数据最终完成什么任务十一、知识框架图前面介绍了AI的基础概念、学习方式和常见应用。下面是一张知识框架图把这些内容都串联起来。