前言笔者研一时毅然决然加入生物信息这一行那还是2023年。彼时GPT还多半只能用来聊天解闷甚至偶尔被拿来调侃。回想初学那年主要学R语言和Linux常游走于简书、CSDN、GitHub之间。半年后开始接触Python大约又过了一年才脱离“调包侠”身份开始会写一些简单的循环和函数到毕业时前后学了两年才勉强能写一些流程化脚本。读博士以来人工智能飞速发展GPT-3、GPT-4、GPT-5以及Claude Code、DeepSeek、Kimi、GLM轮番轰炸一度让我怀疑自己这两三年学习的意义。但随着使用越来越多我慢慢有了自己的理解。首先我越来越倾向于把商用大语言模型当作生物信息学里的“仪器”来用。上世纪PCR还要靠三个水浴锅来完成2000年代逐渐有了全自动PCR仪我大四时做过数十次RNA提取如今2020年代也有了核酸自动提取仪。生物信息学领域也早该有自动化程度相当的工具。虽然一个没有生物信息学背景的人也能借AI做出分析并初步检验分析是否正确但他无法判断每个部分的轻重取舍无法判断整个流程设计中的逻辑与美感也无法判断当一份数据存在多个生信方向时哪个方向最能体现数据的价值。有了AI就像有了一台自动化仪器以前手写的代码像protocol基于经验的prompt像实验操作。只有这三者都具备才称得上一个现代化的bioinformatics analyst。此前我做过一些蛋白质设计学习内容的分享但这个课题由于各种原因无法继续于是转而探索大模型。笔者是生物学背景计算机知识不强这段时间对大语言模型进行了艰难的探索总算学到一点皮毛在此分享以资互相学习。说到大模型就绕不开最经典的Transformer模型。第一篇推文就从Transformer模型讲起吧本篇内容主要整理自B站UP主“飞天闪客”BV号BVNCgVzoEG9由笔者重新整理。目录1符号主义与联结主义2 激活函数3 神经网络4 损失函数5 梯度下降6 反向传播7 训练1符号主义与联结主义在开始的开始如果要学习人工智能你必须承认一点函数能够表示一切functions describe the world。最初的人工智能研究大多将现实世界抽象为符号然后通过运算规则得到一个结果用结果来解释世界。最简单的例子就是已知直角三角形的两个边长a和b通过勾股定理a² b² c²就可以知道斜边长c。这便是符号主义Symbolism。人工智能源于数理逻辑即通过逻辑符号来表达思维执着于找到精准的万能公式。从1950年代中期到1980年代后期符号主义AI一直是AI研究的主要范式。对于简单的数学和物理公式来说符号主义非常适用但对于图像识别比如识别一张图片是小狗还是小猫要让计算机通过程序来完成识别显然没那么简单。甚至对于翻译这种看似简单的任务在人工智能出现之前不同语言的不同语法也让计算机的翻译表现平平。20世纪80年代以来联结主义Connectionism逐渐成为主流。它强调仿人脑模型即将神经元之间的联结关系作为人工神经网络的基础。接下来要讲的内容都属于联结主义先从一些基础知识讲起。2 激活函数先以简单的二维空间为例最简单的函数是然而线性函数过于简单无法描述复杂关系在人工智能中往往用激活函数Activation Functiong(x)将线性关系变为非线性关系常用的激活函数有这两个函数是最常用的两个激活函数虽然简单但是非常好用。3 神经网络在实际应用中自变量往往不止一个可以写为如果一层激活函数不够灵活则可以套更多的激活函数来拟合更加复杂的非线性关系这样就可以构造出非常复杂的非线性关系而且理论上可以逼近任意的连续函数但是如果所有函数都这样表示实在是太让人头大了因此我们需要一种更简单的表示方式其中蓝色的圆圈称为“神经元”。如果存在多个输入则如下表示如果嵌套了多个函数则在水平方向增加被嵌套的函数由于不直接显示在最终结果中其被称为隐藏层hidden layer这样我们就构建了最简单的神经网络neural networksNN神经网络是一种模仿生物神经网络动物的中枢神经系统特别是大脑的结构和功能的数学模型或计算模型用于对函数进行估计或近似。上图从左到右这种逐层进行“加权求和加偏置激活函数”计算最终得到输出结果的过程就叫做前向传播forward propagation。4 损失函数我们构建人工智能模型的过程其实就是通过一组现实世界的自变量x和因变量y来得到一组w和b使得公式得到的y与真实的y误差最小其中的w和b其实也就是权重。为了求得这组w和b我们需要表示预测y与真实y的函数这个函数就叫损失函数Loss Function为了解决绝对值的分类讨论问题我们将绝对值改为平方为了消除样本量大小的影响再除以样本数就得到了均方误差mean squared error, MSE。我们的目的就变成了那么如何求解让L最小的w和b的值呢观察损失函数后发现其实就是求该函数的极值点也就是让其导数等于0求极值点。由于概念较为抽象我们先把b去掉以(1,1)(2,2)(3,3)(4,4)为例来解释一下将 x11,y11,x22,y22,x33,y33,x44,y44 带入L(w)可以得到一个简单的二次函数对其求导所以yx就是让损失函数最小也就是最拟合真实数据的直线。注意到我们这里只保留了w而忽略了b损失函数是一个二维图形因此求极值只需要对w求导即可5 梯度下降而更常见的情况是w和b都存在于损失函数这就要求wb两个变量的损失函数的最小值这时损失函数就是一个三维图形了由于此时损失函数难以求导人们无法通过公式计算得到损失函数的极值点只能通过遍历所有wb的方法来找到使得L(w,b)最小的点那么只要让w,b一直往偏导数的反方向变化具体原理请自学高数找到使得L(w,b)最小的点即可这种方法叫做梯度下降gradient descent其中 η 能控制下降的速度称为学习率learning rate它是机器学习中一个常见的超参数 η 过大容易难以找到最小位置 η 过小会导致训练速度过慢且容易陷入局部最小。6 反向传播梯度下降的想法听起来很美好但仍需求解偏导数如果嵌套的函数很多那么求最内层的偏导会非常复杂。那么有没有一种简单的方法来求损失函数的偏导呢我们以一个最简单的神经网络举例在这个神经网络中我们需要求w1w2b1b2的值因此需要求四个偏导数我们以求最内层的w1偏导数为例把求L的w1的偏导拆分为三个简单的偏导相乘这种方法叫做链式法则chain rule也就是微积分中的复合函数求导。由于这种方法是从右向左依次计算偏导逐步更新每一层的参数直到得到所有参数因此又称为反向传播back propagation。7 训练到这里我们就掌握一次训练所需的全部步骤先进行前向传播输入x通过函数f(x)计算得到y然后进行反向传播计算出损失函数关于每个参数的梯度每个参数都向着梯度反方向变化一点点这就构成了神经网络的一次训练通过多轮的训练直到找到损失函数最小的一组w,b我们也就构建了一个神经网络模型。作者bioinforiver2026年10月20日本系列内容来源于网络仅用于分享学习不得用于任何商业用途。参考文献1.【闪客】一小时从函数到 Transformer飞天闪客2025年7月21日BVNCgVzoEG92.CSDN - VIP深度学习中常见的10种激活函数Activation Functionuna_mattina72023年3月21日https://blog.csdn.net/qq_42691298/article/details/126590726
企业数字化 ERP 产品动态
相关推荐
Django构建美妆电商数据分析系统实战 1. 项目概述与核心价值"django潮流美化妆品大数据分析可视化系统"是一个基于Python Django框架构建的电商数据分析平台,专门针对美妆行业的数据采集、清洗、分析和可视化展示。这个系统通过爬虫技术抓取主流电商平台(如小红书、淘宝等… · 2026/11/13 4:30:55
从零开发Excel MCP Server,让AI接管表格处理 最近在折腾 MCP(Model Context Protocol),把日常的 Excel 数据处理工作流彻底重写了一遍,原本要花半小时对表格、写公式、调格式的活,现在丢给 AI 就能直接拿到整理好的结果。这篇文章就聊聊我从零开发第一个 Excel MC… · 2026/11/13 13:27:36
高级电工证成绩怎么查 官方回应最全流程来了 高级电工证成绩怎么查 官方回应最全流程来了 你是不是正愁找不到工作,手里却还差一个高级电工证?现在不少企业招聘都要求有特种作业证,尤其是电工证,没证连面试资格都没有。最近在周口市一家建筑公司工作的王师傅就遇到了这种情况,他原本在工地做技术员… · 2026/11/18 11:13:33
滨海县低压电工证多少钱 电子证书怎么拿才靠谱 滨海县低压电工证多少钱 电子证书怎么拿才靠谱 不知道去哪报名怕被中介坑,尤其现在办证门槛越来越高,很多人摸不清路数,一不小心就被坑了钱还拿不到证。最近不少朋友在问“ 滨海县低压电工证多少钱… · 2026/11/18 11:13:33
沿河县电工证办理官方回应:工地太忙根本没时间复习考试怎么办? 沿河县电工证办理官方回应:工地太忙根本没时间复习考试怎么办? 工地太忙根本没时间复习考试,这几乎是所有一线电工的真实写照。尤其是在沿河县,许多电工在工地一线忙得脚不沾地,连吃饭时间都被压缩,更别说抽空复习电工证考试了。 官方回应… · 2026/11/18 11:13:33
萧山考电工证培训学校通过率揭秘:急需特种作业证才能上岗找工作 萧山考电工证培训学校通过率揭秘:急需特种作业证才能上岗找工作 你是不是也在为找不到工作发愁?别急,特种作业证就是你求职路上的“通行证”,而【萧山考电工证培训学校】就是你最可靠的“通关助手”。现在市面上培训机构太多,到底哪家靠谱、通过率高?今… · 2026/11/18 11:13:33
陈维江电工证郑州报考避坑指南:外省证能转吗?这些干货必须知道 陈维江电工证郑州报考避坑指南:外省证能转吗?这些干货必须知道 之前考的证在外省能不能转过来?这是很多电工朋友在考虑换工作、转地区时最关心的问题。尤其是在郑州这样的大城市,越来越多的外地电工想在这里扎根,但证件能否顺利转入就成了“拦路虎”。本… · 2026/11/18 11:13:33
长春初级电工证怎么考?通过率揭秘全在这里 长春初级电工证怎么考?通过率揭秘全在这里 之前考的证在外省能不能转过来?这几乎是每个想从事电工工作的人都会问的问题。特别是那些在外地打拼多年、手里握着一张“外地电工证”的人,到了长春想继续干这一行,第一反应就是“我的证能用吗?”。今天我们就… · 2026/11/18 8:19:55
国内电工证报考条件与考试时间 低压电工证怎么考?学历不高也能报名,官方报名入口全在这 你是不是经常听说“电工证是入行门槛”,但又担心自己学历不够、经验不足,根本报不了名?别急,今天就带你从零了解【国内电工证】的报考流程、考试内容,还有怎么在 官方报名入口… · 2026/11/18 8:19:53
电工作业时如何断电?电子证书到底能不能全国通用? 电工作业时如何断电?电子证书到底能不能全国通用? 实操考试心里没底怕挂科,特别是电工作业时如何断电这一操作,不仅关系到你能不能拿到证书,更关系到以后能不能顺利上岗。很多人觉得这不过就是“断个电”,但其实这里面的门道可不少,稍有不慎就可能出错… · 2026/11/17 9:06:35
电工证做题最新内部消息:怕考不过白交培训费?三招教你稳过 电工证做题最新内部消息:怕考不过白交培训费?三招教你稳过 你是不是也这样?报名了电工证培训,交了钱,结果一到考试就懵, 怕考不过白交培训费 ?别慌,这是很多初次报考人员的真实写照。而最近, 河南省应急管理厅… · 2026/11/18 0:00:37
许昌电工证在哪复审 别踩坑怕考不过白交培训费 许昌电工证在哪复审 别踩坑怕考不过白交培训费 怕考不过白交培训费,这几乎是每个想考电工证的学员心中的痛。尤其是在许昌,电工证的报考和复审流程复杂,稍有不慎就可能被坑, 千万别踩坑… · 2026/11/18 0:00:37
老式电工证还能用吗?怎么报名别踩坑,河南企业主都在问的实操真相 老式电工证还能用吗?怎么报名别踩坑,河南企业主都在问的实操真相 实操考试心里没底怕挂科?老式电工证还能用吗?怎么报名又怕被坑?这些问题几乎每个准备考电工证的施工企业负责人心里都在打鼓。尤其是河南本地的中小施工企业,很多都在用老式电工证,但随… · 2026/11/18 0:00:37
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/17 21:47:42
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/17 21:47:42
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/17 21:47:42