首页/新闻资讯/正文详情

大模型基础概念

发布时间:2026/9/27 10:35:50 来源:云帆数科 栏目:资讯中心
大模型基础概念
本质LLM 是一个“概率预测机”核心启示: LLM 实际上并不“知道”事实它只是在模仿训练数据中词语出现的统计规律。这就是“幻觉”Hallucination的根源——它可能自信地输出了一个概率很高但逻辑错误的词。关键参数控制“创造性” (Hyperparameters)A. Temperature (温度)在 LLM 中Temperature 是用来控制“下一个 Token”概率分布平滑程度的参数。底层原理Softmax 的缩放 (Math)模型输出的原始分数叫做Logits(x_i)。将 Logits 转化为概率 Pi 使用的是 Softmax 函数。Temperature (T) 是这个公式中的一个除数$P_i \frac{\exp(x_i / T)}{\sum \exp(x_j / T)}$范围: 0.0 ~ 1.0 (部分模型可更高)。作用: 改变概率分布的平滑程度。Temp 0: 贪婪采样 (Greedy Sampling)。永远选概率最大的那个词。输出确定适合写代码、JSON 提取。Temp 1: 依概率随机采样。增加了低概率词被选中的机会。适合创意写作。形象演示B. Top-P (核采样)Top-P (核采样)进行“末位淘汰”。核心直觉VIP 俱乐部机制想象 LLM 面前有一张包含几万个单词的“候选名单”。Top-K (旧方法): 死板地规定“只准在前 5 名里选”。缺陷: 有时候第 6 名也很合适有时候前 5 名里有 4 个都是垃圾。Top-P (新方法): 规定“累积概率达到 P (例如 0.9) 就停止”。只要这一组词加起来够稳占了 90% 的可能性我就只在这一组里选剩下的那 10% 概率的“长尾垃圾词”直接切掉。大模型基础概念Top-P (新方法): 规定“累积概率达到 P (例如 0.9) 就停止”。只要这一组词加起来够稳占了 90% 的可能性我就只在这一组里选剩下的那 10% 概率的“长尾垃圾词”直接切掉。建议: 通常只调 Temperature 或只调 Top-P不要同时调。动态调整的“候选池”Top-P 最厉害的地方在于它能根据语境的确定性动态调整候选词的数量。我们对比两个场景假设 Top-P 设置为0.9场景 A确定性高 (如“我要去北京天安...”)这时候模型非常确定下一个字是“门”。门 (0.85) - 累积 0.85 (未满 0.9)也就是 (0.06) - 累积 0.91 (停)结果: 候选池里只有2 个词。模型绝不会选到莫名其妙的词。场景 B确定性低 (如“今天中午我想吃...”)这时候能接的词太多了。米饭 (0.15)面条 (0.14)饺子 (0.13)... (很多个 0.1 左右的词)...结果: 可能要加到第15 个词累积概率才凑够 0.9。Top-P 的智慧: 它自动扩大了选择范围允许更多的多样性。一句话总结: Top-P 在你“不知道说什么”时给你更多选择在你“必须这么说”时强行收敛。

相关推荐

ESP32嵌入式沙箱:MPU+API白名单+运行时监控三重防护
ESP32嵌入式沙箱:MPU+API白名单+运行时监控三重防护

1. 为什么在ESP32上谈“进程沙箱”本身就是个伪命题?你刚看到标题,可能下意识就想点开——毕竟“沙箱”“权限”“WASM”这些词一凑,立刻联想到浏览器里跑代码的安全隔离、Docker容器的资源围栏、甚至手机App的运行时权限弹窗。但请先停一下&… · 2026/9/27 10:35:44

别再问建站公司哪个平台最好,看这3点教你怎么选不踩坑
别再问建站公司哪个平台最好,看这3点教你怎么选不踩坑

别再问建站公司哪个平台最好,看这3点教你怎么选不踩坑 模板网站太丑不够用,这是很多老板找外包时最直接的痛点。你花钱找专业团队,结果交出来一个跟大街上卖货的小贩用的网站长得一模一样,不仅丢面子,更别提转化率和品牌形象了。… · 2026/9/27 10:35:44

STM32开发参考方案全攻略:国内资源平台与实战路径
STM32开发参考方案全攻略:国内资源平台与实战路径

1. 从"找不到北"到"心里有谱":STM32参考方案的真正痛点做STM32开发的人,几乎都经历过这样一个阶段:芯片选好了,开发板也焊好了,打开Keil或者CubeIDE,面对空白的main.c,突然… · 2026/9/27 10:35:44

phpMyAdmin 图表功能实战指南:基于 SQL 查询结果一键生成可视化图表
phpMyAdmin 图表功能实战指南:基于 SQL 查询结果一键生成可视化图表

数据库后端 【免费下载链接】phpmyadmin A web interface for MySQL and MariaDB 项目地址: https://gitcode.com/gh_mirrors/ph/phpmyadmin 点击查看 免费下载 phpMyAdmin 从 3.4.0 版本起内置了查询结果图表生成能力,允许用户在 SQL 查询结果页直接打… · 2026/9/27 11:16:28

浪起科技做的网站怎么样?3个维度教你怎么选不踩坑
浪起科技做的网站怎么样?3个维度教你怎么选不踩坑

浪起科技做的网站怎么样?3个维度教你怎么选不踩坑 改个按钮颜色要等一周,改个文案排版要加钱。这种憋屈事,谁做甲方谁心累。 很多老板问我:听说浪起科技做的网站不错,到底值不值?到底 怎么选 ?… · 2026/9/27 11:16:22

网页qq官网登录入口建站报价避坑指南
网页qq官网登录入口建站报价避坑指南

网页qq官网登录入口建站报价避坑指南 备案流程一头雾水?这是很多老板在拿到 建站报价 单后最头疼的事。别被那些花里胡哨的UI图忽悠了,先搞定服务器和域名,再谈页面怎么好看。… · 2026/9/27 11:16:16

2026最新:做房产网站不备案可以吗?3个真相告诉你
2026最新:做房产网站不备案可以吗?3个真相告诉你

2026最新:做房产网站不备案可以吗?3个真相告诉你 很多刚入行的独立站长或中小房企负责人,手里攥着几十万预算,心里却打鼓: 做房产网站不备案可以吗?… · 2026/9/27 11:16:03

基于springboot的游戏论坛系统的设计与实现毕业设计项目源码
基于springboot的游戏论坛系统的设计与实现毕业设计项目源码

温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台… · 2026/9/27 11:15:57

趋势分析报表:jquick-pdf折线图PDF生成实战
趋势分析报表:jquick-pdf折线图PDF生成实战

28 趋势分析报表:jquick-pdf折线图PDF生成实战 引入 SaaS 团队每月要输出活跃用户和收入趋势,报告除了图形本身,还必须保留统计周期与口径说明。折线图强调连续变化,适合回答“变大还是变小、变化是否稳定”这类问题&#xff0c… · 2026/9/27 11:15:57

MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现
MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现

简介:这套Matlab仿真工具完整呈现雷达信号脉冲压缩过程,从线性调频(LFM)信号生成、目标回波仿真到匹配滤波压缩处理均有可运行代码支撑,面向电子信息工程、计算机、数学等专业学生,适用于课程设计、期末大作… · 2026/9/27 0:00:01

汕头网站建设制作厂家避坑指南:5大注意事项救急
汕头网站建设制作厂家避坑指南:5大注意事项救急

汕头网站建设制作厂家避坑指南:5大注意事项救急 改个需求建站公司拖一周,这种憋屈事我见得太多了。 很多汕头老板找本地建站团队,签合同前看着方案挺美,一上线就变脸。 今天不聊虚的,直接拆解找 汕头网站建设制作厂家 时的5个核心 注意事项… · 2026/9/27 0:00:01

多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习
多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习

简介:基于PyTorch的多模态虚假新闻检测项目完整代码包,面向自然语言处理与计算机视觉交叉方向的开发者、科研人员及毕业设计选题者,解决社交媒体中文本与图像联合识别虚假新闻的问题。系统以BERT预训练模型提取文本语义特征,以Res… · 2026/9/27 0:00:01

MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现
MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现

简介:这套Matlab仿真工具完整呈现雷达信号脉冲压缩过程,从线性调频(LFM)信号生成、目标回波仿真到匹配滤波压缩处理均有可运行代码支撑,面向电子信息工程、计算机、数学等专业学生,适用于课程设计、期末大作… · 2026/9/27 0:00:01

汕头网站建设制作厂家避坑指南:5大注意事项救急
汕头网站建设制作厂家避坑指南:5大注意事项救急

汕头网站建设制作厂家避坑指南:5大注意事项救急 改个需求建站公司拖一周,这种憋屈事我见得太多了。 很多汕头老板找本地建站团队,签合同前看着方案挺美,一上线就变脸。 今天不聊虚的,直接拆解找 汕头网站建设制作厂家 时的5个核心 注意事项… · 2026/9/27 0:00:01

多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习
多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习

简介:基于PyTorch的多模态虚假新闻检测项目完整代码包,面向自然语言处理与计算机视觉交叉方向的开发者、科研人员及毕业设计选题者,解决社交媒体中文本与图像联合识别虚假新闻的问题。系统以BERT预训练模型提取文本语义特征,以Res… · 2026/9/27 0:00:01

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码