首页/新闻资讯/正文详情

164、MLIR的HBM(高带宽内存)与GDDR优化

发布时间:2026/9/25 12:01:08 来源:云帆数科 栏目:资讯中心
164、MLIR的HBM(高带宽内存)与GDDR优化
MLIR的HBM与GDDR优化:一次带宽踩坑实录去年在调一个AI推理引擎的MLIR后端时,遇到一个诡异的性能问题:同样的计算图,在A100上跑出理论带宽的85%,换到H100上反而掉到60%。当时盯着nvidia-smi的带宽利用率,百思不得其解。后来扒开MLIR的affine loop tiling和memory space映射,才发现问题出在HBM的bank conflict和GDDR的page burst上。今天就把这些坑掰开揉碎,聊聊MLIR里怎么针对高带宽内存做优化。从一次bank conflict说起先看一个典型的MLIR片段,这是某个卷积算子的tiling后代码:#map = affine_map(d0, d1) - (d0 * 64 + d1) func.func @conv_tiled(%input: memref1024x1024xf16, 3, %output: memref1024x1024xf16, 3) { affine.for %i = 0 to 1024 step 64 { affine.for %j = 0 to 1024 step 64 { // 这里踩过坑:直接按行连续访问,HBM bank冲突爆炸 affine.for %ii = 0 to 64 { affine.for %jj = 0 to 64 { %val = affine.load %in

相关推荐

163、MLIR的Multi-Bank Memory与Interleaving
163、MLIR的Multi-Bank Memory与Interleaving

MLIR的Multi-Bank Memory与Interleaving 去年在调一个AI加速器项目,板子跑起来后吞吐死活上不去。DDR带宽监控显示利用率不到40%,但内存控制器那边报的延迟却高得离谱。折腾了两周,最后发现是HBM的bank冲突——多个PE同时往同一个bank写数据,硬件自动做了串行化,带宽直接… · 2026/9/25 12:01:08

DeskcommCRM拆解:坐席工作台如何与通讯记录、客户管理融为一体
DeskcommCRM拆解:坐席工作台如何与通讯记录、客户管理融为一体

DeskcommCRM这个名字,我第一次接手时盯着看了半天,后来把它拆成三个词就清楚了:Desk 坐席桌面,Comm 通讯协同,CRM 客户关系管理。说白了,它就是一套把坐席工作台、电话消息沟通记录、客户资料库和跟进流程全… · 2026/9/25 12:01:08

IronClaw 新用户首次体验(OOBE)设计解析:从冷启动到第一条建议卡片
IronClaw 新用户首次体验(OOBE)设计解析:从冷启动到第一条建议卡片

人工智能AI 应用交互助手AI Agent 【免费下载链接】ironclaw IronClaw is an Agent OS focused on privacy, security and extensibility 项目地址: https://gitcode.com/gh_mirrors/iro/ironclaw 点击查看 免费下载 导读 本文基于 IronClaw 仓库 docs/internal/d… · 2026/9/25 12:01:02

artillery-plugin-fake-data 使用指南:在 Artillery 测试脚本中直接生成 Faker 随机测试数据
artillery-plugin-fake-data 使用指南:在 Artillery 测试脚本中直接生成 Faker 随机测试数据

性能测试接口测试CLI 【免费下载链接】artillery The complete load testing platform. Everything you need for production-grade load tests. Serverless & distributed. Load test with Playwright. Load test HTTP APIs, GraphQL, WebSocket, and more. Use any Node.… · 2026/9/25 12:45:49

从零基础到护网值守:网络安全学习路线与实战能力指南
从零基础到护网值守:网络安全学习路线与实战能力指南

计算机网络安全这个方向,这几年的热度一直都在往上走,尤其是到了护网行动相关的招聘季,经常能看到各种高薪岗位挂在社区里。但作为一个带过不少实习生、也参与过多次安全值守的人,我得说句实在话:多数刚入行的大学生&a… · 2026/9/25 12:45:30

昇腾Atlas 300V部署YOLO实战:从ONNX转换到推理调优
昇腾Atlas 300V部署YOLO实战:从ONNX转换到推理调优

1. Atlas到底是个什么东西:先说清楚它是不是运算加速卡先给结论:Atlas不只是一张加速卡,它是一整套AI推理平台。针对热搜里那个问法,华为昇腾(Ascend)的Atlas系列里面,确实有一个纯推理加速卡产… · 2026/9/25 12:45:30

sqli-labs Less-24二次注入实战:从卡关到彻底理解存储型注入
sqli-labs Less-24二次注入实战:从卡关到彻底理解存储型注入

sqli-labs 刷到 Less-24 的时候,很多人会突然卡住。前面那些关卡只要在 URL 里加个单引号、改个参数,页面就会原形毕露;但 Less-24 打开就是一个普通的登录页,输入admin、1 or 11这些经典 payload,页面纹丝不动。这时候… · 2026/9/25 12:45:24

代码混淆攻防:从控制流平坦化到虚拟机保护的逆向分析指南
代码混淆攻防:从控制流平坦化到虚拟机保护的逆向分析指南

第一次把某个“加了混淆”的样本拖进 IDA 时,我盯着屏幕愣了好几分钟。没有字符串、没有导入函数、没有清晰的函数边界,只有一片像被揉碎的纸团一样的汇编指令。那一刻我才真正理解,为什么逆向工程师这个行当里,90% 的时间不是在“… · 2026/9/25 12:45:24

CTF web262题解:文件包含、日志注入与伪协议绕过实战
CTF web262题解:文件包含、日志注入与伪协议绕过实战

CTF选手对ctfshow平台的web题应该都不陌生。web262这道题,从题目编号看属于中后期的难度区间,和前面那些纯入门级别的注入、文件上传不太一样,这道题的考察点主要集中在文件包含、日志注入以及信息收集这几个维度的组合运用上。老实说&#x… · 2026/9/25 12:45:17

数值优化(Numerical Optimization)学习系列-03-共轭梯度方法(Conjugate Gradient)
数值优化(Numerical Optimization)学习系列-03-共轭梯度方法(Conjugate Gradient)

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/25 1:00:31

创维E900V22D刷机全攻略:S905L3SB芯片兼容性解析与救砖实战
创维E900V22D刷机全攻略:S905L3SB芯片兼容性解析与救砖实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/25 1:00:31

MQTT协议原理与Broker服务器搭建实战:从Mosquitto到EMQX
MQTT协议原理与Broker服务器搭建实战:从Mosquitto到EMQX

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/25 1:00:37

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码