矩阵乘输出的N方向对齐【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit功能介绍矩阵乘输出的N方向对齐即矩阵乘结果C矩阵按ND_ALIGN格式输出。在Matmul矩阵乘法中常用的矩阵数据格式有ND、NZ相关介绍可参考数据格式章节。ND_ALIGN是矩阵的另一种数据格式该格式一般用于N方向非32字节对齐的矩阵乘计算中配置结果C矩阵为ND_ALIGN格式后将按照N方向32字节对齐的补齐规则输出C矩阵详细内容请见ND_ALIGN。以M16K16N14A、B矩阵数据类型为half的Matmul为具体示例说明ND_ALIGN输出功能。当配置C矩阵为ND格式并输出到Global Memory时按照原始N方向大小非32字节对齐输出如图1所示。当配置C矩阵为ND格式时按照N方向32字节对齐输出如图2所示C矩阵的N方向最后两列由下一行的实际数据进行填充补齐以实现N方向对齐到32字节并输出。当配置C矩阵为ND_ALIGN格式时Matmul API会在C矩阵的N方向上通过添加无效数据来填充最后两列以确保N方向对齐至32字节并输出如图3所示。图1ND格式C矩阵N方向非32字节对齐示意图图2ND格式C矩阵N方向32字节对齐示意图图3ND_ALIGN格式C矩阵N方向32字节对齐示意图使用场景Matmul计算中N方向非32字节对齐输出C矩阵的N方向要求32字节对齐的场景。约束说明若配置C矩阵为ND_ALIGN格式输出则为C矩阵申请的Buffer空间为N向上32字节对齐后的空间大小。调用示例完整的算子样例请参考matmul_nd_align算子样例。Tiling实现调用SetCType接口设置C矩阵的数据格式为CubeFormat::ND_ALIGN其它Tiling实现与基础场景相同。auto ascendcPlatform platform_ascendc::PlatformAscendC(context-GetPlatformInfo()); matmul_tiling::MatmulApiTiling tiling(ascendcPlatform); tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); // 设置C矩阵buffer位置为GM数据格式为ND_ALIGN tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND_ALIGN, matmul_tiling::DataType::DT_FLOAT); tiling.SetBiasType(AscendC::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); ... // 其他实现内容 optiling::TCubeTiling tilingData; int ret tiling.GetTiling(tilingData);Kernel实现相较于基础场景ND_ALIGN输出功能要求在创建Matmul对象时设置模板参数cType的数据格式为CubeFormat::ND_ALIGN。#include lib/matmul_intf.h typedef AscendC::MatmulTypeAscendC::TPosition::GM, CubeFormat::ND, half aType; typedef AscendC::MatmulTypeAscendC::TPosition::GM, CubeFormat::ND, half bType; // 设置模板参数cType的数据格式为ND_ALIGN typedef AscendC::MatmulTypeAscendC::TPosition::GM, CubeFormat::ND_ALIGN, float cType; typedef AscendC::MatmulTypeAscendC::TPosition::GM, CubeFormat::ND, float biasType; AscendC::MatmulaType, bType, cType, biasType mm;【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
企业数字化 ERP 产品动态
相关推荐
震动传感器原理、选型与工业应用全解析 1. 震动传感器技术解析与应用实践作为一名在工业自动化领域摸爬滚打十年的工程师,我处理过上百种传感器应用案例。今天要聊的震动传感器,看似简单却暗藏玄机——它不仅是设备健康监测的"听诊器",更是智能安防系统的"神经末梢&… · 2026/11/17 17:30:34
poissonsearch-py实战项目:构建Python日志分析系统的完整案例 poissonsearch-py实战项目:构建Python日志分析系统的完整案例 【免费下载链接】poissonsearch-py Official Python client for Elasticsearch.The original name is elasticsearch-py, and the name is changed to poissonsearch-py for self-maintenance. 项目地… · 2026/9/21 10:02:01
poissonsearch-py异步编程指南:高效处理Elasticsearch并发请求 poissonsearch-py异步编程指南:高效处理Elasticsearch并发请求 【免费下载链接】poissonsearch-py Official Python client for Elasticsearch.The original name is elasticsearch-py, and the name is changed to poissonsearch-py for self-maintenance. 项目地… · 2026/9/19 6:14:34
美国电工证考试难度证丢了怎么补办 电工证考试难度大吗?学历不高怕报不上名?网上查询全搞定 你是不是也担心自己学历不高,连电工证都报不了?别急,这事儿我来帮你搞定。很多人以为报考电工证必须本科、专科,但其实 国家安全生产考试网… · 2026/11/17 17:29:46
电工证考哪些课程官方回应最新政策下怎么选机构 电工证考哪些课程官方回应最新政策下怎么选机构 你是不是还在为不知道去哪里报名、怕被中介坑而发愁?最近很多学员都问到“ 电工证考哪些课程 ”,还有人说“ 官方回应… · 2026/11/17 17:29:46
特种作业操作证t开头在哪里怎么报名才靠谱 特种作业操作证t开头在哪里怎么报名才靠谱 实操考试心里没底怕挂科,这事儿真不少见。特种作业操作证t开头的证,听起来挺专业,但很多人在报考前都搞不清楚到底该去哪报名,流程又怎么走。特别是像我们这种在工地一线带班组的,时间紧、任务重,一不小心就… · 2026/11/17 17:29:46
浇钢工属于特种作业吗 怎么报名别再被坑了 浇钢工属于特种作业吗 怎么报名别再被坑了 你是不是也遇到过这种情况?刚找到一份浇钢工的工作,结果单位说你没特种作业操作证不能上岗,心里一慌,赶紧去问,结果又被各种报名渠道搞得晕头转向。 不知道去哪报名怕被中介坑… · 2026/11/17 17:29:46
船舶低压电工证怎么报名?驻马店从业者避坑指南 船舶低压电工证怎么报名?驻马店从业者避坑指南 你是不是正愁着不知道 船舶低压电工证怎么报名 ,怕被中介坑,花冤枉钱还拿不到证?别急,这篇文章就是为你量身打造的,从报名到考试再到后续管理,一条一条讲清楚,专治各种“不清楚”!… · 2026/11/17 17:29:46
电工证分了哪几种怎么考能确保一次通过?官方报名入口全解析 电工证分了哪几种怎么考能确保一次通过?官方报名入口全解析 怕考不过白交培训费?别慌,你不是一个人在战斗。电工证种类繁多,很多人因为不清楚到底考哪种,盲目报名,结果浪费钱还耽误时间。特别是三门峡的在职建筑工人,每天和电打交道,要是没有合规的电… · 2026/11/17 17:28:46
长春初级电工证怎么考?通过率揭秘全在这里 长春初级电工证怎么考?通过率揭秘全在这里 之前考的证在外省能不能转过来?这几乎是每个想从事电工工作的人都会问的问题。特别是那些在外地打拼多年、手里握着一张“外地电工证”的人,到了长春想继续干这一行,第一反应就是“我的证能用吗?”。今天我们就… · 2026/11/17 5:38:05
国内电工证报考条件与考试时间 低压电工证怎么考?学历不高也能报名,官方报名入口全在这 你是不是经常听说“电工证是入行门槛”,但又担心自己学历不够、经验不足,根本报不了名?别急,今天就带你从零了解【国内电工证】的报考流程、考试内容,还有怎么在 官方报名入口… · 2026/11/17 5:38:05
电工作业时如何断电?电子证书到底能不能全国通用? 电工作业时如何断电?电子证书到底能不能全国通用? 实操考试心里没底怕挂科,特别是电工作业时如何断电这一操作,不仅关系到你能不能拿到证书,更关系到以后能不能顺利上岗。很多人觉得这不过就是“断个电”,但其实这里面的门道可不少,稍有不慎就可能出错… · 2026/11/17 9:06:35
安徽特种工考证学校千万别踩坑,学历不高也能考证上岗 安徽特种工考证学校千万别踩坑,学历不高也能考证上岗 你是不是总觉得学历不高就考不了证,连报名资格都够不上?其实,很多人和你一样,学历不占优势,但想通过考证转行或提升自己的职业竞争力。安徽特种工考证学校虽然门槛不高,但千万别踩坑,稍有不慎就会… · 2026/11/17 0:00:20
你没学历也能考福田特种作业操作证?真实经历告诉你怎么干 你没学历也能考福田特种作业操作证?真实经历告诉你怎么干 你是不是觉得学历不高就考不上福田特种作业操作证?其实不然,我有个老乡,初中毕业,现在在安阳干焊工,每月拿8000多,还评上了高级技师。他的经历我今天就给你说说,看看你能不能照着走。… · 2026/11/17 0:00:20
低压电工证哪里盖章怎么报名 过期了别慌教你一步步复审 低压电工证哪里盖章怎么报名 过期了别慌教你一步步复审 证书过期了不知道怎么复审延期?低压电工证是很多电工从业者必须持有的证件,一旦到期未及时办理复审,不仅影响工作,还可能面临被单位辞退甚至罚款。今天我就从南阳地区培训机构学员的角度,详细告诉… · 2026/11/17 0:00:20
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/16 16:48:43
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/16 16:48:57
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/16 16:48:48