CUDA Matrix Multiplication and Transpose
August 10, 2023 · 11 min read
通过代码实践 CUDA 矩阵乘法与转置，理解 GPU 存储单元与并行计算。
...timerring
CUDA Thread Indexing
August 9, 2023 · 18 min read
结合向量相加和图像处理，介绍 CPU 与 GPU 内存操作、线程索引以及 Grid 和 Block 的配置。
我们要处理的问题
如图，有离散型的，例如向量相加等等。有 local 卷积类型的，用其他一片的元素值求得一个元素。还有 All to All 类型的，类似于傅里叶变换。
回顾一下 CUDA 程序的编写：
- 把输入数据从 CPU 内存复制到 GPU 显存
- 在执行芯片上缓存数据，加载 GPU 程序并执行
- 将计算结果从 GPU 显存中复制到 CPU 内存中
Writing Your First CUDA Program
August 2, 2023 · 7 min read
从第一个 CUDA 程序开始，实践 NVCC 编译、Makefile、多文件编译、线程索引和性能分析。
...CUDA Programming Model
July 28, 2023 · 11 min read
梳理 CUDA 异构计算、执行空间说明符、线程层次、NVCC 编译流程和 NVProf 性能分析。
...GPU Hardware Architecture
July 28, 2023 · 11 min read
介绍 CPU 与 GPU 的架构差异、GPU 硬件平台、Jetson 设备及 Amdahl 定律。
...Introduction to CUDA and Linux Basics
July 24, 2023 · 10 min read
从 CUDA 与 NVIDIA 技术生态入门，介绍 Ubuntu、Jetson 开发环境、权限管理、SSH 和 Makefile。
...Introduction to CUDA
July 8, 2022 · 1 min read
介绍 CUDA 的基本概念、支持的编程语言、发展历程及 GPU 加速计算的应用。
...