https://blogs.timerring.com/tags/cuda/Recent content in CUDA on timerringHugoenThu, 10 Aug 2023 11:59:16 +0800https://blogs.timerring.com/posts/cuda-matrix-multiplication-and-transpose/Thu, 10 Aug 2023 11:59:16 +0800https://blogs.timerring.com/posts/cuda-matrix-multiplication-and-transpose/<p>通过代码实践 CUDA 矩阵乘法与转置，理解 GPU 存储单元与并行计算。</p>https://blogs.timerring.com/posts/cuda-thread-indexing/Wed, 09 Aug 2023 10:19:58 +0800https://blogs.timerring.com/posts/cuda-thread-indexing/<p>结合向量相加和图像处理，介绍 CPU 与 GPU 内存操作、线程索引以及 Grid 和 Block 的配置。</p> <p>我们要处理的问题</p> <p><img src="https://raw.githubusercontent.com/timerring/scratchpad2023/main/2023/20230809101958.png" alt="" /></p> <p>如图，有离散型的，例如向量相加等等。有 local 卷积类型的，用其他一片的元素值求得一个元素。还有 All to All 类型的，类似于傅里叶变换。</p> <p>回顾一下 CUDA 程序的编写： <img src="https://raw.githubusercontent.com/timerring/scratchpad2023/main/2023/20230809104417.png" alt="" /></p> <ol> <li>把输入数据从 CPU 内存复制到 GPU 显存</li> <li>在执行芯片上缓存数据，加载 GPU 程序并执行</li> <li>将计算结果从 GPU 显存中复制到 CPU 内存中</li> </ol>https://blogs.timerring.com/posts/cuda-first-program/Wed, 02 Aug 2023 11:53:41 +0800https://blogs.timerring.com/posts/cuda-first-program/<p>从第一个 CUDA 程序开始，实践 NVCC 编译、Makefile、多文件编译、线程索引和性能分析。</p>https://blogs.timerring.com/posts/cuda-programming-model/Fri, 28 Jul 2023 20:27:45 +0800https://blogs.timerring.com/posts/cuda-programming-model/<p>梳理 CUDA 异构计算、执行空间说明符、线程层次、NVCC 编译流程和 NVProf 性能分析。</p>https://blogs.timerring.com/posts/gpu-hardware-architecture/Fri, 28 Jul 2023 18:13:08 +0800https://blogs.timerring.com/posts/gpu-hardware-architecture/<p>介绍 CPU 与 GPU 的架构差异、GPU 硬件平台、Jetson 设备及 Amdahl 定律。</p>https://blogs.timerring.com/posts/cuda-introduction-and-linux-basics/Mon, 24 Jul 2023 21:09:38 +0800https://blogs.timerring.com/posts/cuda-introduction-and-linux-basics/<p>从 CUDA 与 NVIDIA 技术生态入门，介绍 Ubuntu、Jetson 开发环境、权限管理、SSH 和 Makefile。</p>https://blogs.timerring.com/posts/introduction-to-cuda/Fri, 08 Jul 2022 11:58:01 +0800https://blogs.timerring.com/posts/introduction-to-cuda/<p>介绍 CUDA 的基本概念、支持的编程语言、发展历程及 GPU 加速计算的应用。</p>