CUDA Programming



Books

  • 《通用图形处理器设计》
  • 《昇腾AI处理器架构与编程》
  • 《GPU高性能编程CUDA实战》
  • 《CUDA并行程序设计: GPU编程指南​》
  • 《CUDA专家手册: GPU编程权威指南》
  • 《大规模并行处理器编程实战(第2版)​》
  • 《CUDA编程指南4.0中文版》
  • 《CUDA C编程权威指南》
  • 《GPU编程实战(基于Python和CUDA)》
  • 《GPU编程与优化•大众高性能计算》
  • 《CUDA 编程: 基础与实践》[PDF]
  • 《AI 编译器开发指南》
  • Programming Massively Parallel Processors: A Hands-on Approach [Answer]
  • CUDA by Example: An Introduction to General-Purpose GPU Programming
  • CUDA Programming: A Developer’s Guide to Parallel Computing with GPUs
  • Nvidia CUDA Programming Guide
  • ​CUDA Handbook: A Comprehensive Guide to GPU Programming
  • The CUDA Handbook
  • Professional CUDA C Programming

footnote: Parts of the books can be found here.

Courses

Documentation

Blogs

  • 高升博客

Community

Faculty

  • UC Davis John Owens,Billy Dally的学生

Misc

  • OpenGL(ES) OpenCL Vulkan Taichi ROCm
  • datasheet and white book
  • Discussion of cutlass

Comment:

综上所述,如果只想入门、想了解众核并行、想锻炼C++工程能力,随便找本不错的书读;要是想保持在前沿,看博客、看文章、直接关注做GPU的组,比读几百页书知识还停留在10年前强多了

Reference

Jiwen Jiang
Jiwen Jiang
Master

My research interests include optimization, RL, LLM.