CUDA（计算 unified Device Architecture）是由NVIDIA創建的並行計算平台和應用程序編程接口（API）模型。它讓開發者能夠使用CUDA支援的圖形處理單元（GPU）進行通用目的處理，這種方法稱為GPGPU（通用目的計算在圖形處理單元上）。學習CUDA為科學計算、數據分析和機器學習等領域敞開了可能性的大門，這些領域中对性能和速度要求很高。

我們在freeCodeCamp.orgYouTube頻道上發布了一堂12小時的CUDA課程。這堂由Elliot Arledge創建的綜合課程，旨在让您掌握使用GPU進行高性能計算任务的技巧。無論您是初学者還是希望擴展技能組的經驗程序員，這門課程為CUDA程序設計的世界提供寶貴的洞見。

課程概述

CUDA程序設計課程 structure 旨在引导您了解GPU計算的一切必要知識。以下是您可以期待的詳細 breakdown:

簡介

課程從一個简介開始，為您將要学会的内容 setting the stage。它提供 modern computing 中GPU的重要性概览以及CUDA如何在各種應用中成為遊戲規則的改變者。

第1章：深度學習生態系統

了解深度學習生態系統並理解GPU在加速深度學習模型方面的關鍵作用。這一章提供 leveraging GPU power 的基礎理解以及工具和框架。

第二章：CUDA 環境設定

學習如何為CUDA程式設計設定您的環境。本章涵蓋必要的軟體安裝和設定，確保您已經準備好開始編寫程式。

第三章：C/C++ 复习

刷新您對C/C++程式設計的知識，這是撰寫CUDA程式碼的必要條件。本章重溫關鍵概念和語法，為GPU程式設計做好准备。

第四章：GPU简介

深入了解GPU架構及其與傳統CPU的差異。本章解釋GPU的並行處理能力及其在高性能計算中的優點。

第五章：撰寫您的第一個kernel

開始撰寫您的第一個CUDA kernel。本章介紹CUDA程式設計的基本知識，包括語法和結構，讓您能夠在GPU上執行簡單的並行任務。

第六章：CUDA API

详细了解CUDA API。學習如何管理記憶體、啟動kernel以及有效地處理錯誤。本章提供您撰寫高效能和健壯的CUDA程式的工具。

第七章：更快速的矩陣乘法

發現如何使用CUDA優化矩陣乘法。本章展示優化技巧，對於科學計算和機器學習應用來說是關鍵的技能。

第八章：Triton

介紹 Triton，一個用於撰寫自訂深度學習原語的語言和编译器。了解 Triton 如何簡化開發高性能 GPU 代碼的過程。

第 9 章：PyTorch 擴展

學習如何通過自訂 CUDA 操作來擴展 PyTorch。本章將告訴你如何將 CUDA 代碼與 PyTorch 結合，使你能夠為深度學習模型創建自訂層和操作。

第 10 章：MNIST 多層感知器

通過建立一個多層感知器來對 MNIST 數據集進行分類，將你的知識應用於實際项目中。這個實作項目將巩固你的學習，並展示 CUDA 在深度學習中的實際應用。

第 11 章：下一步？

探尋你在 CUDA 程式設計旅程中的潛在下一步。本章提供進一步的資源和項目建議，以繼續你的學習和開發。

結語

本課程以一個結論作為結束，總結你所學的內容，並鼓勵你將新技能應用於現實世界的项目中。

結論

無論你是要提高你的職業前景，還是只是探索令人着迷的 GPU 計算世界，這門課程都是一个极佳的起点。

在 freeCodeCamp.org YouTube 頻道 上观看完整课程（12小時觀看）。