英偉達發佈 cuDNN Graph API 教程，詳解融合、自動調優與計劃復用

Techub News 消息，英偉達（NVIDIA）通過其技術博客發佈 cuDNN Graph API 詳細教程，深入解析深度學習庫 cuDNN 的圖 API 功能。該教程展示了如何利用 cuDNN Frontend 將計算描述為操作圖，由 cuDNN 選擇執行引擎，並允許開發者控制該選擇過程。教程涵蓋從單一融合卷積到跨引擎配置自動調優、FP8 風格後處理、注意力機制、計劃序列化、動態形狀以及 CUDA 圖捕獲等一係列進階主題。 教程提供了完整的代碼示例，包括環境設置、張量聲明、操作鏈構建、五步構建流水綫（驗證、構建操作圖、創建執行計劃、檢查支持、構建計劃）以及針對指針變體包的執行。所有示例均在單個 Colab GPU 上運行，並與 PyTorch 參考結果進行比對，以驗證融合正確性並評估性能成本。（MarkTechPost）

内容來源：TECHUB NEWS