NVIDIA全面轉(zhuǎn)向開源GPU內(nèi)核模塊

NVIDIA在開源軟件的承諾上邁出了重要一步。該公司宣布其即將發(fā)布的R560驅(qū)動(dòng)程序?qū)?strong>完全轉(zhuǎn)向開源GPU內(nèi)核模塊。此舉標(biāo)誌著NVIDIA對驅(qū)動(dòng)程序開發(fā)和分發(fā)的策略發(fā)生了重大轉(zhuǎn)變。

目錄

• 進(jìn)度和改進(jìn)
• 支持的GPU
• 安裝程序更改
  • 1. 使用CUDA元包的包管理器
  • 2. 運(yùn)行文件安裝
  • 3. 安裝助手腳本
  • 4. 包管理器詳情
  • 5. Windows Subsystem for Linux
  • 6. CUDA工具包安裝
• 結(jié)論

背景

2022年5月，NVIDIA在R515驅(qū)動(dòng)程序中引入了開源Linux GPU內(nèi)核模塊。這些模塊在雙重GPL和MIT許可下發(fā)布，最初針對的是數(shù)據(jù)中心計(jì)算GPU。當(dāng)時(shí)，對GeForce和工作站GPU的支持處於alpha階段。

進(jìn)度和改進(jìn)

在過去的兩年裡，NVIDIA取得了實(shí)質(zhì)性進(jìn)展：

• 性能: 開源模塊的性能現(xiàn)在已經(jīng)達(dá)到或超過了閉源驅(qū)動(dòng)程序的性能。
• 新功能:
  • 異構(gòu)內(nèi)存管理(HMM)支持，
  • 機(jī)密計(jì)算功能，
  • 對Grace平臺上相干內(nèi)存架構(gòu)的支持。

支持的GPU

向開源模塊的過渡對不同的GPU世代有不同的影響：

• 尖端平臺: Grace Hopper和Blackwell平臺需要開源模塊。
• 支持的GPU : Turing、Ampere、Ada Lovelace和Hopper等較新的架構(gòu)完全受開源模塊支持。
• 不支持的GPU : 來自Maxwell、Pascal和Volta架構(gòu)的舊版GPU由於兼容性限制，需要繼續(xù)使用專有驅(qū)動(dòng)程序。
• 混合部署: 具有新舊GPU混合的系統(tǒng)應(yīng)繼續(xù)使用專有驅(qū)動(dòng)程序以獲得最佳性能和穩(wěn)定性。

如果您不確定要安裝哪個(gè)驅(qū)動(dòng)程序，請不要擔(dān)心！ NVIDIA提供了一個(gè)檢測助手腳本來指導(dǎo)用戶選擇合適的驅(qū)動(dòng)程序。

安裝程序更改

NVIDIA正在將所有安裝方法的默認(rèn)安裝方法從專有驅(qū)動(dòng)程序更改為開源驅(qū)動(dòng)程序。

1. 使用CUDA元包的包管理器

當(dāng)使用包管理器安裝CUDA工具包時(shí)，頂級cuda包會同時(shí)安裝CUDA工具包和相關(guān)的驅(qū)動(dòng)程序版本。例如，在CUDA 12.5版本期間安裝cuda提供了專有的NVIDIA驅(qū)動(dòng)程序555和CUDA工具包12.5。

以前，使用開源GPU內(nèi)核模塊需要同時(shí)安裝特定於發(fā)行版的NVIDIA驅(qū)動(dòng)程序open包和選擇的cuda-toolkit-XY包。

從CUDA 12.6開始，此過程發(fā)生了變化。默認(rèn)安裝現(xiàn)在包括開源驅(qū)動(dòng)程序。

2. 運(yùn)行文件安裝

CUDA或NVIDIA驅(qū)動(dòng)程序的.run文件安裝程序現(xiàn)在：

1. 查詢您的硬件，
2. 自動(dòng)安裝最合適的驅(qū)動(dòng)程序，
3. 提供UI切換以在專有驅(qū)動(dòng)程序和開源驅(qū)動(dòng)程序之間進(jìn)行選擇。

對於命令行或自動(dòng)化安裝（例如Ansible ），請使用以下覆蓋：

 <code># 用于CUDA安裝sh ./cuda_12.6.0_560.22_linux.run --override --kernel-module-type=proprietary # 用于NVIDIA驅(qū)動(dòng)程序安裝sh ./NVIDIA-Linux-x86_64-560.run --kernel-module-type=proprietary</code>

3. 安裝助手腳本

NVIDIA提供了一個(gè)助手腳本來指導(dǎo)驅(qū)動(dòng)程序的選擇。要使用它，首先安裝nvidia-driver-assistant包，然後運(yùn)行腳本：

 <code>$ nvidia-driver-assistant</code>

4. 包管理器詳情

NVIDIA建議使用包管理器來進(jìn)行一致的CUDA工具包和驅(qū)動(dòng)程序安裝。以下是特定於發(fā)行版的說明：

基於Debian的系統(tǒng):

安裝開源驅(qū)動(dòng)程序：

 <code>$ sudo apt-get install nvidia-open</code>

對於Ubuntu 20.04，首先升級到開放內(nèi)核模塊，然後像下面這樣安裝開源驅(qū)動(dòng)程序：

 <code>$ sudo apt-get install -V nvidia-kernel-source-open $ sudo apt-get install nvidia-open</code>

基於RHEL的系統(tǒng):

安裝開源驅(qū)動(dòng)程序：

 <code>$ sudo dnf module install nvidia-driver:open-dkms</code>

要使用CUDA元包進(jìn)行升級，請禁用模塊流：

 <code>$ echo "module_hotfixes=1" | tee -a /etc/yum.repos.d/cuda*.repo $ sudo dnf install --allowerasing nvidia-open $ sudo dnf module reset nvidia-driver</code>

SUSE或OpenSUSE :

根據(jù)您的內(nèi)核選擇合適的命令：

 <code># 默認(rèn)內(nèi)核版本$ sudo zypper install nvidia-open # Azure內(nèi)核版本(sles15/x86_64) $ sudo zypper install nvidia-open-azure # 64kb內(nèi)核版本(sles15/sbsa)適用于Grace-Hopper $ sudo zypper install nvidia-open-64k</code>

5. Windows Subsystem for Linux

WSL用戶無需執(zhí)行任何操作，因?yàn)樗褂脕碜灾鳈C(jī)Windows系統(tǒng)的NVIDIA內(nèi)核驅(qū)動(dòng)程序。

6. CUDA工具包安裝

CUDA工具包的安裝過程保持不變。用戶可以像以前一樣通過他們的包管理器安裝它。

 <code>$ sudo apt-get/dnf/zypper install cuda-toolkit</code>

有關(guān)驅(qū)動(dòng)程序安裝或CUDA工具包設(shè)置的更多詳細(xì)信息，用戶可以參考CUDA安裝指南。

結(jié)論

NVIDIA轉(zhuǎn)向開源GPU內(nèi)核模塊標(biāo)誌著該公司對驅(qū)動(dòng)程序開發(fā)方法的重大轉(zhuǎn)變。

我非常希望這將提高各種GPU世代和Linux發(fā)行版的兼容性、性能和用戶選擇。

資源:

• NVIDIA全面轉(zhuǎn)向開源GPU內(nèi)核模塊

特色圖片來自Pixabay的Mizter_X94 。

以上是NVIDIA轉(zhuǎn)移到開源GPU內(nèi)核模塊的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！