Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà. # Installa i driver pubblici NVIDIA Se le Marketplace AWS AMI descritte in [Utilizza AMI che includono driver NVIDIA](preinstalled-nvidia-driver.md) non sono adatte al tuo caso d'uso, puoi installare i driver pubblici e portare la tua licenza. Le opzioni di installazione sono: + [Driver-only Opzione 1: installazione](#public-nvidia-driver-only-install) + [Opzione 2: Installazione con il toolkit CUDA](#public-nvidia-driver-cuda-install) (consigliato per le distribuzioni Linux)   **P6-B200 e considerazioni sul tipo di P6-B300 istanza** Le P6-B300 piattaforme P6-B200 and sono uniche in quanto espongono le schede di interfaccia di rete (NIC) Mellanox ConnectX all'istanza come dispositivi PCIe. Queste NIC non agiscono come tipiche interfacce di rete, ma funzionano invece come bridge NVSwitch che forniscono un percorso di controllo per inizializzare e configurare NvFabric, che è la topologia NVLink dell'interconnessione GPU. Per inizializzare completamente il sistema, NVIDIA Fabric Manager deve configurare `NVFabric` e stabilire la topologia NVSwitch. Ciò InfiniBand consente ai moduli del kernel di comunicare con le NIC Mellanox ConnectX. NVIDIA Fabric Manager è incluso nel toolkit CUDA. Consigliamo [Opzione 2: Installazione con il toolkit CUDA](#public-nvidia-driver-cuda-install) per questo tipo di istanza. ## Driver-only Opzione 1: installazione Per installare un driver specifico, accedi all'istanza e scarica il driver pubblico NVIDIA a 64 bit per il tipo di istanza da [http://www.nvidia.com/Download/Find.aspx](http://www.nvidia.com/Download/Find.aspx). Per **Tipo di prodotto**, **Serie di prodotti** e **Prodotto**, utilizza le opzioni mostrate nella seguente tabella. Quindi segui le istruzioni di installazione del **Local Repository nella Guida all'installazione** dei [driver NVIDIA](https://docs.nvidia.com/datacenter/tesla/driver-installation-guide/index.html). **Nota** P6-B200 e i tipi di P6-B300 istanza richiedono l'installazione e la configurazione di pacchetti aggiuntivi forniti in bundle con NVIDIA CUDA Toolkit. Per ulteriori informazioni, consulta le istruzioni per la distribuzione Linux in [Opzione 2: Installazione con il toolkit CUDA](#public-nvidia-driver-cuda-install). | Istanza | Tipo di prodotto | Serie di prodotti | Prodotto | Versione driver minima | | --- | --- | --- | --- | --- | | G3 | Tesla | M-Class | M60 | -- | | G4dn | Tesla | T-Series | T4 | -- | | G5 | Tesla | A-Series | A10 | 470.00 o versioni successive | | G5g1 | Tesla | T-Series | T4G | 470.82.01 o versioni successive | | G6 | Tesla | L-Series | L4 | 525.0 o versioni successive | | G6e | Tesla | L-Series | L40S | 535.0 o versioni successive | | Gr6 | Tesla | L-Series | L4 | 525.0 o versioni successive | | G7e | Tesla | Serie RTX | RTX PRO 6000 Blackwell | 575.0 o versione successiva | | P3 | Tesla | V-Series | V100 | -- | | P4d | Tesla | A-Series | A100 | -- | | P4de | Tesla | A-Series | A100 | -- | | P5 | Tesla | H-Series | H100 | 530 o versioni successive | | P5e | Tesla | H-Series | H200 | 550 o versioni successive | | P5en | Tesla | H-Series | H200 | 550 o versioni successive | | P6-B2002 | Tesla | HGX-Series | B200 | 570 o versione successiva | | P6e-GB200 | Tesla | HGX-Series | B200 | 570 o versione successiva | | P6-B3002 | Tesla | HGX-Series | B300 | 580 o versione successiva | 1 Il sistema operativo per le istanze G5g è Linux aarch64. 2 Per P6-B200 ogni tipo di P6-B300 istanza, esistono requisiti di installazione aggiuntivi per configurare NVIDIA Fabric Manager. ## Opzione 2: Installazione con il toolkit CUDA Le istruzioni di installazione variano leggermente in base al sistema operativo. Per installare driver pubblici sulla tua istanza con il toolkit NVIDIA CUDA, segui le istruzioni relative al sistema operativo dell’istanza. Ad esempio, per i sistemi operativi non mostrati qui, segui le istruzioni per il tuo sistema operativo e l’architettura del tipo di istanza sul sito web di NVIDIA Developer. Per ulteriori informazioni, consulta [CUDA Toolkit Downloads](https://developer.nvidia.com/cuda-downloads). Per l’architettura del tipo di istanza o altre specifiche, consulta le specifiche sul [calcolo accelerato](https://docs.aws.amazon.com/ec2/latest/instancetypes/ac.html) nella documentazione di riferimento *Amazon EC2 Instance Types*. ### Amazon Linux 2023 Questa sezione tratta l’installazione di un toolkit NVIDIA CUDA su un’istanza Amazon Linux 2023. Gli esempi di comandi in questa sezione si basano su un’architettura `x86_64`. Per i comandi `arm64-sbsa`, consulta [CUDA Toolkit Downloads](https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=arm64-sbsa) e seleziona le opzioni che si applicano alla tua distribuzione. Le istruzioni vengono visualizzate dopo aver effettuato la selezione finale. **Prerequisito** Prima di installare il toolkit e i driver, esegui il seguente comando per assicurarti di avere la versione corretta delle intestazioni kernel e dei pacchetti di sviluppo. ``` [ec2-user ~]$ sudo dnf install kernel-devel-$(uname -r) kernel-headers-$(uname -r) -y ``` **Scarica il toolkit e i driver** Scegli il tipo di installazione da utilizzare per la tua istanza e segui i passaggi associati. ------ #### [ AL2023 NVIDIA repository ] Amazon Linux 2023 fornisce driver GPU NVIDIA e pacchetti di toolkit CUDA tramite un repository dedicato che mantiene. AWS AWS qualifica questo repository con le release candidate AL2023 e fornisce avvisi di sicurezza tramite Amazon Linux Security Center. Consigliamo questa opzione per le istanze AL2023 perché semplifica l'installazione e mantiene i driver aggiornati attraverso il flusso di lavoro standard. `dnf update` Per istruzioni, consulta [i driver NVIDIA](https://docs.aws.amazon.com/linux/al2023/ug/nvidia-drivers.html) nella *Guida per l'utente di Amazon Linux 2023*. ------ #### [ RPM local installation ] Puoi seguire queste istruzioni per scaricare il bundle del repository di installazione del toolkit CUDA sulla tua istanza, poi estrarre e registrare il bundle specificato. Per visualizzare le istruzioni sul sito web per sviluppatori NVIDIA, consulta [CUDA Toolkit Downloads](https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=Amazon-Linux&target_version=2023&target_type=rpm_local). ``` [ec2-user ~]$ wget https://developer.download.nvidia.com/compute/cuda/{{13.0.0}}/local_installers/{{cuda-repo-amzn2023-13-0-local-13.0.0_580.65.06-1.x86_64.rpm}} [ec2-user ~]$ sudo rpm -i {{cuda-repo-amzn2023-13-0-local-13.0.0_580.65.06-1.x86_64.rpm}} ``` ------ #### [ RPM network installation ] Puoi seguire queste istruzioni per registrare il repository CUDA con il gestore di pacchetti sulla tua istanza. Quando esegui i passaggi di installazione, il gestore di pacchetti scarica solo i pacchetti necessari. Per visualizzare le istruzioni sul sito web per sviluppatori NVIDIA, consulta [CUDA Toolkit Downloads](https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=Amazon-Linux&target_version=2023&target_type=rpm_network). ``` [ec2-user ~]$ sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/amzn2023/x86_64/cuda-amzn2023.repo ``` ------ I passaggi rimanenti sono gli stessi sia per l'installazione locale di RPM che per quella di rete RPM. 1. Completa l’installazione del toolkit CUDA ``` [ec2-user ~]$ sudo dnf clean all [ec2-user ~]$ sudo dnf install cuda-toolkit -y ``` 1. Installa la variante del driver relativa al modulo open kernel ``` [ec2-user ~]$ sudo dnf module install nvidia-driver:open-dkms -y ``` 1. Installa GPUDirect Storage e Fabric Manager ``` [ec2-user ~]$ sudo dnf install nvidia-gds -y [ec2-user ~]$ sudo dnf install nvidia-fabric-manager -y ``` 1. Abilita Fabric Manager e la persistenza dei driver ``` [ec2-user ~]$ sudo systemctl enable nvidia-fabricmanager [ec2-user ~]$ sudo systemctl enable nvidia-persistenced ``` 1. (*P6-B200 e P6-B300 solo*) Questi tipi di istanze richiedono l'installazione e la configurazione di pacchetti aggiuntivi forniti in bundle con NVIDIA CUDA Toolkit. 1. Installa NVIDIA Link Subnet Manager e `ibstat`. ``` [ec2-user ~]$ sudo dnf install nvlink5 ``` 1. Abilita il caricamento automatico del modulo Infiniband all’avvio. ``` [ec2-user ~]$ echo "ib_umad" | sudo tee -a /etc/modules-load.d/modules.conf ``` 1. Riavvia l’istanza ``` [ec2-user ~]$ sudo reboot ``` ### Ubuntu 24.04 Questa sezione tratta l’installazione di un toolkit NVIDIA CUDA su un’istanza Ubuntu 24.04. Gli esempi di comandi in questa sezione si basano su un’architettura `x86_64`. Per i comandi `arm64-sbsa`, consulta [CUDA Toolkit Downloads](https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=arm64-sbsa) e seleziona le opzioni che si applicano alla tua distribuzione. Le istruzioni vengono visualizzate dopo aver effettuato la selezione finale. **Prerequisito** Prima di installare il toolkit e i driver, esegui il seguente comando per assicurarti di avere la versione corretta delle intestazioni kernel e dei pacchetti di sviluppo. ``` $ apt install linux-headers-$(uname -r) ``` **Scarica il toolkit e i driver** Scegli il tipo di installazione da utilizzare per la tua istanza e segui i passaggi associati. ------ #### [ Deb local installation ] Puoi seguire queste istruzioni per scaricare il bundle del repository di installazione del toolkit CUDA sulla tua istanza, poi estrarre e registrare il bundle specificato. Per visualizzare le istruzioni sul sito web per sviluppatori NVIDIA, consulta [CUDA Toolkit Downloads](https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=Ubuntu&target_version=24.04&target_type=deb_local). ``` $ wget https://developer.download.nvidia.com/compute/cuda/repos/{{ubuntu2404}}/x86_64/{{cuda-ubuntu2404.pin}} $ sudo mv {{cuda-ubuntu2404.pin}} /etc/apt/preferences.d/cuda-repository-pin-600 $ wget https://developer.download.nvidia.com/compute/cuda/{{13.0.0}}/local_installers/{{cuda-repo-ubuntu2404-13-0-local_13.0.0-580.65.06-1_amd64.deb}} $ sudo dpkg -i {{cuda-repo-ubuntu2404-13-0-local_13.0.0-580.65.06-1_amd64.deb}} $ sudo cp /var/{{cuda-repo-ubuntu2404-13-0-local}}/cuda-*-keyring.gpg /usr/share/keyrings/ ``` ------ #### [ Deb network installation ] Puoi seguire queste istruzioni per registrare il repository CUDA con il gestore di pacchetti sulla tua istanza. Quando esegui i passaggi di installazione, il gestore di pacchetti scarica solo i pacchetti necessari. Per visualizzare le istruzioni sul sito web per sviluppatori NVIDIA, consulta [CUDA Toolkit Downloads](https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=Ubuntu&target_version=24.04&target_type=deb_network). ``` $ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb $ sudo dpkg -i cuda-keyring_1.1-1_all.deb ``` ------ I passaggi rimanenti sono gli stessi sia per l’installazione locale che per quella di rete. 1. Completa l’installazione del toolkit CUDA ``` $ sudo apt update $ sudo apt install cuda-toolkit -y ``` 1. Installa la variante del driver relativa al modulo open kernel ``` $ sudo apt install nvidia-open -y ``` 1. Installa GPUDirect Storage e Fabric Manager ``` $ sudo apt install nvidia-gds -y $ sudo apt install nvidia-fabricmanager -y ``` 1. Abilita Fabric Manager e la persistenza dei driver ``` $ sudo systemctl enable nvidia-fabricmanager $ sudo systemctl enable nvidia-persistenced ``` 1. (*P6-B200 e P6-B300 solo*) Questi tipi di istanze richiedono l'installazione e la configurazione di pacchetti aggiuntivi forniti in bundle con NVIDIA CUDA Toolkit. 1. Installa i driver di InfiniBand-specific dispositivo e le utilità di diagnostica più recenti. ``` $ sudo apt install linux-modules-extra-$(uname -r) -y $ sudo apt install infiniband-diags -y ``` 1. Installa NVIDIA Link Subnet Manager. ``` $ sudo apt install nvlsm -y ``` 1. Riavvia l’istanza ``` sudo reboot ``` 1. Aggiorna il percorso e aggiungi la seguente variabile di ambiente. ``` $ export PATH=${PATH}:/usr/local/{{cuda-13.0}}/bin $ export LD_LIBRARY_PATH=${LD_LIBRARY_PATH}:/usr/local/{{cuda-13.0}}/lib64 ``` ### Sistemi operativi Windows Per installare il driver NVIDIA su Windows, segui questi passaggi: 1. Aprire la cartella in cui è stato scaricato il driver e avviare il file di installazione. Seguire le istruzioni per installare il driver e riavviare l’istanza come necessario. 1. Disabilita la scheda video denominata **Scheda video di base Microsoft** contrassegnata da un’icona di avviso utilizzando Gestione dispositivi. Installare le funzionalità Windows **Media Foundation** e **Quality Windows Audio Video Experience**. **Importante** Non disattivare la scheda video denominata **Scheda video remota di Microsoft**. Se la **Scheda video remota di Microsoft** è disabilitata, la connessione potrebbe essere interrotta e i tentativi di connessione all’istanza dopo il riavvio potrebbero fallire. 1. Aprire Gestione dispositivi per verificare che la GPU funzioni correttamente. 1. Per ottenere prestazioni ottimali dalla GPU, completare le fasi di ottimizzazione in [Ottimizza le impostazioni GPU sulle istanze Amazon EC2](optimize_gpu.md).