Ricorrendo a un'unità di elaborazione grafica (GPU) si possono migliorare notevolmente i tempi di elaborazione per i modelli di apprendimento automatico. ArcGIS Notebook Server può utilizzare le GPU NVIDIA sul computer host, dopo aver eseguito alcuni passaggi necessari. Il seguente flusso di lavoro ha due obiettivi principali. Il primo è installare i driver NVIDIA e il runtime, che permetterà al componente del Docker del sito di creare contenitori pronti per le GPU. Il secondo è creare una copia del runtime del notebook che è configurato per utilizzare il runtime NVIDIA. Tutti i notebook ArcGIS Notebooks aperti utilizzando questo runtime saranno lanciati in contenitori pronti per le GPU. A parte ciò, il nuovo runtime manterrà tutte le librerie Python del runtime del notebook.
Una volta installato e configurato ArcGIS Notebook Server, seguire questi passaggi. Se il sito ArcGIS Notebook Server dispone di più computer, seguire i passaggi da 1 a 3 su tutti i computer.
- Installare gli opportuni driver NVIDIA su ogni computer nel sito. Per informazioni complete, vedere la Guida all'installazione di NVIDIA CUDA per Linux.
- Eseguire le azioni di post-installazione per configurare l'ambiente dopo l'installazione del toolkit CUDA.
- Installare il toolkit nvidia-container-toolkit nel computer affinché i contenitori dei notebook possano avvalersi delle GPU. Fare riferimento alla guida all'installazione del toolkit del contenitore NVIDIA per i download e la documentazione relativa al sistema operativo in uso.
- Eseguire il seguente comando su ogni computer per confermare che gli elementi di NVIDIA siano installati correttamente:
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi - Effettuare l'accesso al portale ArcGIS Enterprise come amministratore e aprire ArcGIS Notebook Server Manager.
- Aprire la pagina Impostazioni e fare clic su Runtime.
- Fare clic sul pulsante Modifica per il runtime che verrà utilizzato come base del runtime abilitato per la GPU, ovvero ArcGIS Notebook Python 3 Advanced o ArcGIS Notebook Python 3 Standard. Copiare il valore di ID immagine. Fare clic su Annulla per uscire dall'editor.
- Dalla pagina Runtime, fare clic su Registra runtime.
- Nella pagina Registra runtime, fornire un nome appropriato (ad esempio Runtime GPU). Per ID immagine, aggiungere il valore copiato nel passaggio 5.
- Impostare il valore Runtime docker su nvidia. Fare clic su Registra runtime per confermare.
- Verificare di aver configurato correttamente ArcGIS Notebook Server affinché usi le GPU NVIDIA. Come membro del portale con il privilegio Crea e modifica notebook o il privilegio Notebook avanzati, se si sceglie il runtime avanzato nel passaggio 6, creare un notebook vuoto. Quando si sceglie il runtime del notebook, selezionare il nuovo runtime pronto per utilizzare la GPU. Copia quanto segue in una cella di appunti ed eseguirla.
import torch torch.cuda.is_available() - Eseguire il seguente comando in una nuova cella per visualizzare la configurazione della GPU del computer:
!nvidia-smi
Se si desidera rimuovere la capacità di utilizzo delle GPU da parte del sito, passare alla sezione Runtime nella scheda Impostazioni in ArcGIS Notebook Server Manager ed eliminare il runtime creato in questo flusso di lavoro.