Ricorrendo a un'unità di elaborazione grafica (GPU) si possono migliorare notevolmente i tempi di elaborazione per i modelli di apprendimento automatico. ArcGIS Notebook Server può utilizzare le GPU NVIDIA sul computer host, dopo aver eseguito alcuni passaggi necessari.
Nota:
A partire dalla versione 10.8, i runtime di ArcGIS Notebook Server predefiniti includono il Conda CUDA Toolkit per abilitare il supporto GPU. In precedenza, questo flusso di lavoro richiedeva la creazione di un runtime personalizzato per includere CUDA.
Il seguente flusso di lavoro ha due obiettivi principali. Il primo è installare i driver NVIDIA e il runtime, che permetterà al componente del Docker del sito di creare contenitori pronti per le GPU. Il secondo è creare una copia del runtime del notebook che è configurato per utilizzare il runtime NVIDIA. Tutti i notebook aperti utilizzando questo runtime verranno lanciati in contenitori pronti per le GPU. A parte ciò, il nuovo runtime manterrà tutte le librerie Python del runtime del notebook.
Una volta installato e configurato ArcGIS Notebook Server, seguire questi passaggi. Se il sito ArcGIS Notebook Server dispone di più computer, seguire i passaggi da 1 a 3 su tutti i computer.
- Installare gli opportuni driver NVIDIA su ogni computer nel sito. Per informazioni più dettagliate, consultare il sito Web di NVIDIA.
- Installare il runtime nvidia-docker 2.0 sul computer affinché i contenitori dei notebook possano avvalersi delle GPU. Consultare la sezione Repository NVIDIA-Docker su GitHub per i download e la documentazione relativi al sistema operativo specifico.
- Eseguire il seguente comando su ogni computer per confermare che gli elementi di NVIDIA siano installati correttamente:
docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi - Effettuare l'accesso al portale ArcGIS Enterprise come amministratore e aprire ArcGIS Notebook Server Manager.
- Aprire la pagina Impostazioni e fare clic su Runtime.
- Fare clic sul pulsante Modifica per ArcGIS Notebook Python 3 Advanced o ArcGIS Python 3 Standard, a seconda del runtime utilizzato come base per il runtime abilitato alla GPU. Copiare il valore dato per il suo ID immagine. Fare clic su Annulla per uscire dall'editor.
- Dalla pagina Runtime, fare clic su Registra runtime.
- Nella pagina Registra runtime, fornire un nome appropriato (ad esempio Runtime GPU) e indicare la versione come 10.8.1. Per il valore ID immagine, aggiungere il valore copiato nel passaggio 5.
- Impostare il valore Runtime docker su nvidia. Fare clic su Registra runtime per confermare.
- Verificare di aver configurato correttamente ArcGIS Notebook Server affinché usi le GPU NVIDIA. Come membro del portale con il privilegio Crea e modifica notebook o il privilegio Notebook avanzati, se si sceglie il runtime avanzato nel passaggio 6, creare un nuovo notebook vuoto. Quando si sceglie il runtime del notebook, selezionare il nuovo runtime pronto per utilizzare la GPU. Copia quanto segue in una cella di appunti ed eseguirla.
import torch torch.cuda.is_available() - Eseguire il seguente comando in una nuova cella per visualizzare la configurazione della GPU del computer:
!nvidia-smi
Per rimuovere dal sito l'opzione di utilizzo della GPU, passare alla sezione Runtime nella pagina Impostazioni in ArcGIS Notebook Server Manager.