Ricorrendo a un'unità di elaborazione grafica (GPU) si possono migliorare notevolmente i tempi di elaborazione per i modelli di apprendimento automatico. ArcGIS Notebook Server può utilizzare le GPU NVIDIA sul computer host, dopo aver eseguito alcuni passaggi necessari.
Nota:
A partire dalla versione 10.8, i runtime di ArcGIS Notebook Server predefiniti includono il Conda CUDA Toolkit per abilitare il supporto GPU. In precedenza, questo flusso di lavoro richiedeva la creazione di un runtime personalizzato per includere CUDA.
Il seguente flusso di lavoro ha due obiettivi principali. Il primo è installare i driver NVIDIA e il runtime, che permetterà al componente del Docker del sito di creare contenitori pronti per le GPU. Il secondo è creare una copia del runtime di Advanced notebook che è configurato per utilizzare il runtime NVIDIA. Tutti gli ArcGIS Notebooks aperti che utilizzano questo runtime verranno lanciati in contenitori pronti per le GPU. A parte ciò, il nuovo runtime manterrà tutte le librerie Python del runtime di Advanced notebook.
Una volta installato e configurato ArcGIS Notebook Server, seguire questi passaggi. Se il sito ArcGIS Notebook Server dispone di più computer, seguire i passaggi da 1 a 3 su tutti i computer.
- Installare gli opportuni driver NVIDIA su ogni computer nel sito. Per informazioni più dettagliate, consultare il sito Web di NVIDIA.
- Installare il runtime nvidia-docker 2.0 sul computer affinché i contenitori degli appunti possano avvalersi delle GPU. Consultare la sezione Repository NVIDIA-Docker in GitHub per i download e la documentazione relativi al sistema operativo specifico.
- Eseguire il seguente comando su ogni computer per confermare che gli elementi NVIDIA siano installati correttamente:
docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi
- Effettuare l'accesso al portale ArcGIS Enterprise come amministratore e aprire ArcGIS Notebook Server Manager.
- Aprire la pagina Impostazioni e fare clic su Runtime.
- Fare clic sull'icona Modifica per il runtime con etichetta ArcGIS Notebook Python 3 Advanced. Copiare il valore dato per il suo ID immagine. Fare clic su Annulla per uscire dall'editor.
- Dalla pagina Runtime, fare clic su Registra runtime.
- Sulla pagine Registra runtime, fornire un nome appropriato (ad esempio Runtime GPU) e indicare la versione come 10.9. Per il valore ID immagine, aggiungere il valore copiato nel passaggio 5.
- Impostare il valore Runtime Docker su nvidia. Fare clic su Registra runtime per confermare.
- Verificare di aver configurato correttamente ArcGIS Notebook Server affinché usi le NVIDIA GPU. Come membro del portale con il privilegio Appunti avanzati, creare un blocco appunti vuoto. Quando si specifica il runtime del blocco appunti, selezionare il nuovo runtime pronto per la GPU. Copia quanto segue in una cella di appunti ed eseguirla.
Come output si otterrà True, perché il pacchetto torch.cuda richiede l'esecuzione delle GPU.import torch torch.cuda.is_available()
- Eseguire il seguente comando in una nuova cella per visualizzare la configurazione della GPU del computer:
!nvidia-smi
Se si desidera rimuovere la capacità del sito di utilizzare le GPU, aprire la pagina Runtime in ArcGIS Notebook Server Manager e cancellare il runtime creato in questo flusso di lavoro.