Configurare ArcGIS Notebook Server per usare le GPU

Ricorrendo a un'unità di elaborazione grafica (GPU) si possono migliorare notevolmente i tempi di elaborazione per i modelli di apprendimento automatico. ArcGIS Notebook Server può utilizzare le GPU NVIDIA sul computer host, dopo aver eseguito alcuni passaggi necessari.

Una volta installato e configurato ArcGIS Notebook Server, seguire questi passaggi utilizzando lo stesso computer.

1. Installare gli opportuni driver NVIDIA sul computer. Per informazioni più dettagliate, consultare il sito Web di NVIDIA.
2. Installare il runtime nvidia-docker 2.0 sul computer affinché i contenitori degli appunti possano avvalersi delle GPU. Consultare la sezione Repository NVIDIA-Docker in GitHub per i download e la documentazione relativi al sistema operativo specifico.
3. Eseguire questo comando per confermare che gli elementi NVIDIA siano installati correttamente:

   docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi

4. Estendere il runtime avanzato degli appunti in un Dockerfile per impostare le seguenti variabili di ambiente, abilitando il NVIDIA Container Runtime per i contenitori con accelerazione GPU.

   # Specify the existing notebook runtime imageId as FROM FROM aa7a1a346e5b
   # Use RUN to issue a command to install
   # Declare environment variables with ENV
   #RUN conda install <your_preferred_gpu_package>
   ENV NVIDIA_VISIBLE_DEVICES all ENV NVIDIA_DRIVER_CAPABILITIES compute,utility
   ENV NVIDIA_REQUIRE_CUDA "cuda>=9.2"

   È anche possibile decidere di installare altri moduli Python che possono sfruttare il supporto della GPU. Seguire i passaggi illustrati nella sezione Estendere il runtime degli appunti per generare un Dockerfile.
5. Costruire la propria immagine personalizzata del contenitore con la seguente sintassi di comando:

   docker build -t myGpuRuntime:v1.0 -f <path_to_Dockerfile> .

   Non dimenticare di inserire il punto alla fine del comando.

6. Dopo aver creato l'immagine, un messaggio indicherà il valore di imageId abbreviato della nuova immagine. Ricavare il massimo dal nuovo contenitore imageId.

   docker inspect <imageId>

7. Accedere all'Administrator Directory di ArcGIS Notebook Server in https://notebookserver.domain.com:11443/arcgis/admin. Passare a Runtime > appunti e selezionare Runtime Avanzato, quindi fare clic su Modifica.
8. Aggiornare il runtime Avanzato per utilizzare la nuova immagine personalizzata. Sostituire il valore di imageId esistente con il valore dell'immagine ottenuto nel passaggio 6.
9. Impostare il valore di dockerRuntime a nvidia. Salvare le modifiche.
10. Verificare di aver configurato correttamente ArcGIS Notebook Server affinché usi le NVIDIA GPU. Come utente del portale con privilegi Appunti avanzati, aprire dei nuovi appunti. Copia quanto segue in una cella ed eseguirla.

    import torch torch.cuda.is_available()

    Come output si otterrà True, perché il pacchetto torch.cuda richiede l'esecuzione delle GPU.

11. Eseguire il seguente comando in una nuova cella per visualizzare la configurazione della GPU del computer:

    !nvidia-smi

Se si desidera rimuovere dal sito ArcGIS Notebook Server l'opzione di utilizzo della GPU, eseguire l'operazione Ripristina i runtime predefiniti nell'Administrator Directory. Questa opzione è disponibile all'URL https://notebookserver.domain.com:11443/arcgis/admin/notebooks/runtimes/restore.