Konfigurieren von ArcGIS Notebook Server zur Verwendung von GPUs

Der Einsatz von GPUs (Graphical Processing Units) verbessert die Verarbeitungszeit bei Modellen, die maschinelles Lernen umfassen. ArcGIS Notebook Server kann NVIDIA-GPUs auf den Hostcomputern nutzen, nachdem einige zusätzliche Schritte ausgeführt wurden.

Führen Sie diese Schritte nach der Installation und Konfiguration von ArcGIS Notebook Server auf demselben Computer durch.

1. Installieren Sie die benötigten NVIDIA-Treiber auf dem Computer. Auf der NVIDIA-Website finden Sie ausführliche Informationen.
2. Installieren Sie die nvidia-docker 2.0-Runtime auf dem Computer, damit Notebook-Container die Vorteile von GPUs nutzen können. Im NVIDIA-Docker-Repository auf GitHub finden Sie Downloads und die Dokumentation für Ihr Betriebssystem.
3. Führen Sie den folgenden Befehl aus, um sicherzustellen, dass die NVIDIA-Komponenten ordnungsgemäß installiert sind:

   docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi

4. Erweitern Sie die vorhandene Notebook-Runtime in einem Dockerfile, um die folgenden Umgebungsvariablen festzulegen. Hierdurch wird NVIDIA Container Runtime für GPU-beschleunigte Container aktiviert.

   # Specify the existing notebook runtime imageId as FROM
   FROM <imageID>
   
   # Use RUN to issue a command to install
   # Declare environment variables with ENV
   #RUN conda install <your_preferred_gpu_package>
   ENV NVIDIA_VISIBLE_DEVICES all
   ENV NVIDIA_DRIVER_CAPABILITIES compute,utility
   ENV NVIDIA_REQUIRE_CUDA "cuda>=9.2"

   Sie können zudem andere Python-Module installieren, welche die GPU-Unterstützung nutzen können. Führen Sie zum Erstellen eines Dockerfile die Schritte unter Erweitern einer Notebook-Runtime aus.

   Führen Sie diese Schritte aus, um die imageId einer vorhandenen Notebook-Runtime zu prüfen. Melden Sie sich beim ArcGIS Notebook Server-Administratorverzeichnis unter https://notebookserver.domain.com:11443/arcgis/admin an. Navigieren Sie zu "notebooks > runtimes", wählen Sie die Runtime aus, die Sie als Basis für die GPU-fähige Runtime verwenden möchten, und prüfen Sie die Image-ID-Eigenschaft.

   1. Melden Sie sich bei dem ArcGIS Notebook Server-Administratorverzeichnis unter https://notebookserver.domain.com:11443/arcgis/admin an.
   2. Klicken Sie auf notebooks > runtimes.
   3. Wählen Sie die Runtime aus, die Sie als Basis für die GPU-fähige Runtime verwenden möchten, und prüfen Sie die Image-ID-Eigenschaft.
5. Mit folgender Befehlssyntax erstellen Sie ein benutzerdefiniertes Container-Image:

   docker build -t myGpuRuntime:v1.0 -f <path_to_Dockerfile> .

   Beenden Sie den Befehl mit einem Punkt.

   Wenn die Image-Erstellung abgeschlossen ist, liefert eine Ausgabemeldung die gekürzte imageId des neuen Image.

6. Rufen Sie die vollständige imageId des neuen Containers ab.

   docker inspect <imageId>

7. Melden Sie sich bei dem ArcGIS Notebook Server-Administratorverzeichnis unter https://notebookserver.domain.com:11443/arcgis/admin an. Navigieren Sie zu notebooks > runtimes, wählen Sie die in Schritt 4 festgelegte Runtime aus, und klicken Sie dann auf edit.
8. Aktualisieren Sie die Runtime so, dass das neue benutzerdefinierte Image verwendet wird. Ersetzen Sie den vorhandenen imageId-Wert durch den Wert für Ihr Image, den Sie in Schritt 6 abgerufen haben.
9. Legen Sie den dockerRuntime-Wert auf nvidia fest. Speichern Sie Ihre Änderungen.
10. Vergewissern Sie sich, dass Sie ArcGIS Notebook Server erfolgreich für die Verwendung von NVIDIA-GPUs konfiguriert haben. Wenn Sie Portal-Mitglied mit der Berechtigung Notebooks erstellen und bearbeiten oder der Berechtigung Notebooks (Advanced-Runtime) sind und in Schritt 4 die Advanced-Runtime ausgewählt haben, öffnen Sie ein neues Notebook. Kopieren Sie Folgendes in eine Zelle, und führen Sie die Zelle aus.

    import torch
    torch.cuda.is_available()

    Als Ausgabe sollte True zurückgegeben werden, weil das torch.cuda-Paket GPUs zum Ausführen benötigt.

11. Führen Sie den folgenden Befehl in einer neuen Zelle aus, um die GPU-Konfiguration Ihres Computers anzuzeigen:

    !nvidia-smi

Die Funktion zum Verwenden von GPUs können Sie aus der ArcGIS Notebook Server-Site entfernen, indem Sie die Operation "Restore Factory Runtimes" im Administratorverzeichnis ausführen. Diese steht unter der URL https://notebookserver.domain.com:11443/arcgis/admin/notebooks/runtimes/restore zur Verfügung.