Der Einsatz von GPUs (Graphical Processing Units) verbessert die Verarbeitungszeit bei Modellen, die maschinelles Lernen umfassen. ArcGIS Notebook Server kann NVIDIA-GPUs auf den Hostcomputern nutzen, nachdem einige zusätzliche Schritte ausgeführt wurden.
Hinweis:
Ab Version 10.8 enthalten die integrierten ArcGIS Notebook Server-Runtimes das Conda CUDA Toolkit, um GPU-Unterstützung zu ermöglichen. In früheren Versionen erforderte dieser Workflow das Erstellen einer benutzerdefinierten Runtime, um CUDA einzubeziehen.
Der folgende Workflow dient zwei Hauptzielen. Das erste Ziel ist das Installieren der NVIDIA-Treiber und -Runtime, damit die Docker-Komponente der Site GPU-fähige Container erstellen kann. Das zweite Ziel ist das Erstellen einer Notebook-Runtime, die für die Verwendung der NVIDIA-Runtime konfiguriert ist. Alle mit dieser Runtime geöffneten Notebooks werden in GPU-fähigen Containern gestartet. Zudem werden in der neuen Runtime alle Python-Bibliotheken der Notebook-Runtime beibehalten.
Führen Sie diese Schritte nach der Installation und Konfiguration von ArcGIS Notebook Server durch. Wenn die ArcGIS Notebook Server-Site mehrere Computer enthält, wiederholen Sie die Schritte 1 bis 3 auf allen Computern.
- Installieren Sie auf jedem Computer in der Site die entsprechenden NVIDIA-Treiber. Auf der NVIDIA-Website finden Sie ausführliche Informationen.
- Installieren Sie die nvidia-docker 2.0-Runtime auf dem Computer, damit Notebook-Container die Vorteile von GPUs nutzen können. Im NVIDIA-Docker-Repository auf GitHub finden Sie Downloads und die Dokumentation für Ihr Betriebssystem.
- Führen Sie auf jedem Computer den folgenden Befehl aus, um sicherzustellen, dass die NVIDIA-Komponenten ordnungsgemäß installiert sind:
docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi - Melden Sie sich als Administrator bei Ihrem ArcGIS Enterprise-Portal an, und öffnen Sie ArcGIS Notebook Server Manager.
- Öffnen Sie die Seite Einstellungen, und klicken Sie auf Runtimes.
- Klicken Sie auf die Schaltfläche Bearbeiten für die Runtime, die Sie als Basis für die GPU-fähige Runtime verwenden möchten, d. h. entweder ArcGIS Notebook Python 3 Advanced oder ArcGIS Python 3 Standard. Kopieren Sie den für die Image ID angegebenen Wert. Klicken Sie auf Abbrechen, um den Editor zu beenden.
- Klicken Sie auf der Seite Runtimes auf Runtime registrieren.
- Geben Sie auf der Seite Runtime registrieren einen geeigneten Namen (z. B. "GPU Runtime") an, und geben Sie als Version 10.8.1 an. Fügen Sie für Image-ID den Wert hinzu, den Sie in Schritt 5 kopiert haben.
- Legen Sie den Wert für Docker-Runtime auf nvidia fest. Klicken Sie zur Bestätigung auf Runtime registrieren.
- Vergewissern Sie sich, dass Sie ArcGIS Notebook Server erfolgreich für die Verwendung von NVIDIA-GPUs konfiguriert haben. Wenn Sie Portal-Mitglied mit der Berechtigung Notebooks erstellen und bearbeiten oder der Berechtigung Notebooks (Advanced-Runtime) sind und in Schritt 6 die Advanced-Runtime ausgewählt haben, erstellen Sie ein neues leeres Notebook. Wenn Sie die Runtime des Notebooks angeben, wählen Sie die neue GPU-fähige Runtime aus. Kopieren Sie Folgendes in eine Notebook-Zelle, und führen Sie die Zelle aus.
import torch torch.cuda.is_available() - Führen Sie den folgenden Befehl in einer neuen Zelle aus, um die GPU-Konfiguration Ihres Computers anzuzeigen:
!nvidia-smi
Die Funktion zum Verwenden von GPUs können Sie aus der Site entfernen, indem Sie den Abschnitt Runtimes auf der Seite Einstellungen in ArcGIS Notebook Server Manager öffnen.