Der Einsatz von GPUs (Graphical Processing Units) verbessert die Verarbeitungszeit bei Modellen, die maschinelles Lernen umfassen. ArcGIS Notebook Server kann NVIDIA-GPUs auf den Hostcomputern nutzen, nachdem einige zusätzliche Schritte ausgeführt wurden.
Hinweis:
Ab Version 10.8 enthalten die integrierten ArcGIS Notebook Server-Runtimes das Conda CUDA Toolkit, um GPU-Unterstützung zu ermöglichen. In früheren Versionen erforderte dieser Workflow das Erstellen einer benutzerdefinierten Runtime, um CUDA einzubeziehen.
Der folgenden Workflow dient zwei Hauptzielen. Das erste Ziel ist das Installieren der NVIDIA-Treiber und -Runtime, damit die Docker-Komponente der Site GPU-fähige Container erstellen kann. Das zweite Ziel ist das Erstellen einer Advanced Notebook-Runtime, die für die Verwendung der NVIDIA-Runtime konfiguriert ist. Alle mit dieser Runtime geöffneten ArcGIS Notebooks werden in GPU-fähigen Containern gestartet. Zudem werden in der neuen Runtime alle Python-Bibliotheken der Advanced Notebook-Runtime beibehalten.
Führen Sie diese Schritte nach der Installation und Konfiguration von ArcGIS Notebook Server durch. Wenn die ArcGIS Notebook Server-Site mehrere Computer enthält, wiederholen Sie die Schritte 1 bis 3 auf allen Computern.
- Installieren Sie auf jedem Computer in der Site die entsprechenden NVIDIA-Treiber. Auf der NVIDIA-Website finden Sie ausführliche Informationen.
- Installieren Sie die nvidia-docker 2.0-Runtime auf dem Computer, damit Notebook-Container die Vorteile von GPUs nutzen können. Im NVIDIA-Docker-Repository auf GitHub finden Sie Downloads und die Dokumentation für Ihr Betriebssystem.
- Führen Sie auf jedem Computer den folgenden Befehl aus, um sicherzustellen, dass die NVIDIA-Komponenten ordnungsgemäß installiert sind:
docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi
- Melden Sie sich als Administrator bei Ihrem ArcGIS Enterprise-Portal an, und öffnen Sie ArcGIS Notebook Server Manager.
- Öffnen Sie die Seite Einstellungen, und klicken Sie auf Runtimes.
- Klicken Sie für die Runtime mit der Beschriftung ArcGIS Notebook Python 3 Advanced auf das Symbol Bearbeiten. Kopieren Sie den für die Image ID angegebenen Wert. Klicken Sie auf Abbrechen, um den Editor zu beenden.
- Klicken Sie auf der Seite Runtimes auf Runtime registrieren.
- Geben Sie auf der Seite Runtime registrieren einen geeigneten Namen (z. B. "GPU Runtime") an, und geben Sie als Version 10.9.1 an. Fügen Sie für die Bild-ID den Wert hinzu, den Sie in Schritt 5 kopiert haben.
- Legen Sie den Wert für Docker-Runtime auf nvidia fest. Klicken Sie zur Bestätigung auf Runtime registrieren.
- Vergewissern Sie sich, dass Sie ArcGIS Notebook Server erfolgreich für die Verwendung von NVIDIA-GPUs konfiguriert haben. Erstellen Sie als Portalmitglied mit der Berechtigung Erweiterte Notebooks ein neues leeres Notebook. Wenn Sie die Runtime des Notebooks angeben, wählen Sie die neue GPU-fähige Runtime aus. Kopieren Sie Folgendes in eine Notebook-Zelle, und führen Sie die Zelle aus.
Als Ausgabe wird True zurückgeben, weil das torch.cuda-Paket GPUs zum Ausführen benötigt.import torch torch.cuda.is_available()
- Führen Sie den folgenden Befehl in einer neuen Zelle aus, um die GPU-Konfiguration Ihres Computers anzuzeigen:
!nvidia-smi
Wenn Sie die Fähigkeit Ihrer Site zum Verwenden von GPUs rückgängig machen möchten, öffnen Sie die Seite "Runtimes" in ArcGIS Notebook Server Manager, und löschen Sie die Runtime, die Sie in diesem Workflow erstellt haben.