Der Einsatz von GPUs (Graphical Processing Units) verbessert die Verarbeitungszeit bei Modellen, die maschinelles Lernen umfassen. ArcGIS Notebook Server kann NVIDIA-GPUs auf den Hostcomputern nutzen, nachdem zusätzliche Schritte ausgeführt wurden.
Hinweis:
Ab Version 10.8 enthalten die integrierten ArcGIS Notebook Server-Runtimes das Conda CUDA Toolkit, um GPU-Unterstützung zu ermöglichen. In früheren Versionen erforderte dieser Workflow das Erstellen einer benutzerdefinierten Runtime, um CUDA einzubeziehen.
Der folgenden Workflow dient zwei Hauptzielen. Das erste Ziel ist das Installieren der NVIDIA-Treiber und -Runtime, damit die Docker-Komponente der Site GPU-fähige Container erstellen kann. Das zweite Ziel ist das Erstellen einer Notebook-Runtime, die für die Verwendung der NVIDIA-Runtime konfiguriert ist. Alle mit dieser Runtime geöffneten ArcGIS Notebooks werden in GPU-fähigen Containern gestartet. Zudem werden in der neuen Runtime alle Python-Bibliotheken der Notebook-Runtime beibehalten.
Führen Sie diese Schritte nach der Installation und Konfiguration von ArcGIS Notebook Server durch. Wenn die ArcGIS Notebook Server-Site mehrere Computer enthält, wiederholen Sie die Schritte 1 bis 3 auf allen Computern.
- Installieren Sie auf jedem Computer in der Site die entsprechenden NVIDIA-Treiber. Auf der NVIDIA-Website finden Sie ausführliche Informationen.
- Installieren Sie die nvidia-docker 2.0-Runtime auf dem Computer, damit Notebook-Container die Vorteile von GPUs nutzen können. Im NVIDIA-Docker-Repository auf GitHub finden Sie Downloads und die Dokumentation für Ihr Betriebssystem.
- Führen Sie auf jedem Computer den folgenden Befehl aus, um sicherzustellen, dass die NVIDIA-Komponenten ordnungsgemäß installiert sind:
docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi - Melden Sie sich als Administrator bei Ihrem ArcGIS Enterprise-Portal an, und öffnen Sie ArcGIS Notebook Server Manager.
- Öffnen Sie die Seite Einstellungen, und klicken Sie auf Runtimes.
- Klicken Sie auf die Schaltfläche Bearbeiten für die Runtime, die Sie als Basis für die GPU-fähige Runtime verwenden möchten, d. h. entweder ArcGIS Notebook Python 3 Advanced oder ArcGIS Notebook Python 3 Standard. Kopieren Sie den Wert Bild-ID. Klicken Sie auf Abbrechen, um den Editor zu beenden.
- Klicken Sie auf der Seite Runtimes auf Runtime registrieren.
- Geben Sie auf der Seite Runtime registrieren einen geeigneten Namen (z. B. "GPU Runtime") an, und geben Sie als Version 11.3 an. Fügen Sie für die Bild-ID den Wert hinzu, den Sie in Schritt 5 kopiert haben.
- Legen Sie den Wert für Docker-Runtime auf nvidia fest. Klicken Sie zur Bestätigung auf Runtime registrieren.
- Vergewissern Sie sich, dass Sie ArcGIS Notebook Server erfolgreich für die Verwendung von NVIDIA-GPUs konfiguriert haben. Als Portal-Mitglied mit der Berechtigung Notebooks erstellen und bearbeiten oder der Berechtigung Erweiterte Notebooks, wenn Sie in Schritt 6 die erweiterte Runtime ausgewählt haben, erstellen Sie ein leeres Notebook. Wenn Sie die Runtime des Notebooks angeben, wählen Sie die neue GPU-fähige Runtime aus. Kopieren Sie Folgendes in eine Notebook-Zelle, und führen Sie die Zelle aus.
import torch torch.cuda.is_available() - Führen Sie den folgenden Befehl in einer neuen Zelle aus, um die GPU-Konfiguration Ihres Computers anzuzeigen:
!nvidia-smi
Wenn Sie die Fähigkeit Ihrer Site zum Verwenden von GPUs rückgängig machen möchten, öffnen Sie die Seite "Runtimes" auf der Registerkarte Einstellungen in ArcGIS Notebook Server Manager, und löschen Sie die Runtime, die Sie in diesem Workflow erstellt haben.