Der Einsatz von GPUs (Graphical Processing Units) verbessert die Verarbeitungszeit bei Modellen, die maschinelles Lernen umfassen. ArcGIS Notebook Server kann NVIDIA-GPUs auf den Hostcomputern nutzen, nachdem zusätzliche Schritte ausgeführt wurden. Der folgende Workflow dient zwei Hauptzielen. Das erste Ziel ist das Installieren der NVIDIA-Treiber und -Runtime, damit die Docker-Komponente der Site GPU-fähige Container erstellen kann. Das zweite Ziel ist das Erstellen einer Notebook-Runtime, die für die Verwendung der NVIDIA-Runtime konfiguriert ist. Alle mit dieser Runtime geöffneten ArcGIS Notebooks-Notebooks werden in GPU-fähigen Containern gestartet. Zudem werden in der neuen Runtime alle Python-Bibliotheken der Notebook-Runtime beibehalten.
Führen Sie diese Schritte nach der Installation und Konfiguration von ArcGIS Notebook Server durch. Wenn die ArcGIS Notebook Server-Site mehrere Computer enthält, wiederholen Sie die Schritte 1 bis 3 auf allen Computern.
- Installieren Sie auf jedem Computer in der Site die entsprechenden NVIDIA-Treiber. Im Dokument Linux CUDA Installation Guide for NVIDIA finden Sie ausführliche Informationen.
- Führen Sie nach dem Installieren des CUDA Tookit die Post-installation actions aus, um die Umgebung einzurichten.
- Installieren Sie das NVIDIA Container Toolkit auf dem Computer, damit Notebook-Container die Vorteile von GPUs nutzen können. Im Dokument NVIDIA Container Toollkit Installation Guide finden Sie Downloads und die Dokumentation für Ihr Betriebssystem.
- Führen Sie auf jedem Computer den folgenden Befehl aus, um sicherzustellen, dass die NVIDIA-Komponenten ordnungsgemäß installiert sind:
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi - Melden Sie sich als Administrator bei Ihrem ArcGIS Enterprise-Portal an, und öffnen Sie ArcGIS Notebook Server Manager.
- Öffnen Sie die Seite Einstellungen, und klicken Sie auf Runtimes.
- Klicken Sie auf die Schaltfläche Bearbeiten für die Runtime, die Sie als Basis für die GPU-fähige Runtime verwenden möchten, d. h. entweder ArcGIS Notebook Python 3 Advanced oder ArcGIS Notebook Python 3 Standard. Kopieren Sie den Wert Bild-ID. Klicken Sie auf Abbrechen, um den Editor zu beenden.
- Klicken Sie auf der Seite Runtimes auf Runtime registrieren.
- Geben Sie auf der Seite Runtime registrieren einen geeigneten Namen (z. B. "GPU Runtime") an. Fügen Sie für Image-ID den Wert hinzu, den Sie in Schritt 6 kopiert haben.
- Legen Sie den Wert für Docker-Runtime auf nvidia fest. Klicken Sie zur Bestätigung auf Runtime registrieren.
- Vergewissern Sie sich, dass Sie ArcGIS Notebook Server erfolgreich für die Verwendung von NVIDIA-GPUs konfiguriert haben. Als Portal-Mitglied mit der Berechtigung Notebooks erstellen und bearbeiten oder der Berechtigung Erweiterte Notebooks, wenn Sie in Schritt 6 die erweiterte Runtime ausgewählt haben, erstellen Sie ein leeres Notebook. Wenn Sie die Runtime des Notebooks angeben, wählen Sie die neue GPU-fähige Runtime aus. Kopieren Sie Folgendes in eine Notebook-Zelle, und führen Sie die Zelle aus.
import torch torch.cuda.is_available() - Führen Sie den folgenden Befehl in einer neuen Zelle aus, um die GPU-Konfiguration Ihres Computers anzuzeigen:
!nvidia-smi
Wenn Sie die Fähigkeit Ihrer Site zum Verwenden von GPUs rückgängig machen möchten, öffnen Sie die Seite "Runtimes" auf der Registerkarte Einstellungen in ArcGIS Notebook Server Manager, und löschen Sie die Runtime, die Sie in diesem Workflow erstellt haben.