El uso de unidades de procesamiento gráfico (GPU) mejora rápidamente el tiempo de procesamiento de los modelos de aprendizaje automático. ArcGIS Notebook Server puede aprovechar las GPU de NVIDIA en su equipo host una vez que se han llevado a cabo pasos adicionales. El siguiente flujo de trabajo tiene dos objetivos principales. El primero es instalar controladores y tiempo de ejecución de NVIDIA, lo que permitirá que el componente Docker de su sitio cree contenedores listos para GPU. El segundo es crear una copia del tiempo de ejecución del notebook que se configura para utilizar el tiempo de ejecución de NVIDIA. Todos los notebooks ArcGIS Notebooks abiertos con este tiempo de ejecución se iniciarán en contenedores listos para GPU. Aparte de eso, el nuevo tiempo de ejecución mantendrá todas las bibliotecas de Python del tiempo de ejecución del notebook.
Una vez que ArcGIS Notebook Server se haya instalado y configurado, siga estos pasos. Si su sitio de ArcGIS Notebook Server tiene varios equipos, siga los pasos del 1 al 3 en todos los equipos.
- Instale los controladores de NVIDIA adecuados en cada equipo de su sitio. Consulte toda la información en Guía de instalación de NVIDIA CUDA para Linux.
- Realice acciones de postinstalación para configurar el entorno después de instalar el kit de herramientas CUDA.
- Instale nvidia-container-toolkit en el equipo para que los contenedores del notebook puedan hacer uso de las GPU. Consulte la Guía de instalación del kit de herramientas Container de NVIDIA para ver las descargas y la documentación correspondiente a su sistema operativo en concreto.
- Ejecute el siguiente comando en cada equipo para asegurarse de que sus elementos de NVIDIA estén bien instalados:
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi - Inicie sesión en su portal de ArcGIS Enterprise como administrador y abra ArcGIS Notebook Server Manager.
- Abra la página Configuración y haga clic en Tiempos de ejecución.
- Haga clic en el botón Editar para el tiempo de ejecución que utilizará como base del tiempo de ejecución habilitado para GPU, ya sea ArcGIS Notebook Python 3 Advanced o ArcGIS Notebook Python 3 Standard. Copie el valor Id. de imagen. Haga clic en Cancelar para salir del editor.
- Desde la página Tiempos de ejecución, haga clic en Registrar tiempo de ejecución.
- En la página Registrar tiempo de ejecución, proporcione un nombre adecuado (como Tiempo de ejecución de GPU). En el valor Id. de imagen, agregue el valor que copió en el paso 6.
- Defina el valor de Docker runtime como nvidia. Haga clic en Registrar tiempo de ejecución para confirmar.
- Compruebe que ArcGIS Notebook Server se haya configurado correctamente para utilizar las GPU de NVIDIA. Como miembro del portal con el privilegio Crear y editar notebooks o el privilegio Notebooks avanzados, si ha elegido el tiempo de ejecución avanzado del paso 6, cree un notebook en blanco. Cuando elija el tiempo de ejecución del notebook, seleccione su nuevo tiempo de ejecución listo para GPU. Copie lo siguiente en una celda de notebook y ejecútela.
import torch torch.cuda.is_available() - Ejecute el siguiente comando en una nueva celda para ver la configuración de GPU de su equipo:
!nvidia-smi
Si desea eliminar la capacidad de que su sitio utilice GPU, vaya a la sección Tiempos de ejecución de la pestaña Configuración en ArcGIS Notebook Server Manager y elimine el tiempo de ejecución creado en este flujo de trabajo.