El uso de unidades de procesamiento gráfico (GPU) mejora rápidamente el tiempo de procesamiento de los modelos de aprendizaje automático. ArcGIS Notebook Server puede aprovechar las GPU de NVIDIA en su equipo host una vez que se han llevado a cabo pasos adicionales.
Nota:
A partir de 10.8, los tiempos de ejecución de ArcGIS Notebook Server integrados incluyen Conda CUDA Toolkit para habilitar la compatibilidad con GPU. Anteriormente, este flujo de trabajo requería crear un tiempo de ejecución personalizado para incluir CUDA.
El siguiente flujo de trabajo tiene dos objetivos principales. El primero es instalar controladores y tiempo de ejecución de NVIDIA, lo que permitirá que el componente Docker de su sitio cree contenedores listos para GPU. El segundo es crear una copia del tiempo de ejecución del notebook que se configura para utilizar el tiempo de ejecución de NVIDIA. Todos los ArcGIS Notebooks abiertos con este tiempo de ejecución se iniciarán en contenedores listos para GPU. Aparte de eso, el nuevo tiempo de ejecución mantendrá todas las bibliotecas de Python del tiempo de ejecución del notebook.
Una vez que ArcGIS Notebook Server se haya instalado y configurado, siga estos pasos. Si su sitio de ArcGIS Notebook Server tiene varios equipos, siga los pasos del 1 al 3 en todos los equipos.
- Instale los controladores de NVIDIA adecuados en cada equipo de su sitio. Consulte el sitio web de NVIDIA para ver la información completa.
- Instale el tiempo de ejecución nvidia-docker 2.0 en el equipo para que los contenedores del notebook puedan hacer uso de las GPU. Consulte el Repositorio de NVIDIA-Docker en GitHub para ver las descargas y la documentación correspondiente a su sistema operativo en concreto.
- Ejecute el siguiente comando en cada equipo para asegurarse de que sus elementos de NVIDIA estén bien instalados:
docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi - Inicie sesión en su portal de ArcGIS Enterprise como administrador y abra ArcGIS Notebook Server Manager.
- Abra la página Configuración y haga clic en Tiempos de ejecución.
- Haga clic en el botón Editar para el tiempo de ejecución que utilizará como base del tiempo de ejecución habilitado para GPU, ya sea ArcGIS Notebook Python 3 Advanced o ArcGIS Notebook Python 3 Standard. Copie el valor Id. de imagen. Haga clic en Cancelar para salir del editor.
- Desde la página Tiempos de ejecución, haga clic en Registrar tiempo de ejecución.
- En la página Registrar tiempo de ejecución, proporcione un nombre adecuado (como Tiempo de ejecución de GPU) y asigne la versión como 11.3. En el valor Id. de imagen, agregue el valor que copió en el paso 5.
- Defina el valor de Docker runtime como nvidia. Haga clic en Registrar tiempo de ejecución para confirmar.
- Compruebe que ArcGIS Notebook Server se haya configurado correctamente para utilizar las GPU de NVIDIA. Como miembro del portal con el privilegio Crear y editar notebooks o el privilegio Notebooks avanzados, si ha elegido el tiempo de ejecución avanzado del paso 6, cree un notebook en blanco. Cuando elija el tiempo de ejecución del notebook, seleccione su nuevo tiempo de ejecución listo para GPU. Copie lo siguiente en una celda de notebook y ejecútela.
import torch torch.cuda.is_available() - Ejecute el siguiente comando en una nueva celda para ver la configuración de GPU de su equipo:
!nvidia-smi
Si desea eliminar la capacidad de que su sitio utilice GPU, vaya a la sección de la pestaña Tiempos de ejecución en ArcGIS Notebook Server Manager y elimine el tiempo de ejecución creado en este flujo de trabajo.