Conexión al entorno de ejecución de IA

Conéctese a AI Runtime desde cuadernos interactivos, un IDE a través de un túnel SSH, trabajos programados, la API de trabajos o agrupaciones de automatización declarativa. Adjuntar un notebook a AI Runtime es la forma principal de ejecutar cargas de trabajo de entrenamiento y ajuste fino, y también puede programar esos mismos notebooks como trabajos recurrentes o automatizarlos en canalizaciones de despliegue.

Interactivo (cuadernos)

Esta es la forma principal de usar ai Runtime. Para conectar el portátil y configurar el entorno:

1. En un notebook, haga clic en el menú desplegable de cálculo en la parte superior y seleccione GPU sin servidor.
2. Haga clic en el para abrir el panel lateral Entorno.
3. Seleccione un acelerador en el campo Acelerador . Para cargas de trabajo de entrenamiento distribuidas, seleccione 8xH100. Consulte Opciones de hardware para obtener instrucciones sobre cómo elegir un acelerador.
4. Seleccione Standard v5 o Standard v4 para el entorno Estándar, o AI v5 o AI v4 para el entorno de IA, en el campo Entorno base .
5. Haga clic en Aplicar y, a continuación, confirme que desea aplicar ai Runtime al entorno de cuaderno.

Conexión desde el terminal IDE

Puede conectarse directamente a AI Runtime en un entorno de computación GPU sin servidor desde un terminal de su IDE a través de un túnel SSH.

Para conectarse a AI Runtime, ejecute el databricks ssh connect comando con la --accelerator opción desde un terminal dentro del IDE. No se requiere ningún paso de instalación independiente. Para obtener más información sobre el comando, vea grupossh de comandos.

databricks ssh connect --accelerator=GPU_1xA10

Para conectarse e iniciar la sesión en Visual Studio Code o Cursor, use la --ide opción . La CLI abre una ventana del IDE que apunta a la carpeta del área de trabajo principal.

databricks ssh connect --ide=vscode

Para obtener más información sobre la instalación, la apertura de proyectos y la ejecución de código, consulte Conexión a Databricks mediante un túnel SSH.

Trabajos (programados)

Puede programar cuadernos que usen AI Runtime como trabajos periódicos. Consulte Creación y administración de trabajos de cuaderno programados para obtener más información.

Después de abrir el cuaderno que desea usar:

1. Seleccione el botón Programar en la parte superior derecha.
2. Seleccione Agregar programación.
3. Rellene el formulario Nueva programación con el nombre del trabajo, la programación y el proceso.
4. Selecciona Crear.

También puede crear y programar trabajos desde la interfaz de usuario Trabajos y canalizaciones . Consulte Creación de un nuevo trabajo para obtener instrucciones paso a paso.

API de trabajos y paquetes de automatización declarativa

Puede crear y administrar trabajos en tiempo de ejecución de IA mediante programación mediante la API de trabajos de Databricks o paquetes de automatización declarativa. Configura el tipo de proceso como GPU sin servidor en la definición de tu trabajo o paquete para automatizar los flujos de trabajo de implementación.

En el ejemplo siguiente se muestra una configuración de agrupación de automatización declarativa para un trabajo en tiempo de ejecución de IA mediante el entorno Estándar:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '4'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100

Para usar el entorno de IA de Databricks en lugar del entorno estándar, configure base_environment con el identificador del entorno de IA (por ejemplo, databricks_ai_v5 para IA v5) en spec del entorno y haga referencia a él en el environment_key de la tarea:

resources:
  jobs:
    sample_job:
      name: sample_job_aiv5_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: aiv5
          spec:
            base_environment: databricks_ai_v5

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: aiv5
          compute:
            hardware_accelerator: GPU_8xH100