无服务器 GPU 环境版本 5 （预览版）

本页概述了无服务器 GPU 环境版本 5 的系统环境信息。 此计算产品/服务是 AI 运行时的一部分，专为新式 AI 和深度学习工作负载而设计。

无服务器 GPU 环境 5 基于无服务器环境 5 （CPU） 构建。 查看 无服务器环境 5（CPU）中的新增功能。 它包括以下环境：

• 标准环境：具有稳定客户端 API 的最小环境。
• Databricks AI 环境：一个环境，其中包含特定于 GPU 上的机器学习的常见运行时包和包。

为了确保应用程序的兼容性，无服务器 GPU 工作负载使用版本控制 API（称为环境版本），该 API 与较新的服务器版本保持兼容。

可以使用无服务器笔记本中的 “环境 ”端面板选择包含此环境版本的基本环境。 参见交互式（笔记本）。

新功能和改进

在版本 5 中，Databricks 提供仅支持无服务器 GPU API、Databricks 依赖项和 MLflow 的最低环境。 用户可以根据需要自定义环境。 版本 5 中的标准环境不包括 CPU 环境中存在的某些包，以便提供最小的功能 GPU 环境。 想要具有全面 AI 库的完整环境的用户应使用 Databricks AI 环境。

借助 %uv pip 加快软件包安装速度

2026 年 5 月 7 日

现在，可以在无服务器笔记本中使用 %uv pip magic 命令，以更快地替代 %pip 进行Python包管理。 %uv pip 由 uv 包管理器驱动，并与 %pip 共享同一个笔记本虚拟环境。 查看使用 %uv pip 实现更快的安装速度。

API 更新

2026 年 6 月 9 日

无服务器 GPU Python API 升级到 0.5.19

无服务器 GPU Python API 0.5.19 包含以下 API 更新：

• 新功能：

  • 本地模式现在在整个执行过程中以增量方式将日志流式传输到 MLflow，而不是在运行结束时上传单个快照。
  • 在本地模式运行时，将捕获的 stderr 输出保存到 MLflow 日志项目中。

• Bug 修复：

  • 本地执行模式现在遵循笔记本配置的日志级别。
  • 在本地模式运行时禁止显示不可操作的 NCCL 警告。

2026 年 5 月 26 日

无服务器 GPU Python API 升级到 0.5.18

无服务器 GPU Python API 0.5.18 包含以下 API 更新：

• 新功能：

  • 向 @distributed 装饰器添加了 timeout 参数。 默认情况下，本地运行（remote=False）的时长上限为 3 小时。 对于未绑定的本地运行，请传递 timeout=None。
  • 引入了 DATABRICKS_SERVERLESS_GPU_LOG_VERBOSE 环境变量来控制 serverless_gpu 库的日志详细程度。
  • 在无服务器 GPU 本地执行期间，遵循通过 mlflow.set_experiment(...) 设置的用户指定 MLflow 试验；当 MLflow 试验名称发生冲突时，会提供更详细的错误信息。

• Bug 修复：

  • 修复了一个问题：对于远程工作负载，单元格输出中的 MLflow 运行链接会显示一个 [REDACTED] 片段。
  • 修复了一个问题：在远程模式下，瞬态错误（503 错误）首次出现时就会终止工作负载。 API 现在会在出现这些错误时自动重试。
  • 改进了在导入 serverless_gpu 并在未安装 torch 的情况下使用 remote=False 运行时显示的警告和错误消息。

2026 年 5 月 11 日

无服务器 GPU Python API 升级到 0.5.17

无服务器 GPU Python API 0.5.17 包含以下 API 更新：

• Bug 修复：
  • 当 GPU 池选项不可用时，API 现在回退到按需计算，从而在服务中断期间防止工作负荷故障。
  • 工作负荷创建错误现在会包含完整的服务器响应正文，从而加快故障排查。
  • 改进了对不正确使用 @distributed 修饰器的错误消息传递。
  • 现在已支持在 @distributed(remote=False) 本地执行中进行嵌套的 MLflow 运行。 现在，在活动的 MLflow 运行内执行操作时，将创建一个嵌套的子运行，而不是终止现有的父运行。
• 新功能：
  • 清理本地日志：默认情况下，在本地执行期间会禁止系统指标信息级日志，以减少日志干扰。

2026 年 4 月 24 日

无服务器 GPU Python API 升级到 0.5.16

无服务器 GPU Python API 0.5.16 包含以下 API 更新：

• 新功能：
  • 添加了 UCVolumeDataset，一个 Torch IterableDataset，用于流式传输 Unity Catalog FUSE 装载卷中的文件。 文件列表在分布式排名和 DataLoader 辅助角色之间自动分区，因此每个 (rank, worker) 对都会收到一个不重叠的切片。
  • 无服务器 GPU API 现在支持针对单个 H100 工作负载的 1xH100 加速器类型。
  • 在本地执行期间减少了 PySpark 和 Py4J 的日志干扰。 日志目录消息现在在调试级别记录，而不是打印。

2026 年 4 月 14 日

无服务器 GPU Python API 升级到 0.5.15

无服务器 GPU Python API 0.5.15 包含以下 API 更新：

• 新功能：
  • 为本地无服务器 GPU API 运行向 MLflow 添加了日志传播。 本地运行的训练日志现在会自动上传到 MLflow。
• Bug 修复：
  • 当未安装 PyTorch 时，错误消息现在正确地指示 Standard v5 基础环境不包括 torch。
• 安全性：
  • 将所有 Python 依赖项版本固定到确切版本，以防止新发布的恶意软件包版本的供应链攻击。

2026 年 3 月 17 日

无服务器 GPU Python API 升级到 0.5.14

无服务器 GPU Python API 0.5.14 包含以下 API 更新：

• Bug 修复：
  • 修复了无服务器 GPU API 在没有 MAPI 可用的情况下在控制平面上失败的问题。 当 MAPI 无法访问时，API 现在可正常回退到按需计算。

2026 年 3 月 2 日

无服务器 GPU Python API 升级到 0.5.13

无服务器 GPU Python API 0.5.13 包含以下 API 更新：

• Bug 修复：
  • 修复了本地模式下 Azure A10 GPU 设备名称解析的问题。 API 现在处理特定于Azure的格式，例如“A10-24Q”。
  • 修复了本地执行完成后 MLflow 活动运行未关闭的问题。
  • 修正了 MLflow 日志流处理与 MLflow 3.x 的兼容问题。 MLflow 3.x 中工件下载路径行为的更改导致日志流传输中断。 日志流式处理现在在 MLflow 2.x 和 3.x 上都能正确运行。
  • 修复了导致训练过程停止响应的问题。 在先前版本中引入的跨层级 MLflow 状态同步功能已被撤销。

在 Databricks AI 环境中添加的软件包

以下新包已添加到版本 5 中的 Databricks AI 环境：

• catboost 1.2.8
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• omegaconf 2.3.0
• statsmodels 0.14.4
• networkx 3.4.2

被从 Databricks AI 环境中删除的包

以下包已从版本 5 中的 Databricks AI 环境中删除：

• spacy
• sentencepiece

基本环境中未包含的包

以下包不包括在基本环境中，但在 CPU 环境中仍可用：

• scipy
• seaborn
• scikit-learn

以下包不包括在基本环境中，但在 Databricks AI 环境中仍可用：

• flash-attention
• torch
• torchvision

由于客户反馈请求控制 PyTorch 的版本管理，torch 未包含在版本 5 的基础环境中。 这样，就可以安装最适合工作负荷的版本。 若要使用 Databricks 测试的版本，请在笔记本单元中运行%pip install torch==2.9.0或使用torch==2.9.0端面板的“依赖项”部分进行安装。

系统环境

• 操作系统：Ubuntu 24.04.2 LTS
• Python：3.12.3
• Databricks Connect：18.0.0
• NVIDIA CUDA 工具包：12.9

已安装的 Python 库

标准环境

若要在本地 Python 虚拟环境中重现无服务器 GPU 环境 5，请下载 requirements-env-gpu-5.txt 文件并运行 pip install -r requirements-env-gpu-5.txt。 此命令安装所有来自第五版无服务器环境的开源库。

AI 环境

AI 环境包括标准环境中的所有包，以及以下包。 此环境包括 PyTorch 和全面的机器学习库：

• torch 2.9.0
• torchvision 0.24.0
• flash_attn 2.8.3
• catboost 1.2.8
• langchain 0.3.27
• lightgbm 4.6.0
• openai 2.7.0
• optuna 4.5.0
• pytorch-lightning 2.5.4
• ray 2.51.1
• scikit-learn 1.6.1
• scipy 1.15.3
• seaborn 0.13.2
• sentence-transformers 5.1.2
• transformers 4.57.1
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• xgboost 3.0.4

若要在本地 Python 虚拟环境中重现 AI 环境 V5，请下载 requirements-ai-gpu-5.txt 文件并运行 pip install -r requirements-ai-gpu-5.txt。 此命令从 AI 环境安装所有开源库。