运行时和运行时模板
本页介绍了 Colab Enterprise 的运行时和运行时模板。
运行时是 Google 预配的虚拟机 (VM),可运行笔记本 (IPYNB 文件) 中的代码。
运行时模板是一种虚拟机配置,用于指定虚拟机的机器类型和其他特性,以及网络和是否启用公共互联网访问等常见设置。创建运行时时,系统会根据运行时模板的规范创建其虚拟机。
工作流
您无需了解运行时,即可创建 Colab Enterprise 笔记本并在其中运行代码。当您首次运行代码时,Colab Enterprise 会预配默认运行时并在其上运行代码。在您连接到其他运行时之前,Colab Enterprise 会继续使用默认运行时。
如需根据特定需求配置运行时,您必须:
使用所需的配置创建运行时模板。
基于该模板创建运行时。
从笔记本连接到运行时并运行代码。
运行时
本部分介绍了运行时的特性。
默认运行时
如果您未创建运行时,系统会在您首次运行代码或连接到默认运行时时为您创建不含加速器的运行时。您可以使用不含加速器的默认运行时,也可以切换到包含加速器的默认运行时。
当 Colab Enterprise 创建默认运行时时,它会先创建相应的默认运行时模板。运行时和运行时模板都会显示在 Google Cloud 控制台中,您可以在其中获取有关它们的信息。
如果您使用不包含加速器的默认运行时,则 Colab Enterprise 会为每个项目在每个区域创建一个不包含加速器的默认运行时及其对应的运行时模板。
如果您使用加速器的默认运行时,则 Colab Enterprise 会为每个项目在每个区域创建一个包含加速器的默认运行时及其对应的运行时模板。
默认运行时规范
默认运行时及其对应的默认运行时模板包含以下规范:
规范 | 默认 | 默认带 GPU |
---|---|---|
Python 版本 | 最新版本(目前为 Python 3.11) | 最新版本(目前为 Python 3.11) |
机器类型 | e2-standard-4 |
具体以实际推出情况为准。请参阅规范。 |
加速器 | 无 | 具体以实际推出情况为准。请参阅规范。 |
启动磁盘 | 100 GiB SSD 永久性磁盘 (pd-ssd ) |
100 GiB SSD 永久性磁盘 (pd-ssd ) |
数据磁盘 | 100 GiB 标准永久性磁盘 (pd-standard ) |
具体以实际推出情况为准。请参阅规范。 |
空闲机器关停 | 已启用,设置为 180 分钟 | 已启用,设置为 180 分钟 |
网络 | 项目的默认 Virtual Private Cloud 网络 | 项目的默认 Virtual Private Cloud 网络 |
公共互联网访问权限 | 已启用 | 已启用 |
最终用户凭据身份验证 | 已启用 | 已启用 |
自动删除 | 在创建 18 小时后自动删除 | 在创建 18 小时后自动删除 |
Python 版本
自 2025 年 5 月起,当 Colab Enterprise 创建默认运行时模板时,默认运行时模板会配置为使用最新版本的 Python(目前为 Python 3.11)。这意味着,当 Colab Enterprise 中推出新版本的 Python 时,从默认运行时模板创建的新运行时将使用最新的 Python 版本。
如果您的默认运行时模板是在 2025 年 5 月或之前创建的,则可能配置为使用 Python 3.10。如需更新默认运行时模板以使用最新的 Python 版本,您必须删除默认运行时模板。然后,当创建新的默认运行时模板时,该模板将配置为使用最新的 Python 版本。
如需更新您创建的运行时模板的 Python 版本,请参阅更改运行时模板的 Python 版本。
现有运行时的 Python 版本不会自动更改,即使 Colab Enterprise 中提供了新 Python 版本也是如此。不支持更改现有运行时的 Python 版本。 而是必须创建一个从使用所需 Python 版本的运行时模板派生的新运行时。
更改运行时模板的 Python 版本
如需更改运行时模板的 Python 版本,您可以使用 REST API。
在使用任何请求数据之前,请先进行以下替换:
REGION
:运行时模板所在的区域。PROJECT_ID
:您的项目 ID。NOTEBOOK_RUNTIME_TEMPLATE_ID
:运行时模板的 ID。RELEASE_NAME
:您要使用的映像的版本名称。 例如,py311
是 Python 3.11 映像的版本名称。如需将图片设置为Latest
,请将RELEASE_NAME
留空。
HTTP 方法和网址:
PATCH https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates/NOTEBOOK_RUNTIME_TEMPLATE_ID?updateMask=software_config.colab_image.release_name
请求 JSON 正文:
{ softwareConfig: { colabImage: { releaseName: "RELEASE_NAME" } } }
如需发送请求,请选择以下方式之一:
curl
将请求正文保存在名为 request.json
的文件中,然后执行以下命令:
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates/NOTEBOOK_RUNTIME_TEMPLATE_ID?updateMask=software_config.colab_image.release_name"
PowerShell
将请求正文保存在名为 request.json
的文件中,然后执行以下命令:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method PATCH `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates/NOTEBOOK_RUNTIME_TEMPLATE_ID?updateMask=software_config.colab_image.release_name" | Select-Object -Expand Content
如需了解详情,请参阅 notebookRuntimeTemplates.patch
REST API 文档。
运行时是区域性的
运行时因地区而异,并且必须与您的记事本位于同一区域。
运行时专属于用户
运行时专属于用户。您无法与他人共享自己的运行时,也无法使用他人的运行时。即使您与他人共享了笔记本,对方也无法访问您的运行时,并且必须在自己的运行时上运行该笔记本。
不过,用户可以根据相同的运行时模板创建自己的运行时。请参阅可与用户共享运行时模板。
管理运行时的文件
您可以使用 Colab Enterprise 中的
Files 按钮访问和修改运行时中的文件。您还可以将文件上传到运行时。删除运行时后,您上传的所有文件都会一并删除。如果您修改了文件,则在创建新的运行时时,这些文件将恢复为原始状态。请参阅“默认运行时规范”部分中的自动删除时间段。
运行时可供笔记本共享
您可以将多个笔记本连接到同一运行时,但不建议这样做。多个笔记本共享同一运行时可能会导致问题,包括:
由于这些笔记本会共享运行时的计算资源,因此可能会运行缓慢。
一个笔记本中的代码可能会影响另一个笔记本的运行时虚拟机的状态。例如,如果您在一个笔记本中安装了软件包的 1.3 版,但另一个笔记本需要 1.2 版,那么在运行第二个笔记本时,您可能会遇到版本不兼容的问题。
您可以根据相同的运行时模板为每个笔记本创建一个运行时,而不是在同一运行时上运行多个笔记本中的代码。请参阅您可以根据同一运行时模板创建多个运行时。
运行时费用
您需要按照所使用的机器类型和加速器支付运行时处理费用。您还需要为启动磁盘和数据磁盘存储空间支付费用。删除运行时后,启动磁盘和数据磁盘也会随之删除。
除了运行时模板中指定的数据磁盘外,运行时始终包含一个 100 GiB SSD 永久性磁盘。启动磁盘不可配置。
在运行时关闭期间:
- 由于没有任何 CPU 或 GPU 使用情况,因此系统不会产生计算费用。
- 启动磁盘和数据磁盘存储空间需付费。
如需了解详情,请参阅 Colab Enterprise 价格。
您可以根据同一运行时模板创建多个运行时
您可以根据单个非默认运行时模板创建多个运行时。这样,您就可以在具有相同配置的虚拟机上运行多个笔记本,而无需共享该虚拟机的资源。
运行时模板
本部分介绍了运行时模板的特性。
运行时模板因地区而异
运行时模板是区域性的。您创建的运行时与运行时模板位于同一区域,并且该运行时只能与该区域中的笔记本搭配使用。
可以与用户共享运行时模板
您可以与其他用户共享运行时模板。这样,每位用户都可以根据相同的运行时模板创建自己的运行时,因此多位用户可以在相同的虚拟机配置上运行相同的笔记本。
如需了解详情,请参阅管理对运行时模板的访问权限。
配置
运行时模板决定了运行时虚拟机的配置。您可以指定以下任一项:
区域
选择笔记本所在的区域。使用运行时模板创建的运行时位于与运行时模板相同的区域。为了让笔记本能够在运行时中运行代码,笔记本和运行时必须位于同一区域。
机器类型
您可以配置运行时模板的机器类型。如需了解机器类型,请参阅机器系列资源和比较指南。
数据磁盘
您可以在运行时模板中配置数据磁盘的磁盘类型和磁盘大小。
创建运行时时,其中还会包含一个启动磁盘。启动磁盘为 100 GB SSD 永久性磁盘,无法配置。
加速器
您可以将加速器添加到运行时模板配置中。加速器的可用性取决于机器类型和区域。
网络
指定您的网络或使用项目的默认虚拟私有云网络。
空闲机器关停
Colab Enterprise 默认启用空闲时关闭功能。此设置会在实例处于非活动状态 180 分钟后关闭实例。您可以更改关停前不活跃的分钟数,也可以停用空闲关停。
公共互联网访问权限
如需更好地控制记事本和其他资源的安全性,您可以关闭对公共互联网的访问权限。如果您以这种方式配置运行时模板,则使用从运行时模板创建的运行时的笔记本将无法访问公共互联网。
最终用户凭据身份验证
默认情况下,运行时模板使用最终用户凭据身份验证来向您的记事本授予对应用默认凭据 (ADC) 的访问权限。您可以使用对 ADC 的此访问权限,在笔记本中运行与 Vertex AI 和其他 Google Cloud 服务交互的代码。启用最终用户凭据后,您的笔记本会使用运行笔记本的用户的凭据来确定对资源的访问权限。 Google Cloud
如果未启用最终用户凭据,您可以通过笔记本的代码对用户进行身份验证,以便获得对 ADC 的访问权限。如需了解详情,请参阅为本地开发环境设置 ADC 中的“用户凭据”部分。
运行时模板费用
创建或存储运行时模板不会产生任何费用。另请参阅运行时费用。