Ajustar un modelo con tus datos

Consola

1. En la Google Cloud consola, ve a la página BigQuery.

   Ir a la página de BigQuery

2. En el panel Explorador, haz clic en el nombre de tu proyecto.

3. Haz clic en more_vert Ver acciones > Crear conjunto de datos.

4. En la página Crear conjunto de datos, haz lo siguiente:

   • En ID del conjunto de datos, escribe un nombre para el conjunto de datos.

   • En Tipo de ubicación, seleccione una ubicación para el conjunto de datos.

   • Haz clic en Crear conjunto de datos.

bq

1. Para crear un conjunto de datos, usa el comando bq mk con la marca --location:

   bq --location=LOCATION mk -d DATASET_ID

   Haz los cambios siguientes:

   • LOCATION: la ubicación del conjunto de datos.
   • DATASET_ID es el ID del conjunto de datos que vas a crear.

2. Confirma que se ha creado el conjunto de datos:

   bq ls

Consola

1. Ve a la página BigQuery.

   Ir a BigQuery

2. En el panel Explorador, haga clic en add Añadir datos:

   

   Se abrirá el cuadro de diálogo Añadir datos.

3. En el panel Filtrar por, en la sección Tipo de fuente de datos, selecciona Aplicaciones empresariales.

   También puede introducir Vertex AI en el campo Buscar fuentes de datos.

4. En la sección Fuentes de datos destacadas, haga clic en Vertex AI.

5. Haz clic en la tarjeta de solución Modelos de Vertex AI: federación de BigQuery.

6. En la lista Tipo de conexión, selecciona Modelos remotos, funciones remotas y BigLake (recurso de Cloud) de Vertex AI.

7. En el campo ID de conexión, introduce un nombre para la conexión.

8. Haga clic en Crear conexión.

9. Haz clic en Ir a la conexión.

10. En el panel Información de conexión, copia el ID de la cuenta de servicio para usarlo en un paso posterior.

bq

1. En un entorno de línea de comandos, crea una conexión:

   bq mk --connection --location=REGION --project_id=PROJECT_ID \
       --connection_type=CLOUD_RESOURCE CONNECTION_ID

   El parámetro --project_id anula el proyecto predeterminado.

   Haz los cambios siguientes:

   • REGION: tu región de conexión
   • PROJECT_ID: tu ID de proyecto Google Cloud
   • CONNECTION_ID: un ID para tu conexión

   Cuando creas un recurso de conexión, BigQuery crea una cuenta de servicio del sistema única y la asocia a la conexión.

   Solución de problemas: si aparece el siguiente error de conexión, actualiza el SDK de Google Cloud:

   Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
   

2. Obtén y copia el ID de la cuenta de servicio para usarlo en un paso posterior:

   bq show --connection PROJECT_ID.REGION.CONNECTION_ID

   El resultado debería ser similar al siguiente:

   name                          properties
   1234.REGION.CONNECTION_ID     {"serviceAccountId": "connection-1234-9u56h9@gcp-sa-bigquery-condel.iam.gserviceaccount.com"}
   

Terraform

Usa el recurso google_bigquery_connection.

Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta Configurar la autenticación para bibliotecas de cliente.

En el siguiente ejemplo se crea una conexión de recursos de Cloud llamada my_cloud_resource_connection en la región US:

# This queries the provider for project information.
data "google_project" "default" {}

# This creates a cloud resource connection in the US region named my_cloud_resource_connection.
# Note: The cloud resource nested object has only one output field - serviceAccountId.
resource "google_bigquery_connection" "default" {
  connection_id = "my_cloud_resource_connection"
  project       = data.google_project.default.project_id
  location      = "US"
  cloud_resource {}
}

Para aplicar la configuración de Terraform en un proyecto, sigue los pasos que se indican en las siguientes secciones. Google Cloud

Preparar Cloud Shell

1. Abre Cloud Shell.

2. Define el Google Cloud proyecto Google Cloud predeterminado en el que quieras aplicar tus configuraciones de Terraform.

   Solo tiene que ejecutar este comando una vez por proyecto y puede hacerlo en cualquier directorio.

   export GOOGLE_CLOUD_PROJECT=PROJECT_ID

   Las variables de entorno se anulan si defines valores explícitos en el archivo de configuración de Terraform.

Preparar el directorio

Cada archivo de configuración de Terraform debe tener su propio directorio (también llamado módulo raíz).

1. En Cloud Shell, crea un directorio y un archivo nuevo en ese directorio. El nombre del archivo debe tener la extensión .tf. Por ejemplo, main.tf. En este tutorial, nos referiremos al archivo como main.tf.

   mkdir DIRECTORY && cd DIRECTORY && touch main.tf

2. Si estás siguiendo un tutorial, puedes copiar el código de ejemplo de cada sección o paso.

   Copia el código de ejemplo en el archivo main.tf que acabas de crear.

   También puedes copiar el código de GitHub. Se recomienda cuando el fragmento de Terraform forma parte de una solución integral.

3. Revisa y modifica los parámetros de ejemplo para aplicarlos a tu entorno.
4. Guarda los cambios.
5. Inicializa Terraform. Solo tienes que hacerlo una vez por directorio.

   terraform init

   Si quieres usar la versión más reciente del proveedor de Google, incluye la opción -upgrade:

   terraform init -upgrade

Aplica los cambios

1. Revisa la configuración y comprueba que los recursos que va a crear o actualizar Terraform se ajustan a tus expectativas:

   terraform plan

   Haga las correcciones necesarias en la configuración.

2. Aplica la configuración de Terraform ejecutando el siguiente comando e introduciendo yes en la petición:

   terraform apply

   Espera hasta que Terraform muestre el mensaje "Apply complete!".

3. Abre tu Google Cloud proyecto para ver los resultados. En la Google Cloud consola, ve a tus recursos en la interfaz de usuario para asegurarte de que Terraform los ha creado o actualizado.

Consola

1. Ve a la página IAM y administración.

   Ir a IAM y administración

2. Haz clic en person_add Conceder acceso.

3. En Principales nuevas, introduce el ID de la cuenta de servicio que has copiado anteriormente.

4. Haz clic en Seleccionar un rol.

5. En Filtro, escribe Vertex AI Service Agent y, a continuación, selecciona ese rol.

6. Haz clic en Guardar.

gcloud

Usa el comando gcloud projects add-iam-policy-binding:

gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/aiplatform.serviceAgent' --condition=None

Haz los cambios siguientes:

• PROJECT_NUMBER: tu número de proyecto.
• MEMBER: el ID de la cuenta de servicio que has copiado anteriormente.

Columna de petición

Genera texto usando una columna de una tabla para proporcionar la petición.

SELECT *
FROM ML.GENERATE_TEXT(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  TABLE PROJECT_ID.DATASET_ID.TABLE_NAME,
  STRUCT(TOKENS AS max_output_tokens, TEMPERATURE AS temperature,
  TOP_P AS top_p, FLATTEN_JSON AS flatten_json_output,
  STOP_SEQUENCES AS stop_sequences)
);

Haz los cambios siguientes:

• PROJECT_ID: tu ID de proyecto.
• DATASET_ID: el ID del conjunto de datos que contiene el modelo.
• MODEL_NAME: el nombre del modelo.
• TABLE_NAME: el nombre de la tabla que contiene la petición. Esta tabla debe tener una columna cuyo nombre coincida con el nombre de la columna de características del modelo optimizado. El nombre de la columna de características del modelo se puede definir mediante la opción PROMPT_COL al crear el modelo. De lo contrario, el nombre de la columna de características del modelo es prompt de forma predeterminada, o bien puedes usar un alias para usar una columna con otro nombre.
• TOKENS: un valor INT64 que define el número máximo de tokens que se pueden generar en la respuesta. Este valor debe estar en el intervalo [1,8192]. Especifica un valor inferior para las respuestas más cortas y un valor superior para las respuestas más largas. El valor predeterminado es 128.
• TEMPERATURE: un valor FLOAT64 en el intervalo [0.0,1.0] que controla el grado de aleatoriedad en la selección de tokens. El valor predeterminado es 0.

  Los valores más bajos de temperature son adecuados para las peticiones que requieren una respuesta más determinista y menos abierta o creativa, mientras que los valores más altos de temperature pueden dar lugar a resultados más diversos o creativos. El valor de 0 para temperature es determinista, lo que significa que siempre se selecciona la respuesta con la probabilidad más alta.

• TOP_P: un valor FLOAT64 en el intervalo [0.0,1.0] ayuda a determinar la probabilidad de los tokens seleccionados. Especifica un valor más bajo para obtener respuestas menos aleatorias y un valor más alto para obtener respuestas más aleatorias. El valor predeterminado es 0.95.
• FLATTEN_JSON: valor BOOL que determina si se deben devolver el texto generado y los atributos de seguridad en columnas independientes. El valor predeterminado es FALSE.
• STOP_SEQUENCES: un valor ARRAY<STRING> que elimina las cadenas especificadas si se incluyen en las respuestas del modelo. Las cadenas deben coincidir exactamente, incluidas las mayúsculas y las minúsculas. El valor predeterminado es un array vacío.
• GROUND_WITH_GOOGLE_SEARCH: un valor BOOL que determina si el modelo de Vertex AI usa Grounding con la Búsqueda de Google al generar respuestas. La fundamentación permite que el modelo use información adicional de Internet al generar una respuesta para que las respuestas del modelo sean más específicas y factuales. Si tanto flatten_json_output como este campo tienen el valor True, se incluye una columna ml_generate_text_grounding_result adicional en los resultados, que proporciona las fuentes que ha usado el modelo para obtener información adicional. El valor predeterminado es FALSE.
• SAFETY_SETTINGS: valor ARRAY<STRUCT<STRING AS category, STRING AS threshold>> que configura los umbrales de seguridad del contenido para filtrar las respuestas. El primer elemento de la estructura especifica una categoría de contenido dañino y el segundo elemento especifica un umbral de bloqueo correspondiente. El modelo filtra el contenido que infringe estos ajustes. Solo puedes especificar cada categoría una vez. Por ejemplo, no puedes especificar STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category, 'BLOCK_MEDIUM_AND_ABOVE' AS threshold) y STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category, 'BLOCK_ONLY_HIGH' AS threshold). Si no hay ningún ajuste de seguridad para una categoría determinada, se utiliza el ajuste de seguridad BLOCK_MEDIUM_AND_ABOVE.

  Las categorías admitidas son las siguientes:

  • HARM_CATEGORY_HATE_SPEECH
  • HARM_CATEGORY_DANGEROUS_CONTENT
  • HARM_CATEGORY_HARASSMENT
  • HARM_CATEGORY_SEXUALLY_EXPLICIT

  Los umbrales admitidos son los siguientes:

  • BLOCK_NONE (Restringido)
  • BLOCK_LOW_AND_ABOVE
  • BLOCK_MEDIUM_AND_ABOVE (predeterminado)
  • BLOCK_ONLY_HIGH
  • HARM_BLOCK_THRESHOLD_UNSPECIFIED

  Para obtener más información, consulta la definición de categoría de seguridad y umbral de bloqueo.

• REQUEST_TYPE: un valor STRING que especifica el tipo de solicitud de inferencia que se enviará al modelo de Gemini. El tipo de solicitud determina qué cuota usa la solicitud. Estos son los valores válidos:
  • DEDICATED: la función ML.GENERATE_TEXT solo usa la cuota de rendimiento aprovisionado. La función ML.GENERATE_TEXT devuelve el error Provisioned throughput is not purchased or is not active si no hay cuota de capacidad de procesamiento aprovisionada disponible.
  • SHARED: La función ML.GENERATE_TEXT solo usa la cuota compartida dinámica (DSQ), aunque hayas comprado cuota de rendimiento aprovisionado.
  • UNSPECIFIED: La función ML.GENERATE_TEXT usa la cuota de la siguiente manera:
    • Si no has comprado cuota de rendimiento aprovisionado, la función ML.GENERATE_TEXT usa la cuota de DSQ.
    • Si has comprado cuota de capacidad de procesamiento aprovisionada, la función ML.GENERATE_TEXT usará primero esa cuota. Si las solicitudes superan la cuota de capacidad de procesamiento aprovisionada, el tráfico de desbordamiento utiliza la cuota de DSQ.

  El valor predeterminado es UNSPECIFIED.

  Para obtener más información, consulta Usar el rendimiento aprovisionado de Vertex AI.

  En el ejemplo siguiente se muestra una solicitud con estas características:

  • Usa la columna prompt de la tabla prompts para la petición.
  • Devuelve una respuesta breve y moderadamente probable.
  • Devuelve el texto generado y los atributos de seguridad en columnas independientes.

  SELECT *
  FROM
    ML.GENERATE_TEXT(
      MODEL `mydataset.mymodel`,
      TABLE mydataset.prompts,
      STRUCT(
        0.4 AS temperature, 100 AS max_output_tokens, 0.5 AS top_p,
        TRUE AS flatten_json_output));

Consulta de petición

Genera texto mediante una consulta para proporcionar la petición.

SELECT *
FROM ML.GENERATE_TEXT(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  (PROMPT_QUERY),
  STRUCT(TOKENS AS max_output_tokens, TEMPERATURE AS temperature,
  TOP_P AS top_p, FLATTEN_JSON AS flatten_json_output,
  STOP_SEQUENCES AS stop_sequences)
);

Haz los cambios siguientes:

• PROJECT_ID: tu ID de proyecto.
• DATASET_ID: el ID del conjunto de datos que contiene el modelo.
• MODEL_NAME: el nombre del modelo.
• PROMPT_QUERY: una consulta que proporciona los datos de la petición.
• TOKENS: un valor INT64 que define el número máximo de tokens que se pueden generar en la respuesta. Este valor debe estar en el intervalo [1,8192]. Especifica un valor inferior para las respuestas más cortas y un valor superior para las respuestas más largas. El valor predeterminado es 128.
• TEMPERATURE: un valor FLOAT64 en el intervalo [0.0,1.0] que controla el grado de aleatoriedad en la selección de tokens. El valor predeterminado es 0.

  Los valores más bajos de temperature son adecuados para las peticiones que requieren una respuesta más determinista y menos abierta o creativa, mientras que los valores más altos de temperature pueden dar lugar a resultados más diversos o creativos. El valor de 0 para temperature es determinista, lo que significa que siempre se selecciona la respuesta con la probabilidad más alta.

• TOP_P: un valor FLOAT64 en el intervalo [0.0,1.0] ayuda a determinar la probabilidad de los tokens seleccionados. Especifica un valor más bajo para obtener respuestas menos aleatorias y un valor más alto para obtener respuestas más aleatorias. El valor predeterminado es 0.95.
• FLATTEN_JSON: valor BOOL que determina si se deben devolver el texto generado y los atributos de seguridad en columnas independientes. El valor predeterminado es FALSE.
• STOP_SEQUENCES: un valor ARRAY<STRING> que elimina las cadenas especificadas si se incluyen en las respuestas del modelo. Las cadenas deben coincidir exactamente, incluidas las mayúsculas y las minúsculas. El valor predeterminado es un array vacío.
• GROUND_WITH_GOOGLE_SEARCH: un valor BOOL que determina si el modelo de Vertex AI usa Grounding con la Búsqueda de Google al generar respuestas. La fundamentación permite que el modelo use información adicional de Internet al generar una respuesta para que las respuestas del modelo sean más específicas y factuales. Si tanto flatten_json_output como este campo tienen el valor True, se incluye una columna ml_generate_text_grounding_result adicional en los resultados, que proporciona las fuentes que ha usado el modelo para obtener información adicional. El valor predeterminado es FALSE.
• SAFETY_SETTINGS: valor ARRAY<STRUCT<STRING AS category, STRING AS threshold>> que configura los umbrales de seguridad del contenido para filtrar las respuestas. El primer elemento de la estructura especifica una categoría de contenido dañino y el segundo elemento especifica un umbral de bloqueo correspondiente. El modelo filtra el contenido que infringe estos ajustes. Solo puedes especificar cada categoría una vez. Por ejemplo, no puedes especificar STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category, 'BLOCK_MEDIUM_AND_ABOVE' AS threshold) y STRUCT('HARM_CATEGORY_DANGEROUS_CONTENT' AS category, 'BLOCK_ONLY_HIGH' AS threshold). Si no hay ningún ajuste de seguridad para una categoría determinada, se utiliza el ajuste de seguridad BLOCK_MEDIUM_AND_ABOVE.

  Las categorías admitidas son las siguientes:

  • HARM_CATEGORY_HATE_SPEECH
  • HARM_CATEGORY_DANGEROUS_CONTENT
  • HARM_CATEGORY_HARASSMENT
  • HARM_CATEGORY_SEXUALLY_EXPLICIT

  Los umbrales admitidos son los siguientes:

  • BLOCK_NONE (Restringido)
  • BLOCK_LOW_AND_ABOVE
  • BLOCK_MEDIUM_AND_ABOVE (predeterminado)
  • BLOCK_ONLY_HIGH
  • HARM_BLOCK_THRESHOLD_UNSPECIFIED

  Para obtener más información, consulta la definición de categoría de seguridad y umbral de bloqueo.

• REQUEST_TYPE: un valor STRING que especifica el tipo de solicitud de inferencia que se enviará al modelo de Gemini. El tipo de solicitud determina qué cuota usa la solicitud. Estos son los valores válidos:
  • DEDICATED: la función ML.GENERATE_TEXT solo usa la cuota de rendimiento aprovisionado. La función ML.GENERATE_TEXT devuelve el error Provisioned throughput is not purchased or is not active si no hay cuota de capacidad de procesamiento aprovisionada disponible.
  • SHARED: La función ML.GENERATE_TEXT solo usa la cuota compartida dinámica (DSQ), aunque hayas comprado cuota de rendimiento aprovisionado.
  • UNSPECIFIED: La función ML.GENERATE_TEXT usa la cuota de la siguiente manera:
    • Si no has comprado cuota de rendimiento aprovisionado, la función ML.GENERATE_TEXT usa la cuota de DSQ.
    • Si has comprado cuota de capacidad de procesamiento aprovisionada, la función ML.GENERATE_TEXT usará primero esa cuota. Si las solicitudes superan la cuota de capacidad de procesamiento aprovisionada, el tráfico de desbordamiento utiliza la cuota de DSQ.

  El valor predeterminado es UNSPECIFIED.

  Para obtener más información, consulta Usar el rendimiento aprovisionado de Vertex AI.

  Ejemplo 1

  En el ejemplo siguiente se muestra una solicitud con estas características:

  • Pide un resumen del texto de la columna body de la tabla articles.
  • Devuelve una respuesta moderadamente larga y más probable.
  • Devuelve el texto generado y los atributos de seguridad en columnas independientes.

  SELECT *
  FROM
    ML.GENERATE_TEXT(
      MODEL `mydataset.mymodel`,
      (
        SELECT CONCAT('Summarize this text', body) AS prompt
        FROM mydataset.articles
      ),
      STRUCT(
        0.2 AS temperature, 650 AS max_output_tokens, 0.2 AS top_p,
        TRUE AS flatten_json_output));

  Ejemplo 2

  En el ejemplo siguiente se muestra una solicitud con estas características:

  • Usa una consulta para crear los datos de la petición concatenando cadenas que proporcionan prefijos de la petición con columnas de la tabla.
  • Devuelve una respuesta breve y moderadamente probable.
  • No devuelve el texto generado ni los atributos de seguridad en columnas independientes.

  SELECT *
  FROM
    ML.GENERATE_TEXT(
      MODEL `mydataset.mytuned_model`,
      (
        SELECT CONCAT(question, 'Text:', description, 'Category') AS prompt
        FROM mydataset.input_table
      ),
      STRUCT(
        0.4 AS temperature, 100 AS max_output_tokens, 0.5 AS top_p,
        FALSE AS flatten_json_output));