Otimizar comandos

O otimizador de comandos da Vertex AI ajuda você a melhorar a performance dos comandos refinando automaticamente as instruções do sistema para um conjunto de comandos. Usar o otimizador de comandos ajuda a melhorar os comandos em grande escala sem reescrita manual, o que é útil ao adaptar comandos de um modelo para outro.

Esta página compara as duas abordagens de otimização de comandos e lista os modelos compatíveis com cada método.

Comparar abordagens de otimização de comandos

A Vertex AI oferece duas abordagens para otimizar comandos: o otimizador de aprendizado sem exemplos e o otimizador orientado por dados. É possível usar os dois métodos pelo console do Google Cloud ou pelo SDK da Vertex AI.

A tabela a seguir mostra uma comparação de alto nível dessas abordagens.

Opção Descrição Prós Contras Caso de uso
Otimizador zero-shot Um otimizador em tempo real e de baixa latência que melhora um único modelo de comando ou instrução do sistema. É rápido e não exige configuração adicional. Menos configurável; otimiza um único comando por vez. Melhorar comandos individuais ou instruções do sistema.
Otimizador com base em dados Um otimizador iterativo em lote no nível da tarefa que usa dados rotulados e métricas de avaliação. Altamente configurável e permite uma otimização mais avançada. Requer dados rotulados e mais configuração; processo em lote mais lento. Otimização avançada para tarefas específicas em que o desempenho pode ser medido em relação a um conjunto de dados.

Importante: o recurso Otimizador de comandos está disponível para todos. No entanto, a biblioteca do SDK do Prompt Optimizer é experimental e está sujeita a mudanças sem aviso prévio. Você pode encontrar bugs ou mudanças nas APIs e funcionalidades.

Modelos de destino compatíveis para otimização

O otimizador zero-shot é independente do modelo e pode melhorar os comandos para qualquer modelo do Google.

O otimizador com base em dados oferece suporte à otimização para modelos do Gemini em disponibilidade geral.

A seguir