Glossário de IA generativa

  • agente
    • No contexto da IA generativa, um agente é um software que planeja e executa de maneira autônoma uma série de ações em busca de um objetivo, possivelmente em situações novas. Os agentes podem ser usados em várias aplicações, como processamento de linguagem natural, machine learning e robótica. Por exemplo, um agente LLM usa um modelo de linguagem para avaliar o ambiente e escolher uma ação para ajudá-lo a atingir seu objetivo. Agentes LLM podem ser usados para gerar texto, traduzir idiomas e responder a perguntas.
  • Endpoint da API
    • Os endpoints de API são um aspecto de configuração de serviço que especifica os endereços de rede, também conhecidos como endpoints de serviço (por exemplo, aiplatform.googleapis.com).
  • Application Default Credentials (ADC)
    • O Application Default Credentials (ADC) oferece uma maneira simples de receber credenciais de autorização para usar na chamada das APIs do Google. Elas são mais adequadas para casos em que a chamada precisa ter o mesmo nível de identidade e autorização para o aplicativo, independentemente do usuário. Essa é a abordagem recomendada para autorizar chamadas às APIs do Google Cloud, principalmente ao criar um aplicativo implantado no Google App Engine (GAE) ou em máquinas virtuais do Compute Engine. Para mais informações, consulte Como o Application Default Credentials funciona.
  • Vizinho mais próximo aproximado (ANN, na sigla em inglês)
    • O serviço do vizinho mais próximo aproximado (ANN, na sigla em inglês) é uma solução de alta escala e baixa latência para encontrar vetores semelhantes (ou, mais especificamente, "embeddings") para um corpus grande. Para mais informações, consulte Como usar a pesquisa de vetor para correspondência semântica.
  • artifact
    • Um artefato é uma entidade distinta ou parte dos dados produzidos e consumidos por um fluxo de trabalho de machine learning. Exemplos de artefatos incluem conjuntos de dados, modelos, arquivos de entrada e registros de treinamento.
  • Artifact Registry
    • O Artifact Registry é um serviço universal de gerenciamento de artefatos. É o serviço recomendado para gerenciar contêineres e outros artefatos no Google Cloud. Para saber mais, consulte Artifact Registry.
  • Inteligência artificial (IA)
    • A inteligência artificial (IA) é o estudo e o design de máquinas que parecem ser "inteligentes", ou seja, que imitam funções humanas ou intelectuais, como movimento mecânico, raciocínio ou resolução de problemas. Um dos subcampos mais conhecidos da IA é o machine learning, que usa uma abordagem estatística e baseada em dados para criar IA. No entanto, algumas pessoas usam esses dois termos de forma intercambiável.
  • Realidade aumentada (RA)
    • Combinação de conteúdo digital renderizado com conteúdo do mundo real, seja por meio de uma tela, como em um smartphone, ou como uma sobreposição do mundo visto por lentes como óculos. O conteúdo digital deve ser rastreado pelo movimento da câmera ou dos óculos (dependendo de como a cena é renderizada) para que pareça parte do mundo real.
  • authentication
    • O processo de verificação da identidade de um cliente (que pode ser um usuário ou outro processo) para ter acesso a um sistema protegido. Um cliente que provou sua identidade é considerado autenticado. Para mais informações, consulte Métodos de autenticação no Google.
  • Lado a lado automático (AutoSxS)
    • AutoSxS é uma ferramenta de avaliação assistida por modelo que compara dois modelos de linguagem grandes (LLMs) lado a lado. Ela pode ser usada para avaliar o desempenho de modelos de IA generativa no Vertex AI Model Registry ou de previsões pré-geradas. O AutoSxS usa um avaliador automático para decidir qual modelo dá a melhor resposta a um comando. O AutoSxS está disponível on demand e avalia modelos de linguagem com desempenho comparável aos avaliadores humanos.
  • Reconhecimento de fala automático (ASR,Speech-to-Text)
    • Transcrição automática do idioma falado (fala) em texto.
  • AutoML
    • Algoritmos de machine learning que "aprendem" por meio da otimização de caixa preta. Para mais informações, consulte Glossário de ML.
  • autorater
    • Um avaliador automático é um modelo de linguagem que avalia a qualidade das respostas do modelo com base em um comando de inferência original. Ela é usada no pipeline do AutoSxS para comparar as previsões de dois modelos e determinar qual deles teve o melhor desempenho. Para mais informações, consulte O autor da avaliação.
  • valor de referência
    • Um modelo usado como ponto de referência para comparar o desempenho de outro modelo (normalmente, um mais complexo). Por exemplo, um modelo de regressão logística pode servir como um bom valor de referência para um modelo profundo. Para um problema específico, o valor de referência ajuda os desenvolvedores de modelos a quantificar o desempenho mínimo esperado que um novo modelo precisa alcançar para que ele seja útil. Para mais informações, consulte Conjuntos de dados de referência e de destino.
  • lote
    • O conjunto de exemplos usado em uma iteração de treinamento. O tamanho do lote determina o número de exemplos em um lote.
  • tamanho do lote
    • O número de exemplos em um lote. Por exemplo, o tamanho do lote de SGD é 1, enquanto o tamanho do minilote geralmente fica entre 10 e 1.000. O tamanho do lote geralmente é fixo durante o treinamento e a inferência. No entanto, o TensorFlow permite tamanhos de lote dinâmicos.
  • previsão em lote
  • viés
    • 1. Estereótipos, preconceito ou favoritismo em relação a algumas coisas, pessoas ou grupos em detrimento de outras. Esses vieses podem afetar a coleta e a interpretação de dados, o design de um sistema e como os usuários interagem com ele. 2. Erro sistemático causado por um procedimento de amostragem ou relatório.
  • bidrecional
    • Um termo usado para descrever um sistema que avalia o texto que precede e segue uma seção de destino do texto. Por outro lado, um sistema unidirecional avalia apenas o texto que precede uma seção de destino.
  • Representações de codificador bidirecional de transformadores (BERT, na sigla em inglês)
    • O BERT é um método de representações de linguagem pré-treinamento, o que significa que treinamos um modelo de "compreensão de linguagem" de uso geral em um grande corpus de texto (como a Wikipédia) e, em seguida, usamos esse modelo para tarefas de PLN relevantes (como responder perguntas). O BERT supera os métodos anteriores porque é o primeiro sistema não supervisionado e profundamente bidirecional para o PLN pré-treinamento.
  • Subestudo de avaliação bilíngue (BLEU)
    • É uma medida comum para avaliar a qualidade de um algoritmo de tradução automática comparando seu resultado com o de uma ou mais traduções humanas.
  • impulsionando
    • No treinamento de modelos, a otimização se refere a técnicas de aumento de dados usadas para aumentar o tamanho e a diversidade dos conjuntos de dados de treinamento. Isso é feito transformando exemplos atuais para criar exemplos adicionais e variados, o que pode melhorar o desempenho do modelo, especialmente quando o conjunto de dados original é limitado.
  • caixa delimitadora
    • Uma caixa delimitadora para um objeto no frame de vídeo pode ser especificada de duas maneiras: (i) usando dois vértices que consistem em um conjunto de coordenadas x,y se eles forem pontos diagonalmente opostos do retângulo. Por exemplo: x_relative_min, y_relative_min,,,x_relative_max,y_relative_max,, (ii) usar todos os quatro vértices. Para mais informações, consulte Preparar dados do vídeo.
  • bucket
    • Pasta de nível superior do Cloud Storage. Os nomes dos buckets precisam ser exclusivos para todos os usuários do Cloud Storage. Os buckets contêm arquivos. Para mais informações, consulte Visão geral do produto do Cloud Storage.
  • Cadeia de pensamento
    • Na IA generativa, a Cadeia de Pensamento (CoT) é uma técnica de comando que incentiva o modelo de linguagem grande (LLM) a detalhar explicitamente o processo de raciocínio antes de chegar a uma conclusão. Isso envolve fazer com que o modelo mostre as etapas intermediárias necessárias para resolver um problema, em vez de apenas fornecer a resposta final. Esse método pode melhorar significativamente o desempenho do LLM em tarefas de raciocínio complexas.
  • conversar
    • O conteúdo de uma conversa com um sistema de ML, normalmente um modelo de linguagem grande. A interação anterior em um chat (o que você digitou e como o modelo de linguagem grande respondeu) se torna o contexto para as próximas partes da conversa. Um chatbot é um aplicativo de um modelo de linguagem grande.
  • checkpoint
    • Dados que capturam o estado dos parâmetros de um modelo durante ou após a conclusão do treinamento. Por exemplo, durante o treinamento, você pode: 1. Pare o treinamento, talvez intencionalmente ou como resultado de certos erros. 2. Capture o checkpoint. 3. Mais tarde, recarregue o checkpoint, possivelmente em um hardware diferente. 4. Reinicie o treinamento. No Gemini, um checkpoint se refere a uma versão específica de um modelo Gemini treinado em um conjunto de dados específico.
  • modelo de classificação
    • Um modelo cuja previsão é uma classe. Por exemplo, todos os modelos de classificação a seguir são: um modelo que prevê o idioma de uma frase de entrada (francês? Espanhol? italiano?). Um modelo que prevê espécies de árvores (Maple? Carvalho? Baobá?). Um modelo que prevê a classe positiva ou negativa para uma condição médica específica.
  • métricas de classificação
    • As métricas de classificação suportadas no SDK da Vertex AI para Python são a matriz de confusão e a curva ROC.
  • Cloud TPU
    • Um acelerador de hardware especializado projetado para acelerar as cargas de trabalho de machine learning no Google Cloud.
  • clustering
    • No contexto da IA generativa, clustering é uma técnica de machine learning não supervisionada usada para agrupar pontos de dados semelhantes com base nas características deles. Isso é feito definindo uma medida de similaridade (ou métrica) para comparar pontos de dados e agrupando aqueles com alta semelhança no mesmo cluster. Em aplicativos de IA generativa, isso pode envolver embeddings de clustering (representações numéricas de texto, imagens ou outros dados) para realizar tarefas como pesquisa, classificação ou detecção de outliers. Por exemplo, a segmentação de clientes pode ser alcançada agrupando os dados dos clientes para identificar grupos com comportamentos ou características semelhantes. Para mais informações, consulte O que é clustering?.
  • imagem do contêiner
    • Uma imagem de contêiner é um pacote que inclui o código executável do componente e uma definição do ambiente em que o código é executado. Para mais informações, consulte Visão geral do treinamento personalizado.
  • context
    • Um contexto é usado para agrupar artefatos e execuções em uma única categoria, que pode ser consultada e digitada. Os contextos podem ser usados para representar conjuntos de metadados. Um exemplo de contexto seria uma execução de um pipeline de machine learning.
  • cache de contexto
    • Um cache de contexto na Vertex AI é uma grande quantidade de dados que pode ser usada em várias solicitações para um modelo do Gemini. O conteúdo em cache é armazenado na região onde é feita a solicitação para criar o cache. Ele pode ser qualquer tipo MIME compatível com os modelos multimodais do Gemini, como texto, áudio ou vídeo. Para mais informações, consulte Visão geral do armazenamento em cache de contexto.
  • janela de contexto
    • O número de tokens que um modelo pode processar em um determinado comando. Quanto maior a janela de contexto, mais informações o modelo pode usar para dar respostas coerentes e consistentes ao comando.
  • Chaves de criptografia gerenciadas pelo cliente (CMEK, na sigla em inglês)
    • Chaves de criptografia gerenciadas pelo cliente (CMEK, na sigla em inglês) são integrações que permitem aos clientes criptografar dados em serviços atuais do Google usando uma chave que eles gerenciam no Cloud KMS (também conhecido como Storky). No Cloud KMS, a chave de criptografia de dados protege os dados. Para mais informações, consulte Chaves de criptografia gerenciadas pelo cliente (CMEK).
  • análise de dados
    • Compreender os dados considerando amostras, medição e visualização. A análise de dados pode ser particularmente útil quando um conjunto de dados é recebido pela primeira vez, antes da criação do primeiro modelo. Ele também é crucial para entender os experimentos e depurar problemas no sistema.
  • aumento de dados
    • aumentar artificialmente o intervalo e o número de exemplos de treinamento, transformando os exemplos atuais para criar outros; Por exemplo, suponha que as imagens sejam um dos seus atributos, mas o conjunto de dados não contenha exemplos de imagens suficientes para que o modelo aprenda associações úteis. O ideal é adicionar imagens rotuladas suficientes ao conjunto de dados para que o modelo seja treinado adequadamente. Se isso não for possível, o aumento de dados pode girar, esticar e refletir cada imagem para produzir muitas variantes da imagem original, possivelmente produzindo dados rotulados suficientes para permitir um treinamento excelente.
  • DataFrame
    • Um tipo de dados popular do Pandas para representar conjuntos de dados na memória. Um DataFrame é análogo a uma tabela ou planilha. Cada coluna de um DataFrame tem um nome (um cabeçalho) e cada linha é identificada por um número exclusivo. Cada coluna em um DataFrame é estruturada como uma matriz 2D, exceto que cada coluna pode receber o próprio tipo de dados.
  • indexação de dados
    • No contexto da IA generativa, a indexação de dados é o processo de estruturação e organização de uma base de conhecimento para otimizar a pesquisa e a recuperação. Isso envolve a criação de um índice, geralmente chamado de corpus, que permite uma pesquisa eficiente dos dados. O processo é separado da criação do corpus, e os dados indexados podem ser usados para enriquecer o contexto dos modelos de linguagem grandes (LLMs), reduzindo alucinações e melhorando a precisão das respostas. Por exemplo, no contexto de um site, a indexação de dados pode envolver a adição de metadados como datePublished e dateModified para melhorar a funcionalidade de pesquisa. Existem métodos diferentes para a indexação de dados, incluindo o uso da pesquisa vetorial para pesquisas de similaridade em aplicativos, como a recuperação de informações relevantes para LLMs no momento da consulta. Para mais informações, consulte Visão geral do mecanismo RAG .
  • ingestão de dados
    • A ingestão de dados é o processo de extrair dados de várias fontes e integrá-los em um local central para processamento e análise adicionais. No contexto da IA generativa, a ingestão de dados envolve a extração de informações de diferentes fontes, como formulários clínicos, prontuários ou texto não estruturado, para treinar e ajustar modelos de IA generativa. Os dados ingeridos normalmente são processados e transformados para garantir a qualidade e a consistência antes de serem usados para treinar os modelos de IA generativa. Esse processo pode envolver limpeza de dados, engenharia de atributos e técnicas de aumento de dados para melhorar o desempenho e os recursos de generalização do modelo. Para mais informações, consulte Usar a IA generativa para gerenciar a utilização.
  • paralelismo de dados
    • uma maneira de escalonar treinamento ou inferência que replica um modelo inteiro em vários dispositivos e transmite um subconjunto dos dados de entrada para cada dispositivo. O paralelismo de dados pode permitir treinamento e inferência em lotes muito grandes. No entanto, ele exige que o modelo seja pequeno o suficiente para caber em todos os dispositivos. O paralelismo de dados normalmente acelera o treinamento e a inferência.
  • conjunto de dados (conjunto de dados)
    • Um conjunto de dados é amplamente definido como uma coleção de registros de dados estruturados ou não estruturados. Uma coleção de dados brutos, geralmente (mas não exclusivamente) organizados em um dos seguintes formatos: uma planilha e um arquivo em formato CSV (valores separados por vírgula). Para mais informações, consulte Criar um conjunto de dados
  • transformação de dados
    • No contexto da geração aumentada de recuperação (RAG), a transformação de dados se refere à conversão de dados em um formato adequado para indexação e processamento por um LLM. Isso geralmente envolve dividir os dados em blocos menores para torná-los gerenciáveis para incorporação e indexação. Outras transformações podem incluir etapas de limpeza e validação para garantir a qualidade dos dados. Para mais informações, consulte Visão geral do mecanismo RAG.
  • decodificador
    • Em geral, qualquer sistema de ML que converte uma representação processada, densa ou interna para uma representação mais bruta, esparsa ou externa. Decodificadores são frequentemente um componente de um modelo maior, em que frequentemente são pareados com um codificador. Em tarefas sequência para sequência, um decodificador começa com o estado interno gerado pelo codificador para prever a próxima sequência.
  • rede neural profunda (DNN)
    • Uma rede neural com várias camadas escondidas, normalmente programada por meio de técnicas de aprendizado profundo.
  • profundidade
    • A soma dos seguintes itens em uma rede neural: 1. o número de camadas escondidas 2. o número de camadas de saída, que normalmente é um 3. o número de todas as camadas de embedding. Por exemplo, uma rede neural com cinco camadas escondidas e uma camada final tem profundidade de 6. A camada de entrada não influencia a profundidade.
  • DevOps
    • O DevOps é um pacote de produtos do Google Cloud Platform, como o Artifact Registry e o Cloud Deploy.
  • parada antecipada
    • Um método de regularização que envolve o encerramento do treinamento antes que a perda do treinamento termine de diminuir. Na parada antecipada, você para intencionalmente o treinamento do modelo quando a perda em um conjunto de dados de validação começa a aumentar, ou seja, quando o desempenho da generalização piora.
  • embedding
    • Representações numéricas de palavras ou trechos de texto. Esses números capturam o significado semântico e o contexto do texto. Palavras ou textos semelhantes ou relacionados tendem a ter embeddings semelhantes, o que significa que estão mais próximos no espaço vetorial de alta dimensão.
  • espaço de embedding (espaço latente)
    • Na IA generativa, o espaço de embedding se refere a uma representação numérica de textos, imagens ou vídeos que captura as relações entre entradas. Os modelos de machine learning, principalmente de IA generativa, são capazes de criar esses embeddings identificando padrões em grandes conjuntos de dados. Os aplicativos podem utilizar embeddings para processar e gerar linguagem, reconhecendo significados complexos e relações semânticas específicas do conteúdo.
  • vetor de embedding
    • É uma representação vetorial densa e geralmente de baixa dimensão de um item de modo que, se dois itens forem semanticamente semelhantes, os respectivos embeddings ficam próximos um do outro no espaço vetorial de embedding.
  • codificador
    • Em geral, qualquer sistema de ML que converte uma representação bruta, esparsa ou externa em uma representação mais processada, densa ou interna. Codificadores são frequentemente um componente de um modelo maior, em que frequentemente são pareados com um decodificador. Alguns transformadores fazem o pareamento de codificadores com decodificadores, enquanto outros transformadores usam apenas o codificador ou apenas o decodificador. Alguns sistemas usam a saída do codificador como entrada para uma rede de classificação ou regressão. Em tarefas sequência para sequência, um codificador usa uma sequência de entrada e retorna um estado interno (um vetor). Depois, o decodificador usa esse estado interno para prever a próxima sequência.
  • conjunto
    • Uma coleção de modelos treinados de modo independente cujas previsões são calculadas ou agregadas. Em muitos casos, um ensemble produz previsões melhores do que um único modelo. Por exemplo, uma floresta aleatória é um conjunto criado com várias árvores de decisão. Observe que nem todas as florestas de decisão são conjuntos.
  • ambiente
    • No aprendizado por reforço, o mundo que contém o agente e permite que ele observe o estado desse mundo. Por exemplo, o mundo representado pode ser um jogo como o xadrez ou um mundo físico como um labirinto. Quando o agente aplica uma ação ao ambiente, ele transita entre os estados.
  • avaliação (avaliação)
    • Uma avaliação, abreviação de "avaliação", é um tipo de experimento em que consultas registradas ou sintéticas são enviadas por duas pilhas de pesquisa: uma experimental que inclui a mudança e uma base, sem que você a altere. As avaliações produzem diferenças e métricas que permitem avaliar o impacto, a qualidade e outros efeitos da sua mudança nos resultados da pesquisa e em outras partes da experiência do usuário do Google. As avaliações são usadas durante o ajuste, ou iterações, na sua mudança. Eles também são usados como parte do lançamento de uma mudança no tráfego de usuários em tempo real.
  • execução
    • Uma execução é um registro de uma etapa de fluxo de trabalho de machine learning individual, geralmente anotado com os parâmetros de ambiente de execução. Exemplos de execuções incluem ingestão, validação e treinamento de modelos, avaliação e implantação de modelos.
  • Pontuação F1
    • A pontuação F1 é uma métrica usada para avaliar a acurácia da saída de um modelo. Ele é particularmente útil para avaliar o desempenho dos modelos em tarefas em que a precisão e o recall são importantes, como a extração de informações. Em modelos de IA generativa, a pontuação F1 pode ser usada para comparar as previsões do modelo com dados de informações empíricas e determinar a acurácia dele. No entanto, para tarefas generativas como resumo e geração de texto, outras métricas, como a pontuação Rough-L, podem ser mais apropriadas.
  • recurso
    • Em machine learning (ML), um atributo é uma característica ou atributo de uma instância ou entidade usada como entrada para treinar um modelo de ML ou fazer previsões.
  • extração de atributos
    • No contexto da IA generativa, a extração de atributos é o processo de identificar e selecionar atributos relevantes dos dados de entrada a serem usados no treinamento do modelo. Esses atributos são usados para gerar novos dados semelhantes à entrada original. Por exemplo, na geração de imagens, a extração de atributos pode envolver a identificação de bordas, texturas e cores. No processamento de linguagem natural, isso pode envolver a extração de palavras-chave, frases e estruturas gramaticais. Os atributos extraídos são usados pelo modelo generativo para criar conteúdo novo.
  • disponibilização de recursos
    • A exibição de atributos é o processo de exportação ou busca de valores de atributos para treinamento ou inferência. Na Vertex AI, há dois tipos de exibição de atributos: exibição on-line e exibição off-line. A disponibilização on-line recupera os valores de atributos mais recentes de um subconjunto da fonte de dados de atributos para previsões on-line. A disponibilização off-line ou em lote exporta grandes volumes de dados de atributos, incluindo dados históricos, para processamento off-line, como treinamento de modelos de ML.
  • Visualização do recurso
    • Uma visualização de recursos é uma coleção lógica de recursos materializados de uma fonte de dados do BigQuery para uma instância de loja on-line. Uma visualização de recurso armazena e atualiza periodicamente os dados de recursos do cliente, que são atualizados periodicamente na origem do BigQuery. Ela é associada diretamente ao armazenamento de dados ou por associações com os recursos de registro do recurso.
  • comando "few-shot" (few-shot)
    • Na IA generativa, "few-shot" é um tipo de comando que inclui um pequeno número de exemplos para orientar a resposta do modelo. Esses exemplos ajudam o modelo a entender o formato de saída, a frase, o escopo ou o padrão geral desejado da resposta. Os comandos few-shot costumam ser usados para regular os resultados dos modelos de linguagem e garantir respostas precisas, de alta qualidade e consistentes com as expectativas do usuário. Ao fornecer ao modelo alguns exemplos relevantes, o usuário pode influenciar o comportamento dele e obter resultados mais satisfatórios. Para mais informações, consulte Incluir exemplos few-shot.
  • modelo de fundação (FM)
    • modelos treinados com dados abrangentes para que possam ser adaptados (por exemplo, ajustados) a uma ampla gama de tarefas downstream.
  • Operações do modelo de fundação (FMOPs)
    • A FMOps expande os recursos das MLOps e se concentra na produção eficiente de FMs pré-treinadas (do zero) ou personalizadas (ajustadas).
  • Gemini
    • O Gemini é um conjunto de grandes modelos multimodais baseados em sequência do Google. Isso significa que eles podem aceitar entradas e produzir saídas em mais de um meio de uma vez, incluindo texto, áudio e mídia visual. Eles são projetados para se integrar a agentes capazes de realizar várias tarefas. Para mais informações, consulte Modelos do Google.
  • generalização
    • A capacidade de um modelo de fazer previsões corretas sobre dados novos e não vistos anteriormente. Um modelo que pode generalizar é o oposto de um modelo com overfitting.
  • geração
    • No contexto da IA generativa, "geração" se refere ao processo de criação de novos dados ou conteúdos a partir de dados ou informações existentes. Os modelos de IA generativa são treinados em grandes conjuntos de dados e podem aprender padrões e relações dentro dos dados. Eles podem usar esse conhecimento para gerar conteúdo novo e exclusivo que seja semelhante aos dados de treinamento, mas não uma réplica exata. Para mais informações, consulte Quando usar a IA generativa ou a IA tradicional.
  • modelo generativo
    • um tipo de modelo de machine learning que pode criar saídas novas com base nos dados de treinamento. De maneira mais simples, o modelo gera novos dados que se parecem com um determinado conjunto de categorias em que foi treinado. Geralmente associados a modelos de linguagem grandes, mas outros tipos de modelos também podem ser generativos.
  • Sistema de modem incorporado do Google (GEMS)
    • GEMS é um framework de software incorporado voltado para modems e um conjunto que o acompanha de fluxos de trabalho e infraestrutura de desenvolvimento. A visão central da GEMS é fornecer um código de sistema de modem de alta qualidade com alta reutilização em vários dispositivos do Google que contenham modems. Para alcançar essa visão ampla, o GEMS oferece um ambiente abrangente para desenvolvedores, composto pelos principais elementos básicos descritos abaixo.
  • gradiente
    • O vetor de derivadas parciais em relação a todas as variáveis independentes. Em machine learning, o gradiente é o vetor de derivadas parciais da função do modelo. O gradiente aponta na direção da subida mais íngreme.
  • gráfico
    • No contexto da IA generativa, um gráfico se refere a uma representação estruturada de informações que organiza e conecta dados como uma rede de nós e bordas. Esses gráficos costumam ser usados para representar conhecimento e relações entre entidades, o que os torna especialmente úteis para sistemas de IA generativa que exigem uma compreensão profunda do contexto e das relações entre os dados. Os sistemas de GenAI que usam gráficos de conhecimento podem usá-los para melhorar o desempenho dos modelos de recuperação. Ao incorporar gráficos de conhecimento no sistema, a IA generativa pode acessar dados ricos em contexto e atravessar o gráfico para recuperar subgráficos relevantes com base nas consultas dos usuários. Isso permite que o sistema forneça respostas mais precisas e informativas, gerando conteúdo contextualmente relevante.
  • informações empíricas (GT)
    • Informações empíricas são um termo usado em vários campos para se referir à verdade absoluta de um problema de decisão ou medição, ao contrário da estimativa de alguns sistemas. Em machine learning, o termo "informações empíricas" se refere ao conjunto de treinamento para técnicas de aprendizado supervisionado.
  • alucinação artificial
    • Uma alucinação na IA generativa é uma resposta confiante de uma IA que não pode ser fundamentada por seus dados de treinamento. Ela pode estar incorreta. No contexto da geração de textos, são falsidades aleatórias que parecem plausíveis no conteúdo de texto gerado.
  • heurística
    • Uma solução simples e rápida para um problema. Por exemplo, "Com uma heurística, alcançamos 86% de precisão. Quando mudamos para uma rede neural profunda, a acurácia subiu para 98%".
  • camada escondida
    • Uma camada em uma rede neural entre a camada de entrada (os atributos) e a camada de saída (a previsão). Cada camada escondida consiste em um ou mais neurônios. Uma rede neural profunda contém mais de uma camada escondida.
  • histogram
    • Uma exibição gráfica da variação em um conjunto de dados usando barras. Um histograma visualiza padrões que são difíceis de detectar em uma tabela simples de números.
  • hiperparâmetro
    • Um hiperparâmetro se refere a uma variável que controla o processo de treinamento de um modelo de machine learning. Essas variáveis podem incluir taxas de aprendizado, valores de momentum no otimizador e o número de unidades na última camada escondida de um modelo. O ajuste de hiperparâmetros na Vertex AI envolve a execução de vários testes de um aplicativo de treinamento com valores diferentes para os hiperparâmetros escolhidos, definidos dentro dos limites especificados. O objetivo é otimizar as configurações de hiperparâmetros para maximizar a acurácia preditiva do modelo. Para mais informações, consulte Visão geral do ajuste de hiperparâmetros.
  • Imagem
    • O Imagen é um serviço de IA generativa de texto para imagem disponível na plataforma Vertex AI. Ele permite que os usuários gerem imagens novas, editem imagens, ajustem modelos de assuntos ou estilos, insiram legendas ou obtenham respostas para perguntas sobre o conteúdo da imagem. Para mais informações, consulte Visão geral do Imagen na Vertex AI.
  • reconhecimento de imagem
    • O reconhecimento de imagem é o processo de classificação de objetos, padrões ou conceitos em uma imagem. Isso também é conhecido como classificação de imagem. Reconhecimento de imagem é um subcampo do machine learning e da visão computacional.
  • index
    • Índice: um conjunto de vetores implantados juntos para a pesquisa por similaridade. Os vetores podem ser adicionados a um índice ou removidos dele. As consultas de pesquisa de similaridade são emitidas para um índice específico e pesquisam os vetores nesse índice.
  • inferência
    • No contexto da plataforma Vertex AI, inferência se refere ao processo de execução de pontos de dados usando um modelo de machine learning para calcular uma saída, como uma única pontuação numérica. Esse processo também é conhecido como "operacionalizar um modelo de machine learning" ou "colocar um modelo de machine learning em produção". A inferência é uma etapa importante no fluxo de trabalho de machine learning, porque permite que os modelos sejam usados para fazer previsões sobre novos dados. Na Vertex AI, a inferência pode ser realizada de várias maneiras, incluindo previsão em lote e previsão on-line. A previsão em lote envolve a execução de um grupo de solicitações de previsão e a saída dos resultados em um arquivo. Já a previsão on-line permite previsões em tempo real em pontos de dados individuais.
  • recuperação de informações (RI)
    • A recuperação de informações (IR) é um componente essencial da Vertex AI para Pesquisa. É o processo de encontrar e recuperar informações relevantes de uma grande coleção de dados. No contexto da Vertex AI, a IR é usada para recuperar documentos de um corpus com base na consulta de um usuário. A Vertex AI oferece um conjunto de APIs para ajudar você a criar seus próprios aplicativos de geração aumentada de recuperação (RAG) ou seu próprio mecanismo de pesquisa. Para mais informações, consulte Usar a Vertex AI para Pesquisa como um back-end de recuperação usando o RAG Engine.
  • taxa de aprendizado (tamanho da etapa)
    • A taxa de aprendizado é um hiperparâmetro usado para ajustar o processo de otimização de um modelo de machine learning. Ela determina a taxa de aprendizado em que o modelo atualiza os pesos durante o treinamento. Uma taxa de aprendizado maior pode levar a uma convergência mais rápida, mas pode resultar em instabilidade ou overfitting. Por outro lado, uma taxa de aprendizado menor pode levar a uma convergência mais lenta, mas pode ajudar a evitar o overfitting. Para mais informações, consulte Visão geral do ajuste de hiperparâmetros.
  • perda (custo)
    • Durante o treinamento de um modelo supervisionado, é uma medida de até onde a previsão de um modelo está do rótulo. Uma função de perda calcula a perda.
  • Conjunto de dados gerenciado
    • Um objeto de conjunto de dados criado e hospedado pela Vertex AI.
  • model
    • Qualquer modelo pré-treinado ou não. Em geral, qualquer construção matemática que processe dados de entrada e retorne a saída. Em outras palavras, um modelo é o conjunto de parâmetros e estrutura necessários para que um sistema faça previsões.
  • Destilação de modelo (destilação de conhecimento, modelos professor-aluno)
    • A destilação de modelos é uma técnica que permite que um modelo estudante menor aprenda com um modelo de professor maior. O modelo estudante é treinado para imitar a saída do modelo professor e pode ser usado para gerar novos dados ou fazer previsões. A destilação de modelos é frequentemente usada para aumentar a eficiência de modelos grandes ou torná-los mais acessíveis a dispositivos com recursos limitados. Ele também pode ser usado para melhorar a generalização de modelos por meio da redução do overfitting.
  • Monitoramento de modelos
  • nome do recurso do modelo
    • O nome do recurso para um model é o seguinte: projects/<PROJECT_ID>/locations/<LOCATION_ID>/models/<MODEL_ID>. Encontre o ID do modelo no console do Cloud, na página "Registro de modelos".
  • Sistema de arquivos de rede (NFS, na sigla em inglês)
  • codificação one-hot
    • Essa codificação representa cada categoria como um vetor de N elementos (em que N é o número de categorias) com exatamente um elemento com valor 1,0 e todos os elementos restantes com valor 0,0. Para mais informações, consulte Codificação one-hot.
  • comando one-shot
    • Um comando com um exemplo que demonstra como o modelo de linguagem grande deve responder. Para saber mais, consulte comando one-shot.
  • parâmetro
    • Os parâmetros são valores de entrada com chave que configuram uma execução, regulam o comportamento dela e afetam os resultados. Exemplos incluem taxa de aprendizado, taxa de desistência e número de etapas de treinamento.
  • perplexidade
    • A perplexidade é uma métrica usada para avaliar a performance de modelos de linguagem. Mede a probabilidade de o modelo gerar uma determinada sequência de texto com base na distribuição do texto em que foi treinado. A perplexidade é uma métrica usada com frequência para avaliar modelos de linguagem e para comparar o desempenho de modelos diferentes ou acompanhar o progresso de um modelo durante o treinamento.
  • pipeline
  • pipeline job
    • Um job ou uma execução de pipeline corresponde ao recurso PipelineJob na API Vertex AI. É uma instância de execução da definição do pipeline de ML, que é definida como um conjunto de tarefas de ML interconectadas por dependências de entrada e saída.
  • execução de pipeline
    • Um ou mais PipelineJobs do Vertex podem ser associados a um experimento em que cada PipelineJob é representado como uma única execução. Nesse contexto, os parâmetros da execução são inferidos pelos parâmetros do PipelineJob. As métricas são inferidas dos artefatos do system.Metric produzidos por esse PipelineJob. Os artefatos da execução são inferidos dos artefatos produzidos pelo PipelineJob.
  • acesso a serviços particulares
    • O acesso a serviços particulares é uma conexão privada entre sua rede de nuvem privada virtual (VPC) e as redes de propriedade do Google ou de provedores de serviços terceirizados. Ele permite que instâncias de máquina virtual (VM) na sua rede VPC se comuniquem com esses serviços usando endereços IP internos, evitando a exposição à Internet pública. Para mais informações, consulte Acesso a serviços particulares.
  • comando
    • Um comando é um pedido em linguagem natural enviado a um modelo de linguagem para receber uma resposta. Os comandos podem conter perguntas, instruções, informações contextuais, exemplos few-shot e entrada parcial para que o modelo conclua ou continue. Depois que o modelo recebe um comando, dependendo do tipo de modelo usado, ele pode gerar texto, embeddings, código, imagens, vídeos, músicas e mais. Para mais informações, consulte Visão geral das estratégias de comandos.
  • engenharia de comando (design de comando)
    • A engenharia de prompts na IA generativa é o processo de criação de comandos eficazes para extrair as saídas desejadas de modelos de linguagem grandes (LLMs). É um processo iterativo voltado a testes focado em refinar entradas para alcançar resultados específicos. Isso envolve considerar o conteúdo e a estrutura do comando para garantir respostas precisas e de alta qualidade. A engenharia de comando eficaz é crucial para tarefas complexas, mesmo que as mais simples possam não exigir. O objetivo é prototipar rapidamente aplicativos baseados em LLMs. Para mais informações, consulte Introdução à engenharia de comandos.
  • ajuste de comando
    • O ajuste de comando é um método de ajuste fino com eficiência de parâmetros usado para melhorar o desempenho de um modelo de IA generativa em uma tarefa específica. Isso envolve aprender um "prefixo" anexado ao prompt real, às vezes em todas as camadas. Essa abordagem é considerada mais barata e rápida do que outros métodos de ajuste e costuma gerar bons resultados. O ajuste de comandos é particularmente eficaz quando você tem uma tarefa específica e quer que o modelo a execute de uma determinada maneira. Às vezes, ele também é chamado de aprendizado de comandos ou ajuste de eficiência de parâmetros (ajuste). Para mais informações, consulte Introdução à engenharia de comandos.
  • Capacidade de processamento provisionada (PT, na sigla em inglês)
    • A capacidade de processamento provisionada (PT) é um serviço premium para os modelos de IA generativa da Vertex AI que oferece uma experiência garantida pela garantia de capacidade e preços previsíveis. Ao contrário da opção de pagamento por uso (sob demanda), o PT permite que os clientes comprem uma cota dedicada, garantindo que as solicitações não concorram com outras pela capacidade do modelo. O PT é uma assinatura mensal ou semanal de custo fixo que reserva a capacidade de processamento para modelos e locais especificados. Para mais informações, consulte Visão geral da capacidade de processamento provisionada.
  • quantização
    • A quantização é uma técnica de otimização de modelos usada para reduzir a precisão dos números usados para representar os parâmetros de um modelo. Isso pode resultar em modelos menores, menor consumo de energia e menor latência de inferência.
  • Floresta aleatória
    • A Random Forest é um algoritmo de machine learning usado para classificação e regressão. Ele não é diretamente um modelo de IA generativa, mas um componente que pode ser usado em um sistema maior de IA generativa. Uma floresta aleatória consiste em várias árvores de decisão, e sua previsão é uma agregação das previsões dessas árvores individuais. Por exemplo, em uma tarefa de classificação, cada árvore "vota" em uma classe, e a previsão final é a classe com mais votos. Para mais informações, consulte Floresta de decisão.
  • Cluster do Ray na Vertex AI
    • Um cluster Ray na Vertex AI é um cluster gerenciado de nós de computação que pode ser usado para executar aplicativos distribuídos de machine learning (ML) e Python. Ele fornece a infraestrutura necessária para executar a computação distribuída e o processamento paralelo para seu fluxo de trabalho de ML. Os clusters do Ray são integrados à Vertex AI para garantir a disponibilidade de capacidade para cargas de trabalho críticas de ML ou durante períodos de pico. Ao contrário dos jobs personalizados, em que o serviço de treinamento libera o recurso após a conclusão do job, os clusters do Ray permanecem disponíveis até serem excluídos. Para mais informações, consulte Visão geral do Ray na Vertex AI.
  • Ray na Vertex AI (RoV)
    • O Ray na Vertex AI foi projetado para que você possa usar o mesmo código aberto de código aberto para escrever programas e desenvolver aplicativos na Vertex AI com o mínimo de alterações. Para mais informações, consulte Visão geral do Ray na Vertex AI.
  • Ray no SDK da Vertex AI para Python
    • O Ray no SDK da Vertex AI para Python é uma versão do SDK da Vertex AI para Python que inclui a funcionalidade do cliente Ray, o conector do Ray BigQuery, o gerenciamento de cluster do Ray na Vertex AI e as previsões na Vertex AI. Para mais informações, consulte Introdução ao SDK da Vertex AI para Python.
  • recall
    • Recall: a porcentagem de verdadeiros vizinhos mais próximos retornados pelo índice. Por exemplo, se uma consulta de vizinho mais próxima de 20 vizinhos mais próximos retornou 19 dos vizinhos mais próximos, o recall será de 19/20x100 = 95%.
  • sistema de recomendação
    • Um sistema de recomendação é um sistema baseado em machine learning que ajuda os usuários a encontrar conteúdo atrativo em um grande conjunto. Ele gera um subconjunto menor de candidatos de um conjunto potencialmente enorme, pontua e classifica os candidatos e reclassifica a classificação final para levar em consideração restrições adicionais. Para mais informações, consulte a Visão geral dos sistemas de recomendação.
  • regularização
    • A regularização é uma técnica usada para evitar o overfitting em modelos de machine learning. O overfitting ocorre quando um modelo aprende muito bem os dados de treinamento, resultando em baixo desempenho de dados não vistos. Um tipo específico de regularização mencionado é a parada antecipada, em que o treinamento é interrompido antes que a perda em um conjunto de dados de validação comece a aumentar, indicando um declínio no desempenho de generalização. Para mais informações, consulte Overfitting: regularização de L2.
  • conta de serviço
    • No Google Cloud, uma conta de serviço é um tipo especial de conta usada por um aplicativo ou uma instância de máquina virtual (VM), não uma pessoa. Os aplicativos usam contas de serviço para fazer chamadas de API autorizadas.
  • agente de serviço
    • Um agente de serviço é uma conta de serviço gerenciada pelo Google. Ele é usado quando um serviço requer acesso aos recursos criados por outro serviço. Por exemplo, quando os serviços do Dataflow ou do Dataproc precisam criar instâncias durante o ambiente de execução ou quando uma função do Cloud quer usar o serviço de gerenciamento de chaves (KMS) para proteger a função do Cloud. Os agentes de serviço são criados automaticamente pelo Google Cloud quando um serviço os exige. Normalmente, eles são usados para gerenciar o acesso a recursos e realizar várias tarefas em nome do serviço. Para mais informações, consulte Agentes de serviço.
  • Métricas de resumo
    • As métricas de resumo são um valor único para cada chave de métrica de uma execução de experimento. Por exemplo, a precisão de um experimento é a precisão calculada com base em um conjunto de dados de teste no final do treinamento, que pode ser capturado como uma única métrica de resumo de valor.
  • TensorBoard
    • O TensorBoard é um pacote de aplicativos da Web para visualizar e entender modelos e execuções do TensorFlow. Para mais informações, consulte TensorBoard.
  • Instância do TensorBoard
    • Uma instância do TensorBoard é um recurso regionalizado que armazena Experimentos do TensorBoard da Vertex AI associados a um projeto. É possível criar várias instâncias do TensorBoard em um projeto, por exemplo, quando você quer várias instâncias ativadas para CMEK. Esse recurso é igual ao recurso TensorBoard na API.
  • Nome do recurso do TensorBoard
    • Um nome de recurso do TensorBoard é usado para identificar totalmente uma instância do TensorBoard da Vertex AI. O formato é o seguinte: projects/PROJECT_ID_OR_NUMBER/locations/REGION/tensorboards/TENSORBOARD_INSTANCE_ID.
  • ajuste de tempo
    • O ajuste de horário é relativo ao início de um vídeo.
  • métricas de série temporal
    • As métricas de série temporal são valores de métrica longitudinais em que cada valor representa uma etapa na parte da rotina de treinamento de uma execução. As métricas de séries temporais são armazenadas no TensorBoard da Vertex AI. O Vertex AI Experiments armazena uma referência ao recurso Vertex TensorBoard.
  • token
    • Um token em um modelo de linguagem é a unidade atômica que o modelo usa para treinar e fazer previsões, ou seja, palavras, morfemas e caracteres. Em domínios fora dos modelos de linguagem, os tokens podem representar outros tipos de unidades atômicas. Por exemplo, em visão computacional, um token pode ser um subconjunto de uma imagem. Para mais informações, consulte Listar e contar tokens.
  • trajetória
    • Uma "trajetória" se refere a uma sequência de etapas ou ações realizadas por um agente ou modelo. Geralmente é usada na avaliação de modelos generativos, em que é analisada a capacidade do modelo de gerar texto, código ou outro conteúdo. Há vários tipos de métricas de trajetória que podem ser usadas para avaliar modelos generativos, incluindo correspondência exata de trajetória, correspondência de trajetória em ordem, correspondência de trajetória de qualquer ordem e precisão de trajetória. Essas métricas medem a semelhança entre a saída do modelo e um conjunto de saídas de referência geradas por humanos.
  • Transformer
    • Um "Transformer" é uma arquitetura de rede neural subjacente à maioria dos modelos generativos de última geração. Ele é usado em vários aplicativos de modelo de linguagem, incluindo tradução. Os transformadores consistem em um codificador e um decodificador. O codificador converte o texto de entrada em uma representação intermediária, e o decodificador o converte em uma saída útil. Eles utilizam um mecanismo de autoatenção para coletar contexto de palavras ao redor da palavra que está sendo processada. Embora o treinamento de um transformador exija recursos significativos, ajustar um transformador pré-treinado para aplicativos específicos é mais eficiente.
  • Aprendizado por reforço do transformador
    • O aprendizado por reforço com transformador (TRL, na sigla em inglês) se refere à aplicação de técnicas de aprendizado por reforço (RL, na sigla em inglês) para treinar modelos baseados em transformadores para tarefas generativas. Essa abordagem aborda as limitações dos modelos generativos tradicionais, que geralmente são treinados na previsão do próximo token sem otimização explícita para qualidades desejáveis, como coerência, segurança e sensibilidade. O TRL otimiza diretamente o modelo de linguagem em objetivos complexos usando RL, muitas vezes incorporando feedback humano (RLHF) para orientar o processo de aprendizado. Por exemplo, modelos de ajuste para gerar menos conteúdo tóxico usando modelos de recompensa e TRL para ajustar o Gemma, um modelo generativo. Para mais informações, acesse Hugging Face DLCs: ajuste do Gemma com o Transformer Reinforcement Learning (TRL) na Vertex AI.
  • verdadeiro positivo
    • Um "verdadeiro positivo" se refere a uma previsão em que o modelo identifica corretamente uma classe positiva. Por exemplo, se um modelo for treinado para identificar clientes que vão comprar uma jaqueta, um verdadeiro positivo seria prever corretamente que um cliente vai fazer essa compra.
  • validação
    • A validação verifica a qualidade das previsões de um modelo em relação ao conjunto de validação. Isso envolve a definição de métricas para medir a qualidade, velocidade, adesão às instruções e segurança do conteúdo gerado. Em geral, a validação usa dados rotulados (comandos de entrada e saídas esperadas) para comparar as previsões do modelo com informações empíricas. Métricas como pontuação F1 (para classificação) e pontuação ROUGE-L (para resumo) podem ser usadas. O processo também inclui testes de casos extremos e cenários incomuns para garantir a robustez. Para modelos implantados, o monitoramento e a captura contínuos de pontos de dados comuns e casos extremos ajudam a melhorar os esforços de validação futuros.
  • vetor
    • Um vetor é uma representação numérica de textos, imagens ou vídeos que captura as relações entre entradas. Os modelos de machine learning são adequados para criar embeddings identificando padrões em grandes conjuntos de dados. Os aplicativos podem usar embeddings para processar e produzir linguagem, reconhecendo significados complexos e relações semânticas específicas do conteúdo. Para mais informações, consulte Visão geral das APIs de embeddings.
  • Experimentos da Vertex AI
    • Com os Experimentos da Vertex AI, os usuários podem rastrear o seguinte: 1. Etapas da execução de um experimento (por exemplo, pré-processamento e treinamento). 2. entradas (por exemplo, algoritmo, parâmetros e conjuntos de dados) 3. Saídas dessas etapas (por exemplo, modelos, checkpoints e métricas).
  • Registro de modelos da Vertex AI
    • O Vertex AI Model Registry é um repositório central em que é possível gerenciar o ciclo de vida dos seus modelos de ML. No Vertex AI Model Registry, você tem uma visão geral dos seus modelos para organizar, rastrear e treinar melhor as novas versões. Quando você tem uma versão de modelo que quer implantar, é possível atribuí-la a um endpoint diretamente do registro. Também é possível implantar modelos em um endpoint usando aliases. Para mais informações, consulte Introdução ao Vertex AI Model Registry.
  • trecho de vídeo
    • Um trecho de vídeo é identificado pelo deslocamento de início e término de um vídeo.
  • nuvem privada virtual (VPC)
    • A nuvem privada virtual é um pool configurável de recursos de computação compartilhados sob demanda, alocado em um ambiente de nuvem pública e que oferece um nível de isolamento entre diferentes organizações que usam esses recursos.
  • incorporação de palavras
    • Os embeddings de palavras são uma maneira de representar palavras como vetores densos de valores de ponto flutuante. Isso permite que palavras semelhantes tenham codificações semelhantes. Os embeddings de palavras são muito usados na IA generativa para capturar as relações entre palavras e gerar novos textos ou códigos, sem fontes. Na IA generativa, os embeddings de palavras podem ser usados para treinar modelos capazes de gerar novos textos ou códigos. Ao compreender as relações entre palavras, os modelos de IA generativa podem criar conteúdos novos que sejam coerentes e relevantes.
  • comando zero-shot (comando direto)
    • Na IA generativa, um comando zero-shot permite que um modelo de linguagem grande (LLM) execute uma tarefa sem precisar de outros exemplos ou treinamentos. Isso contrasta com métodos como comandos few-shot, que fornecem ao modelo exemplos de entradas e saídas. Esse tipo de comando depende apenas do conhecimento prévio do modelo para gerar uma resposta. Para mais informações, consulte comando zero-shot.