Classe GenerativeModelPreview (1.1.0)

La classe GenerativeModelPreview è la classe base per i modelli generativi in anteprima. NOTA: non creare un'istanza direttamente per questa classe. Usa invece il criterio vertexai.preview.getGenerativeModel().

Pacchetto

@google-cloud/vertexai

Costruttori

(constructor)(getGenerativeModelParams)

constructor(getGenerativeModelParams: GetGenerativeModelParams);

Crea una nuova istanza della classe GenerativeModelPreview

Parametro
Nome Description
getGenerativeModelParams GetGenerativeModelParams

GetGenerativeModelParams

Metodi

countTokens(request)

countTokens(request: CountTokensRequest): Promise<CountTokensResponse>;

Effettua una richiesta asincrona per il conteggio dei token.

La funzione countTokens restituisce il conteggio dei token e il numero di caratteri fatturabili per un prompt.

Parametro
Nome Description
request CountTokensRequest

Un oggetto CountTokensRequest con i contenuti della richiesta.
Restituisce
Tipo Description
Promise<CountTokensResponse>

L'oggetto CountTokensResponse con il conteggio dei token.
Esempio 

const request = {
  contents: [{role: 'user', parts: [{text: 'How are you doing today?'}]}],
};
const resp = await generativeModelPreview.countTokens(request);
console.log('count tokens response: ', resp);

generateContent(request)

generateContent(request: GenerateContentRequest | string): Promise<GenerateContentResult>;

Effettua una chiamata asincrona per la generazione di contenuti.

La risposta verrà restituita in GenerateContentResult.response.

Parametro
Nome Description
request GenerateContentRequest | string

Un oggetto ManageContentRequest con i contenuti della richiesta.
Restituisce
Tipo Description
Promise<GenerateContentResult>

L'oggetto GeneraContentResponse con i candidati di risposta.
Esempio 

const request = {
  contents: [{role: 'user', parts: [{text: 'How are you doing today?'}]}],
};
const result = await generativeModelPreview.generateContent(request);
console.log('Response: ', JSON.stringify(result.response));

generateContentStream(request)

generateContentStream(request: GenerateContentRequest | string): Promise<StreamGenerateContentResult>;

Effettua una richiesta di streaming asincrono per generare contenuti.

La risposta viene restituita blocco per blocco mentre viene generata in StreamGenerateContentResult.stream. Dopo che sono stati restituiti tutti i blocchi della risposta, la risposta aggregata è disponibile in StreamGenerateContentResult.response.

Parametro
Nome Description
request GenerateContentRequest | string

GenerateContentRequest
Restituisce
Tipo Description
Promise<StreamGenerateContentResult>

Promessa di StreamGenerateContentResult
Esempio 

const request = {
  contents: [{role: 'user', parts: [{text: 'How are you doing today?'}]}],
};
const streamingResult = await generativeModelPreview.generateContentStream(request);
for await (const item of streamingResult.stream) {
  console.log('stream chunk: ', JSON.stringify(item));
}
const aggregatedResponse = await streamingResult.response;
console.log('aggregated response: ', JSON.stringify(aggregatedResponse));

startChat(request)

startChat(request?: StartChatParams): ChatSessionPreview;

Crea un'istanza di ChatSessionPreview.

La classe ChatSessionPreview è una classe stateful che contiene lo stato della conversazione con il modello e fornisce metodi per interagire con il modello in modalità chat. La chiamata di questo metodo non esegue chiamate a un endpoint remoto. Per effettuare chiamate da remoto, utilizza ChatSessionPreview.sendMessage() o ChatSessionPreview.sendMessageStream().

Parametro
Nome Description
request StartChatParams

StartChatParams
Restituisce
Tipo Description
ChatSessionPreview

ChatSessionPreview
Esempio 

const chat = generativeModelPreview.startChat();
const result1 = await chat.sendMessage("How can I learn more about Node.js?");
const response1 = await result1.response;
console.log('Response: ', JSON.stringify(response1));

const result2 = await chat.sendMessageStream("What about python?");
const response2 = await result2.response;
console.log('Response: ', JSON.stringify(await response2));