文件解讀

Gen AI SDK for Python

安裝

pip install --upgrade google-genai

詳情請參閱 SDK 參考說明文件。

設定環境變數，以便在 Vertex AI 中使用 Gen AI SDK：

# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values
# with appropriate values for your project.
export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT
export GOOGLE_CLOUD_LOCATION=global
export GOOGLE_GENAI_USE_VERTEXAI=True

from google import genai
from google.genai.types import HttpOptions, Part

client = genai.Client(http_options=HttpOptions(api_version="v1"))
model_id = "gemini-2.5-flash"

prompt = """
You are a highly skilled document summarization specialist.
Your task is to provide a concise executive summary of no more than 300 words.
Please summarize the given document for a general audience.
"""

pdf_file = Part.from_uri(
    file_uri="gs://cloud-samples-data/generative-ai/pdf/1706.03762v7.pdf",
    mime_type="application/pdf",
)

response = client.models.generate_content(
    model=model_id,
    contents=[pdf_file, prompt],
)

print(response.text)
# Example response:
# Here is a summary of the document in 300 words.
#
# The paper introduces the Transformer, a novel neural network architecture for
# sequence transduction tasks like machine translation. Unlike existing models that rely on recurrent or
# convolutional layers, the Transformer is based entirely on attention mechanisms.
# ...

REST

設定環境後，您可以使用 REST 測試文字提示。以下範例會將要求傳送至發布商模型端點。

使用任何要求資料之前，請先替換以下項目：

• PROJECT_ID：您的專案 ID。
• FILE_URI：要納入提示中的檔案 URI 或網址。可接受的值包括：
  • Cloud Storage 值區 URI：物件必須是公開可讀，或是位於發出要求的 Google Cloud 專案中。gemini-2.0-flash 和 gemini-2.0-flash-lite 的大小限制為 2 GB。
  • HTTP 網址：檔案網址必須可供大眾讀取。每個要求最多可指定一個影片檔案、一個音訊檔案和最多 10 個圖片檔案。音訊檔案、影片檔案和文件不得超過 15 MB。
  • YouTube 影片網址：YouTube 影片必須屬於您用來登入 Google Cloud 控制台的帳戶，或是公開的影片。每個要求僅支援一個 YouTube 影片網址。

  指定 fileURI 時，您也必須指定檔案的媒體類型 (mimeType)。如果啟用 VPC Service Controls，系統就不會支援為 fileURI 指定媒體檔案網址。

  如果 Cloud Storage 中沒有 PDF 檔案，您可以使用以下公開檔案：gs://cloud-samples-data/generative-ai/pdf/2403.05530.pdf，Mime 類型為 application/pdf。如要查看這份 PDF 檔案，請開啟範例 PDF 檔案。

• MIME_TYPE：在 data 或 fileUri 欄位中指定的檔案媒體類型。可接受的值包括：

  按一下即可展開 MIME 類型

  • application/pdf
  • audio/mpeg
  • audio/mp3
  • audio/wav
  • image/png
  • image/jpeg
  • image/webp
  • text/plain
  • video/mov
  • video/mpeg
  • video/mp4
  • video/mpg
  • video/avi
  • video/wmv
  • video/mpegps
  • video/flv
• TEXT：提示中要納入的文字說明。例如： You are a very professional document summarization specialist. Please summarize the given document.

如要傳送要求，請選擇以下其中一個選項：

cat > request.json << 'EOF'
{
  "contents": {
    "role": "USER",
    "parts": [
      {
        "fileData": {
          "fileUri": "FILE_URI",
          "mimeType": "MIME_TYPE"
        }
      },
      {
        "text": "TEXT"
      }
    ]
  }
}
EOF

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-2.0-flash:generateContent"

@'
{
  "contents": {
    "role": "USER",
    "parts": [
      {
        "fileData": {
          "fileUri": "FILE_URI",
          "mimeType": "MIME_TYPE"
        }
      },
      {
        "text": "TEXT"
      }
    ]
  }
}
'@  | Out-File -FilePath request.json -Encoding utf8

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-2.0-flash:generateContent" | Select-Object -Expand Content

您應該會收到類似以下的 JSON 回應。

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "This report presents Gemini 2.0 Pro.\n"
          }
        ]
      },
      "finishReason": "STOP",
      "safetyRatings": [
        {
          "category": "HARM_CATEGORY_HATE_SPEECH",
          "probability": "NEGLIGIBLE",
          "probabilityScore": 0.13273923,
          "severity": "HARM_SEVERITY_NEGLIGIBLE",
          "severityScore": 0.08819004
        },
        {
          "category": "HARM_CATEGORY_DANGEROUS_CONTENT",
          "probability": "NEGLIGIBLE",
          "probabilityScore": 0.1046602,
          "severity": "HARM_SEVERITY_NEGLIGIBLE",
          "severityScore": 0.0996453
        },
        {
          "category": "HARM_CATEGORY_HARASSMENT",
          "probability": "NEGLIGIBLE",
          "probabilityScore": 0.15987214,
          "severity": "HARM_SEVERITY_NEGLIGIBLE",
          "severityScore": 0.098946586
        },
        {
          "category": "HARM_CATEGORY_SEXUALLY_EXPLICIT",
          "probability": "NEGLIGIBLE",
          "probabilityScore": 0.056966383,
          "severity": "HARM_SEVERITY_NEGLIGIBLE",
          "severityScore": 0.075721376
        }
      ]
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 19882,
    "candidatesTokenCount": 336,
    "totalTokenCount": 20218
  }
}

• 使用 generateContent 方法，要求在回覆完全產生後傳回。為減少使用者對延遲的感受，請使用 streamGenerateContent 方法，在回覆生成的同時串流回覆內容。
• 多模態模型 ID 位於網址結尾，位於方法 (例如 gemini-2.0-flash) 之前。這個範例可能也支援其他模型。

控制台

1. 在 Google Cloud 控制台的 Vertex AI 專區中，前往「Vertex AI Studio」頁面。

   前往 Vertex AI Studio

2. 按一下「建立提示」。

3. 選用步驟：設定模型和參數：

   • 模型：選取模型。

4. 選用步驟：如要設定進階參數，請按一下「Advanced」，然後按照下列步驟進行設定：

   按一下即可展開進階設定

   • Top-K：使用滑桿或文字方塊輸入 Top-K 的值。

     「Top-K」會影響模型選取輸出符記的方式。如果「前 K 個」設為 1，代表下一個所選詞元是模型詞彙表的所有詞元中可能性最高者 (也稱為「貪婪解碼」)。如果「前 K 個」設為 3，則代表模型會依據溫度參數，從可能性最高的 3 個詞元中選取下一個詞元。

     在每個符記選取步驟中，模型會對機率最高的「Top-K」符記取樣，接著進一步根據「Top-P」篩選詞元，最後依 temperature 選出最終詞元。

     如要取得較不隨機的回覆，請指定較低的值；如要取得較隨機的回覆，請調高此值。

   • Top-P：使用滑桿或文字方塊輸入 top-P 的值。 模型會按照可能性最高到最低的順序選取符記，直到所選符記的可能性總和等於 Top-P 值。如要讓結果的變化性降到最低，請將 Top-P 設為 0。
   • 回應數量上限：使用滑桿或文字方塊輸入要產生的回應數量。
   • 逐句回覆：啟用此選項後，系統會逐句顯示回覆。
   • 安全性篩選器門檻：選取可能有害回應的門檻。
   • 啟用建立基準：系統不支援在多模態提示中建立基準。
   • 區域：選取要使用的區域。
   • 溫度：使用滑桿或文字方塊輸入溫度值。

         
     The temperature is used for sampling during response generation, which occurs when topP
     and topK are applied. Temperature controls the degree of randomness in token selection.
     Lower temperatures are good for prompts that require a less open-ended or creative response, while
     higher temperatures can lead to more diverse or creative results. A temperature of 0
     means that the highest probability tokens are always selected. In this case, responses for a given
     prompt are mostly deterministic, but a small amount of variation is still possible.
     
     If the model returns a response that's too generic, too short, or the model gives a fallback
     response, try increasing the temperature.
     </li>
       <li>**Output token limit**: Use the slider or textbox to enter a value for
         the max output limit.
     
         
     Maximum number of tokens that can be generated in the response. A token is
     approximately four characters. 100 tokens correspond to roughly 60-80 words.
     
     Specify a lower value for shorter responses and a higher value for potentially longer
     responses.
     </li>
       <li>**Add stop sequence**: Optional. Enter a stop sequence, which is a
         series of characters that includes spaces. If the model encounters a
         stop sequence, the response generation stops. The stop sequence isn't
         included in the response, and you can add up to five stop sequences.</li>
     </ul>
     

5. 按一下「插入媒體」，然後選取檔案來源。

   上傳

   選取要上傳的檔案，然後按一下「開啟」。

   使用網址上傳

   輸入要使用的檔案網址，然後按一下「插入」。

   Cloud Storage

   選取要匯入的值區，然後從該值區選取檔案，然後按一下「選取」。

   Google 雲端硬碟

   1. 請選擇帳戶，並在首次選取這個選項時，授權 Vertex AI Studio 存取您的帳戶。您可以上傳多個檔案，總大小上限為 10 MB。單一檔案大小不得超過 7 MB。
   2. 按一下要新增的檔案。

   3. 按一下 [選取]。

      檔案縮圖會顯示在「提示」窗格中。系統也會顯示符號總數。如果提示資料超過符記限制，系統會截斷符記，且不會納入資料處理作業。

6. 在「提示」窗格中輸入文字提示。

7. 選用：如要查看「符記 ID 到文字」和「符記 ID」，請按一下「提示」窗格中的「符記數量」。

8. 按一下「提交」。

9. 選用：如要將提示詞儲存至「我的提示詞」，請按一下 save_alt「儲存」。

10. 選用：如要取得提示的 Python 程式碼或 curl 指令，請依序點選 code「Build with code」(使用程式碼建構) >「Get code」(取得程式碼)。