Menginstal dan mengonfigurasi Vertex AI SDK untuk ABAP

Dokumen ini menjelaskan cara menginstal dan mengonfigurasi Vertex AI SDK untuk ABAP di lingkungan SAP Anda.

Penginstalan

Saat Anda menginstal ABAP SDK versi 1.8 di infrastruktur lokal atau edisi cloud ABAP SDK for Google Cloud apa pun, Vertex AI SDK untuk ABAP telah diinstal untuk Anda. Untuk mengetahui informasi tentang langkah-langkah penginstalannya, lihat Menginstal dan mengonfigurasi ABAP SDK for Google Cloud edisi lokal atau edisi cloud apa pun.

Jika Anda sudah menggunakan ABAP SDK for Google Cloud edisi lokal atau edisi cloud versi 1.7 atau yang lebih lama, update SDK Anda ke versi terbaru guna mendapatkan Vertex AI SDK untuk ABAP. Untuk informasi selengkapnya, lihat Mengupdate ABAP SDK untuk Google Cloud.

Mengaktifkan Vertex AI API

Aktifkan Vertex AI API di project Google Cloud Anda.

Vertex AI API

Untuk mengetahui informasi tentang cara mengaktifkan Google Cloud API, lihat Mengaktifkan API.

Autentikasi

Setelah Anda menyiapkan autentikasi untuk mengakses Google Cloud API di infrastruktur lokal Anda atau ABAP SDK for Google Cloud edisi cloud apa pun, Vertex AI SDK untuk ABAP menggunakan metode autentikasi yang sama untuk mengakses Vertex AI API. Untuk mengetahui informasi tentang cara menyiapkan autentikasi di infrastruktur lokal atau edisi cloud ABAP SDK untuk Google Cloud apa pun, lihat Ringkasan autentikasi.

Catat kunci klien yang telah Anda buat sebagai bagian dari penyiapan autentikasi. Anda menggunakan kunci klien ini saat mengonfigurasi parameter pembuatan model AI dan parameter penelusuran.

Izin IAM

Pastikan akun layanan khusus untuk akses API yang telah Anda konfigurasikan di tabel kunci klien memiliki akses ke resource Vertex AI.

Vertex AI

Untuk menggunakan resource Vertex AI, Anda harus memberikan izin Pengguna Vertex AI (roles/aiplatform.user) ke akun layanan khusus yang telah Anda berikan izin untuk mengakses Vertex AI API.

Jika Anda perlu memberikan izin akses khusus untuk membuat, memodifikasi, men-deploy artefak, lalu memberikan izin IAM Vertex AI tertentu yang sesuai.

Vertex AI Feature Store

Untuk menggunakan Vertex AI Feature Store, Anda harus memberikan peran berikut ke akun layanan:

Kemampuan AI Peran IAM yang diperlukan
Vertex AI Feature Store

Mengonfigurasi parameter pembuatan model

Model bahasa besar (LLM) adalah model deep learning yang dilatih dengan jumlah data teks. Model menyertakan parameter value yang mengontrol cara model akan menghasilkan respons. Model ini dapat menghasilkan hasil yang berbeda untuk parameter value yang berbeda.

Untuk menentukan parameter pembuatan untuk suatu model, Vertex AI SDK untuk ABAP menggunakan tabel /GOOG/AI_CONFIG.

Untuk memperbarui tabel /GOOG/AI_CONFIG, lakukan langkah-langkah berikut:

  1. Di GUI SAP, jalankan kode transaksi /GOOG/SDK_IMG.

    Atau, jalankan kode transaksi SPRO, lalu klik SAP Reference IMG.

  2. Klik ABAP SDK for Google Cloud > Setelan Dasar > Vertex AI SDK: Konfigurasi Parameter Pembuatan Model.

  3. Klik New Entries.

  4. Masukkan nilai untuk kolom berikut:

    Kolom Jenis data Deskripsi
    Model Key String

    Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi model, seperti Gemini.

    Anda menggunakan kunci model ini saat membuat instance model generatif atau class embedding untuk menentukan konfigurasi pembuatan yang akan diterapkan.
    Model ID String

    ID model LLM, seperti gemini-1.5-flash-001.

    Untuk mengetahui informasi tentang versi model Vertex AI, lihat Versi dan siklus proses model.
    Google Cloud Key Name String Kunci klien yang telah Anda konfigurasi untuk melakukan autentikasi ke Google Cloud selama penyiapan autentikasi.
    Google Cloud Region Location ID String

    ID lokasi region Google Cloud tempat fitur Vertex AI yang ingin Anda gunakan sudah tersedia.

    Biasanya, Anda menggunakan wilayah yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang Anda tuju. Untuk mengetahui informasi selengkapnya, lihat lokasi Vertex AI.
    Publisher ID of the LLM String Opsional. Penayang LLM, seperti google.
    Response MIME type String Opsional. Jenis MIME respons output dari teks kandidat yang dihasilkan. Jenis MIME yang didukung:
    • text/plain: (default) Output teks.
    • application/json: Respons JSON pada kandidat.
    Model harus diminta untuk menghasilkan jenis respons yang sesuai, jika tidak, perilakunya tidak ditentukan.
    Randomness temperature String

    Opsional. Mengontrol keacakan prediksi. Untuk mengetahui informasi selengkapnya, lihat Suhu.

    Rentang: [0,0, 1,0]
    Top-K Sampling Float

    Opsional. Top-K mengubah cara model memilih token untuk output.

    Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk informasi selengkapnya, lihat Top-K.

    Rentang: [1, 40]
    Top-P Sampling Float

    Opsional. Top-P mengubah cara model memilih token untuk output.

    Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Untuk mengetahui informasi selengkapnya, lihat Top-P.

    Rentang: [0,0, 1,0]
    Maximum number of output tokens per msg Bilangan bulat

    Opsional. Jumlah maksimum token yang dapat dibuat dalam respons. J terdiri dari kira-kira empat karakter. 100 token setara dengan sekitar 60-80 kata.

    Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang berpotensi lebih panjang.
    Positive Penalties Float

    Opsional. Nilai positif akan menghukum token yang telah muncul dalam teks yang dihasilkan, sehingga meningkatkan kemungkinan untuk menghasilkan lebih banyak topik yang beragam.

    Rentang: [-2.0, 2.0]
    Frequency Penalties Float

    Opsional. Nilai positif akan menghukum token yang berulang kali muncul dalam teks yang dihasilkan, sehingga mengurangi kemungkinan pengulangan konten yang sama.

    Rentang: [-2.0, 2.0]

    Jika Anda tidak memberikan nilai untuk parameter opsional, SDK akan menggunakan nilai default parameter yang khusus untuk versi model yang dikonfigurasi di Model ID.

  5. Simpan entri baru.

Mengonfigurasi parameter Penelusuran Vektor

Untuk menentukan konfigurasi Vector Search, Vertex AI SDK untuk ABAP menggunakan tabel /GOOG/SEARCHCONF.

Untuk memperbarui tabel /GOOG/SEARCHCONF, lakukan langkah-langkah berikut:

  1. Di GUI SAP, jalankan kode transaksi /GOOG/SDK_IMG.

    Atau, jalankan kode transaksi SPRO, lalu klik SAP Reference IMG.

  2. Klik ABAP SDK for Google Cloud > Setelan Dasar > Vertex AI SDK: Konfigurasi Parameter Penelusuran Vektor.

  3. Klik New Entries.

  4. Masukkan nilai untuk kolom berikut:

    Kolom Jenis data Deskripsi
    Search Key String Nama unik yang Anda tentukan untuk mengidentifikasi konfigurasi penelusuran.
    Google Cloud Key Name String Kunci klien yang telah Anda konfigurasi untuk melakukan autentikasi ke Google Cloud selama penyiapan autentikasi.
    Google Cloud Region Location ID String

    ID lokasi region Google Cloud tempat fitur Vertex AI yang ingin Anda gunakan tersedia.

    Biasanya, Anda menggunakan wilayah yang paling dekat dengan lokasi fisik Anda atau lokasi fisik pengguna yang Anda tuju. Untuk mengetahui informasi selengkapnya, lihat lokasi Vertex AI.
    Deployment ID of Vector Index String ID deployment indeks. Saat Anda men-deploy indeks ke Anda menetapkan ID deployment yang unik.

    Untuk mengetahui informasi tentang deployment indeks, lihat Men-deploy indeks vektor ke endpoint indeks.
    Vector Index Endpoint ID String

    ID endpoint indeks tempat indeks di-deploy.

    Untuk mengetahui informasi tentang endpoint indeks, lihat Membuat endpoint indeks vektor.

  5. Simpan entri baru.

Langkah selanjutnya