Untuk men-deploy aplikasi di Vertex AI, buat instance baru
ReasoningEngine
dan teruskan class aplikasi sebagai parameter. Jika Anda
ingin memperkenalkan dependensi paket untuk aplikasi Anda, gunakan
parameter berikut:
requirements
: Daftar dependensi paket PyPI eksternal. Setiap baris harus berupa string tunggal. Untuk mempelajari lebih lanjut, lihat Format File Persyaratan.extra_packages
: Daftar dependensi paket internal. Dependensi paket ini adalah file atau direktori lokal yang sesuai dengan paket Python lokal yang diperlukan oleh aplikasi.
Kode berikut menunjukkan cara men-deploy aplikasi:
DISPLAY_NAME = "Demo Langchain Application"
remote_app = reasoning_engines.ReasoningEngine.create(
reasoning_engines.LangchainAgent(
model=model,
tools=[get_exchange_rate],
model_kwargs=model_kwargs,
),
requirements=[
"google-cloud-aiplatform",
"langchain",
"langchain-core",
"langchain-google-vertexai",
"requests==2.*",
],
display_name=DISPLAY_NAME,
)
remote_app
Saat Anda men-deploy aplikasi ke Reasoning Engine, teruskan objek baru, bukan menggunakan kembali objek yang ada. Dengan cara ini, Anda menghindari pembuatan objek
yang telah menginisialisasi data yang tidak dapat dipilih, seperti koneksi database dan
layanan dalam metode .set_up
-nya.
Deployment aplikasi memerlukan waktu beberapa menit untuk dijalankan. Cloud SQL mem-build container dan mengaktifkan server HTTP di backend. Latensi deployment bergantung pada total waktu yang diperlukan untuk menginstal paket yang diperlukan.
Setelah di-deploy, remote_app
sesuai dengan instance CLASS_NAME
yang berjalan di Vertex AI dan dapat dikueri atau dihapus. Ini terpisah dari instance lokal CLASS_NAME
.
Setiap aplikasi yang di-deploy memiliki ID unik. Jalankan perintah berikut untuk mendapatkan ID resource_name
bagi aplikasi Anda:
remote_app.resource_name
resource_name
memiliki format berikut:
"projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID".