Men-deploy alur ke platform hosting aplikasi mana pun

Anda dapat men-deploy alur Firebase Genkit sebagai layanan web menggunakan layanan apa pun yang dapat menghosting biner Go. Halaman ini, sebagai contoh, memandu Anda dalam proses umum untuk men-deploy alur contoh default, dan menunjukkan di mana Anda harus mengambil tindakan khusus penyedia.

  1. Buat direktori untuk project contoh Genkit:

    mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project

    Jika Anda akan menggunakan IDE, buka direktori ini.

  2. Inisialisasi modul Go di direktori project Anda:

    go mod init example/cloudrun

  3. Inisialisasi Genkit di project Anda:

    genkit init

    Pilih penyedia model yang ingin Anda gunakan.

    Setujui default untuk perintah yang tersisa. Alat genkit akan membuat contoh file sumber untuk membantu Anda mulai mengembangkan alur AI Anda sendiri. Namun, untuk sisa tutorial ini, Anda hanya akan men-deploy contoh alur.

  4. Edit file contoh (main.go atau genkit.go) untuk menentukan secara eksplisit port yang akan diproses oleh server flow:

    if err := genkit.Init(ctx,
	&genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
); err != nil {
	log.Fatal(err)
}

    Jika penyedia mengharuskan Anda memproses port tertentu, pastikan untuk mengonfigurasi Genkit yang sesuai.

  5. Terapkan beberapa bentuk autentikasi dan otorisasi untuk membuka akses ke alur yang ingin Anda deploy.

    Karena sebagian besar layanan AI generatif diukur, kemungkinan besar Anda tidak ingin mengizinkan akses terbuka ke endpoint mana pun yang memanggil layanan tersebut. Beberapa layanan hosting menyediakan lapisan autentikasi sebagai frontend untuk aplikasi yang di-deploy padanya, yang dapat Anda gunakan untuk tujuan ini.

  6. Sediakan kredensial API untuk fungsi yang Anda deploy. Lakukan salah satu tindakan berikut, bergantung pada penyedia model yang Anda pilih:

    Gemini (AI Google)

    1. Pastikan AI Google tersedia di wilayah Anda.

    2. Buat kunci API untuk Gemini API menggunakan Google AI Studio.

    3. Menyediakan kunci API di lingkungan yang di-deploy.

      Sebagian besar host aplikasi menyediakan beberapa sistem untuk menangani secret dengan aman, seperti kunci API. Sering kali, rahasia ini tersedia untuk aplikasi Anda dalam bentuk variabel lingkungan. Jika Anda dapat menetapkan kunci API ke variabel GOOGLE_GENAI_API_KEY, Genkit akan otomatis menggunakannya. Jika tidak, Anda harus mengubah panggilan googleai.Init() untuk menetapkan kunci secara eksplisit. (Tapi jangan menyematkan kunci secara langsung di dalam kode. Gunakan fasilitas pengelolaan rahasia yang disediakan oleh penyedia hosting Anda.)

    Gemini (Vertex AI)

    1. Di Konsol Cloud, Aktifkan Vertex AI API untuk project Anda.

    2. Di halaman IAM, buat akun layanan untuk mengakses Vertex AI API jika Anda belum memilikinya.

      Memberikan peran Vertex AI User ke akun tersebut.

    3. Siapkan Kredensial Default Aplikasi di lingkungan hosting Anda.

    4. Konfigurasikan plugin dengan project ID Google Cloud dan lokasi Vertex AI API yang ingin Anda gunakan. Anda dapat melakukannya dengan menetapkan variabel lingkungan GCLOUD_PROJECT dan GCLOUD_LOCATION di lingkungan hosting, atau dalam panggilan vertexai.Init().

    Satu-satunya secret yang perlu Anda siapkan untuk tutorial ini adalah untuk penyedia model, tetapi secara umum, Anda harus melakukan hal yang sama untuk setiap layanan yang digunakan flow Anda.

  7. Opsional: Coba alur Anda di UI developer:

    1. Siapkan lingkungan lokal untuk penyedia model yang Anda pilih:

      Gemini (AI Google)

      export GOOGLE_GENAI_API_KEY=<your API key>

      Gemini (Vertex AI)

      export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login

    2. Mulai UI:

      genkit start

    3. Di UI developer (http://localhost:4000/), jalankan alurnya:

      1. Klik menuSuggestionFlow.

      2. Di tab Input JSON, berikan subjek untuk model:

        "banana"

      3. Klik Run.

  8. Jika semuanya berfungsi seperti yang diharapkan sejauh ini, Anda dapat mem-build dan men-deploy flow menggunakan alat penyedia.