Akışları herhangi bir uygulama barındırma platformuna dağıtma

Firebase Genkit akışlarını, aşağıdaki işlemleri yapabilen herhangi bir hizmeti kullanarak web hizmetleri olarak dağıtabilirsiniz: bir Go ikili programı barındırın. Örnek olarak bu sayfa, size ilk olarak ve sağlayıcıya özgü olması gereken noktaları işlemlerdir.

  1. Genkit örnek projesi için bir dizin oluşturun:

    mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project

    IDE kullanacaksanız IDE'yi bu dizinde açın.

  2. Proje dizininizde bir Go modülü başlatın:

    go mod init example/cloudrun

  3. Projenizde Genkit'i başlatın:

    genkit init

    Kullanmak istediğiniz model sağlayıcıyı seçin.

    Kalan istemler için varsayılanları kabul edin. genkit aracı, kendi AI akışlarınızı geliştirmeye başlamanızı sağlayacak örnek bir kaynak dosya oluşturun. Ancak bu eğiticinin geri kalanında yalnızca örnek akışı dağıtacaksınız.

  4. main.gogenkit.go bağlantı noktası:

    if err := genkit.Init(ctx,
	&genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
); err != nil {
	log.Fatal(err)
}

    Sağlayıcınız belirli bir bağlantı noktasını dinlemenizi gerektiriyorsa Genkit'i buna göre yapılandırın.

  5. Erişim güvenliğini sağlamak için bir tür kimlik doğrulama ve yetkilendirme uygulayın. planlarsınız.

    Çoğu üretken yapay zeka hizmeti sayaçlı olduğundan büyük olasılıkla onları çağıran uç noktalara açık erişime izin vermek için. Bazı barındırma hizmetleri bunlar üzerinde dağıtılan uygulamalar için ön uç olarak bir kimlik doğrulama katmanı sağlar elde edebilirsiniz.

  6. API kimlik bilgilerini dağıtılan işleviniz için kullanılabilir hale getirin. Aşağıdakilerden birini yapın: seçtiğiniz model sağlayıcıya bağlı olarak aşağıdaki adımları uygulayın:

    Gemini (Google Yapay Zeka)

    1. Google Yapay Zeka'nın bölgenizde kullanılabilir.

    2. Şu öğe için bir API anahtarı oluşturun: Gemini API, Google AI Studio'yu kullanıyor.

    3. API anahtarını, dağıtılan ortamda kullanılabilir hale getirin.

      Uygulama barındırıcılarının çoğu, gizli anahtarların güvenli bir şekilde ele alınması için olarak belirleyin. Bu sırlar genellikle biçiminde bir test gerçekleştirmektir. API anahtarınızı GOOGLE_GENAI_API_KEY değişkeni varsa Genkit bunu otomatik olarak kullanır. Aksi takdirde, googleai.Init() çağrısını açıkça anahtarı ayarlayın. (Ancak anahtarı doğrudan kodun içine yerleştirmeyin! Gizli anahtarı kullanma barındırma sağlayıcınız tarafından sağlanan yönetim tesisleri.)

    Gemini (Vertex AI)

    1. Cloud Console'da Vertex AI API'yi etkinleştirme belirleneceğini konuşacağız.

    2. IAM'de sayfasında, Vertex AI API'ye erişmek için bir hizmet hesabı hiç kriterlere uymamamız gerekir.

      Hesaba Vertex AI Kullanıcısı rolünü verin.

    3. Uygulama Varsayılan Kimlik Bilgilerini Ayarlayın .

    4. Eklentiyi Google Cloud proje kimliğiniz ve Vertex Kullanmak istediğiniz AI API konumu. Bunu, GCLOUD_PROJECT ve GCLOUD_LOCATION ortam değişkenleri veya vertexai.Init() görüşmenizde ekleyebilirsiniz.

    Bu eğitim için ayarlamanız gereken tek sır model içindir ancak genel olarak her hizmet için benzer bir işlem yapmanız gerekir. size yardımcı olur.

  7. İsteğe bağlı: Geliştirici kullanıcı arayüzündeki adımlarınızı deneyin:

    1. Seçtiğiniz model sağlayıcı için yerel ortamınızı ayarlayın:

      Gemini (Google Yapay Zeka)

      export GOOGLE_GENAI_API_KEY=<your API key>

      Gemini (Vertex AI)

      export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login

    2. Kullanıcı arayüzünü başlatın:

      genkit start

    3. Geliştiricinin kullanıcı arayüzünde (http://localhost:4000/) akışı çalıştırın:

      1. menuSuggestionFlow'u tıklayın.

      2. Input JSON sekmesinde model için bir konu sağlayın:

        "banana"

      3. Çalıştır'ı tıklayın.

  8. Şimdiye kadar her şey beklendiği gibi çalışıyorsa bir komut dosyası oluşturup sağlayıcınıza ait araçlardan yararlanın.