جریان ها را در هر پلت فرم میزبانی برنامه مستقر کنید

می‌توانید جریان‌های Firebase Genkit را به‌عنوان سرویس‌های وب با استفاده از هر سرویسی که می‌تواند میزبان یک Go باینری باشد، مستقر کنید. این صفحه، به عنوان مثال، شما را در فرآیند کلی استقرار جریان نمونه پیش‌فرض راهنمایی می‌کند و به جایی که باید اقدامات خاص ارائه‌دهنده را انجام دهید، اشاره می‌کند.

  1. یک دایرکتوری برای پروژه نمونه Genkit ایجاد کنید:

    mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project

    اگر می خواهید از یک IDE استفاده کنید، آن را در این دایرکتوری باز کنید.

  2. یک ماژول Go را در فهرست پروژه خود راه اندازی کنید:

    go mod init example/cloudrun

  3. Genkit را در پروژه خود راه اندازی کنید:

    genkit init

    ارائه دهنده مدلی را که می خواهید استفاده کنید انتخاب کنید.

    پیش فرض ها را برای درخواست های باقی مانده بپذیرید. ابزار genkit یک فایل منبع نمونه ایجاد می کند تا شما را شروع به توسعه جریان های هوش مصنوعی خود کند. با این حال، برای بقیه این آموزش، شما فقط جریان نمونه را اجرا می کنید.

  4. فایل نمونه ( main.go یا genkit.go ) را ویرایش کنید تا به صراحت پورتی را که سرور جریان باید به آن گوش دهد، مشخص کنید:

    if err := genkit.Init(ctx,
	&genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
); err != nil {
	log.Fatal(err)
}

    اگر ارائه دهنده شما از شما می خواهد که در یک پورت خاص گوش دهید، حتماً Genkit را بر اساس آن پیکربندی کنید.

  5. نوعی از احراز هویت و مجوز را برای دسترسی دروازه به جریان هایی که قصد دارید اجرا کنید، اجرا کنید.

    از آنجایی که بیشتر سرویس‌های هوش مصنوعی مولد اندازه‌گیری می‌شوند، به احتمال زیاد نمی‌خواهید به هیچ نقطه پایانی که آنها را فراخوانی می‌کند، اجازه دسترسی آزاد را بدهید. برخی از سرویس های میزبانی یک لایه احراز هویت را به عنوان فرانت اند برای برنامه های مستقر در آنها ارائه می دهند که می توانید برای این منظور از آن استفاده کنید.

  6. اعتبارنامه های API را در دسترس تابع مستقر خود قرار دهید. بسته به ارائه دهنده مدلی که انتخاب کرده اید یکی از موارد زیر را انجام دهید:

    جمینی (گوگل هوش مصنوعی)

    1. مطمئن شوید که Google AI در منطقه شما در دسترس است.

    2. با استفاده از Google AI Studio یک کلید API برای Gemini API ایجاد کنید .

    3. کلید API را در محیط مستقر در دسترس قرار دهید.

      اکثر میزبان های برنامه سیستمی را برای مدیریت امن اسرار مانند کلیدهای API ارائه می دهند. اغلب، این اسرار در قالب متغیرهای محیطی در اختیار اپلیکیشن شما قرار می گیرند. اگر بتوانید کلید API خود را به متغیر GOOGLE_GENAI_API_KEY اختصاص دهید، Genkit به طور خودکار از آن استفاده خواهد کرد. در غیر این صورت، باید فراخوانی googleai.Init() را تغییر دهید تا به صراحت کلید را تنظیم کنید. (اما کلید را مستقیماً در کد قرار ندهید! از امکانات مدیریت مخفی ارائه شده توسط ارائه دهنده هاست خود استفاده کنید.)

    Gemini (Vertex AI)

    1. در کنسول Cloud، Vertex AI API را برای پروژه خود فعال کنید .

    2. در صفحه IAM ، اگر قبلاً ندارید، یک حساب سرویس برای دسترسی به Vertex AI API ایجاد کنید.

      به این حساب، نقش Vertex AI User را اعطا کنید.

    3. Application Default Credentials را در محیط میزبانی خود تنظیم کنید .

    4. افزونه را با شناسه پروژه Google Cloud خود و مکان API Vertex AI که می خواهید استفاده کنید پیکربندی کنید. می توانید این کار را با تنظیم متغیرهای محیطی GCLOUD_PROJECT و GCLOUD_LOCATION در محیط میزبانی خود یا در فراخوانی vertexai.Init() انجام دهید.

    تنها رازی که باید برای این آموزش راه اندازی کنید، مربوط به ارائه دهنده مدل است، اما به طور کلی، باید برای هر سرویسی که جریان شما استفاده می کند، کاری مشابه انجام دهید.

  7. اختیاری : جریان خود را در رابط کاربری توسعه‌دهنده امتحان کنید:

    1. محیط محلی خود را برای ارائه دهنده مدلی که انتخاب کرده اید تنظیم کنید:

      جمینی (گوگل هوش مصنوعی) 

      export GOOGLE_GENAI_API_KEY=<your API key>

      Gemini (Vertex AI)

      export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login

    2. UI را شروع کنید:

      genkit start

    3. در رابط کاربری توسعه دهنده (http://localhost:4000/)، جریان را اجرا کنید:

      1. روی menuSuggestionFlow کلیک کنید.

      2. در زبانه ورودی JSON ، موضوعی را برای مدل ارائه دهید:

        "banana"

      3. روی Run کلیک کنید.

  8. اگر تا کنون همه چیز مطابق انتظار کار می کند، می توانید جریان را با استفاده از ابزارهای ارائه دهنده خود بسازید و اجرا کنید.