যেকোনো অ্যাপ হোস্টিং প্ল্যাটফর্মে প্রবাহ স্থাপন করুন

আপনি একটি Go বাইনারি হোস্ট করতে পারে এমন যেকোনো পরিষেবা ব্যবহার করে ওয়েব পরিষেবা হিসাবে Firebase Genkit ফ্লোগুলি স্থাপন করতে পারেন। এই পৃষ্ঠাটি, একটি উদাহরণ হিসাবে, আপনাকে ডিফল্ট নমুনা প্রবাহ স্থাপনের সাধারণ প্রক্রিয়ার মাধ্যমে নিয়ে যায় এবং আপনাকে কোথায় প্রদানকারী-নির্দিষ্ট পদক্ষেপ নিতে হবে তা নির্দেশ করে।

  1. Genkit নমুনা প্রকল্পের জন্য একটি ডিরেক্টরি তৈরি করুন:

    mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project

    আপনি একটি IDE ব্যবহার করতে যাচ্ছেন, এই ডিরেক্টরিতে এটি খুলুন.

  2. আপনার প্রকল্প ডিরেক্টরিতে একটি গো মডিউল শুরু করুন:

    go mod init example/cloudrun

  3. আপনার প্রকল্পে জেনকিট শুরু করুন:

    genkit init

    আপনি ব্যবহার করতে চান মডেল প্রদানকারী নির্বাচন করুন.

    অবশিষ্ট প্রম্পটগুলির জন্য ডিফল্টগুলি গ্রহণ করুন৷ genkit টুল একটি নমুনা সোর্স ফাইল তৈরি করবে যাতে আপনি আপনার নিজস্ব AI ফ্লো বিকাশ শুরু করতে পারেন। এই টিউটোরিয়ালের বাকি অংশের জন্য, আপনি শুধু নমুনা প্রবাহ স্থাপন করবেন।

  4. ফ্লো সার্ভারের যে পোর্টটি শুনতে হবে তা স্পষ্টভাবে নির্দিষ্ট করতে নমুনা ফাইলটি ( main.go বা genkit.go ) সম্পাদনা করুন:

    if err := genkit.Init(ctx,
	&genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
); err != nil {
	log.Fatal(err)
}

    যদি আপনার প্রদানকারী আপনাকে একটি নির্দিষ্ট পোর্টে শুনতে চান, তাহলে সেই অনুযায়ী Genkit কনফিগার করতে ভুলবেন না।

  5. আপনি যে প্রবাহ স্থাপন করার পরিকল্পনা করছেন তাতে গেট অ্যাক্সেসের জন্য প্রমাণীকরণ এবং অনুমোদনের কিছু ফর্ম প্রয়োগ করুন।

    যেহেতু বেশিরভাগ জেনারেটিভ এআই পরিষেবাগুলি মিটার করা হয়, আপনি সম্ভবত সেগুলিকে কল করে এমন কোনও প্রান্তে খোলা অ্যাক্সেসের অনুমতি দিতে চান না৷ কিছু হোস্টিং পরিষেবা তাদের উপর স্থাপন করা অ্যাপগুলির ফ্রন্টএন্ড হিসাবে একটি প্রমাণীকরণ স্তর প্রদান করে, যা আপনি এই উদ্দেশ্যে ব্যবহার করতে পারেন।

  6. আপনার নিয়োজিত ফাংশনে API শংসাপত্রগুলি উপলব্ধ করুন৷ আপনার বেছে নেওয়া মডেল প্রদানকারীর উপর নির্ভর করে নিম্নলিখিতগুলির মধ্যে একটি করুন:

    মিথুন (Google AI)

    1. আপনার অঞ্চলে Google AI উপলব্ধ রয়েছে তা নিশ্চিত করুন৷

    2. Google AI স্টুডিও ব্যবহার করে Gemini API-এর জন্য একটি API কী তৈরি করুন ।

    3. স্থাপন করা পরিবেশে API কী উপলব্ধ করুন।

      বেশিরভাগ অ্যাপ হোস্ট এপিআই কীগুলির মতো গোপনীয়তাগুলি নিরাপদে পরিচালনা করার জন্য কিছু সিস্টেম সরবরাহ করে। প্রায়শই, এই গোপনীয়তাগুলি আপনার অ্যাপে পরিবেশের ভেরিয়েবলের আকারে পাওয়া যায়। আপনি যদি GOOGLE_GENAI_API_KEY ভেরিয়েবলে আপনার API কী বরাদ্দ করতে পারেন, Genkit স্বয়ংক্রিয়ভাবে এটি ব্যবহার করবে। অন্যথায়, স্পষ্টভাবে কী সেট করতে আপনাকে googleai.Init() কলটি পরিবর্তন করতে হবে। (কিন্তু কোডে সরাসরি কী এম্বেড করবেন না! আপনার হোস্টিং প্রদানকারীর দেওয়া গোপন ব্যবস্থাপনা সুবিধাগুলি ব্যবহার করুন।)

    মিথুন (Vertex AI)

    1. ক্লাউড কনসোলে, আপনার প্রকল্পের জন্য Vertex AI API সক্ষম করুন ।

    2. IAM পৃষ্ঠায়, Vertex AI API অ্যাক্সেস করার জন্য একটি পরিষেবা অ্যাকাউন্ট তৈরি করুন যদি আপনার কাছে আগে থেকে না থাকে।

      অ্যাকাউন্টটিকে Vertex AI ব্যবহারকারীর ভূমিকা প্রদান করুন।

    3. আপনার হোস্টিং পরিবেশে অ্যাপ্লিকেশন ডিফল্ট শংসাপত্র সেট আপ করুন ।

    4. আপনার Google ক্লাউড প্রকল্প আইডি এবং আপনি যে ভার্টেক্স AI API অবস্থানটি ব্যবহার করতে চান তার সাথে প্লাগইনটি কনফিগার করুন৷ আপনি আপনার হোস্টিং পরিবেশে GCLOUD_PROJECT এবং GCLOUD_LOCATION পরিবেশ ভেরিয়েবল সেট করে বা আপনার vertexai.Init() কলে তা করতে পারেন।

    এই টিউটোরিয়ালের জন্য আপনাকে সেট আপ করার জন্য একমাত্র গোপনীয়তাটি হল মডেল প্রদানকারীর জন্য, তবে সাধারণভাবে, আপনার প্রবাহ ব্যবহার করা প্রতিটি পরিষেবার জন্য আপনাকে অবশ্যই একই রকম কিছু করতে হবে।

  7. ঐচ্ছিক : বিকাশকারী UI এ আপনার প্রবাহ চেষ্টা করুন:

    1. আপনার নির্বাচিত মডেল প্রদানকারীর জন্য আপনার স্থানীয় পরিবেশ সেট আপ করুন:

      মিথুন (Google AI) 

      export GOOGLE_GENAI_API_KEY=<your API key>

      মিথুন (Vertex AI)

      export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login

    2. UI শুরু করুন:

      genkit start

    3. বিকাশকারী UI এ (http://localhost:4000/), ফ্লো চালান:

      1. মেনু SuggestionFlow এ ক্লিক করুন।

      2. ইনপুট JSON ট্যাবে, মডেলের জন্য একটি বিষয় প্রদান করুন:

        "banana"

      3. রান এ ক্লিক করুন।

  8. যদি এখন পর্যন্ত সবকিছু প্রত্যাশিতভাবে কাজ করে, তাহলে আপনি আপনার প্রদানকারীর সরঞ্জামগুলি ব্যবহার করে প্রবাহটি তৈরি এবং স্থাপন করতে পারেন।