कॉन्टेंट जनरेट किया जा रहा है

Firebase Genkit, एलएलएम की मदद से कॉन्टेंट जनरेट करने के लिए एक आसान इंटरफ़ेस उपलब्ध कराता है.

मॉडल

Firebase Genkit में मॉडल, लाइब्रेरी और ऐब्स्ट्रैक्ट होते हैं. इनकी मदद से, Google और Google से बाहर के एलएलएम.

मॉडल, जांच के लिए पूरी तरह से इंस्ट्रुमेंट किए जाते हैं और टूलिंग के साथ आते हैं Genkit Developer के यूज़र इंटरफ़ेस (यूआई) से मिले इंटिग्रेशन -- आपके पास इनका इस्तेमाल करके किसी भी मॉडल को आज़माने का विकल्प है को भी चुन सकते हैं.

Genkit में मॉडल का इस्तेमाल करते समय, आपको सबसे पहले वह मॉडल कॉन्फ़िगर करना होगा काम करना चाहते हैं. मॉडल कॉन्फ़िगरेशन, प्लगिन सिस्टम की मदद से किया जाता है. तय सीमा में इस उदाहरण में, Vertex AI प्लगिन को कॉन्फ़िगर किया जा रहा है, जो Gemini को मॉडल.

import {
	"github.com/firebase/genkit/go/ai"
	"github.com/firebase/genkit/go/plugins/vertexai"
}

// Default to the value of GCLOUD_PROJECT for the project,
// and "us-central1" for the location.
// To specify these values directly, pass a vertexai.Config value to Init.
if err := vertexai.Init(ctx, nil); err != nil {
	return err
}

ध्यान दें: अलग-अलग प्लगिन और मॉडल, पुष्टि करने के लिए. उदाहरण के लिए, Vertex API, Google ऑथराइज़ेशन लाइब्रेरी का इस्तेमाल करता है, ताकि ऐप्लिकेशन डिफ़ॉल्ट क्रेडेंशियल का इस्तेमाल करके, ज़रूरी क्रेडेंशियल फ़ेच करेगा.

प्लग इन से मिले मॉडल का इस्तेमाल करने के लिए, आपको खास मॉडल के रेफ़रंस की ज़रूरत होगी और वर्शन:

model := vertexai.Model("gemini-1.5-flash")

इस्तेमाल किए जा सकने वाले मॉडल

Genkit अपने प्लगिन सिस्टम की मदद से, मॉडल से जुड़ी सहायता उपलब्ध कराता है. नीचे दिए गए प्लग इन आधिकारिक रूप से समर्थित हैं:

प्लग इन	मॉडल
Google का जनरेटिव एआई	Gemini Pro और Gemini Pro Vision
Google Vertex AI	Gemini Pro, Gemini Pro Vision, Gemini 1.5 Flash, Gemini 1.5 Pro, Imagen2
ओलामा	कई लोकल मॉडल, जैसे कि Gemma, Llama 2, Mistral वगैरह

सेटअप और उपयोग की जानकारी के लिए प्रत्येक प्लग इन के लिए दस्तावेज़ देखें.

कॉन्टेंट जनरेट करने का तरीका

Genkit, मॉडल की मदद से कॉन्टेंट जनरेट करने के लिए एक आसान हेल्पर फ़ंक्शन देता है.

केवल मॉडल को कॉल करने के लिए:

responseText, err := ai.GenerateText(ctx, model, ai.WithTextPrompt("Tell me a joke."))
if err != nil {
	return err
}
fmt.Println(responseText)

आपके पास मॉडल कॉल के साथ-साथ अन्य विकल्प भी पास करने का विकल्प होता है. इस्तेमाल किए जा सकने वाले विकल्प यह मॉडल और उसके एपीआई पर निर्भर करता है.

response, err := ai.Generate(ctx, model,
	ai.WithTextPrompt("Tell me a joke about dogs."),
	ai.WithConfig(ai.GenerationCommonConfig{
		Temperature:     1.67,
		StopSequences:   []string{"cat"},
		MaxOutputTokens: 3,
	}))

जवाब स्ट्रीम किए जा रहे हैं

Genkit, मॉडल के जवाबों को अलग-अलग सेक्शन में स्ट्रीम करने की सुविधा देता है. अलग-अलग हिस्सों में स्ट्रीम करने की सुविधा का इस्तेमाल करने के लिए, Generate() को कॉलबैक फ़ंक्शन पास करें:

response, err := ai.Generate(ctx, gemini15pro,
	ai.WithTextPrompt("Tell a long story about robots and ninjas."),
	// stream callback
	ai.WithStreaming(
		func(ctx context.Context, grc *ai.GenerateResponseChunk) error {
			fmt.Printf("Chunk: %s\n", grc.Text())
			return nil
		}))
if err != nil {
	return err
}

// You can also still get the full response.
fmt.Println(response.Text())

मल्टीमोडल इनपुट

अगर मॉडल मल्टीमॉडल इनपुट के साथ काम करता है, तो आपके पास इमेज प्रॉम्प्ट पास करने का विकल्प होता है:

imageBytes, err := os.ReadFile("img.jpg")
if err != nil {
	return err
}
encodedImage := base64.StdEncoding.EncodeToString(imageBytes)

resp, err := ai.Generate(ctx, gemini15pro, ai.WithMessages(
	ai.NewUserMessage(
		ai.NewTextPart("Describe the following image."),
		ai.NewMediaPart("", "data:image/jpeg;base64,"+encodedImage))))

इमेज प्रॉम्प्ट का फ़ॉर्मैट (https यूआरएल, gs यूआरएल, data यूआरआई) यह है मॉडल पर निर्भर करता है.

फ़ंक्शन कॉलिंग (टूल)

Genkit मॉडल, फ़ंक्शन कॉलिंग के लिए इंटरफ़ेस उपलब्ध कराता है. इससे, उन मॉडल को इस्तेमाल करने में मदद मिलती है जो इसे.

myJokeTool := ai.DefineTool(
	"myJoke",
	"useful when you need a joke to tell",
	func(ctx context.Context, input *any) (string, error) {
		return "haha Just kidding no joke! got you", nil
	},
)

response, err := ai.Generate(ctx, gemini15pro,
	ai.WithTextPrompt("Tell me a joke."),
	ai.WithTools(myJokeTool))

इससे उपयोगकर्ता के प्रॉम्प्ट को पूरा करने के लिए, टूल को अपने-आप कॉल कर दिया जाएगा.

मैसेज का इतिहास रिकॉर्ड किया जा रहा है

Genkit मॉडल, मॉडल को भेजे गए मैसेज के इतिहास को बनाए रखने में मदद करता है और उसके जवाब, जिनका इस्तेमाल इंटरैक्टिव अनुभव तैयार करने में किया जा सकता है, जैसे कि चैटबॉट.

सेशन के पहले प्रॉम्प्ट में, "इतिहास" उपयोगकर्ता का प्रॉम्प्ट ही है:

history := []*ai.Message{{
	Content: []*ai.Part{ai.NewTextPart(prompt)},
	Role:    ai.RoleUser,
}}

response, err := ai.Generate(context.Background(), gemini15pro, ai.WithMessages(history...))

जब आपको कोई जवाब मिले, तो उसे इतिहास में जोड़ें:

history = append(history, response.Candidates[0].Message)

इस इतिहास को क्रम से लगाया जा सकता है और इसे किसी डेटाबेस या सेशन स्टोरेज में सेव किया जा सकता है. उपयोगकर्ता के बाद के अनुरोधों के लिए, कॉल करने से पहले उन्हें इतिहास में जोड़ें Generate():

history = append(history, &ai.Message{
	Content: []*ai.Part{ai.NewTextPart(prompt)},
	Role:    ai.RoleUser,
})

response, err = ai.Generate(ctx, gemini15pro, ai.WithMessages(history...))

अगर इस्तेमाल किया जा रहा मॉडल, सिस्टम की भूमिका के साथ काम करता है, तो आपके पास इतिहास देखें:

history = []*ai.Message{{
	Content: []*ai.Part{ai.NewTextPart("Talk like a pirate.")},
	Role:    ai.RoleSystem,
}}