Wtyczka Google Generative AI

Wtyczka Google Generative AI udostępnia interfejsy do modeli Gemini Google za pomocą interfejsu API Gemini.

Instalacja

npm i --save @genkit-ai/googleai

Konfiguracja

Aby użyć tej wtyczki, podaj ją podczas wywoływania funkcji configureGenkit():

import { googleAI } from '@genkit-ai/googleai';

export default configureGenkit({
  plugins: [googleAI()],
  // ...
});

Wtyczka wymaga klucza API dla interfejsu Gemini API, który można uzyskać z Google AI Studio.

Skonfiguruj wtyczkę tak, aby używała klucza interfejsu API, wykonując jedną z tych czynności:

• Ustaw zmienną środowiskową GOOGLE_GENAI_API_KEY na swój klucz interfejsu API.

• Określ klucz interfejsu API podczas inicjowania wtyczki:

  googleAI({ apiKey: yourKey });
  

  Nie umieszczaj jednak klucza interfejsu API bezpośrednio w kodzie. Używaj tej funkcji tylko w połączeniu z usługą taką jak Cloud Secret Manager lub podobną.

Niektóre modele (np. Gemini 1.5 Pro) są w wersji testowej i można z nich korzystać tylko za pomocą interfejsu API v1beta. Aby uzyskać dostęp do tych modeli, określ apiVersion:

configureGenkit({
  plugins: [googleAI({ apiVersion: 'v1beta' })],
});

Możesz też określić wiele wersji, jeśli chcesz korzystać z różnych wersji modelu naraz.

configureGenkit({
  plugins: [googleAI({ apiVersion: ['v1', 'v1beta'] })],
});

Wykorzystanie

Ta wtyczka statycznie eksportuje odwołania do obsługiwanych modeli:

import {
  geminiPro,
  geminiProVision,
  textEmbeddingGecko001,
} from '@genkit-ai/googleai';

Możesz użyć tych odwołań, aby określić, którego modelu generate() używa:

const llmResponse = await generate({
  model: geminiPro,
  prompt: 'Tell me a joke.',
});

lub używają narzędzi do umieszczania (np. textEmbeddingGecko001) z parametrem embed lub modułami do pobierania:

const embedding = await embed({
  embedder: textEmbeddingGecko001,
  content: input,
});