Плагин Google Generative AI

Плагин Google Generative AI предоставляет интерфейсы к моделям Google Gemini через Gemini API .

Монтаж

npm i --save @genkit-ai/googleai

Конфигурация

Чтобы использовать этот плагин, укажите его при вызове configureGenkit() :

import { googleAI } from '@genkit-ai/googleai';

export default configureGenkit({
  plugins: [googleAI()],
  // ...
});

Плагину требуется API-ключ для Gemini API, который вы можете получить в Google AI Studio .

Настройте плагин для использования вашего ключа API, выполнив одно из следующих действий:

  • Установите для переменной среды GOOGLE_GENAI_API_KEY свой ключ API.

  • Укажите ключ API при инициализации плагина:

    googleAI({ apiKey: yourKey });

    Однако не встраивайте ключ API непосредственно в код! Используйте эту функцию только в сочетании с такой службой, как Cloud Secret Manager или аналогичной.

Некоторые модели (например, Gemini 1.5 Pro) находятся в предварительной версии и доступны только через API v1beta . Вы можете указать apiVersion , чтобы получить доступ к этим моделям:

configureGenkit({
  plugins: [googleAI({ apiVersion: 'v1beta' })],
});

или вы можете указать несколько версий, если хотите использовать разные версии моделей одновременно.

configureGenkit({
  plugins: [googleAI({ apiVersion: ['v1', 'v1beta'] })],
});

Применение

Этот плагин статически экспортирует ссылки на поддерживаемые модели:

import {
  geminiPro,
  geminiProVision,
  textEmbeddingGecko001,
} from '@genkit-ai/googleai';

Вы можете использовать эти ссылки, чтобы указать, какую модель использует generate() :

const llmResponse = await generate({
  model: geminiPro,
  prompt: 'Tell me a joke.',
});

или используйте средства внедрения (например, textEmbeddingGecko001 ) со embed или ретриверами:

const embedding = await embed({
  embedder: textEmbeddingGecko001,
  content: input,
});