Google 生成式 AI 外掛程式

Google 生成式 AI 外掛程式透過 Gemini API 提供 Google Gemini 模型的介面。

安裝項目

npm i --save @genkit-ai/googleai

設定

如要使用這個外掛程式,請在呼叫 configureGenkit() 時指定:

import { googleAI } from '@genkit-ai/googleai';

export default configureGenkit({
  plugins: [googleAI()],
  // ...
});

外掛程式需要 Gemini API 的 API 金鑰,您可以在 Google AI Studio 取得。

採取下列任一做法,設定外掛程式以使用 API 金鑰:

  • GOOGLE_GENAI_API_KEY 環境變數設為 API 金鑰。

  • 請在初始化外掛程式時指定 API 金鑰:

    googleAI({ apiKey: yourKey });
    

    不過,請勿直接在程式碼中嵌入 API 金鑰!請僅將這項功能與 Cloud Secret Manager 或類似服務搭配使用。

部分模型 (例如 Gemini 1.5 Pro) 為預先發布版,只能透過 v1beta API 使用。您可以指定 apiVersion 來取得這些模型的存取權:

configureGenkit({
  plugins: [googleAI({ apiVersion: 'v1beta' })],
});

如果您想同時使用不同版本的模型,也可以指定多個版本

configureGenkit({
  plugins: [googleAI({ apiVersion: ['v1', 'v1beta'] })],
});

用量

這個外掛程式會以靜態方式將參照匯出至支援的模型:

import {
  geminiPro,
  geminiProVision,
  textEmbeddingGecko001,
} from '@genkit-ai/googleai';

您可以透過這些參照來指定 generate() 使用的模型:

const llmResponse = await generate({
  model: geminiPro,
  prompt: 'Tell me a joke.',
});

或使用嵌入器 (例如textEmbeddingGecko001) 取代為 embed 或擷取器:

const embedding = await embed({
  embedder: textEmbeddingGecko001,
  content: input,
});