Genkit for Node.js 1.0 is now available and production-ready! Learn more

このページは Cloud Translation API によって翻訳されました。

PDF ファイルとチャットする

Genkit を使用すると、ユーザーが PDF ファイルとチャットできるアプリを構築できます。そのための手順は以下のとおりです。

プロジェクトを設定する
必要な依存関係をインポートする
Genkit とデフォルトモデルを構成する
PDF ファイルを読み込んで解析する
プロンプトを設定する
UI を実装する
チャットループを実装する
アプリを実行する

このガイドでは、これらのタスクをそれぞれ行う方法について説明します。

依存関係

作業を開始する前に、次の依存関係を設定する必要があります。

タスク

依存関係を設定したら、プロジェクト自体をビルドできます。

1. プロジェクトを設定する

ディレクトリ構造と、ソースコードを格納するファイルを作成します。
```
$ mkdir -p chat-with-a-pdf/src && \
cd chat-with-a-pdf/src && \
touch index.ts
```
新しい TypeScript プロジェクトを初期化します。
```
$ npm init -y
```
pdf-parse モジュールをインストールします。
```
$ npm i pdf-parse
```
プロジェクトで Genkit を使用するには、次の Genkit 依存関係をインストールします。
```
$ npm install genkit @genkit-ai/googleai
```

genkit は、Genkit のコア機能を提供します。
@genkit-ai/googleai は、Google AI Gemini モデルへのアクセス権を提供します。

5. モデル API キーを取得して構成する

キーを作成

GOOGLE_GENAI_API_KEY`

$ export GOOGLE_GENAI_API_KEY=<your API key>

注: このチュートリアルでは AI Studio の Gemini API を使用しますが、Genkit は次のようなさまざまなモデルプロバイダをサポートしています。

Vertex AI の Gemini。
Anthropic の Claude 3 モデルと Llama 3.1（Vertex AI Model Garden 経由）、コミュニティプラグイン。
Ollama を介したオープンソースモデル。
OpenAI や Cohere などのコミュニティサポートプロバイダ。

2. 必要な依存関係をインポートする

作成した index.ts ファイルに次の行を追加して、このプロジェクトに必要な依存関係をインポートします。

   import { gemini15Flash, googleAI } from '@genkit-ai/googleai';
   import { genkit } from 'genkit';
   import pdf from 'pdf-parse';
   import fs from 'fs';
   import { createInterface } from "node:readline/promises";

最初の 2 行は、Genkit と Google AI プラグインをインポートします。
2 行目と 3 行目は PDF パーサー用です。
5 行目は UI の実装用です。

3. Genkit とデフォルトモデルを構成する

次の行を追加して Genkit を構成し、Gemini 1.5 Flash をデフォルトモデルとして設定します。

   const ai = genkit({
     plugins: [googleAI()],
     model: gemini15Flash,
   });

次に、コードとエラー処理の骨組みを追加します。

   (async () => {
     try {
       // Step 1: get command line arguments

       // Step 2: load PDF file

       // Step 3: construct prompt

       // Step 4: start chat

       Step 5: chat loop

     } catch (error) {
       console.error("Error parsing PDF or interacting with Genkit:", error);
     }
   })(); // <-- don't forget the trailing parentheses to call the function!

4. PDF を読み込んで解析する

ステップ 1 で、コマンドラインから渡された PDF ファイル名を読み取るコードを追加します。

  const filename = process.argv[2];
  if (!filename) {
    console.error("Please provide a filename as a command line argument.");
    process.exit(1);
  }

ステップ 2 で、PDF ファイルの内容を読み込むコードを追加します。

  let dataBuffer = fs.readFileSync(filename);
  const { text } = await pdf(dataBuffer);

5. プロンプトを設定する

ステップ 3 で、プロンプトを設定するコードを追加します。

   const prefix = process.argv[3] || "Sample prompt: Answer the user's questions about the contents of this PDF file.";
   const prompt = `
     ${prefix}
     Context:
     ${text}
       `

最初の const 宣言は、ユーザーがコマンドラインからプロンプトを渡さない場合にデフォルトのプロンプトを定義します。
2 番目の const 宣言は、プロンプトの接頭辞と PDF ファイルの全テキストをモデルのプロンプトに補間します。

6. UI を実装する

ステップ 4 で、次のコードを追加してチャットを開始し、UI を実装します。

   const chat = ai.chat({ system: prompt })
   const readline = createInterface(process.stdin, process.stdout);
   console.log("You're chatting with Gemini. Ctrl-C to quit.\n");

最初の const 宣言は、chat メソッドを呼び出してプロンプト（PDF ファイルの全文を含む）を渡すことで、モデルとのチャットを開始します。残りのコードは、テキスト入力をインスタンス化し、ユーザーにメッセージを表示します。

7. チャットループを実装する

ステップ 5 で、ユーザー入力を受け取るコードを追加し、chat.send を使用してその入力をモデルに送信します。この部分は、ユーザーが Ctrl+C キーを押すまでループします。

       while (true) {
         const userInput = await readline.question("> ");
         const {text} = await chat.send(userInput);
         console.log(text);
       }

8. アプリを実行する

ターミナルからアプリを実行します。プロジェクトのルートフォルダでターミナルを開き、次のコマンドを実行します。

npx tsx src/index.ts path/to/some.pdf

これで、PDF ファイルとのチャットを開始できます。