Trình bổ trợ sắc độ

Trình bổ trợ Chroma cung cấp các phương thức triển khai chỉ mục và trình truy xuất sử dụng cơ sở dữ liệu vectơ Chroma ở chế độ máy khách/máy chủ.

Lắp đặt

npm i --save genkitx-chromadb

Cấu hình

Để sử dụng trình bổ trợ này, hãy chỉ định trình bổ trợ đó khi bạn khởi chạy Genkit:

import { genkit } from 'genkit';
import { chroma } from 'genkitx-chromadb';

const ai = genkit({
  plugins: [
    chroma([
      {
        collectionName: 'bob_collection',
        embedder: textEmbedding004,
      },
    ]),
  ],
});

Bạn phải chỉ định một bộ sưu tập Chroma và mô hình nhúng mà bạn muốn sử dụng. Ngoài ra, có hai tham số không bắt buộc:

• clientParams: Nếu không chạy máy chủ Chroma trên cùng một máy với quy trình Genkit, bạn cần chỉ định các tuỳ chọn xác thực hoặc nếu không chạy cấu hình máy chủ Chroma mặc định, bạn có thể chỉ định ChromaClientParams object Chroma để truyền đến ứng dụng Chroma:

  clientParams: {
    path: "http://192.168.10.42:8000",
  }
  

• embedderOptions: Sử dụng tham số này để truyền các tuỳ chọn đến trình nhúng:

  embedderOptions: { taskType: 'RETRIEVAL_DOCUMENT' },
  

Cách sử dụng

Nhập các tệp tham chiếu trình truy xuất và trình lập chỉ mục như sau:

import { chromaRetrieverRef } from 'genkitx-chromadb';
import { chromaIndexerRef } from 'genkitx-chromadb';

Sau đó, sử dụng các tệp tham chiếu với ai.retrieve() và ai.index():

// To use the index you configured when you loaded the plugin:
let docs = await ai.retrieve({ retriever: chromaRetrieverRef, query });

// To specify an index:
export const bobFactsRetriever = chromaRetrieverRef({
  collectionName: 'bob-facts',
});
docs = await ai.retrieve({ retriever: bobFactsRetriever, query });

// To use the index you configured when you loaded the plugin:
await ai.index({ indexer: chromaIndexerRef, documents });

// To specify an index:
export const bobFactsIndexer = chromaIndexerRef({
  collectionName: 'bob-facts',
});
await ai.index({ indexer: bobFactsIndexer, documents });

Hãy xem trang Tạo bằng phương thức truy xuất tăng cường để thảo luận chung về trình lập chỉ mục và trình truy xuất.