پلاگین تله متری و ورود به سیستم Google Cloud

افزونه Google Cloud داده های تله متری و ثبت نام Firebase Genkit را به مجموعه عملیات Google Cloud صادر می کند.

پیش نیازها

اگر می‌خواهید جریان‌هایی را که از این افزونه استفاده می‌کنند به صورت محلی اجرا کنید، باید ابزار Google Cloud CLI را نصب کنید.

یک حساب Google Cloud راه اندازی کنید

این افزونه به یک حساب Google Cloud (اگر قبلاً ندارید ثبت نام کنید ) و یک پروژه Google Cloud نیاز دارد.

قبل از افزودن افزونه، مطمئن شوید که API های زیر برای پروژه شما فعال هستند:

این APIها باید در داشبورد API پروژه شما فهرست شوند.

برای اطلاعات بیشتر در مورد فعال کردن و غیرفعال کردن APIها اینجا را کلیک کنید.

پیکربندی

برای فعال کردن صادرات به Google Cloud Tracing، Logging و Monitoring، بسته googlecloud را وارد کرده و Init() را اجرا کنید. پس از فراخوانی Init() ، تله متری شما به طور خودکار صادر می شود. 

import "github.com/firebase/genkit/go/plugins/googlecloud"

if err := googlecloud.Init(
	ctx,
	googlecloud.Config{ProjectID: "your-google-cloud-project"},
); err != nil {
	return err
}

باید پروژه Google Cloud را که می‌خواهید داده‌های تله متری را به آن صادر کنید، مشخص کنید. همچنین برخی از پارامترهای اختیاری وجود دارد:

  • ForceExport : داده‌های تله‌متری را حتی زمانی که در یک محیط توسعه‌دهنده اجرا می‌شود صادر کنید (مانند هنگام استفاده از genkit start یا genkit flow:run ). این یک راه سریع برای آزمایش یکپارچگی شما و ارسال اولین رویدادهای شما برای نظارت در Google Cloud است.

    اگر از این گزینه استفاده می کنید، باید اعتبار Cloud خود را نیز به صورت محلی در دسترس قرار دهید:

    gcloud auth application-default login

  • MetricInterval : بازه ای در نانوثانیه که در آن اطلاعات تله متری صادر می شود. به طور پیش فرض، این 60 ثانیه ( 60e9 نانوثانیه) است.

  • LogLevel : حداقل سطح شدت ورودی‌های گزارش برای صادرات. به طور پیش فرض، slog.LevelInfo .

این افزونه به اعتبار پروژه Google Cloud شما نیاز دارد. اگر جریان‌های خود را از یک محیط Google Cloud (Cloud Run و غیره) اجرا می‌کنید، اعتبارنامه‌ها به‌طور خودکار تنظیم می‌شوند. اجرای در محیط های دیگر نیاز به تنظیم اعتبار پیش فرض برنامه دارد.

نظارت بر تولید از طریق مجموعه عملیات Google Cloud

پس از اجرای یک جریان، به مجموعه عملیات Google Cloud بروید و پروژه خود را انتخاب کنید.

سیاههها و آثار

از منوی کناری، "Logging" را پیدا کنید و روی "Logs explorer" کلیک کنید.

شما همه گزارش‌هایی را که با جریان مستقر شما مرتبط هستند، از جمله console.log() را مشاهده خواهید کرد. هر گزارشی که دارای پیشوند [genkit] باشد یک گزارش داخلی Genkit است که حاوی اطلاعاتی است که ممکن است برای اهداف اشکال زدایی جالب باشد. برای مثال، گزارش‌های Genkit در قالب Config[...] حاوی ابرداده‌هایی مانند دما و مقادیر topK برای استنتاج‌های خاص LLM هستند. گزارش‌ها در قالب Output[...] حاوی پاسخ‌های LLM هستند در حالی که گزارش‌های Input[...] حاوی اعلان‌ها هستند. Cloud Logging دارای ACL های قوی است که امکان کنترل دقیق روی گزارش های حساس را فراهم می کند.

برای خطوط گزارش خاص، می‌توانید با کلیک بر روی منوی توسعه‌یافته، به دنباله‌های مربوطه بروید. نماد و انتخاب "مشاهده در جزئیات ردیابی".

این یک صفحه پیش نمایش ردیابی را نشان می دهد که یک نگاه سریع به جزئیات ردیابی ارائه می دهد. برای دسترسی به جزئیات کامل، روی پیوند "View in Trace" در سمت راست بالای صفحه کلیک کنید.

برجسته ترین عنصر ناوبری در Cloud Trace نمودار پراکندگی ردیابی است. این شامل تمام آثار جمع آوری شده در یک بازه زمانی معین است.

با کلیک بر روی هر نقطه داده، جزئیات آن در زیر نمودار پراکندگی نشان داده می شود.

نمای دقیق شامل شکل جریان، از جمله تمام مراحل، و اطلاعات مهم زمان بندی است. Cloud Trace این قابلیت را دارد که همه گزارش‌های مرتبط با یک ردیابی معین را در این نما به هم متصل کند. در منوی کشویی «Logs & Events» گزینه «Show expanded» را انتخاب کنید.

نمای حاصل امکان بررسی دقیق گزارش‌ها را در زمینه ردیابی، از جمله درخواست‌ها و پاسخ‌های LLM فراهم می‌کند.

معیارها

مشاهده تمام معیارهایی که Genkit صادر می کند با انتخاب "Logging" از منوی کناری و کلیک بر روی "Metrics Management" امکان پذیر است.

کنسول مدیریت متریک شامل نمای جدولی از تمام معیارهای جمع آوری شده، از جمله مواردی است که مربوط به Cloud Run و محیط اطراف آن است. با کلیک بر روی گزینه "Workload" لیستی نشان داده می شود که شامل معیارهای جمع آوری شده توسط Genkit است. هر متریک با پیشوند genkit یک معیار Genkit داخلی را تشکیل می دهد.

Genkit چندین دسته از معیارها را جمع آوری می کند، از جمله معیارهای سطح جریان، سطح عمل و سطح تولید. هر معیار دارای چندین بعد مفید است که فیلتر کردن و گروه بندی قوی را تسهیل می کند.

ابعاد متداول عبارتند از:

  • flow_name - نام سطح بالای جریان.
  • flow_path - دهانه و زنجیره دهانه والد آن تا دهانه ریشه.
  • error_code - در صورت بروز خطا، کد خطای مربوطه.
  • error_message - در صورت بروز خطا، پیام خطای مربوطه.
  • model - نام مدل.
  • temperature - مقدار دمای استنتاج.
  • topK - مقدار topK استنتاج.
  • topP - مقدار topP استنتاج.

معیارهای سطح جریان

نام ابعاد
genkit/flow/درخواستها flow_name، error_code، error_message
genkit/flow/latency flow_name

معیارهای سطح اقدام

نام ابعاد
جنکیت/عمل/درخواست flow_name، error_code، error_message
genkit/action/latency flow_name

معیارهای سطح تولید کنید

نام ابعاد
genkit/ai/generate flow_path، مدل، دما، topK، topP، error_code، error_message
genkit/ai/generate/input_tokens flow_path، مدل، دما، topK، topP
genkit/ai/generate/output_tokens flow_path، مدل، دما، topK، topP
genkit/ai/generate/input_characters flow_path، مدل، دما، topK، topP
genkit/ai/generate/output_characters flow_path، مدل، دما، topK، topP
genkit/ai/generate/input_images flow_path، مدل، دما، topK، topP
genkit/ai/generate/output_images flow_path، مدل، دما، topK، topP
genkit/ai/generate/latency flow_path، مدل، دما، topK، topP، error_code، error_message

تجسم معیارها را می توان از طریق Metrics Explorer انجام داد. با استفاده از منوی کناری، "Logging" را انتخاب کنید و روی "Metrics Explorer" کلیک کنید.

با کلیک بر روی منوی کرکره‌ای «انتخاب معیار»، انتخاب «گره عمومی»، «Genkit» و یک معیار، یک معیار را انتخاب کنید.

تجسم متریک به نوع آن (شمارگر، هیستوگرام و غیره) بستگی دارد. Metrics Explorer امکانات جمع آوری و پرس و جو قوی را برای کمک به نمودارهای معیارها بر اساس ابعاد مختلف آنها فراهم می کند.

تاخیر در تله متری

ممکن است قبل از نمایش تله متری برای اجرای خاصی از یک جریان در مجموعه عملیات Cloud کمی تأخیر وجود داشته باشد. در بیشتر موارد این تاخیر کمتر از 1 دقیقه است.

سهمیه ها و محدودیت ها

چند سهمیه وجود دارد که باید در نظر داشت:

هزینه

Cloud Logging، Cloud Trace و Cloud Monitoring دارای سطوح رایگان سخاوتمندانه ای هستند. قیمت های ویژه را می توانید در لینک های زیر مشاهده کنید: