يتضمن كل طلب ترسله إلى أي نموذج قيم مَعلمات تتحكم في كيفية إنشاء النموذج للاستجابة. يمكن أن ينتج عن النموذج نتائج مختلفة لقيم المعلمات المختلفة. جرِّب قيمًا مختلفة للمَعلمات للحصول على أفضل القيم للمَهمّة. قد تختلف المَعلمات المتاحة للنماذج المختلفة.
يتم الاحتفاظ بالإعدادات طوال مدة استخدام Vertex AI الخدمة ومثيل النموذج المُنشئَين. لتعديل إعدادات النموذج، يجب إعادة ضبط مثيل النموذج.
يمكنك الاطّلاع لاحقًا في هذه الصفحة على كيفية ضبط مَعلمات النموذج.
وصف كل مَعلمة
في ما يلي المَعلمات الأكثر شيوعًا:
اطّلِع على مزيد من المعلومات عن كلّ من هذه المَعلمات في الأقسام التالية من هذه الصفحة.
الحد الأقصى لعدد الرموز المميّزة للإخراج
الحد الأقصى لعدد الرموز المميّزة التي يمكن إنشاؤها في الردّ الرمز المميّز هو أربع أحرف تقريبًا. تقابل 100 رمز 20 كلمة تقريبًا.
حدِّد قيمة أقل للردود الأقصر وقيمة أعلى للردود الأطول.
درجة الحرارة
تُستخدَم درجة الحرارة في أخذ العينات أثناء إنشاء الردّ، والذي يحدث
عند تطبيق topP وtopK. تتحكّم درجة الحرارة في
درجة العشوائية في اختيار الرمز المميّز. تكون درجات الحرارة المنخفضة مناسبة لطلبات البحث التي تتطلّب إجابة محدّدة أكثر وأقل انفتاحًا أو إبداعًا، في حين يمكن أن تؤدي درجات الحرارة المرتفعة إلى نتائج أكثر تنوعًا أو إبداعًا. درجة الحرارة التي تبلغ 0 حاسمة، ما يعني أنّه يتم دائمًا اختيار أعلى استجابة احتمالية.
في معظم حالات الاستخدام، جرِّب البدء بدرجة حرارة تبلغ 0.2. إذا عرض النموذج استجابة عامة جدًا أو قصيرة جدًا، أو إذا قدّم النموذج استجابة احتياطية، جرِّب زيادة درجة الحرارة.
أهمّ K
يغيّر Top-K طريقة اختيار النموذج للرموز لعرضها. إذا كان الحرف الرئيسي 1 في بداية الرمز، يعني هذا أنّ الرمز المميّز التالي هو الأكثر احتمالاً من بين جميع الرموز المميّزة
ضمن مفردات النموذج (ويُسمّى أيضًا فك الترميز الجشع)، في حين أنّ رمز الحرف 3 كبير
يعني اختيار الرمز المميّز التالي من بين الرموز الثلاثة الأكثر احتمالاً باستخدام درجة الحرارة.
في كل خطوة لاختيار الرموز، يتم أخذ عيّنات من أهم K رمزًا ذات الاحتمالات الأكثر ترجيحًا. بعد ذلك، تتم فلترة الرموز المميّزة بشكل أكبر استنادًا إلى أعلى قيمة P مع اختيار الرمز المميّز النهائي باستخدام تحليل عيّنات درجة الحرارة.
عليك تحديد قيمة أقل للردود العشوائية الأقل وقيمة أعلى للردود العشوائية. القيمة التلقائية لعدد أهمّ K منتج هي 40.
Top-P
يغيّر Top-P طريقة اختيار النموذج للرموز لإخراجها. يتم اختيار الرموز
من الأكثر احتمالًا (راجِع top-K) إلى الأقل احتمالًا إلى أن يصبح مجموع احتمالاتها
يساوي قيمة top-P. على سبيل المثال، إذا كانت احتمالات ظهور الرموز A وB وC هي
0.3 و0.2 و0.1 وكانت قيمة أعلى قيمة لـ P هي 0.5، سيختار النموذج
إما A أو B كرمز لاحق باستخدام درجة الحرارة ويستبعد C كأحد
المرشحين.
حدِّد قيمة أقل للحصول على عدد أقل من الردود العشوائية وقيمة أعلى للحصول على عددٍ أكبر من الردود
العشوائية. القيمة التلقائية لرقم الترتيب الأول هي 0.95.
ضبط مَعلمات النموذج
يمكنك ضبط مَعلمات النموذج في ملف generationConfig
أثناء بدء تشغيل النموذج. في ما يلي مثال أساسي:
Kotlin+KTX
// ...
val config = generationConfig {
maxOutputTokens = 200
stopSequences = listOf("red")
temperature = 0.9f
topK = 16
topP = 0.1f
}
val generativeModel = Firebase.vertexAI.generativeModel(
modelName = "MODEL_NAME",
generationConfig = config
)
// ...
Java
// ...
GenerationConfig.Builder configBuilder = new GenerationConfig.Builder();
configBuilder.maxOutputTokens = 200;
configBuilder.stopSequences = List.of("red");
configBuilder.temperature = 0.9f;
configBuilder.topK = 16;
configBuilder.topP = 0.1f;
GenerationConfig generationConfig = configBuilder.build();
GenerativeModel gm = FirebaseVertexAI.getInstance().generativeModel(
"MODEL_NAME",
generationConfig
);
GenerativeModelFutures model = GenerativeModelFutures.from(gm);
// ...
خيارات أخرى للتحكّم في إنشاء المحتوى
- اطّلِع على مزيد من المعلومات عن تصميم الطلب حتى تتمكّن من التأثير في النموذج لإنشاء نتائج تلبي احتياجاتك.
- استخدِم إعدادات الأمان لضبط احتمالية تلقّي ردود قد تُعتبر ضارة، بما في ذلك الكلام الذي يحض على الكراهية والمحتوى الجنسي الفاضح.
- اضبط تعليمات النظام لتوجيه سلوك النموذج. هذه الميزة تشبه "مقدّمة" تُضاف قبل عرض النموذج على أي تعليمات أخرى من المستخدم النهائي.
- نقْل مخطّط استجابة مع الطلب لتحديد مخطّط إخراج محدّد. يتم استخدام هذه الميزة بشكل شائع عند إنشاء مخرجات بتنسيق JSON، ولكن يمكن استخدامها أيضًا في مهام التصنيف (مثلاً عندما تريد أن يستخدم النموذج تصنيفات أو علامات معيّنة).