Bir modele gönderdiğiniz her çağrı, modelin nasıl yanıt oluşturacağını kontrol eden parametre değerleri içerir. Model, farklı parametre değerleri için farklı sonuçlar oluşturabilir. Aşağıdakileri elde etmek için farklı parametre değerleriyle denemeler yapın: en iyi değerleri belirlemek önemlidir. Farklı modeller için kullanılabilen parametreler gösterir.
Yapılandırma, başlatılan Vertex AI hizmetinin ve model örneğinin kullanım ömrü boyunca korunur. Model yapılandırmasını güncellemek için model örneğinin yeniden başlatılması gerekir.
Bu sayfanın ilerleyen bölümlerinde, model parametrelerini yapılandırın.
Her bir parametrenin açıklaması
En yaygın parametreler şunlardır:
Bu sayfanın sonraki bölümlerinde bu parametrelerin her biri hakkında bilgi edinebilirsiniz.
Maksimum çıkış jetonu
Yanıtta oluşturulabilecek maksimum jeton sayısı. Jeton yaklaşık dört karakter uzunluğunda olmalıdır. 100 jeton yaklaşık 20 kelimeye karşılık gelir.
Kısa yanıtlar için düşük, uzun yanıtlar için daha yüksek bir değer belirtin tıklayın.
Sıcaklık
Sıcaklık, topP ve topK uygulandığında gerçekleşen yanıt oluşturma sırasında örnekleme için kullanılır. Sıcaklık kontrolleri
jeton seçimindeki rastgelelik derecesi. Daha düşük sıcaklıklar şu durumlarda iyidir:
daha deterministik ve daha az açık uçlu veya yaratıcı
yüksek sıcaklıklar ise çeşitliliği ve yaratıcılığı artırabilir.
sonuç. 0 sıcaklığı deterministiktir. Diğer bir deyişle,
en yüksek olasılıklı yanıt her zaman seçilir.
Çoğu kullanım durumunda 0.2 dereceyle başlamayı deneyin. Model çok genel veya çok kısa bir yanıt döndürüyorsa ya da yedek yanıt veriyorsa sıcaklığı artırmayı deneyin.
İlk K
İlk K, modelin çıkış için jetonları nasıl seçtiğini değiştirir. Büyük bir
1, seçilen bir sonraki jetonun tüm seçenekler arasından en olası olanı olduğu anlamına gelir
(ör. açgözlü kod çözme olarak da bilinir.) modelin
3, bir sonraki jetonun en önemli üç simge arasından seçileceği anlamına gelir.
olası jetonlarıdır.
Her jeton seçimi adımı için en yüksek değere sahip ilk bin jeton olasılıkları örneklenir. Daha sonra jetonlar, birinci taraf değerlerine göre seçilen son jetondur.
Daha az rastgele yanıt için daha düşük, daha fazla rastgele yanıt için daha yüksek bir değer belirtin. Varsayılan en iyi K değeri 40'tir.
Top-P
Top-P, modelin çıkış için jetonları nasıl seçtiğini değiştirir. Jetonlar, olasılıklarının toplamı en yüksek P değerine eşit olana kadar en yüksekten (en yüksek K değerine bakın) en düşüğe doğru seçilir. Örneğin, A, B ve C jetonlarının olasılıkları 0,3, 0,2 ve 0,1 ise ve en yüksek P değeri 0.5 ise model, sıcaklığı kullanarak sonraki jeton olarak A veya B'yi seçer ve C'yi aday olarak hariç tutar.
Daha az rastgele yanıtlar için daha düşük, daha fazlası için daha yüksek bir değer belirtin
yanıt verebilir. Varsayılan ilk-P değeri 0.95.