Bir modele gönderdiğiniz her çağrı, modelin yanıt oluşturma şeklini kontrol eden parametre değerleri içerir. Model, farklı parametre değerleri için farklı sonuçlar oluşturabilir. Görev için en iyi değerleri elde etmek üzere farklı parametre değerleriyle denemeler yapın. Farklı modeller için kullanılabilen parametreler farklılık gösterebilir.
Yapılandırma, başlatılan Vertex AI hizmeti ve model örneğinin kullanım ömrü boyunca korunur. Model yapılandırmasını güncellemek için model örneğinin yeniden başlatılması gerekir.
Bu sayfanın ilerleyen bölümlerinde, model parametrelerinin nasıl yapılandırılacağını öğrenebilirsiniz.
Her bir parametrenin açıklaması
En yaygın parametreler şunlardır:
Bu sayfanın sonraki bölümlerinde bu parametrelerin her biri hakkında bilgi edinebilirsiniz.
Maksimum çıkış jetonu
Yanıtta oluşturulabilecek maksimum jeton sayısı. Jeton yaklaşık dört karakterden oluşur. 100 simge yaklaşık 20 kelimeye karşılık gelir.
Daha kısa yanıtlar için düşük, uzun yanıtlar için daha yüksek bir değer belirtin.
Sıcaklık
Sıcaklık, topP ve topK uygulandığında yanıt oluşturma sırasında örnekleme için kullanılır. Sıcaklık, jeton seçimindeki
rastgelelik derecesini kontrol eder. Daha düşük sıcaklıklar daha deterministik ve daha az açık uçlu veya yaratıcı yanıtlar gerektiren istemler için iyiyken, yüksek sıcaklıklar daha çeşitli veya yaratıcı sonuçlar sağlayabilir. 0 sıcaklığı deterministiktir. Diğer bir deyişle, her zaman en yüksek olasılıklı yanıt seçilir.
Çoğu kullanım durumunda 0.2 dereceyle başlamayı deneyin. Model çok genel veya çok kısa bir yanıt döndürürse veya model bir yedek yanıt verirse sıcaklığı artırmayı deneyin.
İlk Ana
İlk K işlemi, modelin çıkış için jetonları seçme şeklini değiştirir. 1 değerinin ilk K’si, modelin sözlüğündeki tüm jetonlar arasında en olası olan jetonun (açışlı kod çözme olarak da adlandırılır) olduğu anlamına gelir. 3 sayısının en yüksek olması ise sıcaklık kullanılarak en olası üç jeton arasından bir sonraki jetonun seçileceği anlamına gelir.
Her jeton seçimi adımı için en yüksek olasılığa sahip ilk bin jeton örneklenir. Ardından jetonlar, sıcaklık örnekleme kullanılarak seçilen son jetonla birinci P'ye göre daha ayrıntılı bir şekilde filtrelenir.
Daha az rastgele yanıtlar için daha düşük bir değer, daha fazla rastgele yanıtlar için daha yüksek bir değer belirtin. Varsayılan ilk K üst 40.
Üst-P
Top-P, modelin çıkış için jetonları seçme şeklini değiştirir. Jetonlar, olasılıkların toplamı en yüksek P değerine eşit olana kadar en yüksek olandan (ilk K) olana doğru seçilir. Örneğin, A, B ve C jetonlarının olasılığı 0,3, 0,2 ve 0,1 ise ve en yüksek değer 0.5 ise model, sıcaklığı kullanarak A veya B'yi sonraki jeton olarak seçer ve C'yi aday olarak hariç tutar.
Daha az rastgele yanıtlar için daha düşük bir değer, daha fazla rastgele yanıtlar için daha yüksek bir değer belirtin. Varsayılan ilk-P değeri 0.95.