您傳送至模型的每個呼叫都含有參數值，用來控制 模型會產生回應模型可能會針對 不同的參數值以不同參數值進行實驗，以取得 對工作最有利的值不同模型可用的參數 不同之處
系統會在初始化後的生命週期內保留設定 Vertex AI 服務和模型執行個體。 如要更新模型設定，必須重新初始化模型執行個體。
本頁稍後會說明如何 設定模型參數。
每個參數的說明
最常見的參數如下：
如要瞭解每個參數，請參閱本頁後續章節。
輸出符記數量上限
可在回應中產生的權杖數量上限。符記是 大約四個字元100 個符記可對應至大約 20 個字詞。
如要取得較短的回覆，請指定較低的值；如要延長回應時間，請調高此值 回應。
Temperature
系統會依據隨機性參數，在產生回應期間進行取樣
套用 topP 和 topK 時。溫度控制
選取符記的隨機程度。較低的溫度適用
需要更具確定性、較不具開放性或創意的提示
就算隨機性參數較高，也可能產生較多元或有創意的內容
也就是預測結果0 的溫度具有確定性，也就是說，
一律選取可能性最高的回覆
以大部分用途來說，可以先將隨機性參數設為 0.2，如果
模型傳回的回應可能太普通、太短
備用回應，請嘗試調高隨機性參數
Top-K
「Top-K」會影響模型選取輸出符記的方式。前 K 個
1 表示下一個選取的符記是所有可能性最高的符記
符記中符記 (也稱為「貪婪解碼」) 以及「Top-K」
3 代表下一個符記會從
隨機性參數
在每個符記選取步驟中，「前 K 高」符記為 抽樣接著進一步根據「可能性總和為 P」參數進一步篩選符記 產生最終符記
如要取得較不隨機的回覆，請指定較低的值；如要取得其他要求，請調高此值
隨機性回應「前 K 個」的預設值為 40。
Top-P
「Top-P」會影響模型選取輸出符記的方式。已選取權杖
從機率最高 (請見「Top-K」) 到最低，直到達到機率總和
等於「可能性總和為 P」舉例來說，假設符記 A、B 和 C 的可能性
0.3、0.2 和 0.1，而「可能性總和為 P」的值為 0.5，則模型
使用隨機性參數選取 A 或 B 做為下一個符記，並排除 C
候選人。
如要取得較不隨機的回覆，請指定較低的值；如要取得其他要求，請調高此值
隨機性回應「可能性總和為 P」的預設值為 0.95。