প্রতিটি কল যা আপনি একটি মডেলে পাঠান তাতে প্যারামিটার মান অন্তর্ভুক্ত থাকে যা নিয়ন্ত্রণ করে যে মডেলটি কীভাবে প্রতিক্রিয়া তৈরি করে। মডেল বিভিন্ন পরামিতি মান জন্য বিভিন্ন ফলাফল তৈরি করতে পারে. টাস্কের জন্য সেরা মান পেতে বিভিন্ন প্যারামিটার মান নিয়ে পরীক্ষা করুন। বিভিন্ন মডেলের জন্য উপলব্ধ পরামিতি ভিন্ন হতে পারে।
কনফিগারেশনটি প্রারম্ভিক Vertex AI পরিষেবা এবং মডেল উদাহরণের আজীবনের জন্য বজায় রাখা হয়। মডেল কনফিগারেশন আপডেট করতে, মডেল ইনস্ট্যান্স পুনরায় আরম্ভ করা আবশ্যক।
পরে এই পৃষ্ঠায়, আপনি মডেল প্যারামিটার কনফিগার করতে শিখতে পারেন।
প্রতিটি প্যারামিটারের বর্ণনা
সর্বাধিক সাধারণ পরামিতিগুলি হল:
এই পৃষ্ঠার নিম্নলিখিত বিভাগে এই পরামিতিগুলির প্রতিটি সম্পর্কে জানুন।
সর্বোচ্চ আউটপুট টোকেন
সর্বাধিক সংখ্যক টোকেন যা প্রতিক্রিয়াতে তৈরি করা যেতে পারে। একটি টোকেন প্রায় চারটি অক্ষরের। 100 টোকেন প্রায় 60-80 শব্দের সাথে মিলে যায়।
সংক্ষিপ্ত প্রতিক্রিয়াগুলির জন্য একটি নিম্ন মান এবং দীর্ঘ প্রতিক্রিয়াগুলির জন্য একটি উচ্চ মান নির্দিষ্ট করুন৷
তাপমাত্রা
রেসপন্স জেনারেশনের সময় নমুনা নেওয়ার জন্য তাপমাত্রা ব্যবহার করা হয়, যেটা ঘটে যখন topP এবং topK প্রয়োগ করা হয়। তাপমাত্রা টোকেন নির্বাচনে এলোমেলোতার মাত্রা নিয়ন্ত্রণ করে। নিম্ন তাপমাত্রা প্রম্পটগুলির জন্য ভাল যেগুলির জন্য আরও নির্ধারক এবং কম খোলামেলা বা সৃজনশীল প্রতিক্রিয়া প্রয়োজন, যখন উচ্চ তাপমাত্রা আরও বৈচিত্র্যময় বা সৃজনশীল ফলাফলের দিকে নিয়ে যেতে পারে। 0 এর তাপমাত্রা নির্ধারক, যার অর্থ সর্বোচ্চ সম্ভাব্য প্রতিক্রিয়া সর্বদা নির্বাচিত হয়।
বেশিরভাগ ব্যবহারের ক্ষেত্রে, 0.2 তাপমাত্রা দিয়ে শুরু করার চেষ্টা করুন। যদি মডেলটি এমন একটি প্রতিক্রিয়া প্রদান করে যা খুব সাধারণ, খুব ছোট, বা মডেলটি একটি ফলব্যাক প্রতিক্রিয়া দেয়, তাহলে তাপমাত্রা বাড়ানোর চেষ্টা করুন৷
টপ-কে
Top-K পরিবর্তন করে কিভাবে মডেল আউটপুটের জন্য টোকেন নির্বাচন করে। 1 -এর একটি শীর্ষ-কে মানে পরবর্তী নির্বাচিত টোকেনটি মডেলের শব্দভান্ডারের সমস্ত টোকেনের মধ্যে সবচেয়ে সম্ভাব্য (যাকে লোভনীয় ডিকোডিংও বলা হয়), যখন 3 -এর শীর্ষ-কে মানে হল যে তিনটি সম্ভাব্য টোকেনের মধ্যে থেকে পরবর্তী টোকেনটি নির্বাচন করা হয়েছে। তাপমাত্রা ব্যবহার করে।
প্রতিটি টোকেন নির্বাচন ধাপের জন্য, সর্বোচ্চ সম্ভাবনা সহ শীর্ষ-কে টোকেনগুলি নমুনা করা হয়৷ তারপর তাপমাত্রা নমুনা ব্যবহার করে নির্বাচিত চূড়ান্ত টোকেন সহ টপ-পি-এর উপর ভিত্তি করে টোকেনগুলি আরও ফিল্টার করা হয়।
কম এলোমেলো প্রতিক্রিয়াগুলির জন্য একটি নিম্ন মান এবং আরও র্যান্ডম প্রতিক্রিয়াগুলির জন্য একটি উচ্চ মান নির্দিষ্ট করুন৷ ডিফল্ট শীর্ষ-K হল 40 ।
টপ-পি
Top-P পরিবর্তন করে কিভাবে মডেল আউটপুটের জন্য টোকেন নির্বাচন করে। টোকেনগুলি সর্বাধিক (টপ-কে দেখুন) থেকে কম সম্ভাব্য থেকে নির্বাচন করা হয় যতক্ষণ না তাদের সম্ভাব্যতার যোগফল শীর্ষ-পি মানের সমান হয়। উদাহরণস্বরূপ, যদি A, B, এবং C টোকেনগুলির 0.3, 0.2, এবং 0.1 এর সম্ভাব্যতা থাকে এবং শীর্ষ-P মান 0.5 হয়, তাহলে মডেলটি তাপমাত্রা ব্যবহার করে পরবর্তী টোকেন হিসাবে A বা B নির্বাচন করবে এবং C বাদ দেবে একজন প্রার্থী
কম এলোমেলো প্রতিক্রিয়াগুলির জন্য একটি নিম্ন মান এবং আরও র্যান্ডম প্রতিক্রিয়াগুলির জন্য একটি উচ্চ মান নির্দিষ্ট করুন৷ ডিফল্ট টপ-পি হল 0.95 ।