মডেল পরামিতি বুঝুন এবং কনফিগার করুন

প্রতিটি কল যা আপনি একটি মডেলে পাঠান তাতে প্যারামিটার মান অন্তর্ভুক্ত থাকে যা নিয়ন্ত্রণ করে যে মডেলটি কীভাবে প্রতিক্রিয়া তৈরি করে। মডেল বিভিন্ন পরামিতি মান জন্য বিভিন্ন ফলাফল তৈরি করতে পারে. টাস্কের জন্য সেরা মান পেতে বিভিন্ন প্যারামিটার মান নিয়ে পরীক্ষা করুন। বিভিন্ন মডেলের জন্য উপলব্ধ পরামিতি ভিন্ন হতে পারে।

কনফিগারেশনটি প্রারম্ভিক Vertex AI পরিষেবা এবং মডেল উদাহরণের আজীবনের জন্য বজায় রাখা হয়। মডেল কনফিগারেশন আপডেট করতে, মডেল ইনস্ট্যান্স পুনরায় আরম্ভ করা আবশ্যক।

পরে এই পৃষ্ঠায়, আপনি মডেল প্যারামিটার কনফিগার করতে শিখতে পারেন।

প্রতিটি প্যারামিটারের বর্ণনা

সর্বাধিক সাধারণ পরামিতিগুলি হল:

এই পৃষ্ঠার নিম্নলিখিত বিভাগে এই পরামিতিগুলির প্রতিটি সম্পর্কে জানুন।

সর্বোচ্চ আউটপুট টোকেন

সর্বাধিক সংখ্যক টোকেন যা প্রতিক্রিয়াতে তৈরি করা যেতে পারে। একটি টোকেন প্রায় চারটি অক্ষরের। 100টি টোকেন প্রায় 20টি শব্দের সাথে মিলে যায়।

সংক্ষিপ্ত প্রতিক্রিয়াগুলির জন্য একটি নিম্ন মান এবং দীর্ঘ প্রতিক্রিয়াগুলির জন্য একটি উচ্চ মান নির্দিষ্ট করুন৷

তাপমাত্রা

রেসপন্স জেনারেশনের সময় নমুনা নেওয়ার জন্য তাপমাত্রা ব্যবহার করা হয়, যেটা ঘটে যখন topP এবং topK প্রয়োগ করা হয়। তাপমাত্রা টোকেন নির্বাচনে এলোমেলোতার মাত্রা নিয়ন্ত্রণ করে। নিম্ন তাপমাত্রা প্রম্পটগুলির জন্য ভাল যেগুলির জন্য আরও নির্ধারক এবং কম খোলামেলা বা সৃজনশীল প্রতিক্রিয়া প্রয়োজন, যখন উচ্চ তাপমাত্রা আরও বৈচিত্র্যময় বা সৃজনশীল ফলাফলের দিকে নিয়ে যেতে পারে। 0 এর তাপমাত্রা নির্ধারক, যার অর্থ সর্বোচ্চ সম্ভাব্য প্রতিক্রিয়া সর্বদা নির্বাচিত হয়।

বেশিরভাগ ব্যবহারের ক্ষেত্রে, 0.2 তাপমাত্রা দিয়ে শুরু করার চেষ্টা করুন। যদি মডেলটি এমন একটি প্রতিক্রিয়া প্রদান করে যা খুব সাধারণ, খুব ছোট, বা মডেলটি একটি ফলব্যাক প্রতিক্রিয়া দেয়, তাহলে তাপমাত্রা বাড়ানোর চেষ্টা করুন৷

টপ-কে

Top-K পরিবর্তন করে কিভাবে মডেল আউটপুটের জন্য টোকেন নির্বাচন করে। 1 -এর একটি শীর্ষ-কে মানে পরবর্তী নির্বাচিত টোকেনটি মডেলের শব্দভান্ডারের সমস্ত টোকেনের মধ্যে সবচেয়ে সম্ভাব্য (যাকে লোভনীয় ডিকোডিংও বলা হয়), যখন 3 এর শীর্ষ-কে মানে হল যে তিনটি সম্ভাব্য টোকেনের মধ্যে থেকে পরবর্তী টোকেনটি নির্বাচন করা হয়েছে। তাপমাত্রা ব্যবহার করে।

প্রতিটি টোকেন নির্বাচন ধাপের জন্য, সর্বোচ্চ সম্ভাবনা সহ শীর্ষ-কে টোকেনগুলি নমুনা করা হয়৷ তারপর তাপমাত্রা নমুনা ব্যবহার করে নির্বাচিত চূড়ান্ত টোকেন সহ টপ-পি-এর উপর ভিত্তি করে টোকেনগুলি আরও ফিল্টার করা হয়।

কম এলোমেলো প্রতিক্রিয়াগুলির জন্য একটি নিম্ন মান এবং আরও র্যান্ডম প্রতিক্রিয়াগুলির জন্য একটি উচ্চ মান নির্দিষ্ট করুন৷ ডিফল্ট শীর্ষ-K হল 40 ।

টপ-পি

Top-P পরিবর্তন করে কিভাবে মডেল আউটপুটের জন্য টোকেন নির্বাচন করে। টোকেনগুলি সর্বাধিক (টপ-কে দেখুন) থেকে কম সম্ভাব্য থেকে নির্বাচন করা হয় যতক্ষণ না তাদের সম্ভাব্যতার যোগফল শীর্ষ-পি মানের সমান হয়। উদাহরণস্বরূপ, যদি A, B, এবং C টোকেনগুলির 0.3, 0.2, এবং 0.1 এর সম্ভাবনা থাকে এবং শীর্ষ-P মান 0.5 হয়, তাহলে মডেলটি তাপমাত্রা ব্যবহার করে পরবর্তী টোকেন হিসাবে A বা B নির্বাচন করবে এবং C বাদ দেবে একজন প্রার্থী

কম এলোমেলো প্রতিক্রিয়াগুলির জন্য একটি নিম্ন মান এবং আরও র্যান্ডম প্রতিক্রিয়াগুলির জন্য একটি উচ্চ মান নির্দিষ্ট করুন৷ ডিফল্ট টপ-পি হল 0.95 ।

মডেল প্যারামিটার কনফিগার করুন


আপনি মডেলের আরম্ভ করার সময় generationConfig মডেল প্যারামিটার কনফিগার করেন। এখানে একটি মৌলিক উদাহরণ:

Kotlin+KTX

// ...

val config = generationConfig {
    maxOutputTokens = 200
    stopSequences = listOf("red")
    temperature = 0.9f
    topK = 16
    topP = 0.1f
}

val generativeModel = Firebase.vertexAI.generativeModel(
    modelName = "MODEL_NAME",
    generationConfig = config
)

// ...

Java

// ...

GenerationConfig.Builder configBuilder = new GenerationConfig.Builder();
configBuilder.maxOutputTokens = 200;
configBuilder.stopSequences = List.of("red");
configBuilder.temperature = 0.9f;
configBuilder.topK = 16;
configBuilder.topP = 0.1f;

GenerationConfig generationConfig = configBuilder.build();

GenerativeModel gm = FirebaseVertexAI.getInstance().generativeModel(
    "MODEL_NAME",
    generationConfig
);

GenerativeModelFutures model = GenerativeModelFutures.from(gm);

// ...

কন্টেন্ট জেনারেশন নিয়ন্ত্রণ করার জন্য অন্যান্য বিকল্প

  • প্রম্পট ডিজাইন সম্পর্কে আরও জানুন যাতে আপনি আপনার প্রয়োজনের জন্য নির্দিষ্ট আউটপুট তৈরি করতে মডেলটিকে প্রভাবিত করতে পারেন।
  • ঘৃণাত্মক বক্তব্য এবং যৌনতাপূর্ণ বিষয়বস্তু সহ ক্ষতিকারক বলে বিবেচিত প্রতিক্রিয়া পাওয়ার সম্ভাবনা সামঞ্জস্য করতে নিরাপত্তা সেটিংস ব্যবহার করুন৷
  • মডেলের আচরণ পরিচালনা করতে সিস্টেম নির্দেশাবলী সেট করুন। এই বৈশিষ্ট্যটি একটি "প্রস্তাবনা" এর মতো যা আপনি মডেলটি শেষ ব্যবহারকারীর কাছ থেকে আরও নির্দেশাবলীর সংস্পর্শে আসার আগে যোগ করেন।
  • একটি নির্দিষ্ট আউটপুট স্কিমা নির্দিষ্ট করতে প্রম্পটের সাথে একটি প্রতিক্রিয়া স্কিমা পাস করুন। এই বৈশিষ্ট্যটি সাধারণত JSON আউটপুট তৈরি করার সময় ব্যবহৃত হয়, তবে এটি শ্রেণীবিভাগের কাজের জন্যও ব্যবহার করা যেতে পারে (যেমন আপনি যখন মডেলটিকে নির্দিষ্ট লেবেল বা ট্যাগ ব্যবহার করতে চান)।