পদ্ধতি খাড়া বংশদ্ভুত(ইংরেজি সাহিত্যে "মেথড অফ স্টিপস্ট ডিসেন্ট") হল অপ্টিমাইজেশান সমস্যা সমাধানের জন্য একটি পুনরাবৃত্তিমূলক সংখ্যাসূচক পদ্ধতি (প্রথম ক্রম), যা আপনাকে উদ্দেশ্য ফাংশনের চূড়ান্ত (সর্বাধিক বা সর্বনিম্ন) নির্ধারণ করতে দেয়:
বাস্তব ডোমেনে ফাংশন আর্গুমেন্ট (নিয়ন্ত্রিত পরামিতি) এর মান।
বিবেচনাধীন পদ্ধতি অনুসারে, উদ্দেশ্য ফাংশনের চরমতম (সর্বোচ্চ বা সর্বনিম্ন) ফাংশনের দ্রুততম বৃদ্ধি (হ্রাস) এর দিকে নির্ধারিত হয়, অর্থাৎ ফাংশনের গ্রেডিয়েন্টের (অ্যান্টি-গ্রেডিয়েন্ট) দিকে। একটি বিন্দুতে গ্রেডিয়েন্ট ফাংশন একটি ভেক্টর যার স্থানাঙ্ক অক্ষের উপর অনুমানগুলি স্থানাঙ্কগুলির সাপেক্ষে ফাংশনের আংশিক ডেরিভেটিভ:
যেখানে i, j,…, n হল স্থানাঙ্ক অক্ষের সমান্তরাল একক ভেক্টর।
বেস পয়েন্টে গ্রেডিয়েন্ট 
পৃষ্ঠের সাথে কঠোরভাবে অর্থোগোনাল, এবং এর দিকটি ফাংশনের দ্রুততম বৃদ্ধির দিক দেখায় এবং বিপরীত দিক (অ্যান্টিগ্রেডিয়েন্ট), যথাক্রমে, ফাংশনের দ্রুততম হ্রাসের দিক দেখায়।
খাড়া ডিসেন্ট পদ্ধতি হল সামনের অগ্রগতিগ্রেডিয়েন্ট ডিসেন্ট পদ্ধতি। ভিতরে সাধারণ ক্ষেত্রেএকটি ফাংশনের প্রান্ত খুঁজে বের করার প্রক্রিয়াটি একটি পুনরাবৃত্তিমূলক পদ্ধতি, যা নিম্নরূপ লেখা হয়:
যেখানে "+" চিহ্নটি একটি ফাংশনের সর্বাধিক খুঁজে পেতে ব্যবহৃত হয়, এবং "-" চিহ্নটি একটি ফাংশনের সর্বনিম্ন খুঁজে পেতে ব্যবহৃত হয়;
একক দিক ভেক্টর, যা সূত্র দ্বারা নির্ধারিত হয়:
- গ্রেডিয়েন্ট মডিউল গ্রেডিয়েন্ট বা অ্যান্টি-গ্রেডিয়েন্টের দিকে ফাংশনের বৃদ্ধি বা হ্রাসের হার নির্ধারণ করে:
একটি ধ্রুবক যা ধাপের আকার নির্ধারণ করে এবং সমস্ত i-th দিকনির্দেশের জন্য একই।
পদক্ষেপের আকারটি আন্দোলনের দিক থেকে উদ্দেশ্যমূলক ফাংশন f(x) এর ন্যূনতম শর্ত থেকে নির্বাচন করা হয়, অর্থাৎ, গ্রেডিয়েন্ট বা অ্যান্টিগ্রেডিয়েন্টের দিকে এক-মাত্রিক অপ্টিমাইজেশন সমস্যা সমাধানের ফলে:
অন্য কথায়, এই সমীকরণটি সমাধান করে ধাপের আকার নির্ধারণ করা হয়:
এইভাবে, গণনার ধাপটি এমনভাবে বেছে নেওয়া হয় যে ফাংশনটি উন্নত না হওয়া পর্যন্ত আন্দোলন চালানো হয়, এইভাবে কিছু সময়ে চরম পর্যায়ে পৌঁছায়। এই মুহুর্তে, অনুসন্ধানের দিকটি আবার নির্ধারিত হয় (গ্রেডিয়েন্ট ব্যবহার করে) এবং উদ্দেশ্য ফাংশনের একটি নতুন সর্বোত্তম পয়েন্ট চাওয়া হয়, ইত্যাদি। এইভাবে, এই পদ্ধতিতে, অনুসন্ধানটি বৃহত্তর ধাপে ঘটে এবং ফাংশনের গ্রেডিয়েন্টটি একটি ছোট সংখ্যক পয়েন্টে গণনা করা হয়।
দুটি ভেরিয়েবলের একটি ফাংশনের ক্ষেত্রে এই পদ্ধতিনিম্নলিখিত জ্যামিতিক ব্যাখ্যা আছে: একটি বিন্দু থেকে চলাচলের দিক বিন্দুতে স্তর রেখাকে স্পর্শ করে। ডিসেন্ট ট্রাজেক্টোরি হল জিগজ্যাগ, সংলগ্ন জিগজ্যাগ লিঙ্কগুলি একে অপরের সাথে অর্থগোনাল। প্রতিবেশী বিন্দুতে ডিসেন্ট দিকনির্দেশের ভেক্টরগুলির অর্থোগোনালিটির শর্ত নিম্নলিখিত অভিব্যক্তি দ্বারা লেখা হয়:
ফাংশান f(x) এর সমান স্তরের রেখার গ্রাফে দেখানো সবচেয়ে খাড়া ডিসেন্ট পদ্ধতি ব্যবহার করে চরম বিন্দুতে চলাচলের গতিপথ
একটি সর্বোত্তম সমাধানের অনুসন্ধান শেষ হয় যখন পুনরাবৃত্তিমূলক গণনার ধাপে (বেশ কয়েকটি মানদণ্ড):
অনুসন্ধানের গতিপথ বর্তমান অনুসন্ধান বিন্দুর একটি ছোট আশেপাশে থেকে যায়:
উদ্দেশ্য ফাংশনের বৃদ্ধি পরিবর্তন হয় না:
স্থানীয় ন্যূনতম বিন্দুতে উদ্দেশ্য ফাংশনের গ্রেডিয়েন্ট শূন্য হয়ে যায়:
এটি লক্ষ করা উচিত যে গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতিটি যখন একটি গিরিখাত বরাবর চলার সময় খুব ধীর হয়ে যায় এবং উদ্দেশ্যমূলক ফাংশনে ভেরিয়েবলের সংখ্যা বৃদ্ধির সাথে সাথে পদ্ধতির এই আচরণটি সাধারণ হয়ে ওঠে। উপত্যকা হল একটি বিষণ্নতা, যার স্তরের রেখাগুলি প্রায় উপবৃত্তের আকৃতি এবং অর্ধ-অক্ষের সাথে বহুবার ভিন্ন। একটি গিরিখাতের উপস্থিতিতে, অবতরণ পথটি একটি ছোট পদক্ষেপের সাথে একটি জিগজ্যাগ লাইনের আকার নেয়, যার ফলস্বরূপ ন্যূনতম অবতরণের গতি অনেক কমে যায়। এটি এই সত্য দ্বারা ব্যাখ্যা করা হয়েছে যে এই ফাংশনগুলির অ্যান্টিগ্রেডিয়েন্টের দিকটি দিক থেকে ন্যূনতম বিন্দুতে উল্লেখযোগ্যভাবে বিচ্যুত হয়, যা গণনার অতিরিক্ত বিলম্বের দিকে পরিচালিত করে। ফলস্বরূপ, অ্যালগরিদম গণনাগত দক্ষতা হারায়।
গলি ফাংশন
গ্রেডিয়েন্ট পদ্ধতি, তার অনেক পরিবর্তন সহ, ব্যাপক এবং কার্যকর পদ্ধতিঅধ্যয়ন অধীন বস্তুর সর্বোত্তম জন্য অনুসন্ধান. গ্রেডিয়েন্ট অনুসন্ধানের অসুবিধা (পাশাপাশি উপরে আলোচনা করা পদ্ধতিগুলি) হল যে এটি ব্যবহার করার সময়, শুধুমাত্র ফাংশনের স্থানীয় প্রান্ত সনাক্ত করা যেতে পারে। অন্যদের খোঁজার জন্য স্থানীয় চরমঅন্যান্য প্রারম্ভিক পয়েন্ট থেকে অনুসন্ধান করা প্রয়োজন। এছাড়াও, গ্রেডিয়েন্ট পদ্ধতির একত্রিত হওয়ার গতি উল্লেখযোগ্যভাবে গ্রেডিয়েন্ট গণনার নির্ভুলতার উপর নির্ভর করে। নির্ভুলতা হারানো, যা সাধারণত ন্যূনতম পয়েন্টের আশেপাশে বা একটি গলি পরিস্থিতিতে ঘটে, সাধারণত গ্রেডিয়েন্ট ডিসেন্ট প্রক্রিয়ার একত্রিত হওয়াকে ব্যাহত করতে পারে।
হিসাব পদ্ধতি
ধাপ 1:একটি ফাংশনের গ্রেডিয়েন্ট গণনার জন্য বিশ্লেষণাত্মক অভিব্যক্তির সংজ্ঞা (প্রতীকী আকারে)
ধাপ ২: প্রাথমিক অনুমান সেট করুন
ধাপ 3:শেষ অনুসন্ধানের দিকটি পুনরায় সেট করার জন্য অ্যালগরিদমিক পদ্ধতিটি পুনরায় চালু করার প্রয়োজনীয়তা নির্ধারণ করা হয়েছে। পুনঃসূচনার ফলস্বরূপ, অনুসন্ধানটি আবার দ্রুততম অবতরণের দিকে পরিচালিত হয়।
এছাড়াও আপনি গ্রেডিয়েন্টের দিক থেকে সেরা বিন্দুর জন্য নয়, তবে বর্তমানের চেয়ে ভাল কিছুর জন্য অনুসন্ধান করতে পারেন।
সমস্ত স্থানীয় অপ্টিমাইজেশান পদ্ধতি প্রয়োগ করা সবচেয়ে সহজ। বেশ আছে দুর্বল অবস্থাকনভারজেন্স, কিন্তু কনভারজেন্সের হার বেশ কম (রৈখিক)। ধাপ গ্রেডিয়েন্ট পদ্ধতিপ্রায়শই অন্যান্য অপ্টিমাইজেশন পদ্ধতির অংশ হিসাবে ব্যবহৃত হয়, যেমন ফ্লেচার-রিভস পদ্ধতি।
বর্ণনা [ | ]
উন্নতি[ | ]
গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতিটি যখন একটি গিরিখাত বরাবর চলাচল করে তখন খুব ধীর হয়ে যায় এবং উদ্দেশ্যমূলক ফাংশনে ভেরিয়েবলের সংখ্যা বাড়ার সাথে সাথে পদ্ধতির এই আচরণটি সাধারণ হয়ে ওঠে। এই ঘটনাটি মোকাবেলা করার জন্য, এটি ব্যবহার করা হয়, যার সারাংশটি খুব সহজ। গ্রেডিয়েন্ট ডিসেন্টের দুটি ধাপ তৈরি করে এবং তিনটি বিন্দু প্রাপ্ত করার পরে, তৃতীয় ধাপটি গিরিখাতের নীচে বরাবর প্রথম এবং তৃতীয় বিন্দুকে সংযোগকারী ভেক্টরের দিকে নেওয়া উচিত।
দ্বিঘাতের কাছাকাছি ফাংশনের জন্য, সংযোজিত গ্রেডিয়েন্ট পদ্ধতি কার্যকর।
কৃত্রিম নিউরাল নেটওয়ার্কে অ্যাপ্লিকেশন[ | ]
গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতি, কিছু পরিবর্তন সহ, ব্যাপকভাবে পারসেপ্ট্রন প্রশিক্ষণের জন্য ব্যবহৃত হয় এবং কৃত্রিম নিউরাল নেটওয়ার্কের তত্ত্বে এটি ব্যাকপ্রোপাগেশন পদ্ধতি হিসাবে পরিচিত। একটি পারসেপ্ট্রন-টাইপ নিউরাল নেটওয়ার্ককে প্রশিক্ষণ দেওয়ার সময়, নেটওয়ার্কের ওজন সহগ পরিবর্তন করা প্রয়োজন যাতে ছোট করা যায় গড় ত্রুটিনিউরাল নেটওয়ার্কের আউটপুটে যখন প্রশিক্ষণ ইনপুট ডেটার একটি ক্রম ইনপুটে সরবরাহ করা হয়। আনুষ্ঠানিকভাবে, গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতি ব্যবহার করে মাত্র একটি পদক্ষেপ নেওয়ার জন্য (নেটওয়ার্ক প্যারামিটারে শুধুমাত্র একটি পরিবর্তন করুন), এটি পর্যায়ক্রমে নেটওয়ার্ক ইনপুটে প্রশিক্ষণের ডেটার সম্পূর্ণ সেট জমা দিতে হবে, প্রতিটি বস্তুর জন্য ত্রুটি গণনা করতে হবে। প্রশিক্ষণের ডেটা এবং নেটওয়ার্ক সহগগুলির প্রয়োজনীয় সংশোধন গণনা করুন (তবে এই সংশোধনটি করবেন না), এবং সমস্ত ডেটা জমা দেওয়ার পরে, প্রতিটি নেটওয়ার্ক সহগ (গ্রেডিয়েন্টের যোগফল) সংশোধনের পরিমাণ গণনা করুন এবং সহগগুলিকে "এক ধাপ" সংশোধন করুন . স্পষ্টতই, প্রশিক্ষণের ডেটার একটি বড় সেটের সাথে, অ্যালগরিদম অত্যন্ত ধীরে ধীরে কাজ করবে, তাই অনুশীলনে, নেটওয়ার্ক সহগগুলি প্রায়শই প্রতিটি প্রশিক্ষণের উপাদানের পরে সামঞ্জস্য করা হয়, যেখানে গ্রেডিয়েন্ট মানটি খরচ ফাংশনের গ্রেডিয়েন্ট দ্বারা আনুমানিক হয়, শুধুমাত্র একটি প্রশিক্ষণে গণনা করা হয়। উপাদান এই পদ্ধতি বলা হয় স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট বা অপারেশনাল গ্রেডিয়েন্ট ডিসেন্ট . স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট হল স্টোকাস্টিক আনুমানিকতার একটি রূপ। স্টোকাস্টিক আনুমানিক তত্ত্বটি স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতির একত্রিত হওয়ার শর্ত সরবরাহ করে।
লিঙ্ক [ | ]
- জে ম্যাথুস।খাড়া ডিসেন্ট বা গ্রেডিয়েন্ট পদ্ধতির জন্য মডিউল। (অনুপলব্ধ লিঙ্ক)
সাহিত্য [ | ]
- আকুলিচ আই.এল.উদাহরণ এবং সমস্যাগুলিতে গাণিতিক প্রোগ্রামিং। - এম.: উচ্চ বিদ্যালয়, 1986। - পৃ. 298-310।
- গিল এফ., মারে ডব্লিউ., রাইট এম.ব্যবহারিক অপ্টিমাইজেশান = ব্যবহারিক অপ্টিমাইজেশান। - এম.: মীর, 1985।
- কোরশুনভ ইউ. এম., করশুনভ ইউ. এম.সাইবারনেটিক্সের গাণিতিক ভিত্তি। - এম.: এনারগোআটোমিজদাত, 1972।
- মাকসিমভ ইউ. এ., ফিলিপভস্কায়া ই. এ.ননলাইনার প্রোগ্রামিং সমস্যা সমাধানের জন্য অ্যালগরিদম। - এম.: এমইপিএইচআই, 1982।
- মাকসিমভ ইউ. এ.লিনিয়ার এবং ডিসক্রিট প্রোগ্রামিংয়ের জন্য অ্যালগরিদম। - এম.: এমইপিএইচআই, 1980।
- কর্ন জি., কর্ন টি।বিজ্ঞানী এবং প্রকৌশলীদের জন্য গণিতের হ্যান্ডবুক। - এম.: নাউকা, 1970। - পি. 575-576।
- এস ইউ গোরোডেটস্কি, ভি এ গ্রিশাগিন।অরৈখিক প্রোগ্রামিং এবং মাল্টিএক্সট্রিমাল অপ্টিমাইজেশান। - Nizhny Novgorod: নিজনি নভগোরড ইউনিভার্সিটি পাবলিশিং হাউস, 2007। - পৃষ্ঠা 357-363।
একটি ফাংশন প্রবেশের নিয়ম
ভিতরে খাড়া বংশধর পদ্ধতিএকটি ভেক্টর যার দিক ▽f(x) ফাংশনের গ্রেডিয়েন্ট ভেক্টরের দিকনির্দেশের বিপরীত তাকে অনুসন্ধানের দিক হিসাবে নির্বাচিত করা হয়। থেকে গাণিতিক বিশ্লেষণএটা জানা যায় যে ভেক্টর গ্রেড f(x)=▽f(x) ফাংশনের দ্রুততম বৃদ্ধির দিক নির্দেশ করে (ফাংশনের গ্রেডিয়েন্ট দেখুন)। অতএব, ভেক্টর - grad f(X) = -▽f(X) বলা হয় বিরোধী গ্রেডিয়েন্টএবং এটি তার দ্রুততম হ্রাসের দিক। পুনরাবৃত্ত সম্পর্ক যার সাথে খাড়া ডিসেন্ট পদ্ধতি প্রয়োগ করা হয় তার ফর্মটি রয়েছে X k +1 =X k - λ k ▽f(x k), k = 0,1,...,
যেখানে λ k >0 হল ধাপের আকার। ধাপ আকারের পছন্দ উপর নির্ভর করে, আপনি পেতে পারেন বিভিন্ন বিকল্পগ্রেডিয়েন্ট পদ্ধতি। যদি অপ্টিমাইজেশান প্রক্রিয়া চলাকালীন ধাপের আকার λ স্থির করা হয়, তবে পদ্ধতিটিকে একটি পৃথক ধাপ সহ গ্রেডিয়েন্ট পদ্ধতি বলা হয়। λ k =min f(X k + λS k) শর্ত থেকে λ k নির্বাচন করা হলে প্রথম পুনরাবৃত্তিতে অপ্টিমাইজেশন প্রক্রিয়া উল্লেখযোগ্যভাবে ত্বরান্বিত হতে পারে।
λ k নির্ধারণ করতে, যেকোনো এক-মাত্রিক অপ্টিমাইজেশান পদ্ধতি ব্যবহার করা হয়। এই ক্ষেত্রে, পদ্ধতিটিকে খাড়া ডিসেন্ট পদ্ধতি বলা হয়। একটি নিয়ম হিসাবে, সাধারণ ক্ষেত্রে, ফাংশনের ন্যূনতম অর্জনের জন্য একটি পদক্ষেপ যথেষ্ট নয়; পরবর্তী গণনা ফলাফলের উন্নতি না হওয়া পর্যন্ত প্রক্রিয়াটি পুনরাবৃত্তি করা হয়।
যদি কিছু ভেরিয়েবলের মধ্যে স্থানটি খুব দীর্ঘায়িত হয়, তাহলে একটি "গিরিখাত" গঠিত হয়। অনুসন্ধানটি ধীর হয়ে যেতে পারে এবং "গিরিখাত" এর তলদেশ জুড়ে জিগজ্যাগ হতে পারে। অনেক সময় একটি গ্রহণযোগ্য সময়সীমার মধ্যে একটি সমাধান পাওয়া যায় না।
পদ্ধতির আরেকটি অসুবিধা হতে পারে থামার মানদণ্ড ||▽f(X k)||<ε k , так как этому условию удовлетворяет и седловая точка, а не только оптимум.
উদাহরণ। x k =(-2, 3) বিন্দু থেকে শুরু করে, ফাংশনটি ছোট করতে খাড়া ডিসেন্ট পদ্ধতি ব্যবহার করে x k +1 বিন্দু নির্ধারণ করুন।
অনুসন্ধানের দিক হিসাবে, বর্তমান বিন্দুতে গ্রেডিয়েন্ট ভেক্টর নির্বাচন করুন 
এর স্টপিং মানদণ্ড পরীক্ষা করা যাক. আমাদের আছে 
প্রারম্ভিক বিন্দু f(X 1) = 35 এ ফাংশনের মান গণনা করা যাক।
অ্যান্টিগ্রেডিয়েন্ট দিক বরাবর পদক্ষেপ
একটি নতুন পয়েন্টে ফাংশনের মান গণনা করা যাক
f(X 2) = 3(-2 + 19λ 1) 2 + (3-8λ 1) 2 - (-2 + 19λ 1)(3-8λ 1) - 4(-2 + 19λ 1)
আসুন আমরা এমন একটি পদক্ষেপ খুঁজে বের করি যাতে উদ্দেশ্য ফাংশনটি এই দিক বরাবর সর্বনিম্ন পৌঁছায়। ফাংশন একটি extremum অস্তিত্ব জন্য প্রয়োজনীয় শর্ত থেকে
f’(X 2) = 6(-2 + 19λ 1) 19 + 2(3-8λ 1)(-8) – (73 - 304 λ 1) – 4*19
অথবা f’(X 2) = 2598 λ 1 – 425 = 0।
আমরা ধাপ λ 1 = 0.164 পাই
এই ধাপটি সম্পূর্ণ করা বিন্দুতে নিয়ে যাবে 
যার মধ্যে গ্রেডিয়েন্ট মান 
, ফাংশনের মান f(X 2) = 0.23। নির্ভুলতা অর্জন করা হয় না, বিন্দু থেকে আমরা অ্যান্টিগ্রেডিয়েন্টের দিক বরাবর একটি পদক্ষেপ গ্রহণ করি।
f(X 2) = 3(1.116 – 1.008λ 1) 2 + (1.688-2.26λ 1) 2 - (1.116 – 1.008λ 1)(1.688-2.26λ 1) - 4(1.116 – 1.008λ)
f’(X 2) = 11.76 – 6.12λ 1 = 0
আমরা λ 1 = 0.52 পাই 
টীকা: এই বক্তৃতাটি ব্যাপকভাবে এই ধরনের মাল্টিপ্যারামিটার অপ্টিমাইজেশান পদ্ধতিগুলিকে কভার করে যেমন খাড়া ডিসেন্ট পদ্ধতি এবং ডেভিডন-ফ্লেচার-পাওয়েল পদ্ধতি। উপরন্তু, উপরের পদ্ধতিগুলির একটি তুলনামূলক বিশ্লেষণ করা হয় যাতে সবচেয়ে কার্যকর একটি নির্ধারণ করা হয়, তাদের সুবিধা এবং অসুবিধাগুলি চিহ্নিত করা হয়; এবং বহুমাত্রিক অপ্টিমাইজেশান সমস্যাগুলিও বিবেচনা করে, যেমন রেভিন পদ্ধতি এবং মাল্টিএক্সট্রিমাল পদ্ধতি।
1. খাড়া বংশদ্ভুত পদ্ধতি
এই পদ্ধতির সারাংশ হল যে পূর্বে উল্লিখিত ব্যবহার করে সমন্বয় বংশদ্ভুত পদ্ধতিএকটি অনুসন্ধান একটি নির্দিষ্ট বিন্দু থেকে একটি অক্ষের সমান্তরাল দিক থেকে এই দিকের ন্যূনতম বিন্দুতে চালানো হয়। অনুসন্ধান তারপর অন্য অক্ষের সমান্তরাল একটি দিক সঞ্চালিত হয়, এবং তাই. নির্দেশাবলী, অবশ্যই, স্থির হয়. এই পদ্ধতিটি সংশোধন করার চেষ্টা করা যুক্তিসঙ্গত বলে মনে হচ্ছে যাতে প্রতিটি পর্যায়ে সর্বনিম্ন পয়েন্টের জন্য অনুসন্ধান "সর্বোত্তম" দিক বরাবর করা হয়। কোন দিকটি "সেরা" তা স্পষ্ট নয়, তবে এটি জানা গেছে গ্রেডিয়েন্ট দিকফাংশনে দ্রুততম বৃদ্ধির দিক। অতএব, বিপরীত দিক হল ফাংশনের দ্রুততম হ্রাসের দিক। এই সম্পত্তি নিম্নলিখিত হিসাবে ন্যায়সঙ্গত করা যেতে পারে.
আসুন আমরা ধরে নিই যে আমরা x বিন্দু থেকে পরবর্তী বিন্দু x + hd-এ যাচ্ছি, যেখানে d হল একটি নির্দিষ্ট দিক এবং h হল একটি নির্দিষ্ট দৈর্ঘ্যের একটি ধাপ। ফলস্বরূপ, বিন্দু (x 1, x 2, ..., x n) থেকে বিন্দুতে আন্দোলন তৈরি হয় (x 1 + zx 1, x 2 + zx 2, ..., x n + zx n), কোথায়
ফাংশন মানের পরিবর্তন সম্পর্কের দ্বারা নির্ধারিত হয়
| (1.3) |
প্রথম ক্রম zx i পর্যন্ত, আংশিক ডেরিভেটিভগুলি x বিন্দুতে গণনা করা হচ্ছে। ফাংশন df-এ পরিবর্তনের সর্বাধিক মান পেতে কীভাবে d i নির্দেশনাগুলি বেছে নেওয়া উচিত যা সমীকরণ (1.2) সন্তুষ্ট করে? এখানেই একটি সীমাবদ্ধতার সাথে সর্বাধিকীকরণের সমস্যা দেখা দেয়। আসুন ল্যাগ্রেঞ্জ মাল্টিপ্লায়ারের পদ্ধতি প্রয়োগ করি, যার সাহায্যে আমরা ফাংশন নির্ধারণ করি
মান df সন্তোষজনক সীমাবদ্ধতা (1.2) ফাংশন যখন তার সর্বোচ্চ পৌঁছে
সর্বোচ্চে পৌঁছায়। এর ডেরিভেটিভ
তাই,
 |
(1.6) |
তারপর di ~ df/dx i এবং দিক dটি বিন্দু x-এ V/(x) দিকটির সমান্তরাল।
এইভাবে, বৃহত্তম স্থানীয় বৃদ্ধিএকটি প্রদত্ত ছোট ধাপের h ফাংশনটি ঘটে যখন d হল Vf(x) বা g(x) এর দিক। অতএব, খাড়া বংশদ্ভুত দিক দিক
একটি সহজ আকারে, সমীকরণ (1.3) নিম্নরূপ লেখা যেতে পারে:
Vf(x) এবং dx ভেক্টরের মধ্যে কোণ কোথায়। dx-এর একটি প্রদত্ত মানের জন্য, dx-এর দিকটি -Vf(x) এর দিকনির্দেশের সাথে মিলে যায় তা বেছে নিয়ে আমরা df-কে ছোট করি।
মন্তব্য করুন. গ্রেডিয়েন্ট দিকধ্রুবক স্তরের একটি রেখার যেকোনো বিন্দুতে লম্ব, যেহেতু এই রেখা বরাবর ফাংশনটি ধ্রুবক। এইভাবে, যদি (d 1, d 2, ..., d n) স্তর রেখা বরাবর একটি ছোট ধাপ হয়, তাহলে
এবং সেইজন্য
 |
(1.8) |
