একটি ফাংশন প্রবেশের নিয়ম
ভিতরে খাড়া বংশধর পদ্ধতিএকটি ভেক্টর যার দিক ▽f(x) ফাংশনের গ্রেডিয়েন্ট ভেক্টরের দিকনির্দেশের বিপরীত তাকে অনুসন্ধানের দিক হিসাবে নির্বাচিত করা হয়। থেকে গাণিতিক বিশ্লেষণএটা জানা যায় যে ভেক্টর গ্রেড f(x)=▽f(x) ফাংশনের দ্রুততম বৃদ্ধির দিক নির্দেশ করে (ফাংশনের গ্রেডিয়েন্ট দেখুন)। অতএব, ভেক্টর - grad f(X) = -▽f(X) বলা হয় বিরোধী গ্রেডিয়েন্টএবং এটি তার দ্রুততম হ্রাসের দিক। পুনরাবৃত্ত সম্পর্ক যার সাথে খাড়া ডিসেন্ট পদ্ধতি প্রয়োগ করা হয় তার ফর্মটি রয়েছে X k +1 =X k - λ k ▽f(x k), k = 0,1,...,
যেখানে λ k >0 হল ধাপের আকার। ধাপ আকারের পছন্দ উপর নির্ভর করে, আপনি পেতে পারেন বিভিন্ন বিকল্পগ্রেডিয়েন্ট পদ্ধতি। যদি অপ্টিমাইজেশান প্রক্রিয়া চলাকালীন ধাপের আকার λ স্থির করা হয়, তবে পদ্ধতিটিকে একটি পৃথক ধাপ সহ গ্রেডিয়েন্ট পদ্ধতি বলা হয়। প্রথম পুনরাবৃত্তিতে অপ্টিমাইজেশান প্রক্রিয়াটি উল্লেখযোগ্যভাবে ত্বরান্বিত হতে পারে যদি λ k শর্ত থেকে λ k =min f(X k + λS k) নির্বাচন করা হয়।
λ k নির্ধারণ করতে, যেকোনো এক-মাত্রিক অপ্টিমাইজেশান পদ্ধতি ব্যবহার করা হয়। এই ক্ষেত্রে, পদ্ধতিটিকে খাড়া ডিসেন্ট পদ্ধতি বলা হয়। একটি নিয়ম হিসাবে, মধ্যে সাধারণ ক্ষেত্রেন্যূনতম ফাংশন অর্জনের জন্য একটি পদক্ষেপ যথেষ্ট নয়; পরবর্তী গণনা ফলাফলটিকে উন্নত করার অনুমতি না দেওয়া পর্যন্ত প্রক্রিয়াটি পুনরাবৃত্তি করা হয়।
যদি কিছু ভেরিয়েবলের মধ্যে স্থানটি খুব দীর্ঘায়িত হয়, তাহলে একটি "গিরিখাত" গঠিত হয়। অনুসন্ধানটি ধীর হয়ে যেতে পারে এবং "গিরিখাত" এর তলদেশ জুড়ে জিগজ্যাগ হতে পারে। অনেক সময় একটি গ্রহণযোগ্য সময়সীমার মধ্যে একটি সমাধান পাওয়া যায় না।
পদ্ধতির আরেকটি অসুবিধা হতে পারে থামার মানদণ্ড ||▽f(X k)||<ε k , так как этому условию удовлетворяет и седловая точка, а не только оптимум.
উদাহরণ। x k =(-2, 3) বিন্দু থেকে শুরু করে, ফাংশনটি ছোট করতে খাড়া ডিসেন্ট পদ্ধতি ব্যবহার করে x k +1 বিন্দু নির্ধারণ করুন।
অনুসন্ধানের দিক হিসাবে, বর্তমান বিন্দুতে গ্রেডিয়েন্ট ভেক্টর নির্বাচন করুন 
এর স্টপিং মানদণ্ড পরীক্ষা করা যাক. আমাদের আছে 
প্রারম্ভিক বিন্দু f(X 1) = 35 এ ফাংশনের মান গণনা করা যাক।
অ্যান্টিগ্রেডিয়েন্ট দিক বরাবর পদক্ষেপ
একটি নতুন পয়েন্টে ফাংশনের মান গণনা করা যাক
f(X 2) = 3(-2 + 19λ 1) 2 + (3-8λ 1) 2 - (-2 + 19λ 1)(3-8λ 1) - 4(-2 + 19λ 1)
আসুন আমরা এমন একটি পদক্ষেপ খুঁজে বের করি যাতে উদ্দেশ্য ফাংশনটি এই দিক বরাবর সর্বনিম্ন পৌঁছায়। ফাংশন একটি extremum অস্তিত্ব জন্য প্রয়োজনীয় শর্ত থেকে
f’(X 2) = 6(-2 + 19λ 1) 19 + 2(3-8λ 1)(-8) – (73 - 304 λ 1) – 4*19
অথবা f’(X 2) = 2598 λ 1 – 425 = 0।
আমরা ধাপ λ 1 = 0.164 পাই
এই ধাপটি সম্পূর্ণ করা বিন্দুতে নিয়ে যাবে 
যার মধ্যে গ্রেডিয়েন্ট মান 
, ফাংশনের মান f(X 2) = 0.23। নির্ভুলতা অর্জন করা হয় না, বিন্দু থেকে আমরা অ্যান্টিগ্রেডিয়েন্টের দিক বরাবর একটি পদক্ষেপ গ্রহণ করি।
f(X 2) = 3(1.116 – 1.008λ 1) 2 + (1.688-2.26λ 1) 2 - (1.116 – 1.008λ 1)(1.688-2.26λ 1) - 4(1.116 – 1.008λ)
f’(X 2) = 11.76 – 6.12λ 1 = 0
আমরা λ 1 = 0.52 পাই 
সমস্যা প্রণয়ন
ফাংশন দেওয়া যাক f(x) Rn
প্রয়োজন f(x) X = Rn
অনুসন্ধান কৌশল
x k
} , k = 0.1,...,
যেমন যে 
, k = 0.1,...
. ক্রম বিন্দু ( x k
) নিয়ম অনুযায়ী গণনা করা হয়
বিন্দু কোথায় x 0 ব্যবহারকারী সংজ্ঞায়িত; ধাপে আকার টাকা প্রতিটি মানের জন্য নির্ধারিত k অবস্থা থেকে
পর্যাপ্ত ন্যূনতম শর্ত পরীক্ষা করে প্রয়োজনীয় ন্যূনতম শর্ত ব্যবহার করে সমস্যা (3) সমাধান করা যেতে পারে। এই পথটি হয় একটি পর্যাপ্ত সহজ ফাংশনের সাথে ন্যূনতম করার জন্য ব্যবহার করা যেতে পারে, অথবা একটি পর্যাপ্ত প্রাথমিক আনুমানিকতার সাথে জটিল ফাংশন 
বহুপদ পি(টি কে)
(সাধারণত দ্বিতীয় বা তৃতীয় মাত্রার), এবং তারপর শর্তটি শর্ত দ্বারা প্রতিস্থাপিত হয় এবং শর্তটি শর্ত দ্বারা 
সিকোয়েন্সিং (xk)
বিন্দুতে শেষ হয় x k
, যার জন্য, কোথায় ε
- একটি প্রদত্ত ছোট ধনাত্মক সংখ্যা, বা k ≥ M
, কোথায় এম
- পুনরাবৃত্তির সীমিত সংখ্যা, বা দুটি অসমতার দুটি একযোগে সম্পাদনের সাথে 
, 
কোথায় ε 2
- ছোট ধনাত্মক সংখ্যা। প্রশ্ন একটি বিন্দু পারে কিনা x k
পছন্দসই স্থানীয় ন্যূনতম বিন্দুর পাওয়া আনুমানিক হিসাবে বিবেচনা করা হবে এক্স*
, অতিরিক্ত গবেষণার মাধ্যমে সমাধান করা হয়।
পদ্ধতির জ্যামিতিক ব্যাখ্যা n=2 চিত্রে 4.
সমন্বয় বংশদ্ভুত পদ্ধতি
সমস্যা প্রণয়ন
ফাংশন দেওয়া যাক f(x) সেটে নিচে আবদ্ধ Rn এবং এর সমস্ত পয়েন্টে ক্রমাগত আংশিক ডেরিভেটিভস থাকা।
f(x) সম্ভাব্য সমাধানের সেটে X = Rn , অর্থাৎ এমন একটি পয়েন্ট খুঁজুন
অনুসন্ধান কৌশল
সমস্যা সমাধানের কৌশল হল পয়েন্টগুলির একটি ক্রম তৈরি করা ( x k
} , k = 0.1,...,
যেমন যে , k = 0.1,...
. ক্রম বিন্দু ( x k
) নিয়ম অনুসারে চক্রের উপর গণনা করা হয়
(4)
কোথায় j - গণনা চক্র সংখ্যা; j = 0,1,2,...; k - লুপের ভিতরে পুনরাবৃত্তি সংখ্যা, k = 0,1,... ,n - 1; e k +1 , k = 0,l,...,n - 1 - ইউনিট ভেক্টর, (k+1) -তম অভিক্ষেপ যার সমান 1; বিন্দু x 00 ব্যবহারকারী সংজ্ঞায়িত, ধাপ আকার টাকা শর্ত থেকে নির্বাচিত হয়
বা 
.
বর্তমান অবস্থায় নির্বাচিত হলে টাকা
পূর্ণ হয় না, ধাপ অর্ধেক এবং সময়কাল হয় 
আবার গণনা করা হয়। এটি একটি নির্দিষ্ট j-এর জন্য সংখ্যা সহ একটি পুনরাবৃত্তিতে দেখা সহজ k
বিন্দু পরিবর্তন শুধুমাত্র একটি অভিক্ষেপ x jk
, একটি নম্বর আছে k+1
, এবং সংখ্যা সহ সমগ্র চক্রের সময় j
, অর্থাৎ শুরু k = 0
এবং শেষ k = n -1
, বিন্দু পরিবর্তনের সমস্ত n অনুমান x j0
. এই পয়েন্ট পরে x j n
নম্বর বরাদ্দ করা হয় x j + 1.0
, এবং এটি গণনার জন্য শুরু বিন্দু হিসাবে নেওয়া হয় j+1
সাইকেল. গণনা বিন্দুতে শেষ হয় x jk
যখন গণনার শেষের তিনটি মানদণ্ডের মধ্যে অন্তত একটি পূরণ করা হয়: 
, অথবা , অথবা অসমতার দ্বিগুণ মৃত্যুদন্ড।
গণনার ফলস্বরূপ প্রাপ্ত পয়েন্টগুলি একটি অনুক্রমের উপাদান হিসাবে লেখা যেতে পারে (এক্সএল), কোথায় l=n*j+k - পয়েন্টের সিরিয়াল নম্বর,
n = 2 পদ্ধতির জ্যামিতিক ব্যাখ্যা চিত্রে দেখানো হয়েছে। 5.
4. ফ্রাঙ্ক-উলফ পদ্ধতি .
ধরুন আমাদের একটি অবতল ফাংশনের সর্বোচ্চ মান বের করতে হবে
শর্তাধীন
এই সমস্যার একটি বৈশিষ্ট্য হল যে এর সীমাবদ্ধতার সিস্টেমে শুধুমাত্র রৈখিক অসমতা রয়েছে। এই বৈশিষ্ট্যটি অধ্যয়নের অধীনে বিন্দুর আশেপাশে অরৈখিক এক প্রতিস্থাপনের ভিত্তি উদ্দেশ্য ফাংশনলিনিয়ার, যার কারণে মূল সমস্যার সমাধান রৈখিক প্রোগ্রামিং সমস্যার ক্রমিক সমাধানে হ্রাস পায়।
সমস্যার সমাধান খোঁজার প্রক্রিয়া শুরু হয় সমস্যাটির সম্ভাব্য সমাধানের অঞ্চলের অন্তর্গত একটি বিন্দু চিহ্নিত করার মাধ্যমে।
270
dachas এই বিন্দু হতে দিন X(k)
তারপর এই সময়ে ফাংশনের গ্রেডিয়েন্ট (57) গণনা করা হয়
এবং একটি লিনিয়ার ফাংশন তৈরি করুন
তারপর সীমাবদ্ধতা (58) এবং (59) এর অধীনে এই ফাংশনের সর্বাধিক মান খুঁজুন। এই সমস্যার সমাধান পয়েন্ট দ্বারা নির্ধারিত করা যাক Z(k)
. তারপর পয়েন্টের স্থানাঙ্কগুলিকে মূল সমস্যার একটি নতুন সম্ভাব্য সমাধান হিসাবে নেওয়া হয় X(k+1)
:
কোথায় λk - একটি নির্দিষ্ট সংখ্যা যাকে গণনার ধাপ বলা হয় এবং শূন্য এবং এক (0<λk < 1). Это число λk নির্বিচারে নেওয়া বা নির্ধারিত
যাতে বিন্দুতে ফাংশনের মান X (k +1) f(X (k +1)) , নির্ভর করে λk , সর্বোচ্চ ছিল। এটি করার জন্য, আপনাকে সমীকরণের একটি সমাধান খুঁজে বের করতে হবে এবং এর ক্ষুদ্রতম রুটটি বেছে নিতে হবে। যদি এর মান একের বেশি হয়, তাহলে আমাদের করা উচিত λk=1 . নম্বর নির্ধারণের পর λk একটি বিন্দুর স্থানাঙ্ক খুঁজুন X(k+1) এটিতে উদ্দেশ্য ফাংশনের মান গণনা করুন এবং একটি নতুন পয়েন্টে যাওয়ার প্রয়োজনীয়তা নির্ধারণ করুন X(k+2) . যদি এমন প্রয়োজন হয়, তবে পয়েন্টে গণনা করুন X(k+1) অবজেক্টিভ ফাংশনের গ্রেডিয়েন্ট, সংশ্লিষ্ট লিনিয়ার প্রোগ্রামিং সমস্যায় যান এবং এর সমাধান খুঁজুন। বিন্দুর স্থানাঙ্ক নির্ণয় করুন এবং X(k+2) এবং আরও গণনার প্রয়োজন তদন্ত করুন। একটি সীমিত সংখ্যক পদক্ষেপের পরে, প্রয়োজনীয় নির্ভুলতার সাথে মূল সমস্যার একটি সমাধান পাওয়া যায়।
সুতরাং, ফ্র্যাঙ্ক-ওল্ফ পদ্ধতি ব্যবহার করে সমস্যার সমাধান খোঁজার প্রক্রিয়া (57)- (59) নিম্নলিখিত ধাপগুলিকে অন্তর্ভুক্ত করে:
1. সমস্যার প্রাথমিক সম্ভাব্য সমাধান নির্ধারণ করুন।
2. একটি গ্রহণযোগ্য সমাধানের বিন্দুতে ফাংশনের গ্রেডিয়েন্ট (57) খুঁজুন।
3. ফাংশন (60) গঠন করুন এবং (58) এবং (59) শর্তে এর সর্বোচ্চ মান খুঁজুন।
4. গণনার ধাপ নির্ধারণ করুন।
5. সূত্র ব্যবহার করে (61), একটি নতুন সম্ভাব্য সমাধানের উপাদান পাওয়া যায়।
6. পরবর্তী সম্ভাব্য সমাধানে যাওয়ার প্রয়োজনীয়তা পরীক্ষা করুন। প্রয়োজনে, পর্যায় 2 এ এগিয়ে যান, অন্যথায় মূল সমস্যার একটি গ্রহণযোগ্য সমাধান পাওয়া যায়।
পেনাল্টি ফাংশন পদ্ধতি।
অবতল ফাংশনের সর্বাধিক মান নির্ধারণের সমস্যাটি বিবেচনা করুন
f (x 1, x 2, .... x n)শর্তাধীন g i (x 1, x 2, .... x n) ≤ b i (i=l, m) , x j ≥ 0 (j=1, n) , কোথায় g i (x 1, x 2, .... x n) - উত্তল ফাংশন।
এই সমস্যাটি সরাসরি সমাধান করার পরিবর্তে, ফাংশনের সর্বাধিক মানটি সন্ধান করুন F(x 1, x 2, ...., x n) = f(x 1, x 2, ...., x n) +H(x 1, x 2, ...., x n) যা সমস্যাটির উদ্দেশ্যমূলক ফাংশনের সমষ্টি এবং কিছু ফাংশন
H(x 1, x 2, ...., x n), সীমাবদ্ধতার একটি সিস্টেম দ্বারা সংজ্ঞায়িত এবং বলা হয় পেনাল্টি ফাংশন. পেনাল্টি ফাংশন বিভিন্ন উপায়ে তৈরি করা যেতে পারে। যাইহোক, প্রায়ই এটি মত দেখায়
ক a i > 0
- কিছু ধ্রুবক সংখ্যা ওজন সহগ প্রতিনিধিত্ব করে।
পেনাল্টি ফাংশন ব্যবহার করে, তারা একটি গ্রহণযোগ্য সমাধান না পাওয়া পর্যন্ত ক্রমান্বয়ে এক বিন্দু থেকে অন্য স্থানে চলে যায়। এই ক্ষেত্রে, পরবর্তী বিন্দুর স্থানাঙ্কগুলি সূত্র ব্যবহার করে পাওয়া যায়
শেষ সম্পর্ক থেকে এটি অনুসরণ করে যে যদি পূর্ববর্তী বিন্দুটি মূল সমস্যার সম্ভাব্য সমাধানের অঞ্চলে থাকে, তবে বর্গ বন্ধনীতে দ্বিতীয় পদটি শূন্যের সমান এবং পরবর্তী বিন্দুতে রূপান্তর শুধুমাত্র উদ্দেশ্যের গ্রেডিয়েন্ট দ্বারা নির্ধারিত হয়। ফাংশন যদি নির্দিষ্ট বিন্দুটি গ্রহণযোগ্য সমাধানগুলির অঞ্চলের অন্তর্গত না হয়, তবে পরবর্তী পুনরাবৃত্তিগুলিতে এই শব্দটির কারণে গ্রহণযোগ্য সমাধানগুলির অঞ্চলে ফিরে আসা হয়
সিদ্ধান্ত. একই সময়ে, কম a i
, যত দ্রুত একটি গ্রহণযোগ্য সমাধান পাওয়া যায়, কিন্তু এর নির্ভুলতা হ্রাস পায়। অতএব, পুনরাবৃত্তিমূলক প্রক্রিয়া সাধারণত অপেক্ষাকৃত ছোট মান থেকে শুরু হয় a i
এবং, এটি অব্যাহত রেখে, এই মানগুলি ধীরে ধীরে বৃদ্ধি পায়।
সুতরাং, পেনাল্টি ফাংশন পদ্ধতি ব্যবহার করে উত্তল প্রোগ্রামিং সমস্যার সমাধান খোঁজার প্রক্রিয়ায় নিম্নলিখিত পদক্ষেপগুলি অন্তর্ভুক্ত রয়েছে:
1. প্রাথমিক সম্ভাব্য সমাধান নির্ধারণ করুন।
2. গণনার ধাপ নির্বাচন করুন।
3. সমস্ত ভেরিয়েবলের জন্য, উদ্দেশ্য ফাংশনের আংশিক ডেরিভেটিভ এবং ফাংশনগুলি খুঁজুন যা সমস্যার সম্ভাব্য সমাধানের পরিসর নির্ধারণ করে।
4. সূত্র (72) ব্যবহার করে, বিন্দুর স্থানাঙ্কগুলি খুঁজে পাওয়া যায় যা সমস্যার একটি সম্ভাব্য নতুন সমাধান নির্ধারণ করে।
5. পাওয়া বিন্দুর স্থানাঙ্কগুলি সমস্যার সীমাবদ্ধতার সিস্টেমকে সন্তুষ্ট করে কিনা তা পরীক্ষা করুন। যদি না হয়, তাহলে পরবর্তী পর্যায়ে যান। যদি পাওয়া বিন্দুর স্থানাঙ্কগুলি সমস্যার একটি গ্রহণযোগ্য সমাধান নির্ধারণ করে, তাহলে পরবর্তী গ্রহণযোগ্য সমাধানে যাওয়ার প্রয়োজনীয়তা তদন্ত করা হয়। প্রয়োজনে, পর্যায় 2 এ এগিয়ে যান, অন্যথায় মূল সমস্যার একটি গ্রহণযোগ্য সমাধান পাওয়া গেছে।
6. ওজন সহগগুলির মান সেট করুন এবং ধাপ 4 এ যান।
তীর-হারউইটজ পদ্ধতি।
পেনাল্টি ফাংশন পদ্ধতি ব্যবহার করে ননলাইনার প্রোগ্রামিং সমস্যার সমাধান খুঁজে বের করার সময়, আমরা মানগুলি বেছে নিয়েছি a i , নির্বিচারে, যা সম্ভাব্য সমাধানের অঞ্চল থেকে নির্ধারিত পয়েন্টের দূরত্বে উল্লেখযোগ্য ওঠানামার দিকে পরিচালিত করে। তীর-হারউইটজ পদ্ধতিতে সমস্যাটি সমাধান করার সময় এই ত্রুটিটি দূর করা হয়, যা অনুসারে পরবর্তী ধাপে সংখ্যাগুলি একটি আমি (কে) সূত্র দ্বারা গণনা করা হয়
প্রাথমিক মান হিসাবে একটি আমি (0) নির্বিচারে অ নেতিবাচক সংখ্যা নিন।
উদাহরণ সমাধান
উদাহরণ 1.
একটি ফাংশনের স্থানীয় ন্যূনতম খুঁজুন
একটি বিন্দু সংজ্ঞায়িত x k
1. এর সেট করা যাক.
2. বসানো যাক k = 0 .
ত্রিশ আসুন হিসাব করি
4 0। আসুন হিসাব করি 
. চলুন ধাপ 5 এ সরানো যাক।
50 এর অবস্থা পরীক্ষা করা যাক 
. চলুন ধাপ 6 এ চলুন.
6 0। সেট করা যাক t0 = 0.5 .
7 0। আসুন হিসাব করি
8 0। এর তুলনা করা যাক 
. আমাদের আছে 
. উপসংহার: শর্ত k = 0
মৃত্যুদন্ড কার্যকর করা হয় না। সেট করা যাক t0 = 0.25
, ধাপ 7, 8 পুনরাবৃত্তি করতে এগিয়ে যান।
7 01। আসুন হিসাব করি।
8 01। এর তুলনা করা যাক f (x 1) এবং f (x 0) . উপসংহার: f (x 1)< f (x 0) . চলুন ধাপ 9 এ সরানো যাক।
9 0। আসুন হিসাব করি
উপসংহার: আমরা বিশ্বাস করি k = 1 এবং ধাপ 3 এ যান।
3 1. আসুন হিসাব করি
4 1. আসুন হিসাব করি 
. চলুন ধাপ 5 এ সরানো যাক।
5 1। এর অবস্থা পরীক্ষা করা যাক k ≥ M: k = 1< 10 = M . চলুন ধাপ 6 এ চলুন.
6 1. সেট করা যাক t 1 = 0.25।
7 1. আসুন হিসাব করি
8 1. এর তুলনা করা যাক f (x 2) এর সাথে f (x 1) . উপসংহার: f (x 2)< f (х 1). চলুন ধাপ 9 এ সরানো যাক।
9 1. আসুন হিসাব করি
উপসংহার: আমরা বিশ্বাস করি k = 2 এবং ধাপ 3 এ যান।
3 2। আসুন হিসাব করি
4 2। আসুন হিসাব করি। চলুন ধাপ 5 এ সরানো যাক।
5 2। এর অবস্থা পরীক্ষা করা যাক k ≥ M : k = 2< 10 = М , ধাপ 6 এ যান।
6 2। সেট করা যাক t 2 =0,25 .
7 2। আসুন হিসাব করি
8 2। এর তুলনা করা যাক f (x 3) এবং f (x 2) . উপসংহার: f (x 3)< f (х 2) ধাপ 9 এ যান।
9 2। আসুন হিসাব করি 
উপসংহার: আমরা বিশ্বাস করি k = 3 এবং ধাপ 3 এ যান।
৩ ৩। আসুন হিসাব করি
4 3। আসুন হিসাব করি। চলুন ধাপ 5 এ সরানো যাক।
5 3। এর অবস্থা পরীক্ষা করা যাক k ≥ M : k = 3<10 = М , ধাপ 6 এ যান।
6 3। সেট করা যাক t 3 = 0.25।
7 3। আসুন হিসাব করি
8 3. এর তুলনা করা যাক f (x 4) এবং f (x 3): f (x 4)< f (х 3) .
9 3। আসুন হিসাব করি 
শর্ত পূরণ হয় যখন k = 2.3 . হিসাব
সমাপ্ত পয়েন্ট পাওয়া গেছে
চিত্রে। 3টি ফলাফল বিন্দু একটি বিন্দুযুক্ত রেখা দ্বারা সংযুক্ত।
২. পয়েন্ট বিশ্লেষণ x 4 .
ফাংশন 
দ্বিগুণ পার্থক্যযোগ্য, তাই আমরা বিন্দুতে ন্যূনতম জন্য পর্যাপ্ত শর্তগুলি পরীক্ষা করব x 4
. এটি করার জন্য, আসুন হেসিয়ান ম্যাট্রিক্স বিশ্লেষণ করি।
ম্যাট্রিক্স ধ্রুবক এবং ধনাত্মক নির্দিষ্ট (যেমন . H > 0
) যেহেতু এর কৌণিক অপ্রাপ্তবয়স্ক উভয়ই ধনাত্মক। অতএব, বিন্দু 
স্থানীয় ন্যূনতম বিন্দুর পাওয়া অনুমান, এবং মান 
মানের পাওয়া অনুমান f (x *) =0
. উল্লেখ্য যে শর্ত H > 0
, একই সময়ে ফাংশনের কঠোর উত্তলতার জন্য একটি শর্ত রয়েছে 
. ফলস্বরূপ, বিশ্বব্যাপী সর্বনিম্ন বিন্দুর আনুমানিকতা পাওয়া যায় f(x)
এবং এর সর্বনিম্ন মান আর 2
. ■
উদাহরণ 2
একটি ফাংশনের স্থানীয় ন্যূনতম খুঁজুন
I. একটি বিন্দুর সংজ্ঞা x k, যেখানে গণনা সম্পূর্ণ করার জন্য কমপক্ষে একটি মানদণ্ড পূরণ করা হয়।
1. এর সেট করা যাক.
চলুন ফাংশনের গ্রেডিয়েন্টটি নির্বিচারে খুঁজে বের করা যাক
2. বসানো যাক k = 0 .
ত্রিশ আসুন হিসাব করি
4 0। আসুন হিসাব করি . চলুন ধাপ 5 এ সরানো যাক।
50 এর অবস্থা পরীক্ষা করা যাক 
. চলুন ধাপ 6 এ চলুন.
6° পরবর্তী পয়েন্ট সূত্র দ্বারা পাওয়া যায়
আসুন স্থানাঙ্কগুলির জন্য প্রাপ্ত অভিব্যক্তিগুলি প্রতিস্থাপন করি
চলুন ফাংশনের সর্বনিম্ন খুঁজে বের করা যাক f(t 0) দ্বারা টি 0 একটি শর্তহীন চরমের জন্য প্রয়োজনীয় শর্ত ব্যবহার করে:
এখান থেকে t 0 = 0.24
. কারণ 
, পাওয়া ধাপ মান ফাংশনের সর্বনিম্ন প্রদান করে f(t 0)
দ্বারা টি 0
.
এর সংজ্ঞায়িত করা যাক 
7 0। আমরা খুঁজে বের করব
8° আসুন হিসাব করি
উপসংহার: আমরা বিশ্বাস করি k = 1 এবং ধাপ 3 এ যান।
3 1. আসুন হিসাব করি
4 1. আসুন হিসাব করি 
5 1। এর অবস্থা পরীক্ষা করা যাক k ≥ 1: k = 1< 10 = М.
6 1. এর সংজ্ঞায়িত করা যাক
7 1. আমরা খুঁজে বের করব 
:
8 1. আসুন হিসাব করি
আমরা বিশ্বাস করি k = 2 এবং ধাপ 3 এ যান।
3 2। আসুন হিসাব করি
4 2। আসুন হিসাব করি
5 2। এর অবস্থা পরীক্ষা করা যাক k ≥ M: k = 2< 10 = M .
6 2। এর সংজ্ঞায়িত করা যাক
7 2। আমরা খুঁজে বের করব 
8 2। আসুন হিসাব করি
আমরা বিশ্বাস করি k =3 এবং ধাপ 3 এ যান।
৩ ৩। আসুন হিসাব করি
4 3। আসুন হিসাব করি।
হিসাব শেষ। পয়েন্ট পাওয়া গেছে
২. পয়েন্ট বিশ্লেষণ x 3 .
উদাহরণ 1.1 (অধ্যায় 2 §1) এটি দেখানো হয়েছে যে ফাংশন f(x) কঠোরভাবে উত্তল এবং তাই, বিন্দু 3 এ বিশ্বব্যাপী সর্বনিম্ন বিন্দুর আনুমানিক পাওয়া যায় এক্স* .
উদাহরণ 3.
একটি ফাংশনের স্থানীয় ন্যূনতম খুঁজুন
I. একটি বিন্দুর সংজ্ঞা xjk , যেখানে গণনা সম্পূর্ণ করার জন্য কমপক্ষে একটি মানদণ্ড পূরণ করা হয়।
1. এর সেট করা যাক
চলুন ফাংশনের গ্রেডিয়েন্টটি নির্বিচারে খুঁজে বের করা যাক 
2. এর সেট করা যাক j = 0।
ত্রিশ শর্ত পূরণ হয়েছে কিনা তা পরীক্ষা করা যাক
4 0। সেট করা যাক k = 0।
50 শর্ত পূরণ হয়েছে কিনা তা পরীক্ষা করা যাক
6 0। আসুন হিসাব করি
7 0। এর অবস্থা পরীক্ষা করা যাক 
8 0। সেট করা যাক
9 0। আসুন হিসাব করি 
, কোথায়
100 এর অবস্থা পরীক্ষা করা যাক
উপসংহার: আমরা অনুমান করি এবং ধাপ 9 এ চলে যাই।
9 01। আসুন হিসাব করি x 01 ইনক্রিমেন্টে
10 01। এর অবস্থা পরীক্ষা করা যাক 
11 0। এর শর্ত চেক করা যাক
আমরা বিশ্বাস করি k = 1 এবং ধাপ 5 এ যান।
5 1। এর অবস্থা পরীক্ষা করা যাক
6 1. আসুন হিসাব করি
7 1. এর অবস্থা পরীক্ষা করা যাক
8 1. সেট করা যাক
9 1. আসুন হিসাব করি
10 1. এর অবস্থা পরীক্ষা করা যাক 
:
11 1. এর শর্ত চেক করা যাক
আমরা বিশ্বাস করি k = 2 , ধাপ 5 এ যান।
5 2। এর অবস্থা পরীক্ষা করা যাক. সেট করা যাক, ধাপ 3 এ যান।
3 1. এর অবস্থা পরীক্ষা করা যাক
4 1. সেট করা যাক k = 0।
5 2। এর অবস্থা পরীক্ষা করা যাক
6 2। আসুন হিসাব করি
7 2। এর অবস্থা পরীক্ষা করা যাক
8 2। সেট করা যাক
9 2। আসুন হিসাব করি
10 2। এর অবস্থা পরীক্ষা করা যাক 
11 2। এর শর্ত চেক করা যাক
আমরা বিশ্বাস করি k = 1 এবং ধাপ 5 এ যান।
5 3। এর অবস্থা পরীক্ষা করা যাক
6 3। আসুন হিসাব করি
7 3। এর শর্ত চেক করা যাক
8 3. সেট করা যাক
9 3। আসুন হিসাব করি
10 3। এর অবস্থা পরীক্ষা করা যাক 
11 3. এর শর্ত চেক করা যাক
সেট করা যাক k = 2 এবং ধাপ 5 এ যান।
5 4। এর অবস্থা পরীক্ষা করা যাক 
আমরা বিশ্বাস করি j = 2, x 20 = x 12 এবং ধাপ 3 এ যান।
3 2। এর অবস্থা পরীক্ষা করা যাক
4 2। সেট করা যাক k =0 .
5 4। এর অবস্থা পরীক্ষা করা যাক
6 4। আসুন হিসাব করি
7 4। এর অবস্থা পরীক্ষা করা যাক
8 4। সেট করা যাক
9 4। আসুন হিসাব করি
10 4। আসুন শর্তটি পরীক্ষা করি এবং 11 ধাপে এগিয়ে যাই।
11 4। এর শর্ত চেক করা যাক
শর্তগুলি সংখ্যা সহ পরপর দুটি চক্রে পূরণ করা হয় j = 2 এবং j -1= 1 . হিসাব শেষ, বিন্দু পাওয়া গেছে
চিত্রে। 6টি ফলাফল বিন্দু একটি বিন্দুযুক্ত রেখা দ্বারা সংযুক্ত।
স্থানাঙ্ক ডিসেন্ট পদ্ধতিতে, আমরা স্থানাঙ্ক অক্ষের সমান্তরাল সরল অংশ সমন্বিত একটি ভাঙা রেখা বরাবর নেমে আসি।
২. বিন্দু x21 এর বিশ্লেষণ।
উদাহরণ 1.1 এ দেখানো হয়েছে যে ফাংশনটি f(x)
কঠোরভাবে উত্তল, একটি অনন্য সর্বনিম্ন এবং তাই, একটি বিন্দু আছে 
বৈশ্বিক সর্বনিম্ন বিন্দুর পাওয়া আনুমানিকতা।
উপরে আলোচিত সমস্ত গ্রেডিয়েন্ট পদ্ধতিতে, পয়েন্টের ক্রম (xk) ফাংশনের স্থির বিন্দুতে রূপান্তরিত হয় f(x) এই ফাংশনের বৈশিষ্ট্য সম্পর্কিত মোটামুটি সাধারণ প্রস্তাবনা সহ। বিশেষ করে, উপপাদ্যটি সত্য:
উপপাদ্য। যদি ফাংশন f(x) নীচে আবদ্ধ থাকে, তবে এর গ্রেডিয়েন্ট লিপশিটজ অবস্থা () এবং মান পছন্দকে সন্তুষ্ট করে tn উপরে বর্ণিত পদ্ধতিগুলির একটি দ্বারা উত্পাদিত, তারপর শুরুর বিন্দু যাই হোক না কেন x 0 :
এ
প্রকল্পের বাস্তব বাস্তবায়নে
k = 1, 2, … n।
পুনরাবৃত্তি বন্ধ যদি সব জন্য i, i = 1, 2, ..., n , শর্ত মত
,
যেখানে একটি নির্দিষ্ট সংখ্যা সর্বনিম্ন খুঁজে বের করার নির্ভুলতা চিহ্নিত করে।
উপপাদ্যের শর্তের অধীনে, গ্রেডিয়েন্ট পদ্ধতি ফাংশনে বা সঠিক নিম্ন সীমাতে অভিসার নিশ্চিত করে (যদি ফাংশন f(x) কোন ন্যূনতম আছে; চাল 7), অথবা কিছু স্থির বিন্দুতে ফাংশনের মান, যা অনুক্রমের সীমা (x k)। এই মুহুর্তে একটি স্যাডল উপলব্ধি করা হলে উদাহরণগুলির সাথে আসা কঠিন নয়, এবং ন্যূনতম নয়। অনুশীলনে, গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতিগুলি আত্মবিশ্বাসের সাথে স্যাডল পয়েন্টগুলিকে বাইপাস করে এবং উদ্দেশ্য ফাংশনের মিনিমাম খুঁজে পায় (সাধারণ ক্ষেত্রে, স্থানীয়গুলি)।
উপসংহার
গ্রেডিয়েন্ট অনিয়ন্ত্রিত অপ্টিমাইজেশন পদ্ধতির উদাহরণ উপরে আলোচনা করা হয়েছে। সম্পন্ন কাজের ফলস্বরূপ, নিম্নলিখিত উপসংহার টানা যেতে পারে:
1. বিধিনিষেধের উপস্থিতিতে একটি চরমপন্থা খুঁজে পাওয়ার কম-বেশি জটিল সমস্যাগুলির জন্য বিশেষ পন্থা এবং পদ্ধতির প্রয়োজন।
2. সীমাবদ্ধ সমস্যা সমাধানের জন্য অনেক অ্যালগরিদম কিছু পদক্ষেপ হিসাবে সীমাবদ্ধ ন্যূনতমকরণ অন্তর্ভুক্ত করে।
3. বিভিন্ন পদ্ধতিতারা যেভাবে অবতরণের দিক এবং এই দিক বরাবর ধাপের দৈর্ঘ্য বেছে নেয় সেভাবে অবতরণগুলি একে অপরের থেকে আলাদা।
4. এখনও এমন কোনো তত্ত্ব নেই যা সমস্যার গঠন বর্ণনা করে এমন ফাংশনের কোনো বৈশিষ্ট্য বিবেচনা করবে। সমস্যা সমাধানের প্রক্রিয়ায় পরিচালনা করা সহজ পদ্ধতিগুলিকে অগ্রাধিকার দেওয়া উচিত।
বাস্তব প্রয়োগ করা অপ্টিমাইজেশান সমস্যা খুব জটিল। আধুনিক পদ্ধতিঅপ্টিমাইজেশন সবসময় মানুষের সাহায্য ছাড়া বাস্তব সমস্যা সমাধানের সাথে মোকাবিলা করে না।
বাইবলিওগ্রাফি
1. কোসোরুকভ ও.এ. অপারেশন রিসার্চ: একটি পাঠ্যপুস্তক। 2003
2. প্যান্টলিভ এ.ভি. উদাহরণ এবং সমস্যায় অপ্টিমাইজেশন পদ্ধতি: পাঠ্যপুস্তক। সুবিধা। 2005
3. শিশকিন ই.ভি. অপারেশন গবেষণা: পাঠ্যপুস্তক। 2006
4. আকুলিচ আই.এল. উদাহরণ এবং সমস্যাগুলিতে গাণিতিক প্রোগ্রামিং। 1986
5. ভেনজেল ই.এস. অপারেশন গবেষণা. 1980
6. Ventzel E.S., Ovcharov L.A. সম্ভাব্যতা তত্ত্ব এবং এর প্রকৌশল প্রয়োগ। 1988
©2015-2019 সাইট
সমস্ত অধিকার তাদের লেখকদের অন্তর্গত। এই সাইট লেখকত্ব দাবি করে না, কিন্তু প্রদান করে বিনামূল্যে ব্যবহার.
পৃষ্ঠা তৈরির তারিখ: 2017-07-02
টীকা: এই বক্তৃতাটি ব্যাপকভাবে এই ধরনের মাল্টিপ্যারামিটার অপ্টিমাইজেশান পদ্ধতিগুলিকে কভার করে যেমন খাড়া ডিসেন্ট পদ্ধতি এবং ডেভিডন-ফ্লেচার-পাওয়েল পদ্ধতি। উপরন্তু, উপরের পদ্ধতিগুলির একটি তুলনামূলক বিশ্লেষণ করা হয় যাতে সবচেয়ে কার্যকর একটি নির্ধারণ করা হয়, তাদের সুবিধা এবং অসুবিধাগুলি চিহ্নিত করা হয়; এবং বহুমাত্রিক অপ্টিমাইজেশান সমস্যাগুলিও বিবেচনা করে, যেমন রেভিন পদ্ধতি এবং মাল্টিএক্সট্রিমাল পদ্ধতি।
1. খাড়া বংশদ্ভুত পদ্ধতি
সারাংশ এই পদ্ধতিযে পূর্বে উল্লিখিত ব্যবহার করে সমন্বয় বংশদ্ভুত পদ্ধতিথেকে অনুসন্ধান করা হয় প্রদত্ত বিন্দুঅক্ষগুলির একটির সমান্তরাল একটি দিক, সেই দিকের একটি ন্যূনতম বিন্দুতে। অনুসন্ধান তারপর অন্য অক্ষের সমান্তরাল একটি দিক সঞ্চালিত হয়, এবং তাই. নির্দেশাবলী, অবশ্যই, স্থির হয়. এই পদ্ধতিটি সংশোধন করার চেষ্টা করা যুক্তিসঙ্গত বলে মনে হচ্ছে যাতে প্রতিটি পর্যায়ে সর্বনিম্ন পয়েন্টের জন্য অনুসন্ধান "সর্বোত্তম" দিক বরাবর করা হয়। কোন দিকটি "সেরা" তা স্পষ্ট নয়, তবে এটি জানা গেছে গ্রেডিয়েন্ট দিকফাংশনে দ্রুততম বৃদ্ধির দিক। অতএব, বিপরীত দিক হল ফাংশনের দ্রুততম হ্রাসের দিক। এই সম্পত্তি নিম্নলিখিত হিসাবে ন্যায়সঙ্গত করা যেতে পারে.
আসুন আমরা ধরে নিই যে আমরা x বিন্দু থেকে পরবর্তী বিন্দু x + hd-এ যাচ্ছি, যেখানে d হল একটি নির্দিষ্ট দিক এবং h হল একটি নির্দিষ্ট দৈর্ঘ্যের একটি ধাপ। ফলস্বরূপ, বিন্দু (x 1, x 2, ..., x n) থেকে বিন্দুতে আন্দোলন তৈরি হয় (x 1 + zx 1, x 2 + zx 2, ..., x n + zx n), কোথায়
ফাংশন মানের পরিবর্তন সম্পর্কের দ্বারা নির্ধারিত হয়
| (1.3) |
প্রথম ক্রম zx i পর্যন্ত, আংশিক ডেরিভেটিভগুলি x বিন্দুতে গণনা করা হচ্ছে। ফাংশন df-এ পরিবর্তনের সর্বাধিক মান পেতে কীভাবে d i নির্দেশনাগুলি বেছে নেওয়া উচিত যা সমীকরণ (1.2) সন্তুষ্ট করে? এখানেই একটি সীমাবদ্ধতার সাথে সর্বাধিকীকরণের সমস্যা দেখা দেয়। আসুন ল্যাগ্রেঞ্জ মাল্টিপ্লায়ারের পদ্ধতি প্রয়োগ করি, যার সাহায্যে আমরা ফাংশন নির্ধারণ করি
মান df সন্তোষজনক সীমাবদ্ধতা (1.2) ফাংশন যখন তার সর্বোচ্চ পৌঁছে
সর্বোচ্চে পৌঁছায়। এর ডেরিভেটিভ
তাই,
 |
(1.6) |
তারপর di ~ df/dx i এবং দিক dটি বিন্দু x-এ V/(x) দিকটির সমান্তরাল।
এইভাবে, বৃহত্তম স্থানীয় বৃদ্ধিএকটি প্রদত্ত ছোট ধাপের h ফাংশনটি ঘটে যখন d হল Vf(x) বা g(x) এর দিক। অতএব, খাড়া বংশদ্ভুত দিক দিক
আরো সহজ আকারেসমীকরণ (1.3) নিম্নরূপ লেখা যেতে পারে:
Vf(x) এবং dx ভেক্টরের মধ্যে কোণ কোথায়। জন্য প্রদত্ত মান dx dx-এর দিকটি -Vf(x) এর দিকনির্দেশের সাথে মিলে যায় তা বেছে নিয়ে আমরা df ছোট করি।
মন্তব্য করুন. গ্রেডিয়েন্ট দিকধ্রুবক স্তরের একটি রেখার যেকোনো বিন্দুতে লম্ব, যেহেতু এই রেখা বরাবর ফাংশনটি ধ্রুবক। এইভাবে, যদি (d 1, d 2, ..., d n) স্তর রেখা বরাবর একটি ছোট ধাপ হয়, তাহলে
এবং সেইজন্য
 |
(1.8) |
এছাড়াও আপনি গ্রেডিয়েন্টের দিক থেকে সেরা বিন্দুর জন্য নয়, তবে বর্তমানের চেয়ে ভাল কিছুর জন্য অনুসন্ধান করতে পারেন।
সমস্ত স্থানীয় অপ্টিমাইজেশান পদ্ধতি প্রয়োগ করা সবচেয়ে সহজ। বেশ আছে দুর্বল অবস্থাকনভারজেন্স, কিন্তু কনভারজেন্সের হার বেশ কম (রৈখিক)। গ্রেডিয়েন্ট পদ্ধতি ধাপটি প্রায়শই অন্যান্য অপ্টিমাইজেশন পদ্ধতির অংশ হিসাবে ব্যবহৃত হয়, যেমন ফ্লেচার-রিভস পদ্ধতি।
বর্ণনা [ | ]
উন্নতি[ | ]
গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতিটি যখন একটি গিরিখাত বরাবর চলাচল করে তখন খুব ধীর হয়ে যায় এবং উদ্দেশ্যমূলক ফাংশনে ভেরিয়েবলের সংখ্যা বাড়ার সাথে সাথে পদ্ধতির এই আচরণটি সাধারণ হয়ে ওঠে। এই ঘটনাটি মোকাবেলা করার জন্য, এটি ব্যবহার করা হয়, যার সারাংশটি খুব সহজ। গ্রেডিয়েন্ট ডিসেন্টের দুটি ধাপ তৈরি করে এবং তিনটি বিন্দু প্রাপ্ত করার পরে, তৃতীয় ধাপটি গিরিখাতের নীচে বরাবর প্রথম এবং তৃতীয় বিন্দুকে সংযোগকারী ভেক্টরের দিকে নেওয়া উচিত।
দ্বিঘাতের কাছাকাছি ফাংশনের জন্য, সংযোজিত গ্রেডিয়েন্ট পদ্ধতি কার্যকর।
কৃত্রিম নিউরাল নেটওয়ার্কে অ্যাপ্লিকেশন[ | ]
গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতি, কিছু পরিবর্তন সহ, ব্যাপকভাবে পারসেপ্ট্রন প্রশিক্ষণের জন্য ব্যবহৃত হয় এবং কৃত্রিম নিউরাল নেটওয়ার্কের তত্ত্বে এটি ব্যাকপ্রোপাগেশন পদ্ধতি হিসাবে পরিচিত। একটি পারসেপ্ট্রন-টাইপ নিউরাল নেটওয়ার্ককে প্রশিক্ষণ দেওয়ার সময়, নেটওয়ার্কের ওজন সহগ পরিবর্তন করা প্রয়োজন যাতে ছোট করা যায় গড় ত্রুটিনিউরাল নেটওয়ার্কের আউটপুটে যখন প্রশিক্ষণ ইনপুট ডেটার একটি ক্রম ইনপুটে সরবরাহ করা হয়। আনুষ্ঠানিকভাবে, গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতি ব্যবহার করে মাত্র একটি পদক্ষেপ নেওয়ার জন্য (নেটওয়ার্ক প্যারামিটারে মাত্র একটি পরিবর্তন করুন), এটিকে পর্যায়ক্রমে নেটওয়ার্ক ইনপুটে প্রশিক্ষণ ডেটার সম্পূর্ণ সেট জমা দিতে হবে, প্রতিটি বস্তুর জন্য ত্রুটি গণনা করতে হবে। প্রশিক্ষণের ডেটা এবং নেটওয়ার্ক সহগগুলির প্রয়োজনীয় সংশোধন গণনা করুন (তবে এই সংশোধনটি করবেন না), এবং সমস্ত ডেটা জমা দেওয়ার পরে, প্রতিটি নেটওয়ার্ক সহগ (গ্রেডিয়েন্টের যোগফল) সামঞ্জস্যের পরিমাণ গণনা করুন এবং সহগগুলিকে "এক ধাপ" সংশোধন করুন। . স্পষ্টতই, প্রশিক্ষণের ডেটার একটি বড় সেটের সাথে, অ্যালগরিদম অত্যন্ত ধীরে ধীরে কাজ করবে, তাই অনুশীলনে, নেটওয়ার্ক সহগগুলি প্রায়শই প্রতিটি প্রশিক্ষণের উপাদানের পরে সামঞ্জস্য করা হয়, যেখানে গ্রেডিয়েন্ট মানটি খরচ ফাংশনের গ্রেডিয়েন্ট দ্বারা আনুমানিক হয়, শুধুমাত্র একটি প্রশিক্ষণে গণনা করা হয়। উপাদান এই পদ্ধতি বলা হয় স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট বা অপারেশনাল গ্রেডিয়েন্ট ডিসেন্ট . স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্টস্টোকাস্টিক আনুমানিক ফর্ম এক. স্টোকাস্টিক আনুমানিক তত্ত্বটি স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট পদ্ধতির একত্রিত হওয়ার শর্ত সরবরাহ করে।
লিঙ্ক [ | ]
- জে ম্যাথুস।খাড়া ডিসেন্ট বা গ্রেডিয়েন্ট পদ্ধতির জন্য মডিউল। (অনুপলব্ধ লিঙ্ক)
সাহিত্য [ | ]
- আকুলিচ আই.এল.উদাহরণ এবং সমস্যাগুলিতে গাণিতিক প্রোগ্রামিং। - এম.: উচ্চ বিদ্যালয়, 1986। - পৃ. 298-310।
- গিল এফ., মারে ডব্লিউ., রাইট এম.ব্যবহারিক অপ্টিমাইজেশান = ব্যবহারিক অপ্টিমাইজেশান। - এম.: মীর, 1985।
- কোরশুনভ ইউ. এম., করশুনভ ইউ. এম.সাইবারনেটিক্সের গাণিতিক ভিত্তি। - এম.: এনারগোআটোমিজদাত, 1972।
- মাকসিমভ ইউ. এ., ফিলিপভস্কায়া ই. এ.ননলাইনার প্রোগ্রামিং সমস্যা সমাধানের জন্য অ্যালগরিদম। - এম.: এমইপিএইচআই, 1982।
- মাকসিমভ ইউ. এ.লিনিয়ার এবং ডিসক্রিট প্রোগ্রামিংয়ের জন্য অ্যালগরিদম। - এম.: এমইপিএইচআই, 1980।
- কর্ন জি., কর্ন টি।বিজ্ঞানী এবং প্রকৌশলীদের জন্য গণিতের হ্যান্ডবুক। - এম.: নাউকা, 1970। - পি. 575-576।
- এস ইউ গোরোডেটস্কি, ভি এ গ্রিশাগিন।অরৈখিক প্রোগ্রামিং এবং মাল্টিএক্সট্রিমাল অপ্টিমাইজেশান। - Nizhny Novgorod: নিজনি নভগোরড ইউনিভার্সিটি পাবলিশিং হাউস, 2007। - পৃষ্ঠা 357-363।
প্রতিটি পুনরাবৃত্তিতে খাড়া ডিসেন্ট পদ্ধতি ব্যবহার করার সময়, ধাপের আকার ক k ফাংশনের সর্বনিম্ন অবস্থা থেকে নির্বাচন করা হয় f(x)অবতারণের দিকে, অর্থাৎ
f(x[k] -ক k f"(x[k])) = f(x[কে] -af"(x[k])) .
এই অবস্থার মানে হল যে অ্যান্টিগ্রেডিয়েন্ট বরাবর আন্দোলন যতক্ষণ পর্যন্ত ফাংশনের মান ততক্ষণ ঘটে f(x)হ্রাস পায় গাণিতিক দৃষ্টিকোণ থেকে, প্রতিটি পুনরাবৃত্তিতে এটি অনুসারে এক-মাত্রিক ন্যূনতমকরণের সমস্যাটি সমাধান করা প্রয়োজন কফাংশন
j (ক) = f(x[k]-af"(x[k])) .
খাড়া ডিসেন্ট পদ্ধতির অ্যালগরিদম নিম্নরূপ।
- 1. শুরু বিন্দুর স্থানাঙ্ক সেট করুন এক্স.
- 2. বিন্দুতে এক্স[k], k = 0, 1, 2, ... গ্রেডিয়েন্ট মান গণনা করে f"(x[k]) .
- 3. ধাপের আকার নির্ধারিত হয় ক k, এক-মাত্রিক মিনিমাইজেশন ওভার দ্বারা কফাংশন j (ক) = f(x[k]-af"(x[k])).
- 4. বিন্দুর স্থানাঙ্ক নির্ধারণ করা হয় এক্স[k+ 1]:
এক্স i [k+ 1]= x i [k] -ক k চ" i (এক্স[k]), i = 1,..., p.
5. স্টেরেশন প্রক্রিয়া বন্ধ করার শর্তগুলি পরীক্ষা করা হয়। সেগুলো পূরণ হলে হিসেব বন্ধ হয়ে যায়। অন্যথায়, ধাপ 1 এ যান।
বিবেচনাধীন পদ্ধতিতে, বিন্দু থেকে আন্দোলনের দিক এক্স[k] বিন্দুতে স্তর রেখা স্পর্শ করে এক্স[k+ 1] (চিত্র 2.9)। ডিসেন্ট ট্রাজেক্টোরি হল জিগজ্যাগ, সংলগ্ন জিগজ্যাগ লিঙ্কগুলি একে অপরের সাথে অর্থগোনাল। প্রকৃতপক্ষে, একটি পদক্ষেপ ক k দ্বারা মিনিমাইজ করে বেছে নেওয়া হয় কফাংশন? (ক) = f(x[কে] -af"(x[k])) . পূর্বশর্তন্যূনতম ফাংশন d j (a)/da = 0।একটি জটিল ফাংশনের ডেরিভেটিভ গণনা করার পরে, আমরা প্রতিবেশী বিন্দুতে ডিসেন্ট দিকনির্দেশের ভেক্টরগুলির অর্থগোনালিটির শর্তটি পাই:
d j (a)/da = -f"(x[k+ 1]f"(x[k]) = 0.
ভাত। 2.9।
গ্রেডিয়েন্ট পদ্ধতি সর্বনিম্ন এর সাথে একত্রিত হয় উচ্চ গতি(গতি সহ জ্যামিতিক অগ্রগতি) মসৃণ উত্তল ফাংশনের জন্য। এই ধরনের ফাংশন সর্বশ্রেষ্ঠ আছে এমএবং অন্তত মিদ্বিতীয় ডেরিভেটিভের ম্যাট্রিক্সের eigenvalues (হেসিয়ান ম্যাট্রিক্স)
একে অপরের থেকে সামান্য পার্থক্য, যেমন ম্যাট্রিক্স N(x)ভাল শর্তযুক্ত আমাদের আপনাকে মনে করিয়ে দেওয়া যাক eigenvaluesআমি, i =1, …, n, ম্যাট্রিক্স হল বৈশিষ্ট্যগত সমীকরণের মূল
যাইহোক, অনুশীলনে, একটি নিয়ম হিসাবে, ফাংশনগুলিকে ন্যূনতম করা হচ্ছে সেকেন্ড ডেরিভেটিভের অ-শর্তযুক্ত ম্যাট্রিক্স রয়েছে (t/m<< 1)। কিছু দিক বরাবর এই ধরনের ফাংশনের মানগুলি অন্যান্য দিকগুলির তুলনায় অনেক দ্রুত (কখনও কখনও মাত্রার বিভিন্ন আদেশ দ্বারা) পরিবর্তিত হয়। সহজ ক্ষেত্রে তাদের স্তরের পৃষ্ঠগুলি দৃঢ়ভাবে দীর্ঘায়িত হয় (চিত্র 2.10), এবং আরও জটিল ক্ষেত্রে এগুলি বাঁকানো এবং গিরিখাতের মতো দেখায়। এই ধরনের বৈশিষ্ট্য সহ ফাংশন বলা হয় গলিএই ফাংশনগুলির অ্যান্টিগ্রেডিয়েন্টের দিক (চিত্র 2.10 দেখুন) দিক থেকে ন্যূনতম বিন্দুতে উল্লেখযোগ্যভাবে বিচ্যুত হয়, যা অভিসারণের গতিতে ধীরগতির দিকে নিয়ে যায়।
ভাত। 2.10।
গ্রেডিয়েন্ট পদ্ধতির অভিসারী হার গ্রেডিয়েন্ট গণনার নির্ভুলতার উপর উল্লেখযোগ্যভাবে নির্ভর করে। নির্ভুলতা হারানো, যা সাধারণত ন্যূনতম পয়েন্টের আশেপাশে বা একটি গলি পরিস্থিতিতে ঘটে, সাধারণত গ্রেডিয়েন্ট ডিসেন্ট প্রক্রিয়ার অভিন্নতাকে ব্যাহত করতে পারে। উপরের কারণগুলির কারণে, সমস্যা সমাধানের প্রাথমিক পর্যায়ে গ্রেডিয়েন্ট পদ্ধতিগুলি প্রায়শই অন্যান্য, আরও কার্যকর পদ্ধতির সাথে একত্রে ব্যবহৃত হয়। এই ক্ষেত্রে, বিন্দু এক্সন্যূনতম বিন্দু থেকে অনেক দূরে, এবং অ্যান্টিগ্রেডিয়েন্টের দিকে পদক্ষেপগুলি ফাংশনে উল্লেখযোগ্য হ্রাস অর্জন করা সম্ভব করে তোলে।
