સૌથી વધુ ઢાળવાળી વંશની પદ્ધતિ. સૌથી ઊભો ઉતરવાની પદ્ધતિ

પદ્ધતિ સૌથી ઊભો વંશ(અંગ્રેજી સાહિત્યમાં "બેહદ વંશની પદ્ધતિ") એ ઑપ્ટિમાઇઝેશન સમસ્યાઓ ઉકેલવા માટે પુનરાવર્તિત સંખ્યાત્મક પદ્ધતિ (પ્રથમ ક્રમ) છે, જે તમને ઉદ્દેશ્ય કાર્યની સીમા (ન્યૂનતમ અથવા મહત્તમ) નક્કી કરવાની મંજૂરી આપે છે:

વાસ્તવિક ડોમેન પર ફંક્શન દલીલ (નિયંત્રિત પરિમાણો) ના મૂલ્યો છે.

વિચારણા હેઠળની પદ્ધતિ અનુસાર, ઉદ્દેશ્ય કાર્યની સીમા (મહત્તમ અથવા લઘુત્તમ) કાર્યના સૌથી ઝડપી વધારો (ઘટાડા) ની દિશામાં નક્કી કરવામાં આવે છે, એટલે કે. કાર્યના ઢાળ (એન્ટિ-ગ્રેડિયન્ટ) ની દિશામાં. એક બિંદુ પર ગ્રેડિયન્ટ ફંક્શન એક વેક્ટર છે જેના કોઓર્ડિનેટ અક્ષો પરના અંદાજો કોઓર્ડિનેટના સંદર્ભમાં ફંક્શનના આંશિક ડેરિવેટિવ્ઝ છે:

જ્યાં i, j,…, n એ સંકલન અક્ષોની સમાંતર એકમ વેક્ટર છે.

આધાર બિંદુ પર ઢાળ સપાટી પર સખત રીતે ઓર્થોગોનલ છે, અને તેની દિશા કાર્યમાં સૌથી ઝડપી વૃદ્ધિની દિશા બતાવે છે, અને વિરુદ્ધ દિશા (એન્ટિગ્રેડિયન્ટ), અનુક્રમે, કાર્યના સૌથી ઝડપી ઘટાડાની દિશા દર્શાવે છે.

સૌથી ઊભો ઉતરવાની પદ્ધતિ છે વધુ વિકાસગ્રેડિયન્ટ ડિસેન્ટ પદ્ધતિ. IN સામાન્ય કેસફંક્શનની સીમા શોધવાની પ્રક્રિયા એ પુનરાવર્તિત પ્રક્રિયા છે, જે નીચે પ્રમાણે લખાયેલ છે:

જ્યાં "+" ચિહ્નનો ઉપયોગ મહત્તમ કાર્ય શોધવા માટે થાય છે, અને "-" ચિહ્નનો ઉપયોગ લઘુત્તમ કાર્ય શોધવા માટે થાય છે;

એકમ દિશા વેક્ટર, જે સૂત્ર દ્વારા નક્કી થાય છે:

- ગ્રેડિયન્ટ મોડ્યુલ ગ્રેડિયન્ટ અથવા એન્ટી-ગ્રેડિયન્ટની દિશામાં ફંક્શનના વધારા અથવા ઘટાડાનો દર નક્કી કરે છે:

એક સ્થિરાંક જે પગલાનું કદ નક્કી કરે છે અને તે તમામ i-th દિશાઓ માટે સમાન છે.

ચળવળની દિશામાં લઘુત્તમ ઉદ્દેશ્ય ફંક્શન f(x) ની સ્થિતિમાંથી સ્ટેપનું કદ પસંદ કરવામાં આવે છે, એટલે કે, ઢાળ અથવા એન્ટિગ્રેડિયન્ટની દિશામાં એક-પરિમાણીય ઑપ્ટિમાઇઝેશન સમસ્યાને ઉકેલવાના પરિણામે:

બીજા શબ્દોમાં કહીએ તો, પગલાનું કદ આ સમીકરણને હલ કરીને નક્કી કરવામાં આવે છે:

આમ, ગણતરીનું પગલું એવી રીતે પસંદ કરવામાં આવે છે કે જ્યાં સુધી કાર્ય સુધરે નહીં ત્યાં સુધી ચળવળ હાથ ધરવામાં આવે છે, આમ અમુક બિંદુએ એક્સ્ટ્રીમમ સુધી પહોંચે છે. આ બિંદુએ, શોધ દિશા ફરીથી નિર્ધારિત કરવામાં આવે છે (ગ્રેડિયન્ટનો ઉપયોગ કરીને) અને ઉદ્દેશ્ય કાર્યનો એક નવો શ્રેષ્ઠ બિંદુ માંગવામાં આવે છે, વગેરે. આમ, આ પદ્ધતિમાં, શોધ મોટા પગલાઓમાં થાય છે, અને કાર્યના ઢાળની ગણતરી પોઈન્ટની નાની સંખ્યામાં થાય છે.

બે ચલોના કાર્યના કિસ્સામાં આ પદ્ધતિનીચેની ભૌમિતિક અર્થઘટન ધરાવે છે: બિંદુ પરથી ચળવળની દિશા બિંદુ પરની સ્તર રેખાને સ્પર્શે છે. વંશનો માર્ગ વાંકોચૂંકો છે, અડીને ઝિગઝેગ એકબીજા સાથે ઓર્થોગોનલ લિંક્સ સાથે. પડોશી બિંદુઓ પર વંશ દિશાઓના વેક્ટરની ઓર્થોગોનાલિટી માટેની સ્થિતિ નીચેની અભિવ્યક્તિ દ્વારા લખાયેલ છે:

ફંક્શન f(x) ના સમાન સ્તરની રેખાના ગ્રાફ પર દર્શાવવામાં આવેલ સૌથી ઊભો વંશ પદ્ધતિનો ઉપયોગ કરીને અંતિમ બિંદુ સુધીની હિલચાલનો માર્ગ

પુનરાવર્તિત ગણતરીના પગલા (કેટલાક માપદંડો) પર શ્રેષ્ઠ ઉકેલની શોધ સમાપ્ત થાય છે:

શોધ માર્ગ વર્તમાન શોધ બિંદુના નાના પડોશમાં રહે છે:

ઉદ્દેશ્ય કાર્યનો વધારો બદલાતો નથી:

સ્થાનિક લઘુત્તમ બિંદુ પર ઉદ્દેશ્ય કાર્યનો ઢાળ શૂન્ય બને છે:

એ નોંધવું જોઈએ કે કોતર સાથે આગળ વધતી વખતે ઢાળવાળી વંશ પદ્ધતિ ખૂબ જ ધીમી હોય છે, અને જેમ જેમ ઉદ્દેશ્ય કાર્યમાં ચલોની સંખ્યા વધે છે તેમ તેમ પદ્ધતિનું આ વર્તન લાક્ષણિક બને છે. કોતર એ ડિપ્રેશન છે, જેની સ્તર રેખાઓ લગભગ અર્ધ-અક્ષો સાથે લંબગોળ આકાર ધરાવે છે જે ઘણી વખત અલગ પડે છે. કોતરની હાજરીમાં, ઉતરતા માર્ગ નાના પગલા સાથે ઝિગઝેગ લાઇનનું સ્વરૂપ લે છે, જેના પરિણામે લઘુત્તમ સુધી ઉતરવાની પરિણામી ગતિ ઘણી ધીમી થઈ જાય છે. આ એ હકીકત દ્વારા સમજાવવામાં આવ્યું છે કે આ કાર્યોના એન્ટિગ્રેડિયન્ટની દિશા દિશાથી લઘુત્તમ બિંદુ તરફ નોંધપાત્ર રીતે વિચલિત થાય છે, જે ગણતરીમાં વધારાના વિલંબ તરફ દોરી જાય છે. પરિણામે, અલ્ગોરિધમ કોમ્પ્યુટેશનલ કાર્યક્ષમતા ગુમાવે છે.

ગલી કાર્ય

ઢાળ પદ્ધતિ, તેના ઘણા ફેરફારો સાથે, વ્યાપક છે અને અસરકારક પદ્ધતિઅભ્યાસ હેઠળના ઑબ્જેક્ટ્સની શ્રેષ્ઠ શોધ. ગ્રેડિયન્ટ શોધનો ગેરલાભ (તેમજ ઉપર ચર્ચા કરેલી પદ્ધતિઓ) એ છે કે તેનો ઉપયોગ કરતી વખતે, ફંક્શનની માત્ર સ્થાનિક સીમા શોધી શકાય છે. બીજાને શોધવા માટે સ્થાનિક ચરમસીમાઓઅન્ય પ્રારંભિક બિંદુઓથી શોધ કરવી જરૂરી છે. ઉપરાંત, ઢાળ પદ્ધતિઓના સંપાતની ઝડપ પણ નોંધપાત્ર રીતે ઢાળની ગણતરીઓની ચોકસાઈ પર આધાર રાખે છે. ચોકસાઈની ખોટ, જે સામાન્ય રીતે ન્યૂનતમ બિંદુઓની નજીકમાં અથવા ગલીની પરિસ્થિતિમાં થાય છે, તે સામાન્ય રીતે ગ્રેડિએન્ટ ડિસેન્ટ પ્રક્રિયાના કન્વર્જન્સને વિક્ષેપિત કરી શકે છે.

ગણતરી પદ્ધતિ

પગલું 1:કાર્યના ઢાળની ગણતરી કરવા માટે વિશ્લેષણાત્મક અભિવ્યક્તિઓ (પ્રતિકાત્મક સ્વરૂપમાં) ની વ્યાખ્યા

પગલું 2: પ્રારંભિક અંદાજ સેટ કરો

પગલું 3:છેલ્લી શોધ દિશાને ફરીથી સેટ કરવા માટે અલ્ગોરિધમિક પ્રક્રિયાને પુનઃપ્રારંભ કરવાની જરૂરિયાત નક્કી કરવામાં આવે છે. પુનઃપ્રારંભના પરિણામે, શોધ ફરીથી ઝડપી વંશની દિશામાં હાથ ધરવામાં આવે છે.

તમે ગ્રેડિયન્ટની દિશામાં શ્રેષ્ઠ બિંદુ માટે નહીં, પરંતુ વર્તમાન કરતાં વધુ સારા બિંદુ માટે પણ શોધી શકો છો.

તમામ સ્થાનિક ઓપ્ટિમાઇઝેશન પદ્ધતિઓનો અમલ કરવા માટે સૌથી સરળ. તદ્દન ધરાવે છે નબળી પરિસ્થિતિઓકન્વર્જન્સ, પરંતુ કન્વર્જન્સનો દર તદ્દન ઓછો (રેખીય) છે. પગલું ઢાળ પદ્ધતિઘણીવાર અન્ય ઑપ્ટિમાઇઝેશન પદ્ધતિઓના ભાગ રૂપે ઉપયોગમાં લેવાય છે, જેમ કે ફ્લેચર-રીવ્સ પદ્ધતિ.

વર્ણન [ | ]

સુધારાઓ[ | ]

જ્યારે કોતર સાથે આગળ વધતી હોય ત્યારે ઢાળવાળી વંશ પદ્ધતિ ખૂબ જ ધીમી હોય છે, અને ઉદ્દેશ્ય કાર્યમાં ચલોની સંખ્યા વધે છે, પદ્ધતિની આ વર્તણૂક લાક્ષણિક બની જાય છે. આ ઘટનાનો સામનો કરવા માટે, તેનો ઉપયોગ કરવામાં આવે છે, જેનો સાર ખૂબ જ સરળ છે. ઢાળના વંશના બે પગલાઓ બનાવ્યા પછી અને ત્રણ બિંદુઓ પ્રાપ્ત કર્યા પછી, ત્રીજું પગલું કોતરના તળિયે, પ્રથમ અને ત્રીજા બિંદુઓને જોડતા વેક્ટરની દિશામાં લેવું જોઈએ.

ચતુર્ભુજની નજીકના કાર્યો માટે, સંયુક્ત ઢાળ પદ્ધતિ અસરકારક છે.

કૃત્રિમ ન્યુરલ નેટવર્ક્સમાં એપ્લિકેશન[ | ]

ગ્રેડિયન્ટ ડિસેન્ટ પદ્ધતિ, કેટલાક ફેરફારો સાથે, પરસેપ્ટ્રોન તાલીમ માટે વ્યાપકપણે ઉપયોગમાં લેવાય છે અને કૃત્રિમ ન્યુરલ નેટવર્કના સિદ્ધાંતમાં બેકપ્રોપગેશન પદ્ધતિ તરીકે ઓળખાય છે. પરસેપ્ટ્રોન પ્રકારના ન્યુરલ નેટવર્કને તાલીમ આપતી વખતે, નેટવર્કના વજનના ગુણાંકમાં ફેરફાર કરવો જરૂરી છે જેથી કરીને તેને ન્યૂનતમ કરી શકાય. સરેરાશ ભૂલન્યુરલ નેટવર્કના આઉટપુટ પર જ્યારે તાલીમ ઇનપુટ ડેટાનો ક્રમ ઇનપુટને પૂરો પાડવામાં આવે છે. ઔપચારિક રીતે, ગ્રેડિયન્ટ ડિસેન્ટ પદ્ધતિનો ઉપયોગ કરીને માત્ર એક પગલું લેવા માટે (નેટવર્ક પરિમાણોમાં માત્ર એક ફેરફાર કરો), ક્રમશઃ નેટવર્ક ઇનપુટ પર તાલીમ ડેટાનો સંપૂર્ણ સેટ સબમિટ કરવો જરૂરી છે, દરેક ઑબ્જેક્ટ માટે ભૂલની ગણતરી કરો. તાલીમ ડેટા અને નેટવર્ક ગુણાંકના જરૂરી સુધારાની ગણતરી કરો (પરંતુ આ કરેક્શન ન કરો), અને તમામ ડેટા સબમિટ કર્યા પછી, દરેક નેટવર્ક ગુણાંક (ગ્રેડિયન્ટ્સનો સરવાળો) ના ગોઠવણમાં રકમની ગણતરી કરો અને ગુણાંકને "એક પગલું" સુધારો. . દેખીતી રીતે, પ્રશિક્ષણ ડેટાના મોટા સમૂહ સાથે, અલ્ગોરિધમ અત્યંત ધીમી ગતિએ કાર્ય કરશે, તેથી વ્યવહારમાં, નેટવર્ક ગુણાંકને ઘણીવાર દરેક તાલીમ તત્વ પછી સમાયોજિત કરવામાં આવે છે, જ્યાં ગ્રેડિયન્ટ મૂલ્ય ખર્ચ કાર્યના ઢાળ દ્વારા અંદાજિત કરવામાં આવે છે, માત્ર એક તાલીમ પર ગણતરી કરવામાં આવે છે. તત્વ આ પદ્ધતિ કહેવામાં આવે છે સ્ટોકેસ્ટિક ગ્રેડિયન્ટ વંશ અથવા ઓપરેશનલ ગ્રેડિયન્ટ વંશ . સ્ટોકેસ્ટિક ગ્રેડિયન્ટ ડિસેન્ટ એ સ્ટોકેસ્ટિક અંદાજનું એક સ્વરૂપ છે. સ્ટોકેસ્ટિક અંદાજનો સિદ્ધાંત સ્ટોકેસ્ટિક ગ્રેડિયન્ટ ડિસેન્ટ પદ્ધતિના કન્વર્જન્સ માટે શરતો પ્રદાન કરે છે.

લિંક્સ [ | ]

• જે. મેથ્યુસ.સ્ટીપ ડીસેન્ટ અથવા ગ્રેડિયન્ટ મેથડ માટે મોડ્યુલ. (અનુપલબ્ધ લિંક)

સાહિત્ય [ | ]

• અકુલિચ આઈ. એલ.ઉદાહરણો અને સમસ્યાઓમાં ગાણિતિક પ્રોગ્રામિંગ. - એમ.: ઉચ્ચ શાળા, 1986. - પૃષ્ઠ 298-310.
• ગિલ એફ., મુરે ડબલ્યુ., રાઈટ એમ.પ્રેક્ટિકલ ઑપ્ટિમાઇઝેશન = વ્યવહારિક ઑપ્ટિમાઇઝેશન. - એમ.: મીર, 1985.
• કોર્શુનોવ યુ. એમ., કોર્શુનોવ યુ. એમ.સાયબરનેટિક્સના ગાણિતિક પાયા. - M.: Energoatomizdat, 1972.
• મકસિમોવ યુ. એ., ફિલિપોવસ્કાયા ઇ. એ.બિનરેખીય પ્રોગ્રામિંગ સમસ્યાઓ ઉકેલવા માટેના અલ્ગોરિધમ્સ. - એમ.: MEPhI, 1982.
• મેક્સિમોવ યુ. એ.રેખીય અને અલગ પ્રોગ્રામિંગ માટે અલ્ગોરિધમ્સ. - એમ.: MEPhI, 1980.
• કોર્ન જી., કોર્ન ટી.વૈજ્ઞાનિકો અને એન્જિનિયરો માટે ગણિતની હેન્ડબુક. - એમ.: નૌકા, 1970. - પૃષ્ઠ 575-576.
• એસ. યુ. ગોરોડેત્સ્કી, વી. એ. ગ્રીશાગિન.નોનલાઇનર પ્રોગ્રામિંગ અને મલ્ટિએક્સ્ટ્રેમલ ઓપ્ટિમાઇઝેશન. - નિઝની નોવગોરોડ: નિઝની નોવગોરોડ યુનિવર્સિટી પબ્લિશિંગ હાઉસ, 2007. - પૃષ્ઠ 357-363.

સેવાનો હેતુ. ઓનલાઈન કેલ્ક્યુલેટર શોધવા માટે વપરાય છે ન્યૂનતમ કાર્યસૌથી ઊંચો ઉતરવાની પદ્ધતિ અથવા કોચી પદ્ધતિ(ઉદાહરણ જુઓ). ઉકેલ વર્ડ ફોર્મેટમાં દોરવામાં આવે છે.

f(x 1 ,x 2) =

શોધવા માટે મહત્તમ કાર્ય, ગુણાકાર કરવો આવશ્યક છે લક્ષ્ય કાર્યદ્વારા (-1), એટલે કે. Fmin = -Fmax.
કાર્યનું ન્યૂનતમ શોધવા માટેની પદ્ધતિસૌથી ઊભો વંશની પદ્ધતિ ન્યૂટનની પદ્ધતિ
એક બિંદુ થી શરૂ ( ; ) .
ચોકસાઈ ξ = . પુનરાવર્તનોની સંખ્યા 1 2 3

ફંક્શન દાખલ કરવા માટેના નિયમો

IN સૌથી ઊંચું ઉતરવાની પદ્ધતિએક વેક્ટર જેની દિશા ફંક્શન ▽f(x) ના ઢાળ વેક્ટરની દિશાની વિરુદ્ધ છે તે શોધ દિશા તરીકે પસંદ કરવામાં આવે છે. થી ગાણિતિક વિશ્લેષણતે જાણીતું છે કે વેક્ટર ગ્રેડ f(x)=▽f(x) ફંક્શનમાં સૌથી ઝડપી વૃદ્ધિની દિશા દર્શાવે છે (ફંક્શનનો ગ્રેડિયન્ટ જુઓ). તેથી, વેક્ટર - ગ્રેડ f(X) = -▽f(X) કહેવાય છે વિરોધી ઢાળઅને તેના સૌથી ઝડપી ઘટાડાની દિશા છે. પુનરાવૃત્તિ સંબંધ કે જેની સાથે સૌથી ઊંચો વંશ પદ્ધતિ અમલમાં મૂકવામાં આવે છે તેનું સ્વરૂપ X k +1 =X k - λ k ▽f(x k), k = 0,1,...,
જ્યાં λ k >0 એ સ્ટેપનું કદ છે. પગલાના કદની પસંદગીના આધારે, તમે મેળવી શકો છો વિવિધ વિકલ્પોઢાળ પદ્ધતિ. જો ઑપ્ટિમાઇઝેશન પ્રક્રિયા દરમિયાન સ્ટેપ સાઈઝ λ નિશ્ચિત હોય, તો પદ્ધતિને એક અલગ સ્ટેપ સાથેની ઢાળ પદ્ધતિ કહેવામાં આવે છે. જો λ k ને λ k =min f(X k + λS k) શરતમાંથી પસંદ કરવામાં આવે તો પ્રથમ પુનરાવર્તનોમાં ઑપ્ટિમાઇઝેશન પ્રક્રિયા નોંધપાત્ર રીતે ઝડપી બની શકે છે.
λ k નક્કી કરવા માટે, કોઈપણ એક-પરિમાણીય ઑપ્ટિમાઇઝેશન પદ્ધતિનો ઉપયોગ થાય છે. આ કિસ્સામાં, પદ્ધતિને સૌથી ઊંચો વંશ પદ્ધતિ કહેવામાં આવે છે. એક નિયમ તરીકે, સામાન્ય કિસ્સામાં, કાર્યના લઘુત્તમ હાંસલ કરવા માટે એક પગલું પૂરતું નથી; જ્યાં સુધી અનુગામી ગણતરીઓ પરિણામમાં સુધારો ન કરે ત્યાં સુધી પ્રક્રિયાને પુનરાવર્તિત કરવામાં આવે છે.
જો કેટલાક ચલોમાં જગ્યા ખૂબ જ વિસ્તરેલ હોય, તો પછી "કોતર" રચાય છે. શોધ ધીમી પડી શકે છે અને "કોતર" ના તળિયે ઝિગઝેગ થઈ શકે છે. કેટલીકવાર સ્વીકાર્ય સમયમર્યાદામાં ઉકેલ મેળવી શકાતો નથી.
પદ્ધતિનો બીજો ગેરલાભ એ બંધ થવાનો માપદંડ હોઈ શકે છે ||▽f(X k)||<ε k , так как этому условию удовлетворяет и седловая точка, а не только оптимум.

ઉદાહરણ. બિંદુ x k =(-2, 3) થી શરૂ કરીને, કાર્યને ન્યૂનતમ કરવા માટે સૌથી ઊંચો વંશ પદ્ધતિનો ઉપયોગ કરીને બિંદુ x k +1 નક્કી કરો.
શોધ દિશા તરીકે, વર્તમાન બિંદુ પર ઢાળ વેક્ટર પસંદ કરો

ચાલો સ્ટોપિંગ માપદંડ તપાસીએ. અમારી પાસે
ચાલો પ્રારંભિક બિંદુ f(X 1) = 35 પર ફંક્શનની કિંમતની ગણતરી કરીએ. ચાલો કરીએ
એન્ટિગ્રેડિયન્ટ દિશા સાથે પગલું

ચાલો નવા બિંદુ પર ફંક્શનની કિંમતની ગણતરી કરીએ
f(X 2) = 3(-2 + 19λ 1) 2 + (3-8λ 1) 2 - (-2 + 19λ 1)(3-8λ 1) - 4(-2 + 19λ 1)
ચાલો એક પગલું શોધીએ કે જેથી ઉદ્દેશ્ય કાર્ય આ દિશામાં ન્યૂનતમ સુધી પહોંચે. કાર્યના એક્સ્ટ્રીમમના અસ્તિત્વ માટે જરૂરી સ્થિતિથી
f’(X 2) = 6(-2 + 19λ 1) 19 + 2(3-8λ 1)(-8) – (73 - 304 λ 1) – 4*19
અથવા f’(X 2) = 2598 λ 1 – 425 = 0.
આપણને પગલું λ 1 = 0.164 મળે છે
આ પગલું પૂર્ણ કરવાથી બિંદુ તરફ દોરી જશે

જેમાં ઢાળ મૂલ્ય , કાર્ય મૂલ્ય f(X 2) = 0.23. ચોકસાઈ પ્રાપ્ત થઈ નથી, બિંદુથી આપણે એન્ટિગ્રેડિયન્ટની દિશામાં એક પગલું લઈએ છીએ.

f(X 2) = 3(1.116 – 1.008λ 1) 2 + (1.688-2.26λ 1) 2 - (1.116 – 1.008λ 1)(1.688-2.26λ 1) - 4(1.116 – 1.008λ)
f’(X 2) = 11.76 – 6.12λ 1 = 0
આપણને λ 1 = 0.52 મળે છે

ટીકા: આ વ્યાખ્યાન વ્યાપકપણે આવી મલ્ટિપેરામીટર ઓપ્ટિમાઇઝેશન પદ્ધતિઓને આવરી લે છે જેમ કે સૌથી વધુ વંશીય પદ્ધતિ અને ડેવિડન-ફ્લેચર-પોવેલ પદ્ધતિ. વધુમાં, ઉપરોક્ત પદ્ધતિઓનું તુલનાત્મક વિશ્લેષણ હાથ ધરવામાં આવે છે જેથી કરીને સૌથી વધુ અસરકારક એક નક્કી કરવામાં આવે, તેમના ફાયદા અને ગેરફાયદા ઓળખવામાં આવે છે; અને બહુપરીમાણીય ઑપ્ટિમાઇઝેશન સમસ્યાઓને પણ ધ્યાનમાં લે છે, જેમ કે રેવાઇન પદ્ધતિ અને મલ્ટિએક્સ્ટ્રેમલ પદ્ધતિ.

1. સૌથી ઊભો ઉતરવાની પદ્ધતિ

આ પદ્ધતિનો સાર એ છે કે અગાઉ ઉલ્લેખિત મદદથી સંકલન વંશ પદ્ધતિઆ દિશામાં લઘુત્તમ બિંદુ સુધી અક્ષોમાંથી એકની સમાંતર દિશામાં આપેલ બિંદુથી શોધ હાથ ધરવામાં આવે છે. શોધ પછી અન્ય અક્ષની સમાંતર દિશામાં કરવામાં આવે છે, અને તેથી વધુ. દિશાઓ, અલબત્ત, નિશ્ચિત છે. આ પદ્ધતિને સંશોધિત કરવાનો પ્રયાસ કરવો વાજબી લાગે છે જેથી દરેક તબક્કે લઘુત્તમ બિંદુની શોધ "શ્રેષ્ઠ" દિશા સાથે હાથ ધરવામાં આવે. કઈ દિશા "શ્રેષ્ઠ" છે તે સ્પષ્ટ નથી, પરંતુ તે જાણીતું છે ઢાળ દિશાકાર્યમાં સૌથી ઝડપી વૃદ્ધિની દિશા છે. તેથી, વિરુદ્ધ દિશા એ કાર્યના સૌથી ઝડપી ઘટાડાની દિશા છે. આ મિલકતને નીચે મુજબ ન્યાયી ઠેરવી શકાય.

ચાલો ધારીએ કે આપણે બિંદુ x થી આગળના બિંદુ x + hd તરફ જઈ રહ્યા છીએ, જ્યાં d એ ચોક્કસ દિશા છે અને h એ ચોક્કસ લંબાઈનું પગલું છે. પરિણામે, ચળવળ બિંદુ (x 1, x 2, ..., x n) થી બિંદુ સુધી કરવામાં આવે છે. (x 1 + zx 1, x 2 + zx 2, ..., x n + zx n), ક્યાં

કાર્ય મૂલ્યોમાં ફેરફાર સંબંધો દ્વારા નક્કી કરવામાં આવે છે

(1.3)

પ્રથમ ક્રમ zx i સુધી, આંશિક ડેરિવેટિવ્ઝની ગણતરી બિંદુ x પર થાય છે. ફંક્શન df માં ફેરફારનું સૌથી મોટું મૂલ્ય મેળવવા માટે સમીકરણ (1.2) ને સંતોષતા હોય તેવા દિશાઓ d i કેવી રીતે પસંદ કરવી જોઈએ? આ તે છે જ્યાં અવરોધ સાથે મહત્તમકરણની સમસ્યા ઊભી થાય છે. ચાલો Lagrange ગુણકની પદ્ધતિ લાગુ કરીએ, જેની મદદથી આપણે કાર્ય નક્કી કરીએ

મૂલ્ય df સંતોષકારક અવરોધ (1.2) તેની મહત્તમ સુધી પહોંચે છે જ્યારે કાર્ય

મહત્તમ સુધી પહોંચે છે. તેનું વ્યુત્પન્ન

આથી,

(1.6)

પછી di ~ df/dx i અને દિશા d એ બિંદુ x પર V/(x) દિશાની સમાંતર છે.

આમ, સૌથી મોટો સ્થાનિક વધારોઆપેલ નાના પગલા h માટે કાર્ય ત્યારે થાય છે જ્યારે d એ Vf(x) અથવા g(x) ની દિશા હોય. તેથી, સૌથી ઊભો ઉતરવાની દિશા એ દિશા છે

સરળ સ્વરૂપમાં, સમીકરણ (1.3) નીચે પ્રમાણે લખી શકાય છે:

Vf(x) અને dx વેક્ટર્સ વચ્ચેનો ખૂણો ક્યાં છે. dx ની આપેલ કિંમત માટે, dx ની દિશા -Vf(x) ની દિશા સાથે એકરુપ હોય તે પસંદ કરીને અમે df ને નાનું કરીએ છીએ.

ટિપ્પણી. ઢાળ દિશાસ્થિર સ્તરની રેખા પર કોઈપણ બિંદુને લંબરૂપ, કારણ કે આ રેખા સાથે કાર્ય સ્થિર છે. આમ, જો (d 1, d 2, ..., d n) સ્તર રેખા સાથેનું નાનું પગલું છે, તો

અને તેથી

(1.8)