સૌથી ઊભો ઉતરવાની પદ્ધતિ. સૌથી ઊભો વંશ પદ્ધતિ દ્વારા ન્યૂનતમ કાર્ય

સેવાનો હેતુ. ઓનલાઈન કેલ્ક્યુલેટર શોધવા માટે વપરાય છે ન્યૂનતમ કાર્યપદ્ધતિ સૌથી ઊભો વંશઅથવા કોચી પદ્ધતિ(ઉદાહરણ જુઓ). ઉકેલ વર્ડ ફોર્મેટમાં દોરવામાં આવે છે.

f(x 1 ,x 2) =

શોધવા માટે મહત્તમ કાર્ય, ઉદ્દેશ્ય કાર્યને (-1) વડે ગુણાકાર કરવું જરૂરી છે, એટલે કે. Fmin = -Fmax.
કાર્યનું ન્યૂનતમ શોધવા માટેની પદ્ધતિસૌથી ઊભો વંશની પદ્ધતિ ન્યૂટનની પદ્ધતિ
એક બિંદુ થી શરૂ ( ; ) .
ચોકસાઈ ξ = . પુનરાવર્તનોની સંખ્યા 1 2 3

ફંક્શન દાખલ કરવા માટેના નિયમો

IN સૌથી ઊંચું ઉતરવાની પદ્ધતિએક વેક્ટર જેની દિશા ફંક્શન ▽f(x) ના ઢાળ વેક્ટરની દિશાની વિરુદ્ધ છે તે શોધ દિશા તરીકે પસંદ કરવામાં આવે છે. થી ગાણિતિક વિશ્લેષણતે જાણીતું છે કે વેક્ટર ગ્રેડ f(x)=▽f(x) ફંક્શનમાં સૌથી ઝડપી વૃદ્ધિની દિશા દર્શાવે છે (ફંક્શનનો ગ્રેડિયન્ટ જુઓ). તેથી, વેક્ટર - ગ્રેડ f(X) = -▽f(X) કહેવાય છે વિરોધી ઢાળઅને તેના સૌથી ઝડપી ઘટાડાની દિશા છે. પુનરાવૃત્તિ સંબંધ કે જેની સાથે સૌથી ઊંચો વંશ પદ્ધતિ અમલમાં મૂકવામાં આવે છે તેનું સ્વરૂપ X k +1 =X k - λ k ▽f(x k), k = 0,1,...,
જ્યાં λ k >0 એ સ્ટેપનું કદ છે. પગલાના કદની પસંદગીના આધારે, તમે મેળવી શકો છો વિવિધ વિકલ્પોઢાળ પદ્ધતિ. જો ઑપ્ટિમાઇઝેશન પ્રક્રિયા દરમિયાન સ્ટેપ સાઈઝ λ નિશ્ચિત હોય, તો પદ્ધતિને એક અલગ સ્ટેપ સાથેની ઢાળ પદ્ધતિ કહેવામાં આવે છે. જો λ k ને λ k =min f(X k + λS k) શરતમાંથી પસંદ કરવામાં આવે તો પ્રથમ પુનરાવર્તનોમાં ઑપ્ટિમાઇઝેશન પ્રક્રિયા નોંધપાત્ર રીતે ઝડપી બની શકે છે.
λ k નક્કી કરવા માટે, કોઈપણ એક-પરિમાણીય ઑપ્ટિમાઇઝેશન પદ્ધતિનો ઉપયોગ થાય છે. આ કિસ્સામાં, પદ્ધતિને સૌથી ઊંચો વંશ પદ્ધતિ કહેવામાં આવે છે. એક નિયમ તરીકે, માં સામાન્ય કેસકાર્યના લઘુત્તમ હાંસલ કરવા માટે એક પગલું પૂરતું નથી; જ્યાં સુધી અનુગામી ગણતરીઓ પરિણામને સુધારવાની મંજૂરી આપે ત્યાં સુધી પ્રક્રિયાને પુનરાવર્તિત કરવામાં આવે છે.
જો કેટલાક ચલોમાં જગ્યા ખૂબ જ વિસ્તરેલ હોય, તો પછી "કોતર" રચાય છે. શોધ ધીમી પડી શકે છે અને "કોતર" ના તળિયે ઝિગઝેગ થઈ શકે છે. કેટલીકવાર સ્વીકાર્ય સમયમર્યાદામાં ઉકેલ મેળવી શકાતો નથી.
પદ્ધતિનો બીજો ગેરલાભ એ બંધ થવાનો માપદંડ હોઈ શકે છે ||▽f(X k)||<ε k , так как этому условию удовлетворяет и седловая точка, а не только оптимум.

ઉદાહરણ. બિંદુ x k =(-2, 3) થી શરૂ કરીને, કાર્યને ન્યૂનતમ કરવા માટે સૌથી ઊંચો વંશ પદ્ધતિનો ઉપયોગ કરીને બિંદુ x k +1 નક્કી કરો.
શોધ દિશા તરીકે, વર્તમાન બિંદુ પર ઢાળ વેક્ટર પસંદ કરો

ચાલો સ્ટોપિંગ માપદંડ તપાસીએ. અમારી પાસે છે
ચાલો પ્રારંભિક બિંદુ f(X 1) = 35 પર ફંક્શનની કિંમતની ગણતરી કરીએ. ચાલો કરીએ
એન્ટિગ્રેડિયન્ટ દિશા સાથે પગલું

ચાલો નવા બિંદુ પર ફંક્શનની કિંમતની ગણતરી કરીએ
f(X 2) = 3(-2 + 19λ 1) 2 + (3-8λ 1) 2 - (-2 + 19λ 1)(3-8λ 1) - 4(-2 + 19λ 1)
ચાલો એક પગલું શોધીએ કે જેથી ઉદ્દેશ્ય કાર્ય આ દિશામાં ન્યૂનતમ સુધી પહોંચે. કાર્યના એક્સ્ટ્રીમમના અસ્તિત્વ માટે જરૂરી સ્થિતિથી
f’(X 2) = 6(-2 + 19λ 1) 19 + 2(3-8λ 1)(-8) – (73 - 304 λ 1) – 4*19
અથવા f’(X 2) = 2598 λ 1 – 425 = 0.
આપણને પગલું λ 1 = 0.164 મળે છે
આ પગલું પૂર્ણ કરવાથી બિંદુ તરફ દોરી જશે

જેમાં ઢાળ મૂલ્ય , કાર્ય મૂલ્ય f(X 2) = 0.23. ચોકસાઈ પ્રાપ્ત થઈ નથી, બિંદુથી આપણે એન્ટિગ્રેડિયન્ટની દિશામાં એક પગલું લઈએ છીએ.

f(X 2) = 3(1.116 – 1.008λ 1) 2 + (1.688-2.26λ 1) 2 - (1.116 – 1.008λ 1)(1.688-2.26λ 1) - 4(1.116 – 1.008λ)
f’(X 2) = 11.76 – 6.12λ 1 = 0
આપણને λ 1 = 0.52 મળે છે

સમસ્યાનું નિવેદન

ફંક્શન આપવા દો f(x) આર.એન

જરૂરી છે f(x) X = Rn

શોધ વ્યૂહરચના

x k } , k = 0.1,..., જેમ કે , k = 0.1,... . ક્રમ બિંદુઓ ( x k ) નિયમ અનુસાર ગણતરી કરવામાં આવે છે

બિંદુ ક્યાં છે x 0 વપરાશકર્તા વ્યાખ્યાયિત; પગલું કદ tk દરેક મૂલ્ય માટે નિર્ધારિત k શરત થી

સમસ્યા (3) જરૂરી ન્યૂનતમ શરતનો ઉપયોગ કરીને હલ કરી શકાય છે અને પછી પૂરતી ન્યૂનતમ સ્થિતિ તપાસીને. આ પાથનો ઉપયોગ કાં તો ઓછા કરવા માટે પૂરતા પ્રમાણમાં સરળ કાર્ય સાથે અથવા પૂરતા પ્રમાણમાં પ્રારંભિક અંદાજ સાથે થઈ શકે છે. જટિલ કાર્ય બહુપદી પી(ટી કે) (સામાન્ય રીતે બીજી અથવા ત્રીજી ડિગ્રીની), અને પછી સ્થિતિને શરત દ્વારા બદલવામાં આવે છે, અને શરત દ્વારા સ્થિતિ

સિક્વન્સિંગ (xk) બિંદુ પર સમાપ્ત થાય છે x k , જેના માટે, ક્યાં ε - આપેલ નાની સકારાત્મક સંખ્યા, અથવા k ≥ M , ક્યાં એમ - પુનરાવૃત્તિઓની મર્યાદિત સંખ્યા, અથવા બે અસમાનતાઓના બે એક સાથે અમલ સાથે , જ્યાં ε 2 - નાની સકારાત્મક સંખ્યા. પ્રશ્ન એ છે કે શું બિંદુ કરી શકે છે x k ઇચ્છિત સ્થાનિક લઘુત્તમ બિંદુના મળેલ અંદાજ તરીકે ગણવામાં આવે છે x* , વધારાના સંશોધન દ્વારા ઉકેલવામાં આવે છે.

માટેની પદ્ધતિનું ભૌમિતિક અર્થઘટન n=2 ફિગ માં. 4.

સંકલન વંશ પદ્ધતિ

સમસ્યાનું નિવેદન

ફંક્શન આપવા દો f(x) , સેટ પર નીચે બંધાયેલ આર.એન અને તેના તમામ બિંદુઓ પર સતત આંશિક ડેરિવેટિવ્ઝ ધરાવે છે.

f(x) શક્ય ઉકેલોના સમૂહ પર X = Rn , એટલે કે એવો કોઈ મુદ્દો શોધો

શોધ વ્યૂહરચના

સમસ્યાને ઉકેલવા માટેની વ્યૂહરચના એ છે કે પોઈન્ટનો ક્રમ બનાવવો ( x k } , k = 0.1,..., જેમ કે , k = 0.1,... . ક્રમ બિંદુઓ ( x k ) ની ગણતરી ચક્ર પર નિયમ અનુસાર કરવામાં આવે છે

(4)

જ્યાં j - ગણતરી ચક્ર નંબર; j = 0,1,2,...; k - લૂપની અંદર પુનરાવૃત્તિ નંબર, k = 0,1,... ,n - 1; e k +1 , k = 0,l,...,n - 1 - એકમ વેક્ટર, (k+1) -જેનું પ્રક્ષેપણ 1 ની બરાબર છે; બિંદુ x 00 વપરાશકર્તા વ્યાખ્યાયિત, પગલું કદ tk શરતમાંથી પસંદ કરવામાં આવે છે

અથવા .

જો વર્તમાન પર પસંદ કરેલ સ્થિતિ tk પરિપૂર્ણ નથી, પગલું અડધું અને સમયગાળો છે ફરીથી ગણતરી કરવામાં આવે છે. તે જોવાનું સરળ છે કે નિશ્ચિત j માટે, સંખ્યા સાથે એક પુનરાવર્તનમાં k બિંદુ બદલાય છે માત્ર એક પ્રક્ષેપણ x જેકે , નંબર ધરાવે છે k+1 , અને નંબર સાથે સમગ્ર ચક્ર દરમિયાન j , એટલે કે થી શરૂ થાય છે k = 0 અને અંત k = n -1 , બિંદુ પરિવર્તનના તમામ n અંદાજો x j0 . આ બિંદુ પછી x j n નંબર સોંપેલ છે x j + 1.0 , અને તે માં ગણતરીઓ માટે પ્રારંભિક બિંદુ તરીકે લેવામાં આવે છે j+1 ચક્ર ગણતરી બિંદુ પર સમાપ્ત થાય છે x જેકે જ્યારે ગણતરીના ત્રણ માપદંડોમાંથી ઓછામાં ઓછો એક પૂર્ણ થાય છે: , અથવા , અથવા અસમાનતાનો ડબલ અમલ.

ગણતરીઓના પરિણામે મેળવેલા મુદ્દાઓ ક્રમના ઘટકો તરીકે લખી શકાય છે (xl), જ્યાં l=n*j+k - બિંદુનો સીરીયલ નંબર,

n = 2 માટેની પદ્ધતિનું ભૌમિતિક અર્થઘટન ફિગમાં બતાવવામાં આવ્યું છે. 5.

4. ફ્રેન્ક-વોલ્ફ પદ્ધતિ .

ધારો કે આપણે અંતર્મુખ કાર્યની મહત્તમ કિંમત શોધવાની જરૂર છે

શરતો હેઠળ

આ સમસ્યાની લાક્ષણિકતા એ છે કે તેની મર્યાદાઓની સિસ્ટમમાં માત્ર રેખીય અસમાનતાઓ છે. આ લક્ષણ અભ્યાસ હેઠળના બિંદુની નજીકમાં બિનરેખીય એકને બદલવા માટેનો આધાર છે ઉદ્દેશ્ય કાર્યરેખીય, જેના કારણે મૂળ સમસ્યાનો ઉકેલ રેખીય પ્રોગ્રામિંગ સમસ્યાઓના ક્રમિક ઉકેલમાં ઘટાડો થાય છે.
સમસ્યાનો ઉકેલ શોધવાની પ્રક્રિયા સમસ્યાના શક્ય ઉકેલોના ક્ષેત્ર સાથે જોડાયેલા બિંદુને ઓળખવા સાથે શરૂ થાય છે.
270
dachas આ મુદ્દો રહેવા દો X(k) પછી આ બિંદુએ ફંક્શન (57) ના ઢાળની ગણતરી કરવામાં આવે છે

અને રેખીય ફંક્શન બનાવો

પછી પ્રતિબંધો (58) અને (59) હેઠળ આ કાર્યનું મહત્તમ મૂલ્ય શોધો. આ સમસ્યાનો ઉકેલ બિંદુ દ્વારા નક્કી કરવા દો Z(k) . પછી બિંદુના કોઓર્ડિનેટ્સ મૂળ સમસ્યાના નવા શક્ય ઉકેલ તરીકે લેવામાં આવે છે X(k+1) :

જ્યાં λk - ગણતરીના પગલા તરીકે ઓળખાતી ચોક્કસ સંખ્યા અને શૂન્ય અને એક (0<λk < 1). Это число λk મનસ્વી રીતે અથવા નક્કી કરવામાં આવે છે

જેથી બિંદુ પર કાર્યની કિંમત X (k +1) f(X (k +1)) , પર આધાર રાખીને λk , મહત્તમ હતી. આ કરવા માટે, તમારે સમીકરણનો ઉકેલ શોધવાની અને તેનું સૌથી નાનું મૂળ પસંદ કરવાની જરૂર છે. જો તેનું મૂલ્ય એક કરતા વધારે હોય, તો આપણે મૂકવું જોઈએ λk=1 . નંબર નક્કી કર્યા પછી λk બિંદુના કોઓર્ડિનેટ્સ શોધો X(k+1) તેમાં ઉદ્દેશ્ય કાર્યના મૂલ્યની ગણતરી કરો અને નવા બિંદુ પર જવાની જરૂરિયાત નક્કી કરો X(k+2) . જો આવી જરૂરિયાત હોય, તો પછી બિંદુ પર ગણતરી કરો X(k+1) ઉદ્દેશ્ય કાર્યનો ઢાળ, અનુરૂપ રેખીય પ્રોગ્રામિંગ સમસ્યા પર જાઓ અને તેનું સમાધાન શોધો. બિંદુના કોઓર્ડિનેટ્સ નક્કી કરો અને X(k+2) અને વધુ ગણતરીઓની જરૂરિયાતની તપાસ કરો. મર્યાદિત સંખ્યામાં પગલાઓ પછી, મૂળ સમસ્યાનો ઉકેલ જરૂરી ચોકસાઈ સાથે મેળવવામાં આવે છે.

તેથી, ફ્રેન્ક-વોલ્ફ પદ્ધતિનો ઉપયોગ કરીને સમસ્યાનો ઉકેલ શોધવાની પ્રક્રિયા (57) - (59) નીચેના તબક્કાઓનો સમાવેશ કરે છે:

1. સમસ્યાનો પ્રારંભિક શક્ય ઉકેલ નક્કી કરો.
2. સ્વીકાર્ય ઉકેલના બિંદુ પર ફંક્શન (57) ની ઢાળ શોધો.
3. ફંક્શન (60) રચો અને (58) અને (59) શરતો હેઠળ તેનું મહત્તમ મૂલ્ય શોધો.
4. ગણતરીનું પગલું નક્કી કરો.
5. સૂત્રો (61) નો ઉપયોગ કરીને, નવા શક્ય ઉકેલના ઘટકો મળી આવે છે.
6. આગામી શક્ય ઉકેલ તરફ આગળ વધવાની જરૂરિયાત તપાસો. જો જરૂરી હોય તો, સ્ટેજ 2 પર આગળ વધો, અન્યથા મૂળ સમસ્યાનો સ્વીકાર્ય ઉકેલ મળી જશે.

દંડ કાર્યોની પદ્ધતિ.

અંતર્મુખ કાર્યનું મહત્તમ મૂલ્ય નક્કી કરવાની સમસ્યાને ધ્યાનમાં લો

f (x 1, x 2, .... x n)શરતો હેઠળ g i (x 1, x 2, .... x n) ≤ b i (i=l, m) , x j ≥ 0 (j=1, n) , ક્યાં g i (x 1, x 2, .... x n) - બહિર્મુખ કાર્યો.

આ સમસ્યાને સીધી રીતે ઉકેલવાને બદલે, કાર્યનું મહત્તમ મૂલ્ય શોધો F(x 1, x 2, ...., x n)= f(x 1, x 2, ...., x n) +H(x 1, x 2, ...., x n) જે સમસ્યાના ઉદ્દેશ્ય કાર્યનો સરવાળો છે, અને કેટલાક કાર્ય

H(x 1, x 2, ...., x n), પ્રતિબંધોની સિસ્ટમ દ્વારા વ્યાખ્યાયિત અને કહેવાય છે દંડ કાર્ય. દંડ કાર્ય વિવિધ રીતે બનાવી શકાય છે. જો કે, મોટેભાગે તે જેવો દેખાય છે

એ a i > 0 - કેટલીક સ્થિર સંખ્યાઓ જે ભારાંક ગુણાંકનું પ્રતિનિધિત્વ કરે છે.
પેનલ્ટી ફંક્શનનો ઉપયોગ કરીને, જ્યાં સુધી તેઓ સ્વીકાર્ય ઉકેલ ન મેળવે ત્યાં સુધી તેઓ ક્રમિક રીતે એક બિંદુથી બીજા સ્થાને જાય છે. આ કિસ્સામાં, આગલા બિંદુના કોઓર્ડિનેટ્સ સૂત્રનો ઉપયોગ કરીને જોવા મળે છે

છેલ્લા સંબંધથી તે અનુસરે છે કે જો પાછલો મુદ્દો મૂળ સમસ્યાના શક્ય ઉકેલોના ક્ષેત્રમાં હોય, તો ચોરસ કૌંસમાં બીજો શબ્દ શૂન્ય બરાબર છે અને આગલા બિંદુ પર સંક્રમણ ફક્ત ઉદ્દેશ્યના ઢાળ દ્વારા નક્કી કરવામાં આવે છે. કાર્ય જો ઉલ્લેખિત બિંદુ સ્વીકાર્ય ઉકેલોના પ્રદેશ સાથે સંબંધિત નથી, તો પછીના પુનરાવર્તનોમાં આ શબ્દને કારણે સ્વીકાર્ય ઉકેલોના પ્રદેશ પર પાછા ફરવું પ્રાપ્ત થાય છે.
નિર્ણયો તે જ સમયે, ઓછા a i , સ્વીકાર્ય ઉકેલ જેટલી ઝડપથી મળે છે, પરંતુ તેના નિર્ધારણની ચોકસાઈ ઘટે છે. તેથી, પુનરાવર્તિત પ્રક્રિયા સામાન્ય રીતે પ્રમાણમાં નાના મૂલ્યોથી શરૂ થાય છે a i અને, તેને ચાલુ રાખવાથી, આ મૂલ્યો ધીમે ધીમે વધે છે.

તેથી, પેનલ્ટી ફંક્શન પદ્ધતિનો ઉપયોગ કરીને બહિર્મુખ પ્રોગ્રામિંગ સમસ્યાનો ઉકેલ શોધવાની પ્રક્રિયામાં નીચેના પગલાં શામેલ છે:

1. પ્રારંભિક શક્ય ઉકેલ નક્કી કરો.
2. ગણતરી પગલું પસંદ કરો.
3. તમામ ચલો માટે, ઉદ્દેશ્ય કાર્ય અને કાર્યોના આંશિક ડેરિવેટિવ્ઝ શોધો જે સમસ્યાના શક્ય ઉકેલોની શ્રેણી નક્કી કરે છે.

4. સૂત્ર (72) નો ઉપયોગ કરીને, બિંદુના કોઓર્ડિનેટ્સ જે સમસ્યાના સંભવિત નવા ઉકેલને નિર્ધારિત કરે છે તે જોવા મળે છે.
5. તપાસો કે શું મળેલા બિંદુના કોઓર્ડિનેટ્સ સમસ્યાની મર્યાદાઓની સિસ્ટમને સંતોષે છે. જો નહિં, તો પછીના તબક્કામાં આગળ વધો. જો મળેલા બિંદુના કોઓર્ડિનેટ્સ સમસ્યાનો સ્વીકાર્ય ઉકેલ નક્કી કરે છે, તો પછીના સ્વીકાર્ય ઉકેલ તરફ જવાની જરૂરિયાતની તપાસ કરવામાં આવે છે. જો જરૂરી હોય તો, સ્ટેજ 2 પર આગળ વધો, અન્યથા મૂળ સમસ્યાનો સ્વીકાર્ય ઉકેલ મળી ગયો છે.
6. ભારાંક ગુણાંકના મૂલ્યો સેટ કરો અને પગલું 4 પર આગળ વધો.

એરો-હર્વિટ્ઝ પદ્ધતિ.

પેનલ્ટી ફંક્શન પદ્ધતિનો ઉપયોગ કરીને બિનરેખીય પ્રોગ્રામિંગ સમસ્યાઓના ઉકેલો શોધતી વખતે, અમે મૂલ્યો પસંદ કર્યા a i , મનસ્વી રીતે, જે શક્ય ઉકેલોના પ્રદેશથી નિર્ધારિત બિંદુઓના અંતરમાં નોંધપાત્ર વધઘટ તરફ દોરી જાય છે. એરો-હરવિટ્ઝ પદ્ધતિ દ્વારા સમસ્યાનું નિરાકરણ કરતી વખતે આ ખામી દૂર કરવામાં આવે છે, જે મુજબ આગલા પગલા પર સંખ્યાઓ a i (k) સૂત્ર દ્વારા ગણતરી

પ્રારંભિક મૂલ્યો તરીકે a i (0) મનસ્વી બિન-નકારાત્મક સંખ્યાઓ લો.

ઉદાહરણ ઉકેલ

ઉદાહરણ 1.

ફંક્શનનું સ્થાનિક લઘુત્તમ શોધો

એક બિંદુ વ્યાખ્યાયિત x k

1. ચાલો સેટ કરીએ.

2. ચાલો મૂકીએ k = 0 .

3 0 ચાલો ગણતરી કરીએ

4 0 ચાલો ગણતરી કરીએ . ચાલો પગલું 5 પર આગળ વધીએ.

5 0 ચાલો સ્થિતિ તપાસીએ . ચાલો સ્ટેપ 6 પર આગળ વધીએ.

6 0 ચાલો સેટ કરીએ t0 = 0.5 .

7 0 ચાલો ગણતરી કરીએ

8 0 ચાલો સરખામણી કરીએ . અમારી પાસે છે . નિષ્કર્ષ: માટે શરત k = 0 ચલાવવામાં આવતું નથી. ચાલો સેટ કરીએ t0 = 0.25 , પગલાં 7, 8નું પુનરાવર્તન કરવા આગળ વધો.

7 01. ચાલો ગણતરી કરીએ.

8 01. ચાલો સરખામણી કરીએ f (x 1) અને f (x 0) . નિષ્કર્ષ: f (x 1)< f (x 0) . ચાલો પગલું 9 પર આગળ વધીએ.

9 0 ચાલો ગણતરી કરીએ

નિષ્કર્ષ: અમે માનીએ છીએ k = 1 અને સ્ટેપ 3 પર જાઓ.

3 1. ચાલો ગણતરી કરીએ

4 1. ચાલો ગણતરી કરીએ . ચાલો પગલું 5 પર આગળ વધીએ.

5 1. ચાલો સ્થિતિ તપાસીએ k ≥ M: k = 1< 10 = M . ચાલો સ્ટેપ 6 પર આગળ વધીએ.

6 1. ચાલો સેટ કરીએ t 1 = 0.25.

7 1. ચાલો ગણતરી કરીએ

8 1. ચાલો સરખામણી કરીએ f (x 2) સાથે f (x 1) . નિષ્કર્ષ: f (x 2)< f (х 1). ચાલો પગલું 9 પર આગળ વધીએ.

9 1. ચાલો ગણતરી કરીએ

નિષ્કર્ષ: અમે માનીએ છીએ k = 2 અને સ્ટેપ 3 પર જાઓ.

3 2. ચાલો ગણતરી કરીએ

4 2 ચાલો ગણતરી કરીએ. ચાલો પગલું 5 પર આગળ વધીએ.

5 2. ચાલો સ્થિતિ તપાસીએ k ≥ M : k = 2< 10 = М , સ્ટેપ 6 પર જાઓ.

6 2. ચાલો સેટ કરીએ ટી 2 =0,25 .

7 2. ચાલો ગણતરી કરીએ

8 2. ચાલો સરખામણી કરીએ f (x 3) અને f (x 2) . નિષ્કર્ષ: f (x 3)< f (х 2) પગલું 9 પર જાઓ.

9 2. ચાલો ગણતરી કરીએ

નિષ્કર્ષ: અમે માનીએ છીએ k = 3 અને સ્ટેપ 3 પર જાઓ.

3 3 . ચાલો ગણતરી કરીએ

4 3 ચાલો ગણતરી કરીએ. ચાલો પગલું 5 પર આગળ વધીએ.

5 3. ચાલો સ્થિતિ તપાસીએ k ≥ M : k = 3<10 = М , સ્ટેપ 6 પર જાઓ.

6 3. ચાલો સેટ કરીએ t 3 = 0.25.

7 3. ચાલો ગણતરી કરીએ

8 3. ચાલો સરખામણી કરીએ f (x 4) અને f (x 3) : f (x 4)< f (х 3) .

9 3. ચાલો ગણતરી કરીએ

જ્યારે શરતો પૂરી થાય છે k = 2.3 . ગણતરી

સમાપ્ત પોઈન્ટ મળ્યો

ફિગ માં. 3 પરિણામી બિંદુઓ ડોટેડ લાઇન દ્વારા જોડાયેલા છે.

II. બિંદુ વિશ્લેષણ x 4 .

કાર્ય બે વાર અલગ કરી શકાય છે, તેથી અમે બિંદુ પર ન્યૂનતમ માટે પૂરતી શરતો તપાસીશું x 4 . આ કરવા માટે, ચાલો હેસિયન મેટ્રિક્સનું વિશ્લેષણ કરીએ.

મેટ્રિક્સ સતત અને હકારાત્મક ચોક્કસ છે (એટલે ​​કે. . H > 0 ) કારણ કે તેના બંને કોણીય સગીર હકારાત્મક છે. તેથી, બિંદુ સ્થાનિક લઘુત્તમ બિંદુ અને મૂલ્યનું મળી આવેલ અંદાજ છે મૂલ્યનું મળી આવેલ અંદાજ છે f (x *) =0 . નોંધ કરો કે શરત H > 0 , તે જ સમયે કાર્યની કડક બહિર્મુખતા માટે એક શરત છે . પરિણામે, વૈશ્વિક લઘુત્તમ બિંદુના અંદાજો જોવા મળે છે f(x) અને તેની ન્યૂનતમ કિંમત પર આર 2 . ■

ઉદાહરણ 2

ફંક્શનનું સ્થાનિક લઘુત્તમ શોધો

I. બિંદુની વ્યાખ્યા x k, જેમાં ગણતરીઓ પૂર્ણ કરવા માટેના ઓછામાં ઓછા એક માપદંડને પૂર્ણ કરવામાં આવે છે.

1. ચાલો સેટ કરીએ.

ચાલો મનસ્વી બિંદુ પર ફંક્શનનો ઢાળ શોધીએ

2. ચાલો મૂકીએ k = 0 .

3 0 ચાલો ગણતરી કરીએ

4 0 ચાલો ગણતરી કરીએ . ચાલો પગલું 5 પર આગળ વધીએ.

5 0 ચાલો સ્થિતિ તપાસીએ . ચાલો સ્ટેપ 6 પર આગળ વધીએ.

6° આગળનો મુદ્દો સૂત્ર દ્વારા જોવા મળે છે

ચાલો પરિણામી સમીકરણોને કોઓર્ડિનેટ માટે બદલીએ

ચાલો ફંક્શનનું ન્યૂનતમ શોધીએ f(t 0) દ્વારા ટી 0 બિનશરતી અંતિમ માટે જરૂરી શરતોનો ઉપયોગ કરીને:

અહીંથી t 0 = 0.24 . કારણ કે , મળેલ સ્ટેપ વેલ્યુ ન્યૂનતમ ફંક્શન પ્રદાન કરે છે f(t 0) દ્વારા ટી 0 .

ચાલો વ્યાખ્યાયિત કરીએ

7 0 અમે શોધીશું

8°. ચાલો ગણતરી કરીએ

નિષ્કર્ષ: અમે માનીએ છીએ k = 1 અને સ્ટેપ 3 પર જાઓ.

3 1. ચાલો ગણતરી કરીએ

4 1. ચાલો ગણતરી કરીએ

5 1. ચાલો સ્થિતિ તપાસીએ k ≥ 1: k = 1< 10 = М.

6 1. ચાલો વ્યાખ્યાયિત કરીએ

7 1. અમે શોધીશું :

8 1. ચાલો ગણતરી કરીએ

અમે માનીએ છીએ k = 2 અને સ્ટેપ 3 પર જાઓ.

3 2. ચાલો ગણતરી કરીએ

4 2 ચાલો ગણતરી કરીએ

5 2. ચાલો સ્થિતિ તપાસીએ k ≥ M: k = 2< 10 = M .

6 2. ચાલો વ્યાખ્યાયિત કરીએ

7 2. અમે શોધીશું

8 2. ચાલો ગણતરી કરીએ

અમે માનીએ છીએ k = 3 અને સ્ટેપ 3 પર જાઓ.

3 3 . ચાલો ગણતરી કરીએ

4 3 ચાલો ગણતરી કરીએ.

ગણતરી પૂર્ણ થઈ. પોઈન્ટ મળ્યો

II. બિંદુ વિશ્લેષણ x 3 .

ઉદાહરણ તરીકે 1.1 (પ્રકરણ 2 §1) તે દર્શાવવામાં આવ્યું હતું કે કાર્ય f(x) તે સખત રીતે બહિર્મુખ છે અને તેથી, પોઈન્ટ3 પર વૈશ્વિક લઘુત્તમ બિંદુનો અંદાજિત અંદાજ છે X* .

ઉદાહરણ 3.

ફંક્શનનું સ્થાનિક લઘુત્તમ શોધો

I. બિંદુની વ્યાખ્યા xjk , જેમાં ગણતરીઓ પૂર્ણ કરવા માટેના ઓછામાં ઓછા એક માપદંડને પૂર્ણ કરવામાં આવે છે.

1. ચાલો સેટ કરીએ

ચાલો મનસ્વી બિંદુ પર ફંક્શનનો ઢાળ શોધીએ

2. ચાલો સેટ કરીએ j = 0.

3 0 ચાલો તપાસ કરીએ કે શરત પૂરી થઈ છે કે નહીં

4 0 ચાલો સેટ કરીએ k = 0.

5 0 ચાલો તપાસ કરીએ કે શરત પૂરી થઈ છે કે નહીં

6 0 ચાલો ગણતરી કરીએ

7 0 ચાલો સ્થિતિ તપાસીએ

8 0 ચાલો સેટ કરીએ

9 0 ચાલો ગણતરી કરીએ , ક્યાં

10 0 ચાલો સ્થિતિ તપાસીએ

નિષ્કર્ષ: અમે ધારીએ છીએ અને પગલું 9 પર આગળ વધીએ છીએ.

9 01. ચાલો ગણતરી કરીએ x 01 ઇન્ક્રીમેન્ટમાં

10 01. ચાલો સ્થિતિ તપાસીએ

11 0 ચાલો શરતો તપાસીએ

અમે માનીએ છીએ k = 1 અને પગલું 5 પર જાઓ.

5 1. ચાલો સ્થિતિ તપાસીએ

6 1. ચાલો ગણતરી કરીએ

7 1. ચાલો સ્થિતિ તપાસીએ

8 1. ચાલો સેટ કરીએ

9 1. ચાલો ગણતરી કરીએ

10 1. ચાલો સ્થિતિ તપાસીએ :

11 1. ચાલો શરતો તપાસીએ

અમે માનીએ છીએ k = 2 , પગલું 5 પર જાઓ.

5 2. ચાલો સ્થિતિ તપાસીએ. ચાલો સેટ કરીએ, સ્ટેપ 3 પર જઈએ.

3 1. ચાલો સ્થિતિ તપાસીએ

4 1. ચાલો સેટ કરીએ k = 0.

5 2. ચાલો સ્થિતિ તપાસીએ

6 2. ચાલો ગણતરી કરીએ

7 2. ચાલો સ્થિતિ તપાસીએ

8 2. ચાલો સેટ કરીએ

9 2. ચાલો ગણતરી કરીએ

10 2. ચાલો સ્થિતિ તપાસીએ

11 2. ચાલો શરતો તપાસીએ

અમે માનીએ છીએ k = 1 અને પગલું 5 પર જાઓ.

5 3. ચાલો સ્થિતિ તપાસીએ

6 3. ચાલો ગણતરી કરીએ

7 3. ચાલો શરતો તપાસીએ

8 3. ચાલો સેટ કરીએ

9 3. ચાલો ગણતરી કરીએ

10 3. ચાલો સ્થિતિ તપાસીએ

11 3. ચાલો શરતો તપાસીએ

ચાલો સેટ કરીએ k = 2 અને પગલું 5 પર જાઓ.

5 4 ચાલો સ્થિતિ તપાસીએ

અમે માનીએ છીએ j = 2, x 20 = x 12 અને સ્ટેપ 3 પર જાઓ.

3 2. ચાલો સ્થિતિ તપાસીએ

4 2 ચાલો સેટ કરીએ k = 0 .

5 4 ચાલો સ્થિતિ તપાસીએ

6 4. ચાલો ગણતરી કરીએ

7 4. ચાલો સ્થિતિ તપાસીએ

8 4 . ચાલો સેટ કરીએ

9 4. ચાલો ગણતરી કરીએ

10 4. ચાલો સ્થિતિ તપાસીએ અને પગલું 11 પર આગળ વધીએ.

11 4. ચાલો શરતો તપાસીએ

શરતો સંખ્યાઓ સાથે સતત બે ચક્રમાં પૂરી થાય છે j=2 અને j -1 = 1 . ગણતરી પુરી થઈ, મુદ્દો મળી ગયો

ફિગ માં. 6 પરિણામી બિંદુઓ ડોટેડ લાઇન દ્વારા જોડાયેલા છે.

કોઓર્ડિનેટ ડિસેન્ટ મેથડમાં, અમે કોઓર્ડિનેટ અક્ષની સમાંતર સીધી સેગમેન્ટ્સ ધરાવતી તૂટેલી રેખા સાથે નીચે ઉતરીએ છીએ.

II. બિંદુ x21 નું વિશ્લેષણ.

ઉદાહરણ 1.1 માં તે બતાવવામાં આવ્યું હતું કે કાર્ય f(x) સખત રીતે બહિર્મુખ છે, એક અનન્ય લઘુત્તમ છે અને તેથી, એક બિંદુ છે વૈશ્વિક લઘુત્તમ બિંદુનો મળેલો અંદાજ છે.

ઉપર ચર્ચા કરેલ તમામ ઢાળ પદ્ધતિઓમાં, પોઈન્ટનો ક્રમ (xk) ફંક્શનના સ્થિર બિંદુ પર કન્વર્જ થાય છે f(x) આ કાર્યના ગુણધર્મોને લગતા એકદમ સામાન્ય દરખાસ્તો સાથે. ખાસ કરીને, પ્રમેય સાચું છે:

પ્રમેય. જો ફંક્શન f(x) નીચે બંધાયેલું હોય, તો તેનો ઢાળ લિપ્સ્ચિટ્ઝની સ્થિતિ () અને મૂલ્યની પસંદગીને સંતોષે છે. tn ઉપર વર્ણવેલ પદ્ધતિઓમાંથી એક દ્વારા ઉત્પાદિત, પછી પ્રારંભિક બિંદુ ગમે તે હોય x 0 :

ખાતે

યોજનાના વ્યવહારિક અમલીકરણમાં

k =1, 2, … n.

પુનરાવર્તનો બંધ જો બધા માટે i, i = 1, 2, ..., n , જેવી શરતો

,

લઘુત્તમ શોધવાની ચોકસાઈ દર્શાવતી આપેલ સંખ્યા ક્યાં છે.

પ્રમેયની શરતો હેઠળ, ઢાળ પદ્ધતિ ફંક્શનમાં અથવા ચોક્કસ નીચલા બાઉન્ડમાં કન્વર્જન્સની ખાતરી કરે છે (જો ફંક્શન f(x) કોઈ ન્યૂનતમ નથી; ચોખા 7), અથવા અમુક સ્થિર બિંદુ પર ફંક્શનના મૂલ્ય સુધી, જે ક્રમની મર્યાદા છે (x k). જ્યારે આ બિંદુએ કાઠી સમજાય છે ત્યારે ઉદાહરણો સાથે આવવું મુશ્કેલ નથી, અને લઘુત્તમ નહીં. વ્યવહારમાં, ગ્રેડિયન્ટ ડિસેન્ટ પદ્ધતિઓ આત્મવિશ્વાસપૂર્વક સેડલ પોઈન્ટ્સને બાયપાસ કરે છે અને ઉદ્દેશ્ય કાર્ય (સામાન્ય કિસ્સામાં, સ્થાનિક લોકો) ની મિનિમા શોધે છે.

નિષ્કર્ષ

ગ્રેડિયન્ટ અનિયંત્રિત ઓપ્ટિમાઇઝેશન પદ્ધતિઓના ઉદાહરણો ઉપર ચર્ચા કરવામાં આવી હતી. કરેલા કાર્યના પરિણામે, નીચેના નિષ્કર્ષો દોરી શકાય છે:

1. પ્રતિબંધોની હાજરીમાં એક્સ્ટ્રીમમ શોધવાની વધુ કે ઓછી જટિલ સમસ્યાઓ માટે વિશેષ અભિગમો અને પદ્ધતિઓની જરૂર હોય છે.

2. અવરોધિત સમસ્યાઓ ઉકેલવા માટેના ઘણા અલ્ગોરિધમ્સમાં કેટલાક પગલા તરીકે અનિયંત્રિત લઘુત્તમીકરણનો સમાવેશ થાય છે.

3. વિવિધ પદ્ધતિઓતેઓ જે રીતે વંશની દિશા અને આ દિશામાં પગથિયાની લંબાઈ પસંદ કરે છે તે રીતે ઉતરતા એકબીજાથી અલગ પડે છે.

4. હજુ સુધી એવો કોઈ સિદ્ધાંત નથી કે જે સમસ્યાની રચનાનું વર્ણન કરતા કાર્યોની કોઈપણ વિશેષતાઓને ધ્યાનમાં લે. સમસ્યાને ઉકેલવાની પ્રક્રિયામાં મેનેજ કરવા માટે સરળ હોય તેવી પદ્ધતિઓને પ્રાધાન્ય આપવું જોઈએ.

વાસ્તવિક લાગુ ઓપ્ટિમાઇઝેશન સમસ્યાઓ ખૂબ જટિલ છે. આધુનિક પદ્ધતિઓઑપ્ટિમાઇઝેશન હંમેશા માનવ સહાય વિના વાસ્તવિક સમસ્યાઓ ઉકેલવા સાથે સામનો કરતું નથી.

સંદર્ભો

1. કોસોરુકોવ ઓ.એ. ઓપરેશન્સ રિસર્ચ: એક પાઠ્યપુસ્તક. 2003

2. પેન્ટલીવ એ.વી. ઉદાહરણો અને સમસ્યાઓમાં ઑપ્ટિમાઇઝેશન પદ્ધતિઓ: પાઠ્યપુસ્તક. લાભ. 2005

3. શિશ્કિન ઇ.વી. ઓપરેશન્સ સંશોધન: પાઠયપુસ્તક. 2006

4. અકુલીચ આઈ.એલ. ઉદાહરણો અને સમસ્યાઓમાં ગાણિતિક પ્રોગ્રામિંગ. 1986

5. વેન્ટ્ઝેલ ઇ.એસ. ઓપરેશન્સ સંશોધન. 1980

6. વેન્ટ્ઝેલ ઇ.એસ., ઓવચારોવ એલ.એ. સંભાવના સિદ્ધાંત અને તેના ઇજનેરી કાર્યક્રમો. 1988

©2015-2019 સાઇટ
તમામ અધિકારો તેમના લેખકોના છે. આ સાઇટ લેખકત્વનો દાવો કરતી નથી, પરંતુ પ્રદાન કરે છે મફત ઉપયોગ.
પૃષ્ઠ બનાવવાની તારીખ: 2017-07-02

ટીકા: આ વ્યાખ્યાન વ્યાપકપણે આવી મલ્ટીપેરામીટર ઓપ્ટિમાઇઝેશન પદ્ધતિઓને આવરી લે છે જેમ કે સૌથી વધુ વંશીય પદ્ધતિ અને ડેવિડોન-ફ્લેચર-પોવેલ પદ્ધતિ. વધુમાં, ઉપરોક્ત પદ્ધતિઓનું તુલનાત્મક વિશ્લેષણ હાથ ધરવામાં આવે છે જેથી કરીને સૌથી વધુ અસરકારક એક નક્કી કરવામાં આવે, તેમના ફાયદા અને ગેરફાયદા ઓળખવામાં આવે છે; અને બહુપરીમાણીય ઑપ્ટિમાઇઝેશન સમસ્યાઓને પણ ધ્યાનમાં લે છે, જેમ કે કોતર પદ્ધતિ અને મલ્ટિએક્સ્ટ્રેમલ પદ્ધતિ.

1. સૌથી ઊભો ઉતરવાની પદ્ધતિ

સાર આ પદ્ધતિતે અગાઉ ઉલ્લેખિત મદદથી છે સંકલન વંશ પદ્ધતિથી શોધ હાથ ધરવામાં આવે છે આપેલ બિંદુએક અક્ષની સમાંતર દિશામાં, તે દિશામાં ન્યૂનતમ બિંદુ સુધી. શોધ પછી અન્ય અક્ષની સમાંતર દિશામાં કરવામાં આવે છે, અને તેથી વધુ. દિશાઓ, અલબત્ત, નિશ્ચિત છે. આ પદ્ધતિને સંશોધિત કરવાનો પ્રયાસ કરવો વાજબી લાગે છે જેથી દરેક તબક્કે લઘુત્તમ બિંદુની શોધ "શ્રેષ્ઠ" દિશા સાથે હાથ ધરવામાં આવે. કઈ દિશા "શ્રેષ્ઠ" છે તે સ્પષ્ટ નથી, પરંતુ તે જાણીતું છે ઢાળ દિશાકાર્યમાં સૌથી ઝડપી વૃદ્ધિની દિશા છે. તેથી, વિરુદ્ધ દિશા એ કાર્યના સૌથી ઝડપી ઘટાડાની દિશા છે. આ મિલકતને નીચે મુજબ ન્યાયી ઠેરવી શકાય.

ચાલો ધારીએ કે આપણે બિંદુ x થી આગળના બિંદુ x + hd તરફ જઈ રહ્યા છીએ, જ્યાં d એ ચોક્કસ દિશા છે અને h એ ચોક્કસ લંબાઈનું પગલું છે. પરિણામે, ચળવળ બિંદુ (x 1, x 2, ..., x n) થી બિંદુ સુધી કરવામાં આવે છે. (x 1 + zx 1, x 2 + zx 2, ..., x n + zx n), ક્યાં

કાર્ય મૂલ્યોમાં ફેરફાર સંબંધો દ્વારા નક્કી કરવામાં આવે છે

(1.3)

પ્રથમ ક્રમ zx i સુધી, આંશિક ડેરિવેટિવ્ઝની ગણતરી બિંદુ x પર થાય છે. ફંક્શન df માં ફેરફારનું સૌથી મોટું મૂલ્ય મેળવવા માટે સમીકરણ (1.2) ને સંતોષતા હોય તેવા દિશાઓ d i કેવી રીતે પસંદ કરવી જોઈએ? આ તે છે જ્યાં અવરોધ સાથે મહત્તમકરણની સમસ્યા ઊભી થાય છે. ચાલો Lagrange ગુણકની પદ્ધતિ લાગુ કરીએ, જેની મદદથી આપણે કાર્ય નક્કી કરીએ

મૂલ્ય df સંતોષકારક અવરોધ (1.2) મહત્તમ સુધી પહોંચે છે જ્યારે કાર્ય

મહત્તમ સુધી પહોંચે છે. તેનું વ્યુત્પન્ન

આથી,

(1.6)

પછી di ~ df/dx i અને દિશા d એ બિંદુ x પર V/(x) દિશાની સમાંતર છે.

આમ, સૌથી મોટો સ્થાનિક વધારોઆપેલ નાના પગલા h માટે કાર્ય ત્યારે થાય છે જ્યારે d એ Vf(x) અથવા g(x) ની દિશા હોય. તેથી, સૌથી ઊભો ઉતરવાની દિશા એ દિશા છે

વધુ માં સરળ સ્વરૂપમાંસમીકરણ (1.3) નીચે પ્રમાણે લખી શકાય છે:

Vf(x) અને dx વેક્ટર્સ વચ્ચેનો ખૂણો ક્યાં છે. માટે આપેલ મૂલ્ય dx ની દિશા -Vf(x) ની દિશા સાથે એકરુપ હોય તે પસંદ કરીને આપણે df ને નાનું કરીએ છીએ.

ટિપ્પણી. ઢાળ દિશાસ્થિર સ્તરની રેખા પર કોઈપણ બિંદુને લંબરૂપ, કારણ કે આ રેખા સાથે કાર્ય સ્થિર છે. આમ, જો (d 1, d 2, ..., d n) સ્તર રેખા સાથેનું નાનું પગલું છે, તો

અને તેથી

(1.8)

તમે ગ્રેડિયન્ટની દિશામાં શ્રેષ્ઠ બિંદુ માટે નહીં, પરંતુ વર્તમાન કરતાં વધુ સારા બિંદુ માટે પણ શોધી શકો છો.

તમામ સ્થાનિક ઓપ્ટિમાઇઝેશન પદ્ધતિઓનો અમલ કરવા માટે સૌથી સરળ. તદ્દન ધરાવે છે નબળી પરિસ્થિતિઓકન્વર્જન્સ, પરંતુ કન્વર્જન્સનો દર તદ્દન ઓછો (રેખીય) છે. ગ્રેડિયન્ટ મેથડ સ્ટેપનો ઉપયોગ ઘણીવાર અન્ય ઓપ્ટિમાઇઝેશન પદ્ધતિઓના ભાગ રૂપે થાય છે, જેમ કે ફ્લેચર-રીવ્સ પદ્ધતિ.

વર્ણન [ | ]

સુધારાઓ[ | ]

જ્યારે કોતર સાથે આગળ વધતી હોય ત્યારે ઢાળવાળી વંશ પદ્ધતિ ખૂબ જ ધીમી હોય છે, અને ઉદ્દેશ્ય કાર્યમાં ચલોની સંખ્યામાં વધારો થાય છે, પદ્ધતિની આ વર્તણૂક લાક્ષણિક બની જાય છે. આ ઘટનાનો સામનો કરવા માટે, તેનો ઉપયોગ કરવામાં આવે છે, જેનો સાર ખૂબ જ સરળ છે. ઢાળના વંશના બે પગલાઓ બનાવ્યા પછી અને ત્રણ બિંદુઓ પ્રાપ્ત કર્યા પછી, ત્રીજું પગલું કોતરના તળિયે, પ્રથમ અને ત્રીજા બિંદુઓને જોડતા વેક્ટરની દિશામાં લેવું જોઈએ.

ચતુર્ભુજની નજીકના કાર્યો માટે, સંયોજક ઢાળ પદ્ધતિ અસરકારક છે.

કૃત્રિમ ન્યુરલ નેટવર્ક્સમાં એપ્લિકેશન[ | ]

ગ્રેડિયન્ટ ડિસેન્ટ પદ્ધતિ, કેટલાક ફેરફારો સાથે, પરસેપ્ટ્રોન તાલીમ માટે વ્યાપકપણે ઉપયોગમાં લેવાય છે અને કૃત્રિમ ન્યુરલ નેટવર્કના સિદ્ધાંતમાં બેકપ્રોપગેશન પદ્ધતિ તરીકે ઓળખાય છે. પરસેપ્ટ્રોન પ્રકારના ન્યુરલ નેટવર્કને તાલીમ આપતી વખતે, નેટવર્કના વજનના ગુણાંકમાં ફેરફાર કરવો જરૂરી છે જેથી કરીને તેને ન્યૂનતમ કરી શકાય. સરેરાશ ભૂલન્યુરલ નેટવર્કના આઉટપુટ પર જ્યારે તાલીમ ઇનપુટ ડેટાનો ક્રમ ઇનપુટને પૂરો પાડવામાં આવે છે. ઔપચારિક રીતે, ગ્રેડિયન્ટ ડિસેન્ટ મેથડનો ઉપયોગ કરીને માત્ર એક પગલું ભરવા માટે (નેટવર્ક પેરામીટર્સમાં માત્ર એક ફેરફાર કરો), ક્રમશઃ નેટવર્ક ઇનપુટ પર તાલીમ ડેટાનો સંપૂર્ણ સેટ સબમિટ કરવો જરૂરી છે, દરેક ઑબ્જેક્ટ માટે ભૂલની ગણતરી કરો. પ્રશિક્ષણ ડેટા અને નેટવર્ક ગુણાંકના જરૂરી સુધારાની ગણતરી કરો (પરંતુ આ કરેક્શન ન કરો), અને તમામ ડેટા સબમિટ કર્યા પછી, દરેક નેટવર્ક ગુણાંક (ગ્રેડિયન્ટ્સનો સરવાળો) ના સુધારણામાં રકમની ગણતરી કરો અને ગુણાંકને "એક પગલું" ઠીક કરો. . દેખીતી રીતે, પ્રશિક્ષણ ડેટાના મોટા સમૂહ સાથે, અલ્ગોરિધમ અત્યંત ધીમી ગતિએ કાર્ય કરશે, તેથી વ્યવહારમાં, નેટવર્ક ગુણાંકને ઘણીવાર દરેક તાલીમ તત્વ પછી સમાયોજિત કરવામાં આવે છે, જ્યાં ગ્રેડિયન્ટ મૂલ્ય ખર્ચ કાર્યના ઢાળ દ્વારા અંદાજિત કરવામાં આવે છે, માત્ર એક તાલીમ પર ગણતરી કરવામાં આવે છે. તત્વ આ પદ્ધતિ કહેવામાં આવે છે સ્ટોકેસ્ટિક ગ્રેડિયન્ટ વંશ અથવા ઓપરેશનલ ગ્રેડિયન્ટ વંશ . સ્ટોકેસ્ટિક ઢાળ વંશસ્ટોકેસ્ટિક અંદાજના સ્વરૂપોમાંનું એક છે. સ્ટોકેસ્ટિક અંદાજનો સિદ્ધાંત સ્ટોકેસ્ટિક ગ્રેડિયન્ટ ડિસેન્ટ પદ્ધતિના કન્વર્જન્સ માટે શરતો પ્રદાન કરે છે.

લિંક્સ [ | ]

• જે. મેથ્યુસ.સ્ટીપ ડીસેન્ટ અથવા ગ્રેડિયન્ટ મેથડ માટેનું મોડ્યુલ. (અનુપલબ્ધ લિંક)

સાહિત્ય [ | ]

• અકુલિચ આઈ. એલ.ઉદાહરણો અને સમસ્યાઓમાં ગાણિતિક પ્રોગ્રામિંગ. - એમ.: ઉચ્ચ શાળા, 1986. - પૃષ્ઠ 298-310.
• ગિલ એફ., મુરે ડબલ્યુ., રાઈટ એમ.પ્રેક્ટિકલ ઑપ્ટિમાઇઝેશન = વ્યવહારિક ઑપ્ટિમાઇઝેશન. - એમ.: મીર, 1985.
• કોર્શુનોવ યુ., કોર્શુનોવ યુ.સાયબરનેટિક્સના ગાણિતિક પાયા. - M.: Energoatomizdat, 1972.
• મેક્સિમોવ યુ., ફિલિપોવસ્કાયા ઇ. એ.બિનરેખીય પ્રોગ્રામિંગ સમસ્યાઓ ઉકેલવા માટેના અલ્ગોરિધમ્સ. - એમ.: MEPhI, 1982.
• મેક્સિમોવ યુ.રેખીય અને અલગ પ્રોગ્રામિંગ માટે અલ્ગોરિધમ્સ. - એમ.: MEPhI, 1980.
• કોર્ન જી., કોર્ન ટી.વૈજ્ઞાનિકો અને એન્જિનિયરો માટે ગણિતની હેન્ડબુક. - એમ.: નૌકા, 1970. - પૃષ્ઠ 575-576.
• એસ. યુ. ગોરોડેત્સ્કી, વી. એ. ગ્રીશાગિન.નોનલાઇનર પ્રોગ્રામિંગ અને મલ્ટિએક્સ્ટ્રેમલ ઓપ્ટિમાઇઝેશન. - નિઝની નોવગોરોડ: નિઝની નોવગોરોડ યુનિવર્સિટી પબ્લિશિંગ હાઉસ, 2007. - પૃષ્ઠ 357-363.

દરેક પુનરાવૃત્તિ પર સૌથી ઊંચો વંશ પદ્ધતિનો ઉપયોગ કરતી વખતે, પગલાનું કદ એ k ફંક્શનની ન્યૂનતમ સ્થિતિમાંથી પસંદ કરવામાં આવે છે f(x)વંશની દિશામાં, એટલે કે.

f(x[k] -a k f"(x[k])) = f(x[કે] -af"(x[k])) .

આ સ્થિતિનો અર્થ એ છે કે એન્ટિગ્રેડિયન્ટ સાથેની હિલચાલ જ્યાં સુધી કાર્યની કિંમત હોય ત્યાં સુધી થાય છે f(x)ઘટે છે. ગાણિતિક દૃષ્ટિકોણથી, દરેક પુનરાવૃત્તિ પર તે મુજબ એક-પરિમાણીય લઘુત્તમીકરણની સમસ્યાને હલ કરવી જરૂરી છે. એકાર્યો

j (a) = f(x[k]-af"(x[k])) .

સૌથી ઊંચો વંશ પદ્ધતિનો અલ્ગોરિધમ નીચે મુજબ છે.

• 1. પ્રારંભિક બિંદુના કોઓર્ડિનેટ્સ સેટ કરો એક્સ.
• 2. બિંદુ પર એક્સ[k], k = 0, 1, 2, ... ગ્રેડિયન્ટ મૂલ્યની ગણતરી કરે છે f"(x[k]) .
• 3. પગલાનું કદ નક્કી કરવામાં આવે છે a k, એક-પરિમાણીય લઘુત્તમીકરણ દ્વારા એકાર્યો જે (a) = f(x[k]-af"(x[k])).
• 4. બિંદુના કોઓર્ડિનેટ્સ નક્કી કરવામાં આવે છે એક્સ[k+ 1]:

એક્સ i [k+ 1]= x i [k] -એ k f" i (એક્સ[k]), i = 1,..., p.

5. સ્ટીરેશન પ્રક્રિયાને રોકવા માટેની શરતો તપાસવામાં આવે છે. જો તેઓ પૂરા થાય, તો ગણતરીઓ અટકી જાય છે. નહિંતર, પગલું 1 પર જાઓ.

વિચારણા હેઠળની પદ્ધતિમાં, બિંદુથી ચળવળની દિશા એક્સ[k] બિંદુ પર સ્તર રેખાને સ્પર્શે છે x[k+ 1] (ફિગ. 2.9). વંશનો માર્ગ વાંકોચૂંકો છે, જેમાં અડીને આવેલા ઝિગઝેગ એકબીજા સાથે ઓર્થોગોનલ લિંક્સ છે. ખરેખર, એક પગલું a k ને નાનું કરીને પસંદ કરવામાં આવે છે એકાર્યો? (a) = f(x[કે] -af"(x[k])) . પૂર્વશરતન્યૂનતમ કાર્ય ડી j (a)/da = 0.જટિલ કાર્યના વ્યુત્પન્નની ગણતરી કર્યા પછી, અમે પડોશી બિંદુઓ પર વંશ દિશાઓના વેક્ટરની ઓર્થોગોનાલિટી માટેની સ્થિતિ મેળવીએ છીએ:

ડી j (a)/da = -f"(x[k+ 1]f"(x[k]) = 0.

ચોખા. 2.9.

ગ્રેડિયન્ટ પદ્ધતિઓ ન્યૂનતમ સાથે કન્વર્જ થાય છે ઊંચી ઝડપ(ગતિએ ભૌમિતિક પ્રગતિ) સરળ બહિર્મુખ કાર્યો માટે. આવા કાર્યો સૌથી મહાન છે એમઅને ઓછામાં ઓછું mબીજા ડેરિવેટિવ્ઝના મેટ્રિક્સના ઇજેન મૂલ્યો (હેસિયન મેટ્રિક્સ)

એકબીજાથી થોડું અલગ છે, એટલે કે મેટ્રિક્સ N(x)સારી રીતે કન્ડિશન્ડ. ચાલો તમને તે યાદ અપાવીએ eigenvaluesહું, i =1, …, n, મેટ્રિસીસ એ લાક્ષણિક સમીકરણના મૂળ છે

જો કે, વ્યવહારમાં, એક નિયમ તરીકે, વિધેયોને ઘટાડી દેવામાં આવે છે તેમાં બીજા ડેરિવેટિવ્ઝના અયોગ્ય મેટ્રિસિસ હોય છે. (t/m<< 1). કેટલીક દિશાઓ સાથેના આવા કાર્યોના મૂલ્યો અન્ય દિશાઓની તુલનામાં ખૂબ ઝડપથી (ક્યારેક તીવ્રતાના કેટલાક ઓર્ડર દ્વારા) બદલાય છે. સરળ કેસમાં તેમની સ્તરની સપાટીઓ મજબૂત રીતે વિસ્તરેલી હોય છે (ફિગ. 2.10), અને વધુ જટિલ કિસ્સાઓમાં તેઓ વળાંક અને કોતરો જેવા દેખાય છે. આવા ગુણધર્મો સાથેના કાર્યો કહેવામાં આવે છે ખાડીઆ કાર્યોના એન્ટિગ્રેડિયન્ટની દિશા (જુઓ. ફિગ. 2.10) દિશાથી લઘુત્તમ બિંદુ સુધી નોંધપાત્ર રીતે વિચલિત થાય છે, જે સંપાતની ગતિમાં મંદી તરફ દોરી જાય છે.

ચોખા. 2.10.

ઢાળ પદ્ધતિઓનો કન્વર્જન્સ દર પણ ગ્રેડિયન્ટ ગણતરીઓની ચોકસાઈ પર નોંધપાત્ર રીતે આધાર રાખે છે. ચોકસાઈની ખોટ, જે સામાન્ય રીતે લઘુત્તમ બિંદુઓની નજીકમાં અથવા ગલીની પરિસ્થિતિમાં થાય છે, તે સામાન્ય રીતે ગ્રેડિએન્ટ ડિસેન્ટ પ્રક્રિયાના કન્વર્જન્સને વિક્ષેપિત કરી શકે છે. ઉપરોક્ત કારણોને લીધે, સમસ્યાને ઉકેલવાના પ્રારંભિક તબક્કે ઢાળ પદ્ધતિઓનો ઉપયોગ અન્ય, વધુ અસરકારક પદ્ધતિઓ સાથે સંયોજનમાં થાય છે. આ કિસ્સામાં, બિંદુ એક્સલઘુત્તમ બિંદુથી દૂર છે, અને એન્ટિગ્રેડિયન્ટની દિશામાં પગલાઓ કાર્યમાં નોંધપાત્ર ઘટાડો પ્રાપ્ત કરવાનું શક્ય બનાવે છે.