Введение в методы оптимизации

* 2 А Сходимость метода по­ координатного спуска к реше­ нию задачи (в тех случаях, ко­ гда она имеет место) обычно бьтает медленной, т.е. для достил<ения высокой точности требуется большое число ите­ раций. Однако благодаря про- Рис. 3.2.Г е о м ^ т ^ с т ^ ^ е р п р е т а ц и я ДОСТатОЧНО ШИрО- ко применяется на практике. Пример. Рассмотрим задачу минимизации функции / (х, , ^2 ) = 2xf + 2x2 ~ 2х, Х 2 - 4х, - 2x2 + 5. Сначала решим задачу классическим методом. Решая систему уравнений = 4х, - 2x2- 4 = 0 , = 4x2 - 2х,- 2 = 0 , 8x2 находим стационарную точку х* = (5/3;4/3)^ PI /(x *J = l / 3 . В силу выпуклости / ( х ) , эта точка доставляет минимум. Выполним несколько итераций метода циклического покоординатного спуска, выбрав х° =(-1;3)^ и =1. По­ скольку /(0;3) < / ( х ° ) , где /(0;3) = 17 и / ( х ° ] =29, пола­ гаем х ' = (0;3)^ . Далее имеем /(0;4) = 29 > 17, но /(0;2) = = 9 <17, поэтому х^ = (0;2)'^. На следующем шаге /(1;2) = = 3 <9 , откуда х^ = (1; 2)^. Поскольку /(1; 3) = 9 >3, но /(1;1)=1 < 3 , положим х"* =(1;1)^. Первые четыре итерации были удачными, поэтому величина шага не меняется и в сле­ 86