Введение в методы оптимизации

выполнение условия / ' ( х* ) | ^^ ' ^ ~ малая положитель­ ная величина. Метод может применяться и для минимизации невы­ пуклых функций, однако полученное решение может оказать­ ся неоптимальным. В этом случае последовательность будет удовлетворять условию = О . Для невы­ пуклых функций сходимость метода к решению задачи зави­ сит от удачного выбора начального приближения. Отметим, что итерационная процедура градиентного метода использует только линейный член из разложения функции в ряд Тейлора, В связи с этим метод может оказать­ ся не очень эффективным, особенно при приближении точек последовательности к точке минимума, где градиенты / ' ) становятся очень малыми по норме. Поэтому наряду с градиентным методом на практике используются более эф­ фективные методы, требующие вычисления частных произ­ водных более высоких порядков. Одним из них является ме­ тод Ньютона [1], основанный на квадратичной аппроксима­ ции минимизируемой функции и использующий частные про­ изводные второго порядка. Пример. Рассмотрим задачу минимизации функции / (;с,, Xj) = xf + 4^2 - 2xj + 6x2 +1. Сначала решим задачу классическим методом. Решая систему уравнений =2 x 1 - 2 = 0, -1^ = 8x2-ь 6 =0 , 5x2 69