Введение в методы оптимизации

3.3. Градиентный метод Рассмотрим задачу безусловной минимизации fix) min, X е где fix) е С\Е„). Классический метод решения, известный из математи­ ческого анализа, основан на нахождении точки х*, удовлетво­ ряющей условию = для чего необходимо решить ^ л / ч систему уравнений — = О, j = 1, п. Если fix) выпукла на дх. то в силу теоремы 3.2 любая точка, удовлетворяющая этой системе, является решением поставленной задачи. Одна- 5/(^) л • 7 - ко решение системы =0 , 7=1,и, во многих случаях dxj требует привлечения трудоемких итерационных методов, ко­ торые не всегда сходятся к точному решению. Поэтому на практике для решения поставленной задачи обычно исполь­ зуются приближенные методы. Известно, что направление наибыстрейшего убывания функции в точке совпадает с антиградиентом. Это свойство лежит в основе градиентного метода минимизации гладких функций, который предполагает выбор начального прибли­ жения - некоторой точки е Если имеется информация об области расположения точки (или множества точек) ми­ нимума, то начальное приближение целесообразно выбирать ближе к этой области. 65