Метод скорейшего спуска

Градиентный метод с использованием оптимального шага является методом скорейшего спуска.

Градиентный метод относится к методам возможных направлений, суть которых заключается в том, что спуск из любой точки начального приближения (Р1, Р2)0 к точке абсолютного минимума целевой функции можно осуществить по различным направлениям, при которых последовательно уменьшается F(Р1, Р2).

        Градиентом функции F в точке (Р1, Р2)0 называется вектор, ортогональный к касательной плоскости и указывающий направление наибольшей скорости возрастания функции F.

С точки зрения локальных свойств противоположное ему направление антиградиента является наилучшим из всех возможных направлений, так как оно показывает путь наибольшего убывания функции F(Р1, Р2).

Длина шага  зависит от вектора  и вычисляется из условия обеспечения максимального уменьшения целевой функции в заданном направлении.[pic 1][pic 2]

Задача формулируется таким образом, чтобы найти значение  обеспечивающее минимум F(x) на Δx, т. е. min F(q, Δx). [pic 3]

Оптимальная длина шага вычисляется по формуле

[pic 4]

Алгоритм для метода скорейшего спуска.

1 Задать исходное приближение для мощностей;

2 Вычислить значения мощности балансирующего узла и суммарного расхода топлива В;

3 Вычислить градиент целевой функции для исходного приближения;

4 Осуществить 2 шага по градиенту;

5 Вычислить оптимальную длину шага.

6 Рассчитать значение мощностей и расход топлива.

Полученное распределение мощностей рассматривать как исходное и перейти к выполнению п. 2.

Программная реализация градиентного метода сложнее программной реализации покоординатной оптимизации и при этом объем вычислений на шаг существенно больше.

Однако в сочетании с методом скорейшего спуска сходимость в оптимизационных задачах оказывается существенно лучше. Это обстоятельство объясняет тот факт, что в промышленных программах оптимизации режима энергосистемы используются те или иные модификации градиентного метода.

Недостатком градиентного поиска является то, что при его использовании можно обнаружить только локальный экстремум функции.

Для отыскания других локальных экстремумов необходимо производить поиск из других начальных точек. Так же скорость сходимости градиентных методов существенно зависит также от точности вычислений градиента. Потеря точности, а это обычно происходит в окрестности точек минимума или в овражной ситуации, может вообще нарушить сходимость процесса градиентного спуска.