Исследование функций по методу градиентного спуска с постоянным шагом

Федеральное Государственное бюджетное Образовательное Учреждение Высшего профессионального образования

«РОССИЙСКИЙ УНИВЕРСИТЕТ ДРУЖБЫ НАРОДОВ»

Факультет Инженерная Академия

Специальность Управление в технических системах

КУРСОВАЯ РАБОТА

По дисциплине: «Программирование и основы алгоритмизации»

На тему: «Исследование функций по методу градиентного спуска с постоянным шагом»

Выполнила:

студент группы ИУСбд01-16

Данилова Ольга

Преподаватель:

Константинов Сергей Валерьевич

Москва 2019

Оглавление

Введение        3

Стратегия поиска        4

Алгоритм        6

Практическая часть        7

Главный вид программы        9

Заключение        11

Листинг программы        12

Список литературы        20

Введение

На сегодняшний день развитие информационных технологий дает нам возможность реализовать практически любой математический алгоритм. Во все времена происходила, происходит и будет происходить борьба за малейшие доли времени, размеров, расстояний и так далее. Эти доли могут, как увеличить, так и уменьшить влияние определенных факторов на жизнь человека в разных областях. Ведь все что человек делает, он делает с целью улучшения своей жизни. Тем самым он пытается оптимизировать определенные процессы и величины, используемые в повседневности. Отсюда и появляется необходимость умения решать оптимизационные задачи. Их преподают в курсе «Методы оптимизации» на многих технических специальностях разных вузов. Для закрепления материала часто используют лабораторные работы.

Цель данной работы заключается в реализации метода оптимизации − градиентный спуск с постоянным шагом(метод нахождения локального экстремума (минимума или максимума) функции с помощью движения вдоль градиента.). На практике оптимизационные задачи часто используются при анализе и разработке разнообразных технических систем.

В настоящий момент практически любой уважающий себя инженер должен иметь знания по методам оптимизации. Так же это можно сопоставить таким важным предметам как математический анализ, численные методы, физика, алгебра и другим.

Стратегия поиска

Стратегия решения задачи состоит в построении последовательности точек  ,таких, что в общем случае в формуле (1)  точки последовательности вычисляются по правилу:[pic 1][pic 2]

где точка   задается пользователем;-градиент функции вычисленный в точке  величина шага, она задается пользователем и остается постоянной до тех пор, пока функция убывает в точках последовательности, что контролируется путем проверки выполнения условия . [pic 4][pic 5][pic 6][pic 7][pic 8]

Построение последовательности заканчивается в точке , для которой , где - заданное малое положительное число, или , где  - предельное число итераций, или при одновременном выполнении двух неравенств ,[pic 9][pic 10][pic 11][pic 12][pic 13][pic 14][pic 15]

. Вопрос о том, может ли точка  рассматриваться как найденное приближение искомой точки минимума, решается путем проведения дополнительного исследования, которое описано ниже.[pic 16][pic 17]

[pic 18]

Рисунок 1

Геометрическая интерпретация градиентного метода с постоянным шагом изображена на Рис. 1 и Рис. 2. На каждом шаге мы сдвигаемся по вектору антиградиента, "уменьшенному в  раз".[pic 19]

[pic 20]

Рисунок 2

[pic 21]

Алгоритм

[pic 22]

начало

конец

Рисунок 3 “Градиентный спуск с постоянным шагом”.

Практическая часть

1. [pic 23]

Минимум ищется на промежутке   . Глобальный минимум находиться в точке [pic 24][pic 25]

...