Нейронные сети

На сегодняшний день нейросети очень плотно вошли в жизнь обычного человека. Уже сейчас они помогают нам в разных направлениях: бизнес, развлечение, искусство и других. Хотя раньше все это было для человечества просто мечтой, описанной в книгах или показанных в фантастических фильмах. Сейчас же большие компании исследуют эту область и способствуют появлению новых открытий.

Но с чего же начался путь развития данной технологии. В 1940-1960 годах появилась первая концепция нейросети. В этих годах ученые пытались создать машину, которая могла бы имитировать функции человеческого мозга. А уже в конце 50-х Фрэнк Розенблатт показал миру персептрон, который можно назвать первой практической реализацией нейросети. Сам персептрон является простой моделью машинного обучения. Далее рассмотрим, как работает персептрон.

Допустим, мы хотим обучить персептрон классифицировать изображения на "яблоки" и "апельсины". Вот как мы будем это делать:

1. Берём несколько изображений яблок и апельсинов.
2. Даём персептрону по одной картинке. Он её обрабатывает и соотносит к яблоку или апельсину.
3. Если ответ правильный, мы ничего не меняем. Если ответ неправильный, то мы корректируем правила внутри персептрона, чтобы в следующий раз он не ошибся.
4. Повторяем процесс для всех изображений, пока он не перестаёт ошибаться.
5. Далее мы тестируем персептрон уже с другими изображениями яблок и апельсинов.

Но в реальности данный процесс настройки немного сложнее. Ведь нужно включить большое количество исключающих факторов и правил.

В 1980-2000 годах ученые приходят к методу обратного распространения ошибки и нелинейным функциям активации. Метод обратного распространения ошибки подразумевает, что нейросеть пытается распознать рукописные цифры от 0 до 9. Ей сначала дают примеры для обучения, а потом она их использует, чтобы выдавать собственные предположения.

Нейросеть выдает предположение о конкретной цифре на изображении, а затем сравнивает это предположение с реальным значением и вычисляет разницу между ними (ошибку). Затем ошибка используется для корректировки весов нейронов, которые влияют на выходные данные нейросети. Процесс повторяется много раз, пока сеть не начинает распознавать цифры с максимально высокой точностью. До появления Метода обучать нейросети было сложно, потому что было трудно обновлять веса сети для оптимизации работы.

В дополнение к этому методу они придумали нелинейные функции активации, которые позволяют сети моделировать сложные взаимосвязи между входами и выходами. Это повлияло на глубокое обучение нейросетей.

2000-2020 годы началось развитие Deep learning. Благодаря появлению новых процессоров стали доступны большие объемы данных, что и привело к разработке алгоритмов Deep Learning.

Данный термин стал популярным лишь в 2010 году. В этот год данная технология начала демонстрировать высокие результаты в обучении и составлении прогнозов на основе больших данных. Благодаря этой технологии стали разрабатываться новые алгоритмы и инструменты. Что в свою очередь повлияло на распространение и применения технологии во многих областях.

На данный момент существует несколько видов нейросетей. Ниже приведены несколько примеров.

Нейронные сети прямого распространения

Нейронные сети прямого распространения обрабатывают данные в одном направлении, от входного узла к выходному узлу. Каждый узел одного слоя связан с каждым узлом следующего слоя. Нейронные сети прямого распространения используют процесс обратной связи для улучшения прогнозов с течением времени.

Алгоритм обратного распространения

Искусственные нейронные сети постоянно обучаются, используя корректирующие циклы обратной связи для улучшения своей прогностической аналитики. Проще говоря, речь идет о данных, протекающих от входного узла к выходному узлу по множеству различных путей в нейронной сети. Правильным является только один путь, который сопоставляет входной узел с правильным выходным узлом. Чтобы найти этот путь, нейронная сеть использует петлю обратной связи, которая работает следующим образом: