Основи фреймворку TensorFlow

МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ

ХАРКІВСЬКИЙ НАЦІОНАЛЬНИЙ УНІВЕРСИТЕТ РАДІОЕЛЕКТРОНІКИ

Кафедра ШІ

Звіт  

з лабораторної роботи №1

«Основи фреймворку TensorFlow»

з дисципліни: «Обчислювальний інтелект»

Виконали:

Ст. гр. ІУСТм-22-1  

Бурковська А.С.

Куркін А.С.

Сичова М.А.

Перевірила: ас. Чала О.С.

Харків 2022

1 Мета роботи:

Пояснення основних компонентів TensorFlow (TF), який дозволяє паралелізм моделей і даних.

2 Хід роботи:

Для правильного виконання деяких команд до них було додано частину ….compat.v1…. для сумісності команд з першою версією TensorFlow.

Завдання 1. Створення константи. Повторити зазначений код та описати його.

[pic 1]

1. Імпорт модулю tensorflow у константу tf.
2. Створення постійного значення х та призначення йому числового значення.
3. Створення сеансу для обчислення значень.
4. Запуск змінної х та виведення її значення.

Завдання 2. Створити змінну та ініціалізувати її. Описати.

[pic 2]

1. Імпорт модулю tensorflow у константу tf.
2. Створення постійного значення х та призначення йому числового значення.
3. Створення змінної у та визначення формули за якою вона буде розраховуватися.
4. Ініціалізація значень змінної.
5. Створення сеансу для обчислення змінної.
6. Запуск змінної та виведення її значення.

Завдання 3. Створити плейсхолдер та описати.

[pic 3]

1. Імпорт модулю tensorflow у константу tf.
2. Створення плейсхолдеру.
3. Створення змінної y та визначення формули за якою вона буде розраховуватися.
4. Створення сеансу для обчислення змінної placeX.
5. Запуск змінної placeX для обчислення її значень з використанням раніше створеного плейсхолдеру до якого були додані значення та змінної y.
6. Виведення значення змінної.

Реалізація з використанням двомірного масиву.

[pic 4]

Завдання 4. Повторити код, обравши кольорову картинку.

[pic 5]

Завдання 5. Фіксовані тензори. Повторити код.

[pic 6][pic 7][pic 8]

[pic 9][pic 10][pic 11]

Завдання 6. Функції активації. Створити тангенс гіперболічний та сигмоїду.

[pic 12]

Завдання 7. Створити ReLU та ELU, описати переваги та недоліки, де використовуються.

[pic 13]

ReLU – випрямлена лінійна функція.

Переваги:

• Дозволяє уникнути та виправити проблему зникнення градієнта.
• ReLu обчислюється менш дорого, ніж tanh і sigmoid, оскільки він включає в себе простіші математичні операції.

Недоліки:

• Одним із його обмежень є те, що його слід використовувати лише в межах прихованих шарів моделі нейронної мережі.
• Деякі градієнти можуть бути крихкими під час навчання та можуть загинути. Це може призвести до оновлення ваги, через що він більше ніколи не активуватиметься на жодній точці даних. Іншими словами, ReLu може призвести до мертвих нейронів.
• Для активації в області (x<0) ReLu градієнт буде дорівнювати 0, через що ваги не будуть скориговані під час спуску. Це означає, що ті нейрони, які переходять у цей стан, перестануть реагувати на варіації помилки/введення (просто тому, що градієнт дорівнює 0, нічого не змінюється). Це називається проблемою вмирання ReLu.
• Діапазон ReLu дорівнює [0,∞). Це означає, що він може порушити активацію.

ELU – експоненціальна лінійна функція.

Переваги:

• ELU стає гладким повільно, поки його вихід не дорівнюватиме −α, тоді як RELU різко згладжується.
• ELU є сильною альтернативою ReLU.
• На відміну від ReLU, ELU може давати негативні результати.

Недоліки:

• Для x > 0 він може порушити активацію з вихідним діапазоном [0, inf].

Функції втрат.

[pic 14]

Завдання 8. Оптимізатори. Повторити код та описати його.

[pic 15][pic 16]

1. Імпорт модулю tensorflow у константу tf.
2. Створення змінної х та додавання до неї значень.
3. Застосування оптимізатору GradientDescentOptimizator.
4. Ініціалізація змінних.
5. Створення сеансу для фінальних розрахунків.
6. Запуск змінних та вивід їх значень.

Завдання 9. Метрики. Повторити код та описати його.

[pic 17]

1. Імпорт необхідних бібліотек.
2. Створення плейсхолдерів для фактичних значень та прогнозованих.
3. Оголошення метрик.
4. Створення сеансів для ініціалізації змінних.
5. Призначення значень для плейсхолдерів.
6. Вивід точності.

3 Висновки:

У ході виконання практичного завдання ми ознайомилися з основними компонентами TensorFlow. А саме з константами,  змінними, плейсхолдерами, тензорами, функціями активації, функціями витрат, оптимізаторами та метриками.