Этические вопросы использования искусственного интеллекта в профессиональной сфере образовательной программы

       Министерство науки и высшего образования  Республики Казахстан

Северо-Казахстанский университет им М. Козыбаева

Кафедра «Информационно-коммуникационные технологии»

Отчет по лабораторной работе № 8

По дисциплине «Основы искусственного интеллекта»

Петропавловск, 2026

Тема: Этические вопросы использования искусственного интеллекта в профессиональной сфере образовательной программы. 

Цель работы: Изучить ключевые этические вызовы, возникающие при внедрении искусственного интеллекта (ИИ) в выбранной профессиональной области, и научиться формировать структурированный доклад, включающий статистические данные, отраслевые кейсы и аналитические выводы.

Ход работы:

1 Обоснование выбора отрасли

Объектом моего исследования является лесное хозяйство. Я выбрала именно эту сферу по причине ее огромного значения для климата и экологии. Сейчас способы охраны природы сильно меняются. Следить за территориями старыми методами стало очень сложно. По этой причине специалисты начинают применять спутники и компьютерные алгоритмы. Мне стало интересно разобраться в данном процессе. Я хочу изучить новые проблемы, которые появляются при передаче управления лесом умным программам.

2 Обсуждение этических проблем

В процессе исследования я выделила несколько главных этических вопросов.

a. Прозрачность алгоритмов. Компьютерные вычисления скрыты от обычного пользователя. Я не могу проверить почему программа решила вырубить конкретный участок.

b. Ответственность за решения ИИ. Ошибка машины может привести к гибели ценных деревьев. В действующем законе нет ответа на вопрос о том кто должен возмещать такой ущерб.

c. Риски дискриминации. Машинные алгоритмы могут оценивать только коммерческую выгоду. Уникальные дикие леса рискуют остаться без должного внимания со стороны государства.

d. Вопросы конфиденциальности и обработки персональных данных. Постоянный контроль с воздуха с помощью дронов нарушает покой граждан. Местные жители теряют право на частную жизнь.

e. Влияние ИИ на занятость и профессиональные роли. Внедрение новых технологий лишает работы обычных инспекторов. Жители сельской местности остаются без привычного заработка.

f. Угрозы манипуляции и дезинформации. Злоумышленники научились подделывать спутниковые данные. Они маскируют незаконную деятельность с помощью фальшивых снимков.

g. Риски снижения когнитивных навыков специалистов. Молодые экологи начинают слепо доверять экрану планшета. Они забывают традиционные знания и теряют практический опыт работы на природе.

3 Структурированный план доклада

a. Название доклада. Моя работа называется Этика автоматизированного контроля леса. Я считаю что это название максимально точно передает суть проблемы.

b. Цель и актуальность. Моя главная задача состоит в изучении рисков применения компьютерных технологий в природе. Тема очень важна так как зеленые массивы стремительно исчезают по причине частых пожаров.

c. Краткая характеристика отрасли. Здесь я расскажу о переходе от ручного труда к спутниковому наблюдению. Я объясню как именно меняется привычная работа лесного инспектора.

d. Описание используемых технологий. В этом разделе я опишу основные компьютерные программы. Я уделю особое внимание умным камерам и системам распознавания дыма.

e. Ключевые этические проблемы. Я подробно остановлюсь на скрытых ошибках умных алгоритмов. Я приведу примеры ситуаций когда техника принимает решения без участия человека.