Введение в нейронные сети: Перцептрон

О чём урок

Примечание AI University. Часть примеров в оригинале курса рассчитана на сервисы Azure. Те же модели можно обучать и запускать локально или в любом облаке с Python, PyTorch и TensorFlow. Одна из первых попыток реализовать нечто похожее на современную нейронную сеть была предпринята Фрэнком Розенблаттом из Корнеллской аэронавигационной лаборатории в 1957 году. Это была аппаратная реализация под названием «Mark-1», предназначенная для распознавания примитивных геометрических фигур, таких как треугольники, квадраты и круги. Изображения из Википедии Входное изображение представлялось массивом из 20x20 фотоэлементов, поэтому нейронная сеть имела 400 входов и один бинарный выход. Простая сеть содержала один нейрон, также называемый пороговым логическим элементом. Веса нейронной сети работали как потенциометры, которые требовали ручной настройки на этапе обучения. ✅ Потенциометр: устройство, позволяющее пользователю регулировать сопротивление в электрической цепи. В то время газета The New York Times писала о перцептроне: «эмбрион электронного компьютера, который, как ожидают [ВМС], сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать своё существование». Предположим, что в нашей модели имеется N признаков, в этом случае входной вектор будет вектором размера N. Перцептрон представляет собой модель бинарной классификации, то есть он может различать два класса входных данных. Мы будем считать, что для каждого входного вектора x выход нашего перцептрона будет либо +1, либо -1, в зависимости от класса. Выход будет вычисляться по формуле: y(x) = f(wTx) где f: это ступенчатая функция активации. Чтобы обучить перцептрон, нам нужно найти вектор весов w, который правильно классифицирует большинство значений, то есть приводит к наименьшей ошибке. Эта ошибка E определяется критерием перцептрона следующим образом: E(w) = -∑wTxiti где: сумма берётся по тем точкам обучающих данных i, которые приводят к неправильной классификации; xi: это входные данные, а ti: это либо -1, либо +1 для отрицательных и положительных примеров соответственно. Этот критерий рассматривается как функция весов w, и его необходимо минимизировать.

План урока

1. Тест перед лекцией
2. Модель перцептрона
3. Обучение перцептрона
4. Заключение
5. 🚀 Задание
6. Тест после лекции
7. Обзор и самостоятельное изучение
8. Задание