Автоэнкодеры

О чём урок

При обучении свёрточных нейронных сетей (CNN) одна из проблем заключается в необходимости большого объёма размеченных данных. В случае классификации изображений требуется вручную разделять изображения на разные классы. Однако для обучения CNN-экстракторов признаков можно использовать необработанные (неразмеченные) данные. Такой подход называется самообучением. Вместо меток мы будем использовать обучающие изображения как в качестве входных, так и в качестве выходных данных сети. Основная идея автоэнкодера заключается в следующем: у вас будет сеть-кодировщик, которая преобразует входное изображение в некоторое латентное пространство (обычно это просто вектор меньшего размера), а затем сеть-декодер, цель которой, восстановить исходное изображение. ✅ Автоэнкодер представляет собой «тип искусственной нейронной сети, используемой для изучения эффективных кодировок неразмеченных данных». Поскольку мы обучаем автоэнкодер захватывать как можно больше информации из исходного изображения для точного восстановления, сеть стремится найти наилучший эмбеддинг (векторное представление) входных изображений, чтобы уловить их смысл. Изображение из блога Keras Хотя восстановление исходных изображений само по себе может показаться не слишком полезным, существует несколько сценариев, где автоэнкодеры особенно эффективны: Снижение размерности изображений для визуализации или обучение эмбеддингов изображений. Обычно автоэнкодеры дают лучшие результаты, чем метод главных компонент (PCA), поскольку они учитывают пространственную природу изображений и иерархические признаки. Удаление шума, то есть очистка изображения от шума. Поскольку шум содержит много бесполезной информации, автоэнкодер не может уместить её всю в относительно небольшое латентное пространство, и таким образом захватывает только важную часть изображения. При обучении денойзеров мы начинаем с исходных изображений и используем изображения с искусственно добавленным шумом в качестве входных данных для автоэнкодера. Сверхразрешение, увеличение разрешения изображения. Мы начинаем с изображений высокого разрешения и используем изображение с более низким разрешением в качестве входных данных для автоэнкодера. Генеративные модели. После обучения автоэнкодера его декодирующую часть можно использовать для создания новых объектов, начиная со случайных латентных векторов. Традиционные автоэнкодеры тем или иным образом уменьшают размерность входных данных, выделяя важные признаки входных изображений.

План урока

1. Тест перед лекцией
2. Сценарии использования автоэнкодеров
3. Вариационные автоэнкодеры (VAE)
4. ✍️ Упражнения: Автоэнкодеры
5. Свойства автоэнкодеров
6. Тест после лекции
7. Заключение
8. 🚀 Задание